Diagnosticul prin AI, un risc: 80% rată de eșec

Concluzia experţilor este că performanţa chatboţilor de AI pe partea medicală depinde de volumul informaţiilor, dar chiar şi când le sunt oferite informaţii complete, aceştia pot induce utilizatorii în eroare.

De Redactia Cotidianul - redactor
Diagnosticul prin AI, un risc: 80% rată de eșec

Concluzia experţilor este că performanţa chatboţilor de AI pe partea medicală depinde de volumul informaţiilor, dar chiar şi când le sunt oferite informaţii complete, aceştia pot induce utilizatorii în eroare.

Fără să aibă suficiente informaţii, chatboţii obişnuiţi, precum ChatGPT şi Gemini, vor da un diagnostic greşit şi vor duce utilizatorii pe o pistă greşită în peste 80% din cazuri, arată un studiu.

Studiul, realizat de Mass General Brigham din Massachusetts şi publicat în Jama Network Open, a testat modelele de inteligenţă artificială folosind 29 de viniete clinice bazate pe texte medicale de referinţă.

În cadrul studiului, chatboţilor le-au fost oferite pas cu pas informaţii medicale legate de o boală, inclusiv constatări ale consultaţiilor şi rezultate ale analizelor de laborator.

Au fost astfel testate 21 de modele lingvistice, inclusiv cele dezvoltate de OpenAI, Anthropic, Google, xAI şi DeepSeek.

Specialiştii au descoperit că toate modelele dau diagnostice greşite în peste 80 de cazurile în care nu au acces la informaţiile incomplete ale pacienţilor.

Nici când au avut toate informaţiile, chatboţi nu au s-au descurcat grozav, având şi în aceste cazuri o rată a erorilor de peste 40%.

În aceste situaţii, însă, au existat cazuri în care unii chatboţii au oferit diagnosticul corect pentru  90% dintre pacienţi.

Concluzia experţilor este că performanţa chatboţilor de AI pe partea medicală depinde de volumul informaţiilor, dar chiar şi când le sunt oferite informaţii complete, aceştia pot induce utilizatorii în eroare.

Asta pentru că toate modelele lingvistice actuale suferă de aşa-numite halucinaţii, adică inventează informaţii atunci când trebuie să dea un răspuns fără aibă o soluţie clară.

Distribuie articolul pe:

1 comentariu

  1. Rata erorilor de diagnostic e mai mare in spitalele romanesti. Deocamdata IA prezinta doar o parere consultativa din practica dobandita, nu cerceteaza, nu da un diagnostic final.

Lasă un răspuns

Adresa ta de email nu va fi publicată. Câmpurile obligatorii sunt marcate cu *

Ziarul Cotidianul își propune să găzduiască informații și puncte de vedere diverse și contradictorii. Publicația roagă cititorii să evite atacurile la persoană, vulgaritățile, atitudinile extremiste, antisemite, rasiste sau discriminatorii. De asemenea, invită cititorii să comenteze subiectele articolelor sau să se exprime doar pe seama aspectelor importante din viața lor si a societății, folosind un limbaj îngrijit, într-un spațiu de o dimensiune rezonabilă. Am fi de-a dreptul bucuroși ca unii comentatori să semneze cu numele lor sau cu pseudonime decente. Pentru acuratețea spațiului afectat, redacția va modera comentariile, renunțînd la cele pe care le consideră nepotrivite.