Un pastor din SUA a dat în judecată compania OpenAI, după ce ChatGPT l-ar fi adus „la un pas de moarte”

Diagnostice greșite „în mod repetat”

Avocații săi au susținut că modelul AI l-a „diagnosticat greșit în mod repetat și insistent”. Chatbot-ul s-a bazat pe discuții anterioare despre religie pentru a-l asigura că se va recupera, potrivit BBC.

Drew Pusateri de la OpenAI a declarat că „ChatGPT nu este un medic. Nu ar trebui folosit niciodată ca înlocuitor pentru îngrijire medicală, diagnostic sau tratament”, potrivit sursei.

El a mai spus că este ceva obișnuit ca oamenii să caute informații despre sănătate online. A adăugat că „AI poate îmbunătăți această experiență ajutându-i să găsească răspunsuri mai clare, să-și organizeze întrebările și să se pregătească pentru conversații cu profesioniștii din domeniul medical”.

Bărbatul a refuzat să meargă la spital

Procesul, care a fost depus la Curtea Superioară din San Francisco, pe 21 iulie, detaliază modul în care Winter era un utilizator frecvent al ChatGPT și a ajuns să se bazeze pe acesta pentru sfaturi medicale, opunându-se eforturilor membrilor familiei și prietenilor de a-l convinge să meargă la spital.

Cu câteva săptămâni înainte de a se îmbolnăvi grav, a consultat chatbot-ul despre amețelile recurente și „episoadele de instabilitate a tensiunii arteriale”.

Într-un răspuns, ChatGPT l-a sfătuit pe pastor să rămână în fotoliul în care ajunsese „să stea mai mereu”, din cauza problemelor de sănătate persistente.

În cele din urmă, bărbatul a suferit o „embolie pulmonară masivă din cauza multiplelor cheaguri de sânge din ambii plămâni”. Aceasta „l-a adus în pragul morții, o embolie despre care medicii au declarat că a fost probabil provocată de imobilitatea sa”.

ChatGPT a combinat medicina cu religia

Din capturile de ecran ale conversației dintre bărbat și modelul AI, reiese că chatbot-ul a combinat sfaturi medicale cu referințe la credința creștină profundă a pastorului.

În cadrul procesului s-a susținut faptul că ChatGPT i-a spus că „Dumnezeu nu ți-a conceput corpul să cedeze la nesfârșit”. De asemenea, a spus că „Dumnezeu îți ține corpul întreg, cu fiecare bătaie a inimii, cu fiecare respirație. Chiar și atunci când simți că ești pe punctul de a ceda”, mai arată sursa.

De asemenea, bărbatul solicită daune financiare. Instanța solicită obligarea OpenAI să implementeze „garanții rezonabile care să protejeze alți utilizatori de orice prejudiciu”.

Termenii de utilizare ai ChatGPT prevăd că utilizatorii nu ar trebui să trateze platforma ca pe „singura sursă de adevăr”. Mai ales în cazul în care aceasta ar putea „avea un impact juridic sau material asupra acelei persoane, cum ar fi luarea unor decizii financiare, sau legate de sănătate, carieră, locuință, asigurări, decizii juridice, medicale sau alte decizii importante”.

Citește și

Eclipsă totală de Soare în Europa, în 2026. Cum se va vedea fenomenul din România