OpenAI a mai raportat că aproape 600.000 de utilizatori prezintă semne de posibile urgențe de sănătate mintală legate de episoade psihotice sau maniacale, transmite publicația Le Figaro.
Consecințe legale și controale suplimentare
Problema a devenit publică după moartea adolescentului american Adam Raine. Părinții săi au atacat OpenAI în instanță, susținând că ChatGPT i-ar fi oferit sfaturi despre cum să se sinucidă. În răspuns, compania a implementat controale parentale mai stricte și alte măsuri de siguranță, inclusiv acces mai ușor la asistență telefonică de urgență, redirecționarea automată a conversațiilor sensibile către modele mai sigure și mementouri care încurajează utilizatorii să facă pauze în timpul sesiunilor lungi.
Actualizări ale modelului și colaborare cu specialiști
OpenAI a actualizat modelul ChatGPT pentru a gestiona mai eficient situațiile în care utilizatorii se confruntă cu probleme grave de sănătate mintală. Compania colaborează cu peste 170 de specialiști în domeniu pentru a reduce răspunsurile problematice și pentru a limita riscurile în situații sensibile, oferind în același timp resurse utile utilizatorilor aflați în dificultate.
Tool de supraveghere in masa.