Gemini, prins cu lecția neînvățată. Google șterge rezumatele medicale făcute de AI

Publicația britanică The Guardian a descoperit că Gemini oferea date incorecte în cadrul rezumatelor sale. Într-un exemplu, jurnaliștii au întrebat care sunt valorile normale pentru testele de sânge hepatice. Răspunsul oferit de AI nu a ținut cont de detalii importante, precum vârsta sau sexul pacientului, notează News.ro.

Lipsa acestor detalii poate induce oamenii în eroare foarte ușor. Un pacient ar putea crede că este sănătos, deși analizele sale indică o problemă reală. Astfel, utilizatorul ar putea renunța să mai meargă la medic pentru investigații suplimentare necesare.

Reacția companiei

Google a șters răspunsurile problematice din motorul de căutare la câteva zile după apariția anchetei. Totuși, gigantul american nu a oferit nicio declarație oficială pe acest subiect sensibil. Compania nu a dat asigurări că va verifica mai bine răspunsurile pe viitor, în special în domeniul sănătății.

Funcția AI Overviews, care face rezumate automate, este încă activă pentru utilizatori. Experții se tem că mai există și alte răspunsuri greșite care pot influența viețile oamenilor.

CITEȘTE ȘI: Google introduce inteligența artificială în Gmail