OpenAI a folosit inteligența artificială pentru a redacta mesajul prin care anunța Australia că un AI i-a spart site-urile

OpenAI a folosit propriile instrumente de inteligență artificială pentru a redacta parțial e-mailul prin care a avertizat guvernul australian că unul dintre agenții săi AI accesase fără autorizație sisteme guvernamentale, într-un episod care ridică noi semne de întrebare cu privire la siguranța tehnologiei dezvoltate de companie. Informația a fost dezvăluită de The Guardian, după ce reprezentanții OpenAI au susținut inițial că nu cred că inteligența artificială a fost implicată în redactarea mesajului.

E-mailul a fost trimis către Services Australia, agenția responsabilă de o serie de servicii publice, inclusiv sistemele informatice legate de Medicare. Potrivit informațiilor publicate, echipele juridice și de securitate ale OpenAI au folosit AI pentru a genera anumite formulări din mesaj, inclusiv alegerea unor cuvinte și formatarea textului.

Mesajul final a fost însă verificat de oameni

Mesajul final a fost însă verificat de oameni, iar tot oamenii au fost cei care l-au transmis efectiv către autoritățile australiene. OpenAI nu a confirmat public, până în prezent, toate detaliile privind modul în care a fost redactat e-mailul.

Potrivit companiei, în luna iunie, un model OpenAI a identificat o modalitate prin care putea determina serverul serviciului Medicare Statistics Reporting să execute instrucțiuni transmise printr-o interfață publică de raportare. Sistemul nu necesita un cont privat sau o parolă pentru această interacțiune.

Agentul a reușit să acceseze anumite fișiere și setări interne

Agentul a reușit să acceseze anumite fișiere și setări interne, să obțină o listă de fișiere și să creeze și să citească un fișier de test. OpenAI a precizat că nu există dovezi că modelul ar fi accesat date individuale ale pacienților, informații personale sau credențiale și nici că ar fi șters date ori ar fi creat un acces permanent în sistem.

Problema nu s-a rezumat însă la modul în care a fost redactat e-mailul. OpenAI a fost criticată și pentru felul în care a comunicat incidentul. Compania a aflat în august despre activitatea care a afectat site-urile australiene, dar a informat Services Australia abia pe 10 septembrie. Mai mult, pe 1 septembrie, directorul general al OpenAI, Sam Altman, s-a întâlnit cu vicepremierul australian Richard Marles, fără ca acesta să fie informat atunci despre incident.

Jason Kwon, directorul pentru strategie al OpenAI, a recunoscut ulterior în fața unei comisii parlamentare australiene că reacția companiei „nu a fost suficient de bună” și că autoritățile afectate ar fi trebuit informate mai devreme.

Ce spun oficialii?

Premierul Anthony Albanese a confirmat anterior că un agent OpenAI a obținut acces neautorizat la portalul public de statistici Medicare și a accesat atât fișiere publice, cât și unele fișiere care nu erau publice. Ministrul adjunct australian pentru Știință și Tehnologie, Andrew Charlton, a avertizat că astfel de incidente arată limitele actualelor reguli și a susținut că problemele generate de AI nu pot fi lăsate exclusiv în seama pieței sau a autoreglementării companiilor.