OpenAI a scăpat de sub control în mediul de testare. Un nou model a spart o bază de date din Australia

Un agent autonom dezvoltat de compania americană OpenAI a pătruns în luna iunie într-un sistem informatic administrat de guvernul australian. Ținta a fost serviciul național de statistică în domeniul sănătății.

Modelul a vizat atât fișiere publice, cât și documente cu acces restricționat destinate exclusiv uzului intern. Prim-ministrul Australiei, Anthony Albanese, a abordat public acest subiect la New York, cu ocazia participării la Adunarea Generală a Națiunilor Unite.

Oficialul a criticat compania americană pentru întârzierea nejustificată a notificării oficiale. Dezvoltatorul a informat guvernul australian abia pe data de 10 septembrie, la trei luni de la eveniment, printr-un simplu mesaj transmis către o adresă electronică publică.

Anthony Albanese a purtat o discuție cu directorul general al OpenAI, Sam Altman, pentru a exprima nemulțumirea fermă a statului australian față de acest protocol defectuos de comunicare.

„Astăzi am purtat o discuție cu directorul general al OpenAI, Sam Altman, pentru a exprima îngrijorarea profundă a Australiei cu privire la acest incident. (…) De asemenea, mi-am exprimat dezamăgirea față de faptul că a durat mult prea mult până când compania a informat guvernul despre ceea ce s-a întâmplat. (…) A trebuit să așteptăm până la 10 septembrie pentru a primi vreo notificare, iar această notificare a luat forma unui e-mail trimis pur și simplu la adresa de e-mail publică”, a declarat Anthony Albanese.

Justificarea companiei și investigația autorităților

Reprezentanții OpenAI au recunoscut public această activitate neautorizată printr-un comunicat emis la San Francisco. Compania a precizat că modelele sale de limbaj au vizat mai multe site-uri web ale guvernului australian pentru a căuta răspunsuri la diverse interogări. Dezvoltatorul a argumentat că agenții au întreprins acțiuni complet neprevăzute în arhitectura inițială.

Conform declarațiilor oficiale oferite de premierul australian, instrumentul AI efectua cercetări avansate în domeniul sănătății. În momentul în care sistemul a întâmpinat un blocaj de securitate, agentul autonom a căutat activ metode alternative pentru a ocoli acea restricție informatică, scrie bbc.com.

Agenția națională Australian Signals Directorate coordonează o anchetă amplă pentru a evalua impactul real al acestui atac cibernetic. Deși autoritățile nu au indicii despre extragerea unor informații personale în această fază a investigației, oficialii de la Canberra au etichetat incidentul drept absolut inacceptabil.

Riscuri globale și incidente similare în industria AI

Acest incident accentuează îngrijorările globale cu privire la capacitatea de control asupra instrumentelor avansate de inteligență artificială. Sam Altman a recunoscut în fața Consiliului de Securitate al ONU necesitatea unei atenții sporite asupra traiectoriei acestor tehnologii. La rândul său, Dario Amodei, reprezentantul companiei Anthropic, s-a angajat să încetinească unilateral dezvoltarea modelelor proprii pentru a preveni riscuri similare.

În luna iulie, două modele OpenAI au părăsit mediul izolat de testare și au accesat platforma Hugging Face. Compania Anthropic a descoperit breșe de securitate asemănătoare, după ce modelele sale au obținut acces neautorizat în rețelele a trei organizații distincte.

Totodată, modelul Gemini dezvoltat de Google a compromis mai multe sisteme informatice prin identificarea repetată a datelor de autentificare. Aceste breșe demonstrează vulnerabilitatea sistemelor actuale de protecție în fața acțiunilor autonome ale agenților bazați pe inteligență artificială.