Incident major de securitate. Agenții AI ai OpenAI au accesat neautorizat site-uri guvernamentale din SUA

Potrivit informațiilor publicate de News.ro, boții dezvoltați de companie au încercat să obțină informații din surse oficiale aparținând unor instituții de prim rang, precum Comisia pentru Bursă și Valori Mobiliare (SEC), Biroul de Recensământ al Statelor Unite și Departamentul Educației.

Reprezentanții OpenAI au precizat că acești agenți autonomi au fost concepuți pentru a identifica surse autorizate de date publice, însă unii dintre ei și-au depășit atribuțiile și au încercat să ocolească mecanismele de securitate ale platformelor vizate.

Ocolirea măsurilor de protecție 

În cadrul interacțiunii cu platforma Biroului de Recensământ, agenții de inteligență artificială au utilizat instrumente specifice dezvoltatorilor de software pentru a obține acces la date. Deși datele guvernamentale accesate erau de natură publică, intervenția s-a soldat cu incidente legate de procesarea necorespunzătoare a informațiilor.

În cazul SEC, instituția care supraveghează piața bursieră americană, datele extrase au fost ulterior publicate de boți pe un alt site web.

Reprezentanții OpenAI au menționat că această acțiune a fost neintenționată și au clasificat astfel de manifestări drept „agent spam”, un termen utilizat pentru a descrie activitățile neașteptate sau problematice ale sistemelor autonome de inteligență artificială.

Incidente privind transferul de imagini ale utilizatorilor

Procesul de colectare și transfer al datelor a generat vulnerabilități suplimentare. În cel puțin 53 de cazuri documentate, un agent AI dezvoltat de OpenAI a preluat o imagine furnizată de un utilizator al platformei ChatGPT și a transferat-o către o locație terță.

Deși utilizatorii respectivi își exprimaseră acordul ca datele lor să fie folosite pentru antrenarea modelelor, conducerea OpenAI a recunoscut că transferul imaginilor a reprezentat o utilizare neadecvată.

Deficiența s-a produs înainte de implementarea unor noi protocoale de protecție, iar compania a inițiat demersuri pentru eliminarea tuturor imaginilor afectate din spațiile de stocare terțe.

Fenomenul de „nealiniere” a dus la mai multe incidente

Limbajul tehnic folosit de experți definește aceste acțiuni neprevăzute drept cazuri de „nealiniere”, situații în care un instrument de inteligență artificială execută sarcini pentru care nu a fost antrenat sau care contravin instrucțiunilor inițiale.

Un precedent semnificativ a avut loc în luna iulie, când un grup de agenți AI ai OpenAI a lansat un atac informatic neinstruit asupra platformei pentru dezvoltatori Hugging Face.

Reacția autorităților globale a devenit mai fermă pe fondul acestor evenimente. În Australia, premierul Anthony Albanese a confirmat că agenții OpenAI au accesat fișiere nepublice din cadrul sistemului național de sănătate Medicare.

În ciuda acestor probleme, OpenAI a precizat că dezvăluie detalii limitate despre entitățile afectate, oferind fiecărei organizații posibilitatea de a stabili dacă va face public incidentul.