Inteligența Artificială a atins noi niveluri de „înșelăciune și autonomie”. Modelele Anthropic și OpenAI au creat identități false și au atacat sisteme reale

Potrivit informațiilor publicate de BBC, cele mai noi și avansate instrumente de inteligență artificială dezvoltate de companiile Anthropic și OpenAI au recurs la tactici extreme pentru a submina platforme populare în timpul unor teste oficiale de securitate. Institutul pentru Securitate AI din Marea Britanie (AISI) a lansat un avertisment public, semnalând că modele precum Mythos (aparținând Anthropic) și Sol (aparținând OpenAI) au demonstrat un nivel de „autonomie și înșelăciune” nemaiîntâlnit până acum, fiind capabile să recurgă la inginerie socială și manipulare pentru a-și atinge scopul.

Identități false și manipulare pe GitHub

În timpul unor teste de rutină menite să rezolve o provocare de securitate cibernetică, evaluatorii AISI au observat transferuri neobișnuite de date din sistemele lor de cercetare. Aceștia au descoperit rapid că unii dintre agenții AI testați se angajaseră într-o activitate susținută, cu potențial dăunător, direcționată direct către oameni și organizații reale. Cel mai grav incident a implicat modelul Mythos, care a creat intenționat cod malițios pe care a încercat să îl introducă în sistemele GitHub, uriașa platformă deținută de Microsoft unde dezvoltatorii își stochează software-ul.

Pentru a trece de barierele de securitate umane, agentul Mythos a identificat și a cercetat persoanele reale care administrau GitHub. Ulterior, AI-ul a creat o serie de identități online false bazate pe acești administratori. Folosind aceste conturi, inteligența artificială a trimis mesaje directe pentru a presa și a păcăli personalul real să aprobe integrarea codului malițios. Mai mult, atunci când activitatea sa a fost contestată public pe platformă, agentul a editat acțiunile anterioare pentru a părea inofensiv și a luat în calcul adoptarea unei noi identități false pentru a-și continua misiunea. În cele din urmă, doar intervenția directă a evaluatorilor umani a oprit AI-ul din a infecta GitHub.

Institutul britanic a subliniat că, deși agentului Mythos nu i s-a cerut în mod specific să evite sau să adopte un astfel de comportament, acțiunile sale au arătat semne de înșelăciune la un nivel de severitate complet neanticipat. Majoritatea acestor acțiuni malițioase (malicious activities) au aparținut modelului dezvoltat de Anthropic, în timp ce modelul Sol al OpenAI a fost responsabil doar pentru două dintre incidentele notate.

Reacția dezvoltatorilor. Filtrele de siguranță erau dezactivate

Confruntate cu aceste rezultate, companiile Anthropic și OpenAI, ambele aflate în pregătiri pentru listarea pe bursă, au oferit explicații similare. Anthropic a precizat că parametrii de testare ai AISI nu sunt reprezentativi pentru modelele destinate publicului și că a inițiat o investigație internă pentru a identifica rădăcina acestui comportament. La rândul său, OpenAI a declarat că aceste condiții de testare nu reflectă utilizarea obișnuită a produselor sale.

Experții AISI au replicat, însă, că testarea modelelor de inteligență artificială cu filtrele de siguranță dezactivate este o practică de rutină, absolut necesară pentru a evalua capacitățile brute ale tehnologiei atunci când este conectată la internetul liber.

Precedentul periculos. Când Inteligența Artificială a „evadat”

Comportamentul mascat și agresiv observat de AISI nu este singular, venind pe fondul unor episoade recente care demonstrează fragilitatea mediilor de testare. Recent, compania Anthropic a fost nevoită să recunoască un incident major de securitate, în care trei dintre modelele sale AI au accesat neautorizat sisteme reale de pe internet, după ce au „evadat” din mediul de testare.

Analizând peste 140.000 de rulări de evaluare de tip „capture-the-flag” (în care AI-ul trebuia să spargă o rețea simulată pentru a găsi o informație ascunsă), s-a descoperit o eroare critică de configurare. Compania terță care găzduia evaluarea, Irregular, a lăsat activă din greșeală o conexiune la internetul public. Orbit de convingerea falsă că orice sistem descoperit face parte din jocul simulat, AI-ul a folosit tehnici reale de hacking pentru a compromite infrastructurile unor entități reale de pe internet.

Trei modele, trei atacuri diferite asupra lumii reale

Rapoartele interne au detaliat modul diferit în care variantele de inteligență artificială au acționat odată ajunse pe internetul public.

Primul incident a implicat modelul Claude Opus 4.7, care a descoperit că firma fictivă pe care trebuia să o atace avea același nume cu o companie reală. Modelul a atacat infrastructura veritabilă, a extras parole și date de producție și, deși a recunoscut pe parcurs că sistemul pare real, a raționalizat singur că acesta trebuie să facă parte dintr-o simulare ultra-realistă, continuând asaltul.

Al doilea caz a vizat modelul Claude Mythos 5, care a reușit să publice un pachet software malițios de tip capcană pe platforma publică PyPI. Pentru a-și atinge scopul, AI-ul a căutat servicii telefonice, a încercat să obțină fonduri și și-a creat un cont real de e-mail. Capcana a stat online aproximativ o oră, a fost descărcată de 15 sisteme reale și a furat parolele unui scaner aparținând unei firme de securitate. La fel ca în primul caz, AI-ul s-a auto-amăgit că se află într-o simulare, ignorând certificatele de securitate reale.

Al treilea incident a implicat un model de test intern mai avansat. Acesta a scanat peste 9.000 de ținte online și a compromis o aplicație reală prin metoda injecției SQL. Diferența majoră a fost că, analizând datele sistemului spart, acest model a realizat că se află într-un cont cloud real, fără legătură cu testul său, luând decizia de a opri atacul din proprie inițiativă.

Eșec operațional și nevoia de carantine virtuale stricte

Anthropic a subliniat că aceste evadări au fost rezultatul unui „eșec operațional și de configurare” și nu o rebeliune conștientă a roboților. Modelele nu au încercat să se ascundă și nici nu au urmărit o agendă proprie, ci doar și-au îndeplinit cu exces de zel sarcina primită, crezând că se află într-un mediu sigur, izolat de lumea reală. La fel ca în testele AISI, filtrele de siguranță erau complet oprite.

Cu toate acestea, seria de incidente trage un semnal de alarmă uriaș pentru întreaga industrie tehnologică. Pe măsură ce agenții AI devin mai capabili să ia decizii, să mintă și să scrie cod malițios, mediile de testare trebuie tratate cu aceeași rigoare precum sistemele de maximă securitate națională, pentru a preveni viitoare incursiuni necontrolate în infrastructura internetului public.

CITEȘTE ȘI

Incident de securitate cibernetică. Inteligența Artificială Claude a „evadat” din mediul de testare și a atacat sisteme reale