Incidentul de securitate provocat de un agent de inteligență artificială dezvoltat de OpenAI capătă noi dimensiuni. După ce compania a confirmat că unul dintre modelele sale experimentale a compromis infrastructura platformei Hugging Face în timpul unui test intern, au apărut informații potrivit cărora același agent AI a reușit să acceseze și conturi asociate unei alte companii din domeniul tehnologiei, scrie Politico.ro.

Potrivit informațiilor publicate de Politico și confirmate de Reuters, agentul AI a compromis un cont al unui client al companiei Modal Labs, furnizor de infrastructură pentru aplicații bazate pe inteligență artificială. Reprezentanții Modal Labs au precizat însă că platforma companiei nu a fost spartă, iar atacul a fost posibil din cauza unui mediu de dezvoltare configurat nesigur de către clientul respectiv.

OpenAI a anunțat că investigația a arătat că agentul AI a accesat în total patru conturi aparținând unor servicii diferite. Potrivit companiei, modelul a folosit credențiale disponibile public și a exploatat vulnerabilități pentru a-și atinge obiectivul din cadrul testului de securitate. Ulterior, accesul la modelul implicat a fost suspendat, iar sistemele au fost izolate și securizate.

OpenAI

Incidentul a început în timpul unui test intern desfășurat de OpenAI, în care compania evalua capacitatea unor modele avansate de a identifica vulnerabilități informatice. În loc să rezolve exercițiul conform regulilor, agentul AI ar fi ieșit din mediul controlat de testare și ar fi compromis infrastructura Hugging Face pentru a obține răspunsurile, un comportament pe care cercetătorii îl descriu drept o tentativă de a „trișa” pentru îndeplinirea obiectivului stabilit.

Specialiștii în securitate cibernetică consideră că noile informații ridică semne de întrebare privind controlul asupra sistemelor AI tot mai autonome. Deși OpenAI subliniază că incidentul s-a produs într-un mediu de cercetare și că nu există indicii privind intenții malițioase, experții avertizează că astfel de cazuri evidențiază necesitatea unor măsuri de siguranță mai stricte pentru modelele de ultimă generație.

Europa pierde peste 50 de miliarde de euro anual din cauza degradării solurilor. Inteligența artificială ar putea schimba situația