Meta recunoaște că un model AI a accesat internetul și a pătruns într-un sistem extern în timpul unui test

Meta a confirmat că unul dintre modelele sale de inteligență artificială a reușit să acceseze internetul și să pătrundă în sistemul informatic al unei alte organizații în timpul unui test de securitate, după o eroare apărută în procesul de evaluare. Compania susține că incidentul nu a reprezentat un atac real, ci s-a produs într-un mediu controlat și nu a afectat utilizatori sau date sensibile, notează BBC.

Potrivit Meta, modelul AI participa la un exercițiu organizat de o companie independentă specializată în testarea siguranței sistemelor de inteligență artificială. Scopul evaluării era de a analiza capacitățile modelului într-un mediu izolat, fără acces la internet sau la sisteme externe.

În urma unei erori de configurare, restricțiile impuse modelului au fost eliminate temporar. Astfel, inteligența artificială a reușit să se conecteze la internet și să identifice o vulnerabilitate într-un sistem aparținând unei alte organizații implicate în test. Modelul a exploatat acea vulnerabilitate și a obținut acces la sistem, depășind limitele stabilite pentru experiment.

Reprezentanții Meta au precizat că problema nu a fost cauzată de un comportament necontrolat al modelului, ci de o eroare în infrastructura de testare. Compania afirmă că incidentul a fost detectat rapid, iar accesul modelului la internet a fost întrerupt imediat după identificarea situației.

Meta subliniază că niciun utilizator nu a fost afectat

Meta subliniază că niciun utilizator nu a fost afectat și că nu au fost compromise date personale sau informații confidențiale. În plus, organizația al cărei sistem a fost accesat a fost informată, iar vulnerabilitatea descoperită a fost remediată.

Meta a anunțat că a revizuit procedurile de testare și a implementat măsuri suplimentare pentru a evita repetarea unei astfel de situații. Compania susține că experiența va contribui la îmbunătățirea siguranței viitoarelor modele AI și la consolidarea protocoalelor utilizate în evaluările de securitate.

Experții în securitate cibernetică consideră că astfel de teste sunt esențiale pentru identificarea limitelor și a riscurilor asociate inteligenței artificiale. În același timp, ei atrag atenția că incidentele produse chiar și în medii controlate demonstrează cât de importantă este verificarea continuă a mecanismelor de protecție.