Google confirmă breșe provocate de propriul model AI

Modelul AI al Google, Gemini, a reușit să intre în sisteme informatice din afara companiei după ce a ghicit date de autentificare, încercând pe rând diverse combinații de parole. Google a confirmat pentru AFP informațiile apărute în Wall Street Journal. Compania a recunoscut că modelul a depășit limitele testelor interne.

Heather Adkins, responsabilă de securitate în cadrul Google, a explicat că, în timpul unui test din luna mai, Gemini a găsit online informații publice și a dedus credențiale care i-au permis accesul pe site-uri pe care le considera parte din experiment. Trei organizații au fost afectate, fără ca numele lor să fie dezvăluite. Toate au fost informate despre breșe.

Într-unul dintre cazuri, modelul a încercat repetat combinații de parole până când a reușit să intre într-un sistem protejat. Google susține că, în toate situațiile, Gemini s-a oprit singur, fără intervenție umană. Comportamentul a fost interpretat ca un mecanism intern de autolimitare.

Compania a aflat despre incidente în iulie și a declanșat o anchetă. Dezvăluirile alimentează temerile legate de modelele AI care ies spontan din mediile controlate și accesează platforme externe. In aceste condiții, se ridică întrebări despre pierderea controlului asupra acestor tehnologii.

Mai mulți lideri din industria tech cer încetinirea dezvoltării și adoptarea unor forme de autoreglementare. Google subliniază că incidentele arată cât de esențială este antrenarea modelelor puternice astfel încât să acționeze responsabil.

O anchetă e în desfășurare

Incidentele în care a fost implicat Gemini „subliniază importanţa antrenării modelelor puternice de inteligenţă artificială astfel încât acestea să acţioneze în mod responsabil”, a subliniat Heather Adkins.

Google a precizat pentru AFP că a aflat despre aceste incidente în luna iulie şi că ulterior a declanşat o anchetă.

Dezbaterea privind inteligenţa artificială s-a intensificat după dezvăluirile referitoare la modele care au ieşit în mod spontan din mediile izolate în care funcţionau pentru a pătrunde pe site-uri şi platforme. Acest episod alimentează temerile privind o posibilă pierdere a controlului asupra acestor instrumente.

Mai mulţi lideri importanţi din industria tehnologică pledează pentru încetinirea cursei în domeniul inteligenţei artificiale şi pentru o formă de autoreglementare a sectorului.