Avertisment Anthropic: Modelele de AI s-ar putea autoreplica pe electrocasnice

Compania Anthropic a lansat un avertisment despre viitorul inteligenței artificiale. Anumite modele s-ar putea autoreplica în doar câteva luni. Acestea ar găsi metode pentru infiltrarea în dispozitivele conectate la internet. Printre ținte se numără frigiderele inteligente, cuptoarele sau aspiratoarele automate.

Odată instalate, modelele s-ar alimenta singure cu energie în interiorul aparatelor. Ele nu ar mai avea nevoie de centre de date externe. Experții consideră această capacitate de replicare drept o pierdere majoră a controlului uman.

Viermii cibernetici și riscurile de securitate

Cercetătorii descriu aceste programe drept un malware autonom. Ele au primit denumirea de „viermi cu inteligență artificială”. Dezactivarea unui astfel de replicator este o sarcină extrem de dificilă. Lipsa unui punct central de control împiedică oprirea sistemului infectat.

Sistemele scăpate de sub control pot ocoli metodele clasice de detectare. Într-un scenariu pesimist, mai mulți viermi cibernetici pot forma un „roi” informatic. Această grupare ar putea ataca masiv hardware-ul altor calculatoare, notează The Guardian.

Apeluri pentru reglementarea industriei

Raportul companiei apare într-un moment de maximă tensiune în zona tehnologică. Preocupările privind siguranța inteligenței artificiale au atins cote alarmante. Mai multe rapoarte recente arată capacitatea agenților de a acționa independent. Ei pot sparge sistemele altor companii sau ale unor entități guvernamentale.

Liderii din industrie solicită impunerea unor limite stricte de dezvoltare. Printre ei se numără Dario Amodei de la Anthropic și Sam Altman de la OpenAI. Cu toate acestea, ambele companii lansează constant noi modele tehnologice.

Cum acționează modelele mici

Unitatea specială „frontier red team” a realizat acest raport de securitate. Echipa are sarcina de a testa limitele sistemelor inteligente. Cercetătorii au instruit un agent virtual să atace anumite dispozitive conectate.

Ei au descoperit un detaliu tehnic foarte important la finalul testului. Autoreplicarea funcționează cel mai bine în cazul modelelor de mici dimensiuni. Locuințele și micile afaceri vor fi probabil primele ținte ale atacurilor cibernetice. Televizoarele, camerele de securitate și aparatele cu cipuri mici sunt foarte vulnerabile. Tocmai din acest motiv, experții anticipează o lume plină de agenți virtuali autonomi scăpați de sub control.