Mașini care pot ucide fără intervenție umană. ONU cere reguli pentru armele autonome

Organizația Națiunilor Unite și Comitetul Internațional al Crucii Roșii cer adoptarea urgentă a unor reguli internaționale pentru armele autonome, pe fondul dezvoltării rapide a tehnologiilor militare bazate pe inteligență artificială. Avertismentul vine într-un moment în care sistemele semiautonome asistate de AI sunt deja folosite în mai multe conflicte, iar capacitatea tehnologică avansează mai repede decât negocierile pentru stabilirea unui cadru juridic.

Secretarul general al ONU, António Guterres, și președinta Comitetului Internațional al Crucii Roșii, Mirjana Spoljaric, au transmis într-o declarație comună că lumea este „periculos de aproape” de o situație în care mașinile ar putea decide singure să țintească oameni. Cei doi oficiali solicită statelor să înceapă negocieri pentru un instrument juridic obligatoriu care să stabilească interdicții și restricții clare privind sistemele de arme autonome.

Problema devine cu atât mai importantă cu cât tehnologia militară bazată pe inteligență artificială este utilizată deja în conflicte contemporane. Potrivit ONU și Crucii Roșii, arme semiautonome asistate de AI au fost folosite în conflictele din Ucraina, Sudan și Gaza, dar și în contextul confruntărilor din Iran și Golful Persic. Statele urmează să se reunească la Geneva pentru a discuta posibile noi reguli internaționale.

Discuțiile privind armele autonome nu sunt noi. Statele discută această problemă încă din 2014, însă între timp tehnologia a evoluat rapid. Progresele din domeniul inteligenței artificiale au făcut posibilă dezvoltarea unor sisteme capabile să identifice, urmărească și selecteze obiective cu un nivel tot mai redus de intervenție umană.

Armele complet autonome există deja

Armele complet autonome există deja în anumite domenii militare. Unele armate folosesc, de exemplu, sisteme antirachetă instalate pe nave de război care pot funcționa autonom în anumite situații. Până în prezent, însă, nu există informații că astfel de sisteme complet autonome ar fi fost utilizate pentru atacarea unor ținte umane.

Riscul principal ridicat de organizațiile pentru drepturile omului este legat de posibilitatea ca o mașină să ia singură decizia de a ucide. Sistemele bazate pe inteligență artificială pot face erori în identificarea țintelor, iar consecințele ar putea fi fatale. Un sistem automatizat ar putea, de exemplu, să nu recunoască în mod corect un combatant rănit sau o persoană care încearcă să se predea.

O altă problemă este responsabilitatea. În cazul unei erori produse de un sistem autonom, stabilirea persoanei care trebuie trasă la răspundere ar putea deveni extrem de dificilă. Întrebarea este dacă responsabilitatea ar reveni celui care a proiectat sistemul, celui care l-a programat, comandantului care l-a folosit sau statului care a autorizat utilizarea lui. Aceste dileme devin importante inclusiv în eventuale investigații privind crime de război.

Ce spun ONU și Crucea Roșie

ONU și Crucea Roșie consideră că statele trebuie să treacă de la discuții la măsuri concrete. În declarația comună, Guterres și Spoljaric cer „curaj politic” și negocieri decisive pentru stabilirea unui cadru obligatoriu.

Problema urmează să fie discutată în continuare la Geneva, într-un proces internațional care se desfășoară de mai mulți ani. Miza este stabilirea unei limite clare înainte ca dezvoltarea tehnologiei să facă posibilă utilizarea pe scară largă a unor arme capabile să aleagă și să atace oameni fără o decizie umană directă.

CITEȘTE ȘI

Ucraina, laboratorul războiului cu AI. O dronă rusească autonomă a ucis trei civili