Ucraina, laboratorul războiului cu AI. O dronă rusească autonomă a ucis trei civili

O dronă rusească dotată cu un sistem experimental de inteligență artificială a ucis trei civili în Zaporijia, în sud-estul Ucrainei. Aparatul a fost trimis de operatori umani spre o benzinărie, dar și-ar fi ales singur ținta finală. Este primul caz documentat în care un atac rusesc cu o dronă cu auto-țintire provoacă victime civile, potrivit experților citați de The New York Times.

Atacul a avut loc pe 6 iulie. Drona se îndrepta spre o benzinărie când a lovit un zid și a explodat. Șrapnelul a ucis-o pe Tetiana Bubinets, o studentă de 19 ani, și alte două persoane, relatează NYT, citat de Hotnews.

Operatorii ruși ar fi stabilit zona spre care trebuia să zboare aparatul. Odată ajunsă în apropierea benzinăriei, drona a identificat însă singură obiectul pe care urma să îl atace. Experții și oficialii militari ucraineni cred că sistemul a ales cel mai probabil rezervoarele de propan. Inteligența artificială fusese antrenată să recunoască asemenea obiecte și să le considere ținte.

Kateryna Bondar, cercetător senior la Centrul Wadhwani pentru Inteligență Artificială din cadrul CSIS, a declarat că acesta este primul caz documentat în care o dronă rusească cu auto-țintire a provocat decese.

Cum ajunge o dronă să își aleagă singură ținta

Sistemele autonome pot fi antrenate cu mii de imagini. Astfel, ele învață să recunoască anumite categorii de obiecte, de la râuri și vehicule militare până la persoane sau rezervoare. Camera dronei devine astfel parte a sistemului de ghidare. Aparatul analizează imaginile din jur și caută obiecte asemănătoare celor pe care a fost antrenat să le recunoască.

Diferența față de software-ul tradițional este importantă. Un program clasic execută reguli stabilite în avans de un om. Un model bazat pe învățare automată identifică singur tipare în volume mari de date.

Această capacitate îi permite să reacționeze și în situații care nu au fost prevăzute exact de programatori. În același timp, comportamentul sistemului devine mai greu de anticipat.

„Acesta este un risc pentru întreaga lume”, a declarat colonelul Serhii Minaiev, comandantul apărării aeriene din Zaporijia. „În câțiva ani, vom trăi într-un film Terminator. Nu e o glumă. Mașinile iau decizii de a ataca.”

Rusia și Ucraina folosesc deja inteligența artificială pe mai multe tipuri de drone. Până acum, tehnologia era utilizată în principal în ultima etapă a atacului. Un operator uman selecta ținta, iar sistemul automat prelua controlul în apropierea acesteia. O dronă cu un nivel mai ridicat de autonomie elimină însă omul din alegerea finală a obiectului care va fi lovit.

Anchetatorii ucraineni au găsit în drone rusești minicomputere Nvidia Jetson Orin. În cazul aparatelor analizate la Zaporijia, sistemele nu erau criptate, potrivit informațiilor prezentate de oficialii ucraineni. Aceștia au putut vedea imaginile terenului introduse în sistem pentru navigație. Analiza codului le-ar fi arătat și ce tipuri de obiecte fusese învățată inteligența artificială să recunoască și să atace.

Dronele clasice sunt de obicei controlate prin radio, prin fibră optică sau sunt trimise spre coordonate stabilite anterior. Dependența de operatori a transformat însă piloții de drone în ținte importante pe front.

Un aparat autonom nu mai are nevoie de o legătură permanentă cu un pilot și poate continua misiunea chiar dacă sistemele de comunicații sunt bruiajate sau întrerupte.

Oficialii apărării aeriene din Zaporijia susțin că Rusia a folosit inclusiv obiective civile pentru testarea noilor sisteme. Printre acestea s-ar afla pompe și rezervoare de propan din benzinării, dar și centre de recrutare militară. Motivele pentru alegerea acestor obiective nu sunt clare.

Armele autonome împart experții

Extinderea armelor capabile să aleagă singure o țintă a reaprins disputa privind limitele folosirii inteligenței artificiale în război. Organizațiile pentru drepturile omului și Comitetul Internațional al Crucii Roșii se opun armelor autonome care pot lua decizii letale fără intervenția unui om.

Una dintre probleme este responsabilitatea pentru o eventuală eroare. Sistemul trebuie să facă diferența între o țintă militară și un obiect civil, într-un mediu în care situația se poate schimba în câteva secunde.

Alți specialiști susțin însă că inteligența artificială ar putea face unele arme mai precise. Un sistem capabil să observe și să analizeze zona înainte de impact poate, în teorie, să evite anumite ținte. Argumentul lor este că bombele neghidate sau obuzele clasice nu pot face o asemenea evaluare înainte să lovească.

Cazul din Zaporijia arată însă și reversul tehnologiei. O mașină poate ajunge să ia o decizie letală pe baza propriului sistem de clasificare.

De Ziua Independenței, Ucraina a defilat cu drone, nu cu tancuri

Discuția despre viitorul războiului a primit o imagine simbolică chiar luni, 24 august, când Ucraina și-a sărbătorit 35 de ani de independență. La Kiev a avut loc prima paradă ucraineană dedicată sistemelor fără pilot. În locul unei demonstrații militare clasice, pe străzi, pe Nipru și în aer au fost prezentate drone și vehicule robotizate.

Nu au existat coloane de tancuri, blindate grele sau militari în formație. Pe bulevardul Hreșciatik au circulat vehicule terestre fără pilot, folosite pentru luptă, recunoaștere, logistică sau evacuarea răniților.

Pe Nipru au fost prezentate drone navale, inclusiv sisteme din familiile Magura și Sea Baby. În aer au zburat drone de recunoaștere, aparate de atac și drone-interceptor folosite împotriva aparatelor rusești.

În total, aproape 100 de sisteme au fost incluse în demonstrație: 30 de platforme robotizate terestre, nouă drone navale, 18 interceptoare aeriene, 27 de drone bombardier, opt aparate de recunoaștere și șapte drone pentru lovituri la distanță mare.

CITEȘTE ȘI

Mirabela Grădinaru, apariție la Kiev alături de Olena Zelenska