Ce vor companiile AI: siguranța oamenilor sau eliminarea concurenței?

OpenAI, Anthropic și Google DeepMind lucrează împreună de câteva săptămâni la problemele de siguranță legate de inteligența artificială, a declarat Chris Lehane, responsabilul OpenAI pentru afaceri publice internaționale. Cele trei companii analizează crearea unui organism care să supravegheze riscurile asociate dezvoltării AI, în contextul apelurilor tot mai numeroase pentru un control mai strict al acestei tehnologii, relatează Le Figaro.

Marile companii AI vor să-și stabilească singure regulile

Îngrijorarea publică privind pericolul potențial reprezentat de inteligența artificială a crescut după ce un cercetător de 27 de ani, cu trei ani de experiență in marile companii AI, a declarat, săptămâna trecută, că „oamenii care construiesc AI cred cu toată seriozitatea că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului”.

Ideea stabilirii regulilor doar de către marile companii ar fi pornit de la o propunere a lui Demis Hassabis, președintele Google DeepMind, care sugerase deja în iulie crearea unei entități similare Autorității americane de reglementare a industriei financiare (FINRA), organism de autoreglementare a sectorului financiar. Această instituție ar urma „să supravegheze inteligența artificială, să aibă autoritatea de a evalua cele mai avansate modele din lume și să coordoneze o încetinire a dezvoltării la nivelul întregului sector dacă riscurile s-ar agrava”, precizează revista de specialitate TechCrunch.

Alarma antitrust începe sa sune la Washington

Președintele Comisiei Federale pentru Comerț (FTC) din SUA a declarat marți că „toată lumea ar trebui să privească cu profundă suspiciune” companiile de AI care solicită exceptări de la legislația antitrust, în timp ce fac lobby pentru noi reglementări. dacă firmele vin simultan la Washington și cer o serie de reglementări, precum și o exceptare de la legislația antitrust, toate semnalele mele de alarmă se declanșează”, a declarat el, potrivit Reuters. „Ele cer bariere la intrarea pe piață care să le protejeze poziția de eventualii concurenți. Iar dacă adăugăm la asta și exceptarea de la legislația antitrust pe care o solicită, cred că toată lumea ar trebui să privească situația cu profundă suspiciune”, a adăugat el.

Critici din interiorul industriei AI: unde mai este concurența?

„Un grup restrâns de companii de AI nu ar trebui să stabilească singur politica în materie de inteligență artificială pentru restul lumii”, a declarat marți Aidan Gomez, directorul general al companiei canadiene Cohere, care își dezvoltă propria tehnologie AI, într-un interviu pentru CNBC. „Există foarte multe părți interesate care trebuie consultate”, a insistat el. Inclusiv Sam Altman, șeful OpenAI, a avertizat anterior că discuțiile dintre marile companii din sector „ar putea expune aceste companii riscul încălcării legislației concurenței, dacă o astfel de coordonare ar fi considerată susceptibilă să restrângă concurența”.

Alianță neobișnuită împotriva riscurilor AI

Anunțul marilor companii din Silicon Valley a venit în timp ce, la Washington, avea loc The Pro-Human Assembly, eveniment dedicat necesității de a limita și reglementa inteligența artificială. La conferință au vorbit, pe rând, senatorul socialist Bernie Sanders și strategul de extremă dreapta Steve Bannon, aflați la poli opuși ai spectrului politic. „Aceste două apariții publice neobișnuite arată îngrijorarea profundă și în creștere provocată de potențialul distructiv al inteligenței artificiale”, scrie The New York Times.