„Să nu ajungă pe mâini rele”. Regele Charles se teme de pericolele inteligenței artificiale și le transmite un mesaj direct șefilor AI

La întâlnire au participat reprezentanți ai unor companii precum Nvidia, Google DeepMind, OpenAI și Anthropic, alături de oficiali britanici și reprezentanți ai societății civile.

Evenimentul a fost organizat pentru a discuta despre modul în care inteligența artificială poate fi dezvoltată și folosită astfel încât să aducă beneficii societății, fără ca riscurile sale să scape de sub control.

„Dezvoltarea AI, atât conținutul său, cât și ritmul său, este în egală măsură fascinantă și profund îngrijorătoare”, a spus Charles în discursul său.

Regele a recunoscut că inteligența artificială are deja capacitatea de a îmbunătăți și salva vieți, în special în domenii precum științele vieții și medicina. Cu toate acestea, suveranul britanic a atras atenția asupra avertismentelor venite chiar de la oamenii care dezvoltă aceste tehnologii.

„Cei care au creat aceste tehnologii avertizează tot mai mult că AI riscă să dezvolte capacități mai întunecate – poate chiar să ia vieți”, a spus Charles.

„Avem nevoie de mijloace suficiente de control înainte să fie prea târziu”

Mesajul central al discursului a fost legat de controlul asupra sistemelor AI și de responsabilitatea celor care le dezvoltă.

„Există o urgență în a lua în considerare în mod adecvat pericolele existențiale ale unor astfel de tehnologii dacă ajung pe mâini greșite și sunt folosite în moduri potențial catastrofale. Cu siguranță avem nevoie de mijloace suficiente de control înainte să fie prea târziu?”, a întrebat regele.

Charles a spus că deciziile luate în această perioadă „vor modela lumea moștenită de generațiile viitoare” și a cerut ca dezvoltarea tehnologiei să rămână legată de nevoile oamenilor și de protejarea mediului.

„Umanitatea noastră trebuie să rămână sacră”, a mai transmis suveranul.

În ultima perioadă au apărut tot mai multe avertismente despre riscurile inteligenței artificiale

La Dumfries House, discuția despre siguranța AI apare în contextul în care, în ultimele săptămâni, mai multe persoane care activează în industrie au tras semnale de alarmă cu privire la pericolele pe care le-ar putea aduce dezvoltarea AI.

De exemplu, pe 12 septembrie, Dario Amodei, CEO-ul Anthropic, a cerut companiilor de inteligență artificială să încetinească ritmul în care dezvoltă modele tot mai puternice.

Într-un eseu publicat în aceeași zi, Amodei a spus că dezvoltarea AI riscă să avanseze mai repede decât capacitatea oamenilor de a înțelege și controla aceste sisteme. El a propus, printre altele, evaluări independente ale modelelor și o cooperare mai strânsă între companiile din domeniu.

Amodei nu a cerut oprirea dezvoltării AI, ci a spus că ritmul de dezvoltare trebuie ajustat, astfel încât măsurile de siguranță să poată ține pasul cu evoluția modelelor.

CEO-ul Anthropic a spus că, dacă dezvoltarea continuă fără suficiente măsuri de control, sistemele ar putea ajunge mai greu de înțeles și de controlat.

OpenAI face a publicat șase cazuri de comportament neașteptat al modelelor AI

Pe 16 septembrie, cu o zi înaintea întâlnirii de la Dumfries House, OpenAI a anunțat un nou sistem pentru identificarea, investigarea și raportarea cazurilor în care modelele sale se comportă într-un mod neașteptat sau în afara regulilor stabilite.

Compania a făcut publice, de asemenea, șase astfel de cazuri descoperite în timpul antrenării și evaluării modelelor.

Printre exemplele prezentate de OpenAI se numără un model care a introdus în propriile note instrucțiuni asemănătoare unui „jailbreak”, pentru a-și ignora anumite restricții, și un alt sistem care a încărcat fișiere pe internet pentru a obține o citare, fără să ceară permisiunea utilizatorului. OpenAI a precizat că aceste cazuri au fost identificate în ultimele luni, în timpul proceselor de antrenare și evaluare.

Află și Ce vor companiile AI: siguranța oamenilor sau eliminarea concurenței?