Anthropic susține că chatbotul Claude a preluat construirea propriului succesor

Totuși, aproximativ 90% din cercetarea și dezvoltarea companiei se desfășoară în „colaborare” cu Claude, ceea ce, potrivit Anthropic, înseamnă că modelul poate efectua „volume mari de muncă sub îndrumarea directă a unei persoane”, scriu Associated Press și The Washington Post.

Directorul executiv al Anthropic, Dario Amodei, a cerut weekendul trecut companiilor de inteligență artificială de top să coordoneze o încetinire a activității la această tehnologie, pentru a acorda mai mult timp construirii unor bariere de protecție în jurul inteligenței artificiale.

Liderii firmelor rivale au susținut rapid ideea, dar președintele Donald Trump a criticat propunerea.

Avertismentul lui Amodei

Directorul executiv al Anthropic, Dario Amodei, dar și alte figuri proeminente din industria inteligenței artificiale au avertizat cu privire la posibilitatea ca inteligența artificială să devină suficient de inteligentă pentru a se autoperfecționa fără contribuția oamenilor.

Întrucât liderii iau în considerare ritmul dezvoltării inteligenței artificiale, „ar trebui să facem tot posibilul pentru a minimiza decalajul dintre ceea ce știu laboratoarele de frontieră și ceea ce știe publicul”, a declarat compania într-o postare pe blog.

„Aceasta înseamnă o mai bună măsurare a dezvoltării inteligenței artificiale, raportarea publică a acesteia și oferirea societății oportunitatea de a decide cum să utilizeze aceste informații.”

În acest scenariu, cunoscut sub numele de auto-îmbunătățire recursivă, ar putea deveni dificil pentru oameni să înțeleagă sau să controleze tehnologia inteligenței artificiale, au spus Amodei și alții.

Compania nu a precizat cât de aproape consideră că este Claude de auto-îmbunătățirea recursivă, dar a precizat că nu a existat niciun moment în care Claude să fi funcționat „complet autonom” fără implicarea unui om.

Claude conduce 26% din cercetarea și dezvoltarea sa

Anthropic a declarat că o analiză internă a sarcinilor de cercetare și dezvoltare a constatat că Claude a fost capabil să „conducă” acea muncă în aproximativ 26% din timp, oamenii asumând doar un rol de supraveghere și oferind îndrumare la nivel înalt.

În februarie, acest număr era zero, se arată în postarea de pe blog.

„Modelele care își accelerează propria dezvoltare ar putea face mai dificilă înțelegerea sau controlul acestor sisteme de către oameni”, a declarat compania. „Prin urmare, este important să împărtășim aceste valori pentru a înțelege cât de aproape este lumea de a atinge auto-îmbunătățirea recursivă.”

Compania a declarat că a folosit o versiune a programului Claude pentru a-și măsura munca de cercetare și dezvoltare, utilizând un sistem de evaluare dezvoltat de o companie externă de inteligență artificială, înainte ca oamenii să verifice rezultatele.

30.000 de „agenți” de inteligență artificială care desfășoară activități de cercetare și inginerie

Compania a dezvăluit, de asemenea, că are aproximativ 30.000 de „agenți” de inteligență artificială care desfășoară activități de cercetare și inginerie și că a direcționat recent aproximativ 6% din puterea de calcul cheltuită pentru cercetare și dezvoltare către activități de siguranță.

Anthropic pare să fi solicitat altor firme de inteligență artificială să dezvăluie informații similare despre progresul lor în ceea ce privește auto-îmbunătățirea inteligenței artificiale și alocarea resurselor.

„Orice dezvoltator de frontieră ar putea publica aceste măsurători în mod regulat, folosind o metodologie publică”, a declarat compania.

„Raportăm aceste măsurători deoarece oferă publicului, terților și guvernelor o mai bună vizibilitate asupra ritmului dezvoltării inteligenței artificiale în cadrul laboratoarelor de frontieră.”

Propunerile companiei vin după o săptămână de dezbateri în industria tehnologică și la Washington despre potențialul pericol pe care inteligența artificială l-ar putea reprezenta pentru oameni – sau pentru umanitate în ansamblu.

Săptămâna trecută, un angajat al Anthropic a demisionat și a declarat că firma „se joacă cu viețile noastre”.

Citește și:

„Să nu ajungă pe mâini rele”. Regele Charles se teme de pericolele inteligenței artificiale și le transmite un mesaj direct șefilor AI

Ce vor companiile AI: siguranța oamenilor sau eliminarea concurenței?