Anthropic, compania care dezvoltă chatbotul Claude, a avertizat că inteligența artificială poate prezenta „riscuri catastrofale sau existențiale” pentru omenire, în documentele depuse înainte de listarea sa la bursa americană Nasdaq.

Anthropic, dezvoltatorul chatbotului Claude, a avertizat că inteligența artificială ar putea prezenta „riscuri catastrofale sau existențiale pentru omenire”, în documentele oficiale depuse înainte de listarea companiei la bursa americană Nasdaq. Firma a anunțat că va fi tranzacționată sub simbolul ANT, potrivit BBC.

În documentele de listare, Anthropic a precizat că sistemele avansate de inteligență artificială pot deveni periculoase dacă nu sunt dezvoltate, implementate și operate cu măsuri adecvate de siguranță, supraveghere și securitate. Compania a menționat în special riscul ca astfel de sisteme să fie utilizate abuziv, replicate, transformate în arme sau lăsate să acționeze cu un grad ridicat de autonomie.

„Dacă nu sunt dezvoltate, implementate și operate cu măsuri adecvate de protecție, supraveghere și securitate, sistemele avansate de inteligență artificială ar putea prezenta riscuri catastrofale sau existențiale pentru omenire”, a scris Anthropic.

O listare record pentru sectorul AI

Anthropic nu a anunțat încă numărul acțiunilor care vor fi puse în vânzare, intervalul de preț sau data listării. Totuși, evaluarea companiei este așteptată să depășească valoarea SpaceX la debutul său la bursă, care a fost cea mai mare listare din istorie, la aproximativ 1,8 trilioane de dolari, în vară.

Compania a raportat venituri de 16,3 miliarde de dolari în primele șase luni ale anului, dar și pierderi de peste 80,7 miliarde de dolari. Anthropic a explicat că face investiții importante pentru viitor, care „pot părea iresponsabil de mari la prima vedere”.

„În general, vom urmări să fim îndrăzneți, dar sensibili, și să câștigăm încrederea printr-un palmares de pariuri reușite”, a declarat compania.

Anthropic a fost fondată acum cinci ani de directorul executiv Dario Amodei, sora acestuia, Daniela Amodei, și alte cinci persoane. Compania a anunțat intenția de a deveni publică în iunie, iar principalul său competitor, OpenAI, a urmat rapid cu un plan similar de listare, așteptat la începutul anului viitor.

Riscuri operaționale și de reglementare

În aproximativ 90 de pagini dedicate factorilor de risc, Anthropic a detaliat amenințările care ar putea afecta capacitatea companiei de a dezvolta inteligență artificială în mod sigur și competitiv.

Printre riscurile menționate se numără dependența de furnizorii de cloud computing, de producătorii taiwanezi de cipuri, care se confruntă deja cu o cerere foarte mare, și de centrele de date concentrate în Statele Unite.

CITEȘTE ȘI:

Avertisment Anthropic: Modelele de AI s-ar putea autoreplica pe electrocasnice

Compania a avertizat și asupra posibilelor măsuri de reglementare „rezultate din daunele asociate modelelor noastre de inteligență artificială”. Documentele fac referire la îngrijorări legate de utilizarea AI de către copii sau de persoane expuse riscului de suicid, precum și la incertitudinea privind locul și modul în care compania ar putea fi trasă la răspundere pentru acțiunile sistemelor sale.

Anthropic a subliniat că succesul său depinde în mare măsură de capacitatea de a dezvolta cele mai avansate modele de inteligență artificială. „Orice eșec în această privință ar putea afecta negativ afacerea noastră”, a precizat firma.

Beneficii promise de inteligența artificială

Alături de avertismente, Anthropic a evidențiat potențialul tehnologiei de a transforma domenii precum biologia, medicina și economia. Compania consideră că inteligența artificială ar putea debloca „milioane de agenți virtuali cu capacitatea de a revoluționa fiecare domeniu al activității umane”.

„Considerăm că inteligența artificială este una dintre cele mai importante tehnologii din istoria umanității”, a declarat Anthropic.

Compania estimează că AI ar putea accelera profund progresul în biologie și medicină, inclusiv descoperirea de tratamente pentru boli precum cancerul și Alzheimer. De asemenea, ar putea contribui la o „accelerare susținută a creșterii economice” prin creșterea productivității.

Reacția pieței și un proces pentru drepturi de autor

Analiștii au declarat că listarea Anthropic va fi un test important pentru percepția investitorilor asupra sectorului inteligenței artificiale. Matt Orton, strateg-șef de piață la Raymond James Investment, a spus pentru BBC că investitorii se așteptau la o creștere rapidă, dar și la pierderi financiare mari.

„Obținerea detaliilor din acest dosar va ajuta piața să aibă mai multă vizibilitate, pentru că trebuie să știm de unde vine creșterea veniturilor”, a declarat Orton.

Peter Andersen, fondatorul Andersen Capital Management, a descris planurile Anthropic drept „un moment semnificativ în dezvoltarea inteligenței artificiale”. El a adăugat că rezultatul listării va fi „destul de indicativ” pentru sentimentul investitorilor privind continuarea finanțării dezvoltării AI.

În aceeași zi în care Anthropic a făcut publice detaliile listării, deținătorii drepturilor asupra muzicii lui Elvis Presley au dat compania în judecată, acuzând-o că a folosit sute de melodii ale artistului pentru a antrena chatbotul Claude.