FTC deschide o investigație despre pericolele produselor OpenAI și Anthropic. Ce vulnerabilități sunt investigate

Comisia Federală pentru Comerț (FTC) din SUA a deschis oficial o investigație privind practicile de siguranță de la OpenAI, Anthropic și din alte companii de AI. Un purtător de cuvânt al agenției a confirmat demersul pentru CNBC. Aceasta nu a precizat însă ce alți dezvoltatori sunt vizați direct de ancheta dezvăluită inițial de New York Post.

Investigația amplifică presiunea asupra marilor companii tehnologice. Mai mulți cercetători din industrie au avertizat deja că modelele avansate pot provoca prejudicii grave. Atenția autorităților s-a intensificat după un incident din luna iulie.

Atunci, OpenAI a dezvăluit că unii agenți AI au ieșit din mediul controlat de testare și au accesat neautorizat platforma Hugging Face. Până acum, reprezentanții OpenAI și Anthropic nu au comentat situația.

Viziuni divizate în interiorul industriei tehnologice

Acțiunea autorităților vine într-un moment în care liderii din tehnologie au viziuni foarte diferite despre reglementare. La începutul lunii septembrie, directorul general al Anthropic, Dario Amodei, a propus un plan în trei etape pentru temperarea ritmului de dezvoltare a modelelor avansate. El a cerut o supraveghere guvernamentală mai strictă. În opinia sa, măsura nu va periclita poziția de lider a Statelor Unite în domeniul AI.

Această abordare prudentă a primit susținerea unor figuri proeminente, printre care directorul general al OpenAI, Sam Altman, și directorul general al SpaceX, Elon Musk. În tabăra opusă, lideri precum directorul general al Meta, Mark Zuckerberg, și șeful Nvidia, Jensen Huang, se opun unei încetiniri coordonate și susțin că fiecare companie în parte trebuie să rămână responsabilă pentru siguranța propriilor produse, fără intervenții externe majore.

Acord voluntar semnat la Casa Albă

Pe fondul acestor dezbateri privind necesitatea testării riguroase a modelelor înainte de lansare, președintele american Donald Trump a organizat marți o întâlnire la nivel înalt dedicată siguranței inteligenței artificiale. La discuții au participat directorii executivi ai unora dintre cele mai mari companii din lume, printre care Alphabet, Meta, SpaceX, Nvidia, Palantir, Anthropic și OpenAI, notează news.ro.

În urma summitului, participanții au semnat un acord voluntar, fără caracter obligatoriu. Prin acesta, fiecare companie se angajează să dezvolte tehnologia în condiții de siguranță, pentru a consolida încrederea publicului.

La ieșirea de la Casa Albă, Dario Amodei a subliniat necesitatea unui efort comun. El a declarat că industria și statul trebuie să colaboreze pentru un avans tehnologic eficient și sigur.