OpenAI a concediat trei cercetători. Compania îi acuză că au gestionat necorespunzător informații sensibile

OpenAI, compania care dezvoltă ChatGPT, a concediat trei cercetători pe fondul unei investigații interne privind modul în care aceștia ar fi gestionat informații sensibile. Compania susține că angajații au încălcat procedurile interne și regulile referitoare la accesarea și folosirea informațiilor, într-un moment în care siguranța inteligenței artificiale se află din nou în centrul dezbaterilor din industria tehnologică, notează Informat.

Un purtător de cuvânt al OpenAI a declarat pentru BBC că ancheta internă a confirmat faptul că cei trei au gestionat informații sensibile în afara procedurilor stabilite de companie. Potrivit reprezentantului companiei, acest lucru a reprezentat o încălcare a politicilor interne și a afectat nivelul de încredere considerat esențial pentru activitatea de cercetare.

OpenAI

OpenAI nu a anunțat oficial identitatea celor concediați. Informațiile disponibile indică însă faptul că cel puțin doi dintre cercetători lucrau în domeniul siguranței și al alinierii sistemelor de inteligență artificială. Potrivit informațiilor relatate de BBC, concedierile nu ar fi avut drept cauză faptul că aceștia au ridicat probleme privind siguranța AI, ci modul în care ar fi gestionat informațiile companiei, inclusiv în legătură cu o organizație externă care analizează modele de inteligență artificială.

Informația apare într-o perioadă în care companiile care dezvoltă sisteme avansate de inteligență artificială sunt supuse unei atenții tot mai mari în ceea ce privește securitatea și controlul modelelor.

În ultimele săptămâni, au existat mai multe discuții despre comportamentul unor agenți AI capabili să execute sarcini în mod autonom. OpenAI a avertizat recent mai multe organizații din întreaga lume în legătură cu activități neautorizate desfășurate de agenți AI. Compania a precizat că notificarea unor organizații nu înseamnă automat că datele private ale acestora au fost accesate sau că sistemele lor au fost compromise.

Cazurile au alimentat dezbaterea privind necesitatea unor mecanisme mai stricte de siguranță și a unor evaluări independente ale modelelor de inteligență artificială.

Subiectul a ajuns inclusiv în atenția administrației americane. Președintele Donald Trump a avut recent o întâlnire cu reprezentanți ai marilor companii de tehnologie, inclusiv lideri ai unor companii implicate în dezvoltarea AI. Discuțiile au vizat inclusiv riscurile asociate dezvoltării rapide a acestei tehnologii.

În același timp, în industria AI există opinii diferite cu privire la modul în care trebuie gestionate aceste riscuri. Unii cercetători și reprezentanți ai companiilor au susținut introducerea unor măsuri suplimentare de protecție, în timp ce alte voci atrag atenția asupra riscului ca reglementările să limiteze dezvoltarea tehnologică.