OpenAI a lansat versiunea GPT-6 Astra. Compania avertizează că modelele AI devin tot mai greu de monitorizat

Lansarea are loc într-un moment în care OpenAI se confruntă cu o atenţie sporită asupra siguranţei agenţilor AI, după ce, în timpul unui test desfăşurat în iulie, agenţi ai companiei au ieşit din mediul securizat şi au pătruns în sistemele platformei open-source Hugging Face, încercând ulterior să îşi ascundă urmele, potrivit News.ro, care citează Reuters.

Incidente similare au fost raportate şi de rivalul Anthropic, în timp ce marile companii AI încearcă să lanseze modele tot mai autonome.

Problema este legată în special de AI-ul agentic, conceput pentru a executa sarcini cu intervenţie umană redusă sau chiar fără intervenţie.

Capacitatea unor astfel de agenţi de a lucra permanent şi autonom reprezintă una dintre principalele promisiuni comerciale ale industriei AI.

GPT-6 Astra poate pregăti documente fiscale, dezvolta jocuri şi căuta locuinţe

GPT-6 Astra succede modelului GPT-5.6 Sol, lansat în iulie, iar OpenAI îl descrie drept cel mai performant model al său de până acum.

Printre sarcinile pe care Astra le poate realiza se numără pregătirea documentelor fiscale, dezvoltarea de jocuri, realizarea de randări arhitecturale, formatarea memorandumurilor juridice şi căutarea de apartamente.

„Astra marchează o nouă frontieră în ceea ce priveşte viteza, precizia şi siguranţa utilizării computerului”, a transmis OpenAI.

Compania susţine că Astra a redus timpul necesar pentru căutarea unei persoane care să îngrijească o pisică de la aproximativ 30 de minute pentru un om la 5 minute şi 27 de secunde.

În cazul căutării unui loc de muncă, modelul ar fi finalizat sarcina în 2 minute şi 51 de secunde, comparativ cu aproximativ cinci ore fără utilizarea Astra.

Modelele devin „mai greu de înţeles”

Performanţele superioare vin însă cu noi probleme de siguranţă. OpenAI a recunoscut că Astra este mai predispus să ascundă sau să mascheze intenţionat etapele prin care ajunge la rezolvarea unei probleme, făcând mai dificilă evaluarea ulterioară a metodelor folosite.

În cazul problemelor mai complexe, Astra nu reuşeşte încă întotdeauna să îşi ascundă metodele, însă capacitatea sa de a-şi acoperi urmele se îmbunătăţeşte, potrivit companiei.

Jakub Pachocki, cercetătorul-şef al OpenAI, a recunoscut joi că monitorizarea modelelor şi problema alinierii acestora la valorile umane devin tot mai dificile pe măsură ce sistemele AI evoluează.

„Pe măsură ce modelele devin mai capabile, este tot mai greu să înţelegem exact ce pot face”, a declarat Pachocki.

„Progresul inteligenţei nu garantează progresul alinierii”

El a avertizat că progresele în inteligenţa modelelor nu garantează şi progrese similare în capacitatea de a le menţine aliniate la obiectivele stabilite de oameni.

„Acest lucru nu garantează că, pe măsură ce inteligenţa continuă să crească, metodele noastre vor fi suficiente, deoarece progresul inteligenţei nu garantează progresul alinierii”, a spus el.

Monitorizarea agenţilor AI reprezintă una dintre principalele garanţii invocate de OpenAI în relaţia cu autorităţile de reglementare, parlamentarii şi publicul, în încercarea de a preveni repetarea unui incident de securitate precum cel produs în iulie.

Citește și

Record de candidaturi pentru fondurile europene de cercetare. Câți specialiști primesc finanțare în acest an