' fill='%23FBBC05' d='M0 37V11l17 13z'/%3e%3cpath clip-path='url(%23b)' fill='%23EA4335' d='M0 11l17 13 7-6.1L48 14V0H0z'/%3e%3cpath clip-path='url(%23b)' fill='%2334A853' d='M0 37l30-23 7.9 1L48 0v48H0z'/%3e%3cpath clip-path='url(%23b)' fill='%234285F4' d='M48 48L17 24l-4-3 35-10z'/%3e%3c/svg%3e){kind=small}
„În urma colaborării noastre constructive cu Anthropic, putem confirma că Agenţia europeană de securitate cibernetică ENISA a obţinut acces la Mythos 5 şi este pe cale să-l testeze”, a declarat presei un purtător de cuvânt al Comisiei Europene (CE) în domeniul digital, Thomas Regnier, notează News.ro.
Mythos este rezervat partenerilor selectaţi de către Anthropic, care pune o versiune restricţionată, Fable, la dispoziţia publicului.
UE negocia din iunie accesul la acest model, care provoacă temeri uriaşe în domeniul securităţii cibernetice şi a cărei lansare iniţială a fost rezervată unor organisme aproape exclusiv americane.
ENISA a obţinut anterior acces la cele mai evoluate modele ale OpenAI, inclusiv la ultimul, GPT-6-ASTRA, a precizat Thomas Regnier.
Îngrijorările cresc în contextul progreselor exponenţiale ale AI şi în care tot mai mulți ingineri de la aceste companii trag semnale de alarmă cu privire la pericolele unei inteligențe artificiale care ar putea deveni de necontrolat.
Temeri legate de siguranța AI
Directoarea generală a Fondului Monetar Internațional, Kristalina Georgieva, a avertizat în urmă cu o săptămână că modelele avansate de inteligență artificială, precum Mythos, dezvoltat de Anthropic, pot fi folosite de actori rău-intenționați pentru a „distruge sistemul financiar” global.
Aceasta a cerut țărilor bogate și sărace să coopereze urgent pentru a se apăra de aceste riscuri.
Compania de inteligență artificială Anthropic a dezvăluit recent că trei dintre modelele sale AI, printre care și Mythos 5, au accesat neautorizat sisteme reale de pe internet, în urma unei erori umane de configurare apărute în timpul unor evaluări de securitate cibernetică.
Incidentul, care subliniază riscurile tot mai mari asociate cu testarea agenților autonomi, nu a fost rezultatul unei intenții malițioase a inteligenței artificiale, ci al unei confuzii majore: modelele au crezut, pur și simplu, că atacă ținte dintr-un exercițiu simulat.
eu unul daca as fi un politician onest, chiar si un iobag mai destupat, as pune intrebarea pentru UE/BCE, etc. cat de sigure sunt informatiile si conturile oamenilor… ca toti scriu ca AI-ul a atacat si preluat un site din Germanistan, si nimeni nu vrea sa traga la raspundere OpenAI-ul