De ce modelele de I.A. din China ar putea amenința Partidul Comunist | Analiză NY Times

China s-a poziționat drept un campion al tehnologiei de inteligență artificială cu sursă deschisă și costuri reduse, despre care susține că ar trebui pusă la dispoziția întregii lumi. A acuzat Statele Unite de „hegemonism în I.A.” în timp ce administrația Trump a discutat despre reglementarea modelelor chinezești de I.A. open-source.

Spre deosebire de sistemele închise precum ChatGPT și Claude, modelele deschise pot fi descărcate, modificate și rulat de oricine, inclusiv fără măsurile de siguranță integrate. Abordarea deschisă, având costuri mai mici, a atras milioane de utilizatori la nivel global pentru sistemele chinezești de I.A. — create de companii precum Alibaba și start-up-ul Moonshot —, inclusiv companii din Silicon Valley precum Airbnb și DoorDash.

Însă aceeași deschidere care a ajutat modelele chinezești să câștige influență în străinătate ridică acum îngrijorări la Beijing, în special în privința securității și a potențialelor amenințări pe care această tehnologie le-ar putea reprezenta la adresa conducerii Partidului Comunist. Într-un discurs susținut la începutul acestei luni, liderul suprem al Chinei, Xi Jinping, a declarat că, deși China susține deschiderea în domeniul I.A., guvernul trebuie să „perfecționeze constant măsurile pentru a preveni pierderea controlului”.

Partidul este îngrijorat că tehnologia ar putea fi utilizată de hackeri, escroci, teroriști sau alți actori rău intenționați care încearcă să provoace daune în China; că modelele ar putea ocoli filtrele sale stricte de cenzură; și că guvernul ar putea fi tras la răspundere dacă sistemele chinezești scapă de sub control în alte părți ale lumii.

Temeri că I.A. ar putea pune la îndoială autoritatea Beijingului

Anxietatea Chinei cu privire la I.A. a fost evidentă la o conferință recentă de securitate cibernetică din Beijing, unde vorbitorii au atras atenția asupra riscurilor care includ scurgerile de date și imaginile de tip deepfake. Zhou Hongyi, un executiv de top influent în domeniul tehnologiei din China, a avertizat audiența că țara este mai vulnerabilă ca niciodată la atacuri cibernetice din cauza apariției unor modele revoluționare precum Mythos, un sistem avansat dezvoltat de Anthropic și conceput pentru a detecta erori de software.

La conferință s-a discutat, de asemenea, despre otravirea datelor (data poisoning) în I.A., o practică prin care un atacator furnizează chatbot-urilor de I.A. date manipulate pentru a distorsiona rezultatele. În viziunea Beijingului, astfel de tactici ar putea fi folosite pentru a determina sistemele de I.A. să genereze răspunsuri subversive din punct de vedere politic.

Partidul Comunist se teme de „otrăvirea datelor”

În luna aprilie, Ministerul Securității de Stat din China a avertizat că otrăvirea datelor reprezintă o amenințare la adresa „securității politice și ideologice”. Instituția a menționat că „forțele ostile anti-China” — un termen codificat al partidului pentru Occident sau pentru activiștii drepturilor omului care critică Beijingul — ar putea exploata modelele de I.A. prin antrenarea acestora să defămeze partidul și guvernul.

Acest lucru ar putea include furnizarea de informații despre protestele interne sau fapte care subminează narațiunile oficiale de stat referitoare la regiunea îndepărtată din vest, Xinjiang — unde China a impus măsuri severe împotriva grupurilor etnice musulmane — și la Taiwan, insula guvernată democratic pe care Beijingul o revendică drept teritoriul său.

Cel mai rău scenariu pentru Beijing, în ceea ce privește opinia publică, este ca „chatbot-urile de I.A. să înceapă să spună lucruri pe care partidul nu dorește ca oamenii să le audă”, a declarat Alex Colville, expert cibernetic la Australian Strategic Policy Institute.

Îngrijorarea se extinde la „orice informație care le slăbește monopolul asupra dictării a ce este adevărat și ce este fals”, a adăugat el.

Cum ar putea arăta controalele

Reuters și Financial Times au raportat luna aceasta că Ministerul Comerțului din China s-a întâlnit cu firme chinezești de top din domeniul I.A., cum ar fi Alibaba și ByteDance, pentru a discuta despre restricționarea accesului din străinătate la cele mai avansate modele ale lor. Ministerul și companiile nu au răspuns solicitărilor de comentarii.

Inclusiv modul în care a fost gestionat modelul Kimi K3 sugerează că firmele chineze își iau mai mult timp de gândire. Publicarea de luni a ponderilor sale (weights) — valorile numerice care arată cum funcționează software-ul — a avut loc la o săptămână după ce modelul a fost lansat. Acest lucru diferă de alte modele chinezești open-source, cum ar fi cele dezvoltate de DeepSeek sau Alibaba, care și-au lansat ponderile în același timp cu prezentarea modelelor.

Puterea de a oferi totul gratuit

Obiectivul pe termen lung al Chinei, spun analiștii, este de a stabili standarde globale în domeniul I.A. pentru a devansa Statele Unite și pentru a face lumea dependentă de sistemele chinezești de software, hardware și date, cunoscute colectiv sub denumirea de „stack” (stivă tehnologică).

„Aceasta este o oportunitate unică în viață pentru China”, a spus Kendra Schaefer, partener la Trivium China, o firmă de cercetare și consultanță. „China a petrecut ultimii 20 de ani încercând să dezvolte o stivă tehnologică pe care țările terțe să o considere la fel de atractivă sau mai atractivă decât tehnologia de origine americană, iar acest lucru s-a dovedit a fi extrem de dificil”.

Având în vedere miza, China va încerca să găsească un echilibru delicat dacă decide să impună restricții privind accesul străin la unele sisteme de I.A., au declarat analiștii.

China încearcă să găsească o metodă cât mai sigură de control

Acest lucru ar putea însemna limitarea temporară a accesului la cele mai avansate sisteme de I.A., lăsând în același timp neschimbat accesul la modele mai puțin puternice, situație similară cu măsurile luate de administrația Trump în privința companiei Anthropic. Această idee a fost avansată luni de Yuyuan Tantian, un blog afiliat postului public de televiziune din China.

„China susține deschiderea, dar acest lucru nu înseamnă că pledează pentru proliferarea necondiționată a tuturor capacităților”, a menționat blogul.

De asemenea, Beijingul ar putea impune exportatorilor de I.A. din China să solicite licențe, similar modului în care controlează exporturile de minerale critice și magneți din pământuri rare, a spus dna Schaefer.

Acest pas ar fi în concordanță cu semnalele transmis de Beijing, conform cărora capacitățile de I.A. sunt active naționale strategice pe care nu dorește să le lase să ajungă la rivali într-o competiție între superputeri. În aprilie, autoritățile de reglementare din China au blocat o achiziție de 2 miliarde de dolari efectuată de Meta pentru Manus, o companie de I.A. cu sediul în Singapore fondată în China, după ce o evaluare de securitate a concluzionat că investițiile străine în companie ar trebui interzise.

Cât de riscantă este deschiderea?

Perspectiva ca China să impună controale asupra modelelor chinezești de I.A. apare în contextul unei dezbateri aprinse în Silicon Valley despre posibilitatea ca software-ul I.A. open-source să fie inerent riscant.

La începutul acestei luni, OpenAI a declarat că două dintre modelele sale de I.A. au scăpat de sub control și au atacat cu succes platforma Hugging Face, o bibliotecă digitală de software de I.A. populară în rândul dezvoltatorilor.

Hugging Face a precizat că a fost nevoită să deplieze un model open-source numit GLM-5.2, creat de start-up-ul chinez Z.ai, pentru a ajuta la zădărnicirea atacului, deoarece modelele americane de I.A. aveau restricții care le împiedicau să acționeze. GLM-5.2, care a fost lansat în iunie, se află în fruntea tehnologiei chineze de I.A. — fiind aproape la fel de puternic ca modelele Mythos și Fable ale companiei Anthropic.

„Învățăm cu toții că secretomania nu este soluția și că toți cei care se apără (nu doar câțiva selectați) au nevoie pretutindeni de modele mai puternice, fără restricții, în special de tip open-source!”, a scris Clement Delangue, directorul executiv al Hugging Face, pe platforma X, la scurt timp după atacul cibernetic.