UE dă lovitura decisivă „deșeurilor digitale" generate de IA

Uneori ai impresia că o jumătate de lume este ocupată să folosească în secret inteligența artificială, în timp ce cealaltă jumătate se întrece în a o da în vileag, scrie POLITICO.

Detectoarele de IA, fie ele umane sau de altă natură, sunt pe cale să primească cel mai puternic impuls de până acum, odată cu noile cerințe privind „filigranarea” impuse de UE, intrate în vigoare luna aceasta — cerințe ce ar putea da peste cap modul în care utilizatorii de internet percep și interacționează cu imaginile, videoclipurile și textele generate de IA.

Încă de la ascensiunea inteligenței artificiale generative la sfârșitul anului 2022, au existat temeri că dominanța acesteia ar putea marca sfârșitul așa-numitului „adevăr fotografic”: ideea că ceea ce vezi este, prin natura lucrurilor, adevărat. Deși companiile majore din domeniul IA au declarat că doresc să preîntâmpine acest risc prin identificarea provenienței conținutului generat de modelele lor, eforturile lor au fost, în mare măsură, voluntare.

Acum, legiuitorii Uniunii Europene cer ca utilizatorii de internet să fie informați dacă interacționează cu o IA și dacă conținutul pe care îl văd este produsul unor roboți sau creația unei ființe umane.

Luni, colosul american din domeniul IA, Anthropic, a anunțat că toate modelele sale viitoare vor suporta filigranarea pentru a se conforma normelor europene.

„Nu cred că oamenii înțeleg amploarea acestei schimbări”, a declarat Ashley Casovan, directoarea executivă a centrului de guvernanță IA din cadrul organizației de experți IAPP, axată pe confidențialitate și IA. Ea a descris trecerea de la o lume în care oamenii trebuiau să ia o „decizie fundamentată” cu privire la posibilitatea ca un conținut să fie generat de IA, la una în care un astfel de conținut poartă un simbol sau o marcă vizibilă de verificare.

UE reglementează, deși Europa nu deține o platformă de top în domeniul IA

Chiar și fără a deține o platformă de top în domeniul IA, Europa modelează modul în care această tehnologie transformațională este lansată la nivel global. Legea emblematică a UE privind inteligența artificială (Artificial Intelligence Act) a început să oblige cele mai mari platforme din lume să ia decizii cruciale în privința tuturor aspectelor, de la siguranță până la transparență.

Este o dovadă în plus că Bruxelles-ul ajunge adesea să funcționeze ca un fel de regulator global de ultimă instanță, pregătit să intervină și să impună limite industriei Big Tech, care altfel ar înainta în orb cu toată viteza. În trecut, scopul a fost protejarea confidențialității prin Regulamentul General privind Protecția Datelor (GDPR) și supravegherea modului în care platformele gestionau conținutul dăunător — măsuri care au avut un efect de domino la nivel mondial.

Acum, începând cu 2 august, furnizorii celor mai avansate modele de IA generativă, cum ar fi Anthropic și OpenAI, trebuie să se asigure că utilizatorii lor știu că interacționează cu o IA și că rezultatul generat este marcat explicit ca fiind produs de IA.

Obligațiile de transparență prevăzute de lege reprezintă „principalul punct de interes în acest moment, în ceea ce privește subiectele de pe buzele tuturor”, a declarat Francesca Pole, avocat specializat în date, confidențialitate și securitate cibernetică la DLA Piper.

Vizualizarea invizibilului

Cele mai importante companii au anunțat deja că vor intra în joc: nu doar prin semnarea unui set de bune practici UE pentru conformare, ci și prin anunțarea unei serii de ajustări tehnice.

OpenAI a promis la sfârșitul lunii iulie că „oamenii ar trebui să aibă un context mai clar asupra conținutului pe care îl văd online, inclusiv dacă acesta a fost creat sau editat de IA”.

Compania se bazează pe SynthID, un instrument de filigranare dezvoltat de DeepMind — divizia Google orientată pe IA —, pentru a aplica imaginilor generate de IA o marcă „invizibilă”. La sfârșitul lunii iulie, compania a extins această tehnologie și asupra conținutului audio.

Anthropic i-a urmat exemplul în această zi de luni, anunțând că toate modelele Claude lansate începând cu 2 august vor adăuga „filigrane integrate în text”.

Filigranul este țesut direct în textul propriu-zis, a precizat compania într-o postare pe blog.

„Nu îl veți vedea și nu modifică sensul, calitatea sau lizibilitatea răspunsului oferit de Claude”, se arată în postare. „Deoarece filigranul face parte din text, acesta se va deplasa odată cu textul atunci când este copiat și lipit în altă parte.”

Interesul utilizatorilor scade, atunci când află că interacționează cu un conținut generat de IA

Ambele companii au promovat, de asemenea, un standard industrial dezvoltat de organizația C2PA (Coalition for Content Provenance and Authenticity), menit să stocheze și să transfere metadatele privind proveniența conținutului.

Aplicarea filigranului pe conținut este însă doar primul pas; detectarea acelor mărci și stabilirea vizibilității lor pentru utilizatorii de internet reprezintă un al doilea pas, crucial.

Companii precum Anthropic vor trebui să colaboreze cu platformele pe care circulă conținutul generat de IA pentru a-l „vizualiza”, a afirmat Walter Pasquarelli, cercetător în conținut sintetic la Universitatea din Cambridge și consilier în cadrul OECD.

Iată cum a descris el funcționarea practică a acestui proces: „Generezi ceva pe Claude, îl introduci pe o platformă de social media, ești pe cale să faci o postare, iar interfața în care este introdusă postarea ar putea deține detectoarele capabile să identifice filigranul.”

Consecințele ar putea fi de amploare. „Exista o mulțime de dovezi… în ceea ce privește mediile de informare, că de îndată ce oamenii află că un anumit lucru este generat de IA, interesul și interacțiunea lor scad considerabil”, a spus el.

Sau, în jargonul digital actual, a adăugat Pasquarelli, inițiativa UE ar putea reduce valul de „deșeuri digitale generat de IA” (AI slop).

Platformele sunt deja pe deplin conștiente de explozia IA, LinkedIn adăugând recent o opțiune prin care utilizatorii pot semnala o postare ce „pare a fi maculatură generată de IA”.

Această evoluție depășește cu mult obiectivul inițial al Bruxelles-ului de a preveni caracterul înșelător al conținutului generat de IA. „Discuția s-a mutat de la conținutul generat de IA cu intenție dezinformatoare, la conținutul generat de IA în ansamblul său”, a concluzionat Pasquarelli cu o notă de ironie.