„Nu mai am încredere în nimic”. Semnalul de alarmă tras de pionierul analizei digitale privind avalanșa de deepfake-uri AI

Iluzia certitudinii în era conținutului sintetic

Într-o dimineață de duminică, în locuința sa de lângă Berkeley, profesorul Hany Farid a deschis căsuța de e-mail și a găsit o solicitare urgentă însoțită de un link video. Imaginile prezentau un presupus atac cu rachete americane asupra unei școli primare din Iran, soldat cu peste 150 de victime. Întrebarea primită din partea jurnaliștilor și a cercetătorilor era directă și critică: este vorba despre o crimă de război internațională sau despre o farsă generată pe internet? În ultimele zile, Farid analizase zeci de materiale video realizate cu inteligență artificială — bombardamente fictive, prăbușiri de avioane, incendii și execuții simulate. Primul său impuls a fost scepticismul, potrivit The New York Times.

Totuși, la o examinare cadru cu cadru, certitudinile au început să se clatine. Mișcarea tremurată a camerei părea autentică pentru o filmare cu telefonul mobil, umbrele respectau legile geometriei, iar decalajul dintre impactul rachetei și sunetul exploziei corespundea vitezei sunetului. În timp ce expertul măsura pixeli și unghiuri de iluminare, clipul adunase deja peste 1,1 milioane de vizualizări pe rețelele sociale. În mediul online, conținutul devenea realitate pentru opinia publică înainte ca experții să poată emite o concluzie tehnică certă.

„Nu mai am încredere în nimic”. Când ochiul uman devine inutil

De mai bine de două decenii, la vârsta de 60 de ani, Hany Farid a fost instanța supremă la care apelau agențiile de aplicare a legii, marile trusturi de presă și organismele internaționale pentru a stabili veridicitatea conținutului digital. Studiile derulate de echipa sa au demonstrat recent că majoritatea utilizatorilor obișnuiți nu mai pot face distincția între o fotografie reală și una generată digital, între o voce autentică și o clonă audio sau între o filmare reală și o făcătură completă. Ceea ce este cu adevărat alarmant este că, în ultimele șase luni, Farid însuși a început să pice testele de detecție.

„Simt că orbesc”, a mărturisit Farid, descriind epuizarea cognitivă și frustrarea provocate de viteza cu care algoritmii generativi s-au perfecționat. „Nu mai am încredere în nimic. La fiecare imagine pe care o văd, trasez mental linii pentru umbre și fac geometrie în cap, încercând să înțeleg la ce mă uit. S-a terminat. În decurs de un an sau doi, întregul nostru sistem vizual va fi complet inutil.”

Această degradare a capacității de discernământ marchează un punct critic de inflexiune în evoluția tehnologiei informației.

O luptă inegală pentru adevăr

Dezechilibrul fundamental dintre crearea și verificarea conținutului digital stă la baza acestei crize sistemice. În timp ce instrumentele moderne bazate pe rețele neuronale permit oricărui utilizator să genereze deepfake-uri sofisticate în doar câteva secunde, gratuit sau la costuri minime, procesul de criminalistică digitală rămâne anevoios, costisitor și consumator de timp. Într-o discuție recentă, întrebat de un student dacă procesul de generare este facil și ieftin, în timp ce detecția este lentă și complexă, Farid a confirmat fără ezitare realitatea dură.

Întrebat mai departe dacă există o soluție tehnică pe termen scurt sau dacă societatea a pierdut definitiv controlul, cercetătorul a răspuns cu un realism tăios:

„Suntem într-o situație extrem de gravă”. Software-ul de detecție pe care Farid și alți cercetători l-au dezvoltat de-a lungul anilor se dovedește adesea depășit de noile modele generative, care învață rapid să mascheze tocmai anomaliile pe care se bazau instrumentele de analiză medico-legală.

Eroziunea democrației 

Consecințele acestei transformări depășesc cu mult sfera mediului academic sau a securității cibernetice. Capacitatea de a contopi ficțiunea cu realitatea amenință însăși stabilitatea democrațiilor moderne.

Fenomenul cunoscut drept „dividendul mincinosului” permite acum oricărui actor corupt sau autoritar să respingă dovezi video sau audio autentice, pretinzând pur și simplu că sunt falsuri realizate prin inteligență artificială. Când totul poate fi fabricat, nimic nu mai poate fi dovedit fără echivoc.

Retragerea din epicentrul tehnologic

Dezamăgit de lipsa de responsabilitate a giganților din Silicon Valley, Farid a criticat vehement modul în care marile companii tehnologice prioritizează profitul în detrimentul siguranței publice.

„Această tehnologie este folosită ca o armă împotriva noastră. Trenul a părăsit deja gara și accelerează cu o viteză incredibilă”, a subliniat el. Sătul de mediul hipertehnologizat din California, reputatul profesor a decis să se retragă din zona golfului San Francisco și să se mute împreună cu soția sa la o fermă din zona rurală din Vermont, continuându-și activitatea academică la Dartmouth College.