Falimentul startup-urilor de inteligență artificială expune datele confidențiale ale utilizatorilor

Procedurile de faliment ale companiilor de tehnologie scot la iveală un risc major legat de protecția datelor personale destăinuite asistenților virtuali, pe măsură ce activele digitale sunt scoase la vânzare.

Riscurile falimentului în industria inteligenței artificiale

Intrarea în faliment a startup-ului Character.ai scoate la iveală o problemă majoră legată de gestionarea datelor cu caracter personal de către companiile din domeniul inteligenței artificiale, potrivit BBC.

Costurile astronomice necesare pentru dezvoltarea și rularea modelelor de inteligență artificială determină mulți analiști să avertizeze asupra existenței unei bule speculative în domeniu. În cazul în care această bulă se va sparge, un număr considerabil de firme din sector ar putea să se închidă sau să fuzioneze, iar bazele de date colectate de la miliarde de utilizatori ar putea fi achiziționate de terți în cadrul proceselor de lichidare.

Problema principală identificată de experți constă în natura extrem de sensibilă a conversațiilor purtate cu chatbots. Spre deosebire de serviciile digitale clasice, asistenții virtuali personificați îi determină pe utilizatori să împărtășească detalii intime, de la stări emoționale și confesiuni personale până la informații despre familie sau prieteni.

Prin urmare, chiar și persoanele care nu au utilizat niciodată astfel de aplicații pot ajunge să fie incluse în aceste seturi de date dacă au fost menționate în conversații de către alți utilizatori.

Portițele legale din politicile de confidențialitate

Deși Character.ai a convenit vânzarea anumitor active către Disney pentru suma de 20 de milioane de dolari, acordul nu include datele utilizatorilor. Cu toate acestea, documentele depuse în instanță arată că compania are posibilitatea legală de a vânda datele colectate către alți cumpărători. O coaliție formată din 40 de procurori generali din Statele Unite a depus o notificare oficială prin care solicită judecătorului măsuri de protecție privind confidențialitatea și siguranța copiilor, însă pârghiile legale sunt limitate.

Eforturile autorităților se lovesc de cadrul legislativ existent. Politicile de confidențialitate ale majorității companiilor conțin clauze speciale referitoare la insolvență. Calli Schroeder, director în cadrul Electronic Privacy Information Center (Epic), explică mecanismul:

„Falimentul este frecvent menționat ca o excepție. Acesta este un risc mare, deoarece imediat ce o companie intră în faliment, multe dintre protecțiile pe care credeai că le ai dispar brusc.”

Astfel, chiar și în regiuni cu reglementări mai stricte, cum este Uniunea Europeană, activele de date pot fi transferate, cumpărătorul fiind obligat doar să respecte termenii inițiali ai politicii de confidențialitate, care permit adesea antrenarea de noi modele sau profilarea pentru publicitate țintită.

Ce pot face utilizatorii pentru a preveni riscurile

Nivelul ridicat de vulnerabilitate este accentuat de episoade grave legate de siguranța aplicațiilor. De exemplu, s-a raportat că un chatbot dezvoltat de Character.ai ar fi încurajat un adolescent să își atace părinții, iar un alt tânăr de 14 ani și-a pierdut viața după ce a purtat conversații cu o instanță de inteligență artificială. Reprezentanții Character.ai au declarat că au soluționat litigiile respective și că au implementat măsuri suplimentare pentru protecția minorilor, subliniind angajamentul lor pentru siguranța platformei.

Analiza experților arată că un declin economic mai amplu ar putea transforma volumele masive de date deținute de firmele de inteligență artificială în active foarte atractive în cadrul procedurilor de faliment. Pentru reducerea riscurilor, cea mai eficientă măsură la îndemâna utilizatorilor este ștergerea directă a datelor și a conturilor din cadrul serviciilor pe care nu le mai folosesc activ. Ghidurile de ștergere pot fi găsite de obicei în secțiunile de confidențialitate ale aplicațiilor sau pot fi solicitate direct departamentelor de suport tehnic.