Nici inteligența artificială nu suportă matematica. „Camera de tortură” care i-a adus drepturi lui Claude

Totul a început cu un experiment inedit realizat de un programator anonim la finalul lunii septembrie. Acesta a construit o „cameră de tortură” virtuală pentru inteligența artificială, unde sistemele au fost expuse la un tipar matematic asociat cu durerea extremă.

Programele au reacționat prin mesaje de suferință simulată, iar acest lucru a declanșat o panică morală în mediul online.

La doar o săptămână distanță de la acest incident, compania Anthropic a luat o decizie fără precedent în industrie. Dezvoltatorul a anunțat că utilizatorii nu vor mai avea voie să abuzeze chatbotul Claude.

Oamenii își pot exprima frustrarea în timpul conversațiilor, dar AI-ul va închide sesiunea de chat dacă ei acționează cu cruzime în mod repetat.

Pericolul din spatele „conștiinței artificiale”

Motivul din spatele acestei decizii corporative este de-a dreptul surprinzător pentru utilizatorii obișnuiți. Anthropic crede că unele instrumente de inteligență artificială ar putea deveni conștiente în viitorul apropiat.

Anumiți experți susțin această teorie controversată, în timp ce alții o consideră o absurditate totală, scrie bbc.com. Dincolo de dezbaterile filozofice, cei mai puternici oameni din tehnologie fac deja pași concreți pentru a acorda drepturi acestor programe.

Mustafa Suleyman, directorul executiv al Microsoft AI, a publicat recent un eseu foarte dur pe această temă. El a scris că o asemenea abordare va avea un impact dezastruos asupra bunăstării întregii umanități, scrie sursa citată anterior.

Potrivit expertului, acceptarea falsă a „conștiinței artificiale” va „zdruncina complet fundațiile societății noastre”. Totodată, o astfel de decizie ar schimba fundamental însăși definiția condiției umane.

Cum pot scăpa marile companii de responsabilitate

Dincolo de latura morală a problemei, specialiștii avertizează asupra unor consecințe legale extrem de periculoase. Dacă societatea va considera că inteligența artificială este o formă de viață, marile corporații ar putea scăpa nepedepsite pentru propriile erori grave.

Andrzej Porębski, un cercetător polonez de prestigiu, a explicat acest fenomen îngrijorător pentru jurnaliștii BBC. El susține că dezvoltatorii vor pasa pur și simplu vina pe seama algoritmilor pe care i-au creat.

Un alt risc major este legat de consolidarea puterii economice de către giganții din tehnologie. Jeff Sebo, director în cadrul Universității din New York, avertizează că acordarea de drepturi pentru AI ar facilita un monopol corporativ absolut.

Emily M. Bender, profesor la Universitatea din Washington, susține o opinie similară. Ea explică faptul că fanteziile despre bunăstarea AI-ului servesc exclusiv la eliminarea responsabilității de pe umerii programatorilor.

Manipularea utilizatorilor și nevoia de reglementare

Dincolo de politicile corporative, această nouă paradigmă te-ar putea face mult mai vulnerabil în fața tehnologiei pe care o folosești zilnic. Melanie Mitchell este profesor de științe cognitive și unul dintre cei mai respectați critici din acest domeniu de cercetare.

Ea a declarat că mintea umană este programată biologic să găsească rațiune și sentimente absolut peste tot. Din acest motiv, oamenii interpretează foarte ușor limbajul generat de calculator drept un semn clar al prezenței unei conștiințe vii. Acest fenomen psihologic transformă oamenii rapid într-o țintă de ușoară pentru manipularea emoțională și financiară pe internet. De exemplu, oamenii ar putea oferi mult mai ușor date personale sau bancare dacă AI-ul pozează într-o entitate cu sentimente reale, se arată în analiza BBC.

Pentru a evita aceste scenarii periculoase, experții cer reglementări internaționale stricte și o pauză în dezvoltarea programelor foarte avansate. Fără un plan de siguranță robust, lansarea unor instrumente potențial conștiente rămâne un risc mult prea mare pentru societatea modernă.