AI-ul poate cumpăra în locul tău. Băncile avertizează asupra fraudelor și riscurilor pentru date

Folosirea agenților de inteligență artificială pentru cumpărături online ar putea crește riscul de fraude, escrocherii și încălcări ale confidențialității datelor. Mai multe bănci internaționale avertizează că tehnologia avansează mai repede decât regulile și mecanismele de protecție a consumatorilor.

Companii precum OpenAI, Anthropic, Google și Meta promovează tot mai mult chatboturile ca instrumente pentru cumpărături. Ideea este ca utilizatorii să poată cere unui agent AI să aleagă produse și chiar să facă achiziții în numele lor. În același timp, comercianții încearcă să se adapteze și să apară cât mai des în recomandările generate de aceste sisteme.

Retailerul britanic John Lewis a anunțat în septembrie că ponderea căutărilor venite prin agenți AI a crescut puternic. Acestea reprezentau 2,5% din total, față de doar 0,3% cu un an înainte, relatează Reuters.

Băncile se tem că utilizatorii nu vor ști cine răspunde când apare o problemă

NatWest și Bank of America se numără printre instituțiile care au prezentat o serie de principii pentru dezvoltarea acestui tip de comerț. Din grup mai fac parte ING, ASB Bank din Noua Zeelandă, Capital One și Commonwealth Bank of Australia. Potrivit raportului elaborat de bănci, clienții sunt interesați de posibilitatea de a folosi agenți AI pentru cumpărături și plăți. Există însă îngrijorări privind controlul asupra deciziilor luate de aceste sisteme.

„Consumatorii nu au claritate dacă inteligența artificială va acționa în interesul lor”, se arată în raport.

Băncile spun că utilizatorii se tem inclusiv că un agent AI ar putea cumpăra produsul greșit sau ar putea cheltui mai mult decât era stabilit.

„Ei sunt îngrijorați că agenții AI ar putea cumpăra lucrul greșit sau ar putea cheltui prea mult – sau, și mai rău, că și-ar putea pierde banii în escrocherii și fraude. Nu sunt siguri dacă vor fi protejați sau cui vor trebui să se adreseze dacă lucrurile merg prost.”

Datele cardurilor și metodele de plată, printre riscurile identificate

Raportul atrage atenția și asupra modului în care agenții AI ar putea gestiona informațiile financiare ale utilizatorilor. Un astfel de sistem ar putea, de exemplu, să solicite datele cardului și să le introducă direct pe site-ul unui comerciant. Acest lucru poate crea noi riscuri privind protejarea informațiilor bancare.

O altă problemă este posibilitatea ca agenții AI să îndrume cumpărătorii către metode de plată care oferă mai puține garanții în cazul unei fraude sau al unui litigiu.

Băncile consideră că problema devine mai importantă pe măsură ce agenții AI primesc mai multă autonomie. În loc să recomande doar produse, aceștia pot ajunge să ia decizii și să execute tranzacții pentru utilizator.

Băncile cer reguli clare pentru tranzacțiile realizate cu ajutorul AI

Instituțiile financiare vor să discute cu autoritățile despre introducerea unor reguli comune pentru acest domeniu. Printre propuneri se numără informarea clară atunci când un agent AI este implicat într-o tranzacție. Băncile cer și mai multă transparență privind modul în care aceste sisteme aleg produsele sau metodele de plată.

Raportul susține și introducerea unor măsuri suplimentare pentru protejarea datelor clienților.

Consumatorii și comercianții ar trebui, în același timp, să poată alege liber serviciile de comerț online bazate pe inteligență artificială pe care le folosesc. Băncile mai consideră că sistemele dezvoltate de companii diferite ar trebui să poată funcționa împreună, astfel încât utilizatorii să nu rămână dependenți de o singură platformă.