' fill='%23FBBC05' d='M0 37V11l17 13z'/%3e%3cpath clip-path='url(%23b)' fill='%23EA4335' d='M0 11l17 13 7-6.1L48 14V0H0z'/%3e%3cpath clip-path='url(%23b)' fill='%2334A853' d='M0 37l30-23 7.9 1L48 0v48H0z'/%3e%3cpath clip-path='url(%23b)' fill='%234285F4' d='M48 48L17 24l-4-3 35-10z'/%3e%3c/svg%3e){kind=small}
Un bărbat de 25 de ani din Florida a ajuns în atenția FBI după ce a descris în conversații cu ChatGPT planuri de a-și viola și ucide fosta iubită. Sistemele de siguranță ale OpenAI au detectat mesajele, iar cazul a fost verificat de angajații companiei și transmis autorităților. Darren Zhou, fost analist Goldman Sachs, a pledat ulterior vinovat și a primit opt ani de probațiune, notează Libertatea.
„Dacă nu pot să o am eu, atunci nimeni nu o va avea”
Cazul a început după despărțirea lui Zhou de o femeie de 21 de ani din Lake Worth Beach. Cei doi avuseseră o relație de aproximativ șase luni. Femeia s-a despărțit de acesta printr-un apel. Le-a spus ulterior anchetatorilor că se temea de reacția fostului partener, pe care îl considera gelos și autoritar. După despărțire, bărbatul ar fi continuat să o contacteze prin apeluri, mesaje și conturi de socializare.
În paralel, Zhou a început să discute cu ChatGPT despre fosta iubită. Potrivit documentelor judiciare citate de presa americană, mesajele au devenit treptat tot mai amenințătoare. Bărbatul ar fi oferit informații despre programul femeii, locurile pe care aceasta le frecventa și modul în care ar putea să o găsească.
„Dacă nu pot să o am eu, atunci nimeni nu o va avea”, a scris acesta într-una dintre conversații.
În alte mesaje, el ar fi vorbit despre răpirea și uciderea femeii și despre un posibil plan de crimă urmată de sinucidere. Potrivit actelor din dosar, Zhou susținea inclusiv că urmărea programul fostei partenere pentru a ști unde o poate găsi.
„Dacă nu îmi dă o a doua șansă, o voi viola și ucide, după care mă voi sinucide”, a mai scris bărbatul.
OpenAI a transmis cazul FBI-ului
Conversațiile au declanșat sistemele de siguranță ale OpenAI. Mesajele au fost apoi evaluate în cadrul unui proces de verificare umană, înainte ca situația să fie raportată autorităților. OpenAI spune că discuțiile care indică un risc credibil și iminent ca o persoană să facă rău altcuiva pot fi trimise forțelor de ordine. Compania precizează că astfel de cazuri reprezintă doar o parte limitată dintre situațiile semnalate de sistemele sale.
FBI a transmis informațiile mai departe Biroului Șerifului din Palm Beach County. Un anchetator care a analizat mesajele a considerat că acestea nu reprezentau simple izbucniri emoționale, ci indicau un tipar de pregătire și planificare.
Polițiștii au discutat și cu fosta iubită a bărbatului. Aceasta le-a arătat mesaje pe care le primise de la Zhou, unele fiind descrise drept amenințătoare, sexuale și jignitoare.
Zhou a fost arestat în luna mai. Procurorii l-au acuzat de hărțuire agravată, amenințări scrise cu moartea sau vătămarea corporală și folosirea unui dispozitiv de comunicare pentru comiterea unei infracțiuni.
Opt ani de probațiune și monitorizare electronică
Darren Zhou a pledat vinovat pe 13 august pentru cele trei acuzații. În urma unui acord acceptat de instanță, el a evitat închisoarea. Judecătorul Scott Suskauer l-a condamnat la opt ani de probațiune. În primii doi ani, Zhou trebuie să poarte un dispozitiv electronic de monitorizare. De asemenea, nu are voie să ia legătura cu fosta iubită sau să dețină arme de foc.
Instanța i-a mai impus participarea la un program destinat agresorilor și efectuarea unei evaluări psihologice. Avocatul său a susținut că tânărul traversa o criză de sănătate mintală în perioada în care au fost trimise mesajele.
Zhou lucra ca analist financiar la Goldman Sachs. Compania l-a concediat după ce a aflat despre caz.
au fost cateva cazuri recente in care profesori au fost arestati pentru ca in discutiile pe grupurile de profesori, „private”, AI-ul care le supraveghea a determinat, scos din context, ca faceau amenintari la adresa elevilor, si a sesizat militia… „1984”