OpenAI angajează oameni să analizezeze conversațiile tale cu ChatGPT. Care este motivul

Sute de angajați vor analiza conversații reale purtate de utilizatori cu ChatGPT, ca parte a unui proces menit să îmbunătățească răspunsurile sistemului, scrie informat.ro/en.

Acces la conversații

Evaluatorii pot avea acces la conversații întregi și analizează modul în care rețeaua neuronală răspunde solicitărilor. De asemenea, urmăresc reducerea comportamentelor considerate nedorite, precum politețea excesivă, tendința de a părea „prea uman”.

Pentru „Project Lily” colaboratorii sunt recrutați, printre altele, prin intermediul companiilor Mercor și Crossing Hurdles.

OpenAI susține că încearcă să elimine automat datele personale înainte ca dialogurile să fie trimise evaluatorilor și că aceștia nu văd numele utilizatorilor. Totuși, compania recunoaște că filtrele automate nu sunt perfecte și că anumite detalii private pot ajunge în conversațiile analizate.

Informațiile personale

Criticii avertizează că utilizatorii care au oferit informații personale sau secrete în discuțiile cu ChatGPT riscă să le vadă expuse unor persoane din afara cercului lor apropiat.

Programul „Project Lily” implică sute de contractori plătiți cu peste 50 de dolari pe oră pentru a citi și a evalua conversații reale, purtate de o parte dintre cei peste 900 de milioane de utilizatori ai ChatGPT, potrivit techrepublic.com.

Recrutarea se face prin firme intermediare precum Mercor și Crossing Hurdles, iar evaluatorii notează răspunsurile modelului și semnalează comportamente problematice, de la tonul excesiv de politicos până la tendința de a imita prea mult vorbirea umană.

Filtru de confidențialitate

OpenAI aplică un filtru automat de confidențialitate înainte ca dialogurile să ajungă la evaluatori, dar recunoaște că acesta poate eșua în cazul unor identificatori rari sau al unor formulări ambigue.

Politica diferă în funcție de tipul de cont: pentru conturile individuale, opțiunea de folosire a conversațiilor pentru îmbunătățirea modelului este activată implicit, în timp ce conturile Enterprise, Business și Edu sunt excluse din start.

Citește și: ChatGPT: arhitectura și impactul simbiozei dintre limbajul uman și Inteligența Artificială Generativă (IAG)