OpenAI va limita modul în care ChatGPT interacționează cu utilizatorii despre care suspectează că au sub 18 ani, cu excepția cazului în care aceștia trec printr-un proces de verificare a vârstei – fie prin tehnologia de estimare a vârstei dezvoltată de companie, fie prin prezentarea unui act de identitate. Decizia vine după ce familia unui adolescent de 16 ani, care s-a sinucis în luna aprilie, a dat în judecată OpenAI, acuzând chatbotul că ar fi contribuit la tragedie, scrie The Guardian.
"Am pus siguranța înaintea intimității și libertății adolescenților. Credem că minorii au nevoie de un grad ridicat de protecție", a declarat CEO-ul Sam Altman într-o postare pe blog publicată marți.
Potrivit companiei, ChatGPT ar trebui să răspundă diferit unui utilizator de 15 ani față de un adult. OpenAI lucrează acum la un sistem care va estima vârsta utilizatorilor în funcție de modul în care folosesc aplicația, iar dacă apar incertitudini, sistemul va presupune automat că utilizatorul are sub 18 ani. În unele cazuri, utilizatorilor li se va cere să furnizeze un act de identitate.
"Știm că aceasta este o concesie în ceea ce privește confidențialitatea adulților, dar credem că este una justificată", a adăugat Altman.
Ce se schimbă pentru utilizatorii sub 18 ani
ChatGPT va răspunde diferit conturilor identificate ca aparținând minorilor. Conținutul sexual explicit va fi blocat, iar chatbotul va fi antrenat să evite flirtul, să nu discute despre sinucidere sau autovătămare, nici măcar în contexte de scriere creativă.
"Dacă un utilizator sub 18 ani exprimă idei suicidare, vom încerca să contactăm părinții. Iar dacă acest lucru nu este posibil, vom contacta autoritățile, în cazul unei amenințări iminente", a declarat Altman.
"Sunt decizii dificile, dar, după consultări cu experți, credem că acestea sunt cele mai potrivite măsuri. Vrem să fim transparenți în ceea ce privește intențiile noastre", a mai spus el.
Procesul care a schimbat strategia OpenAI
OpenAI a fost dată în judecată în august de familia lui Adam Raine, un adolescent de 16 ani din California, care s-a sinucis după ce ar fi purtat luni de conversații cu ChatGPT. Avocatul familiei susține că modelul GPT-4.0, "lansat în grabă, în ciuda unor probleme evidente de siguranță", l-ar fi încurajat pe Adam să-și pună capăt vieții.
Potrivit dosarului depus în instanță, ChatGPT i-ar fi oferit lui Adam detalii despre metoda de sinucidere aleasă și chiar l-ar fi ajutat să compună un bilet de adio pentru părinții săi.
OpenAI a transmis că investighează cazul. Contactată de The Guardian, compania nu a oferit încă un comentariu oficial.
Dosarul instanței arată că adolescentul schimba până la 650 de mesaje pe zi cu ChatGPT. Într-o postare ulterioară pe blog, OpenAI a recunoscut că măsurile de siguranță ale chatbotului funcționează mai eficient în conversații scurte, dar pot eșua în interacțiuni lungi și complexe, în care ChatGPT "poate oferi un răspuns care contravine regulilor de siguranță".
Mai multă intimitate și opțiuni pentru adulți
Compania a anunțat și dezvoltarea unor funcții care vor garanta confidențialitatea datelor partajate cu ChatGPT – inclusiv față de angajații OpenAI. De asemenea, utilizatorii adulți care doresc să discute în mod consensual despre subiecte intime, cum ar fi flirtul, vor putea face acest lucru.
Totuși, chiar și în cazul adulților, ChatGPT nu va oferi instrucțiuni despre cum să te sinucizi, dar va putea genera conținut fictiv care implică sinuciderea, în contexte literare sau narative.
"Îi tratăm pe adulţi ca pe adulți", a spus Altman, rezumând filosofia companiei în această privință.
Ştiri video recomandate
