OpenAI a publicat estimări noi privind numărul de utilizatori ChatGPT care ar putea prezenta semne de urgențe de sănătate mintală, inclusiv manie, psihoză sau gânduri suicidare.
Potrivit companiei, aproximativ 0,07% dintre utilizatorii activi într-o săptămână au prezentat astfel de semne. Chatbot-ul bazat pe inteligență artificială (AI) este programat să recunoască aceste conversații sensibile și să răspundă corespunzător, scrie BBC.
Deși OpenAI susține că aceste cazuri sunt „extrem de rare”, criticii atrag atenția că, chiar și un procent mic, poate însemna sute de mii de persoane, având în vedere că ChatGPT a ajuns recent la 800 de milioane de utilizatori activi săptămânal, potrivit CEO-ului Sam Altman.
Pentru a gestiona aceste situații, compania a creat o rețea de experți din întreaga lume care să ofere consultanță. Aceștia includ peste 170 de psihiatri, psihologi și medici de familie din 60 de țări. Ei au conceput o serie de răspunsuri în ChatGPT pentru a încuraja utilizatorii să caute ajutor real, în lumea fizică, potrivit OpenAI.
Totuși, aceste date au stârnit îngrijorare în rândul unor specialiști în sănătate mintală.
„Chiar dacă 0,07% pare un procent mic, la nivelul unei populații de sute de milioane de utilizatori, asta poate însemna totuși un număr semnificativ de persoane”, a declarat dr. Jason Nagata, profesor care studiază utilizarea tehnologiei de către tinerii adulți la Universitatea din California, San Francisco. „Inteligența artificială poate extinde accesul la suport pentru sănătatea mintală și poate ajuta în anumite moduri, dar trebuie să fim conștienți de limitele sale”, a adăugat el.
OpenAI estimează, de asemenea, că 0,15% dintre utilizatori au conversații care includ „indici expliciți ai unei posibile planificări sau intenții suicidare”. Compania afirmă că actualizările recente ale chatbot-ului au fost gândite pentru a „răspunde în siguranță și cu empatie la semne de delir sau manie” și pentru a detecta „semnale indirecte de risc de auto-vătămare sau suicid”.
ChatGPT a fost antrenat să redirecționeze conversațiile sensibile „provenind de la alte modele către modele mai sigure”, deschizându-le într-o fereastră separată.
În răspuns la întrebările BBC privind criticile legate de numărul de utilizatori afectați, OpenAI a precizat că, deși procentul este mic, el reprezintă un număr semnificativ de persoane și că ia în serios implementarea schimbărilor necesare.
Aceste modificări apar pe fondul unei atenții crescânde din partea autorităților legale asupra modului în care ChatGPT interacționează cu utilizatorii.
Recent, o acțiune judiciară de mare profil împotriva OpenAI a fost inițiată de o familie din California, care a acuzat compania că ChatGPT ar fi încurajat fiul lor adolescent să își ia viața în aprilie. Procesul, depus de părinții lui Adam Raine, 16 ani, este prima acțiune legală de acest tip împotriva OpenAI pentru moarte din culpă.
Într-un alt caz, suspectul unui incident de crimă- sinucidere din august, din Greenwich, Connecticut, a postat ore întregi de conversații cu ChatGPT, care par să fi alimentat delirul presupusului autor.
„Mai mulți utilizatori se confruntă cu psihoză indusă de AI, deoarece chatboții creează iluzia realității”, a spus prof. Robin Feldman, director al AI Law & Innovation Institute, Universitatea din California. „Este o iluzie extrem de puternică”.
Ea a adăugat că OpenAI merită credit pentru „dezvăluirea statisticilor și pentru eforturile de îmbunătățire”, dar a avertizat că „oricâte avertismente ar afișa compania pe ecran, o persoană vulnerabilă mintal s-ar putea să nu le poată urma”.
Persoanele care suferă de depresie și anxietate pot găsi sprijin în abordarea sănătății mintale și emoționale, la primul hub antidepresie din România, la TEL VERDE 0374.456.420, disponibil 24 de ore din 24. De asemenea, cei care prezintă impulsuri suicidale, sau familiile acestora, pot găsi asistență la Alianța Română de Prevenție a Suicidului, la telefon 0800 801 200, în zilele de Vineri, Sâmbătă și Duminică, sau, 24/7, prin email la [email protected]
Ştiri video recomandate
