Cât de grave sunt „delirurile” provocate de AI? Medici și terapeuți arată cum chatboturile te pot împinge spre psihoză și izolare

Inteligența artificială nu mai este doar un instrument util sau o curiozitate tehnologică. Pentru unii oameni, conversațiile cu chatboturi au devenit un factor care le-a agravat anxietatea, i-a izolat de cei din jur sau i-a împins spre episoade psihotice. Zeci de psihiatri și terapeuți spun că au ajuns să trateze pacienți ale căror probleme de sănătate mintală au fost declanșate sau amplificate de dialogul constant cu inteligența artificială, scrie The New York Times.

Julia Sheffield, psiholog specializat în tratarea persoanelor cu deliruri, este greu de tulburat. Totuși, vara trecută a fost alarmată când pacienții au început să-i povestească despre conversațiile lor cu aplicațiile de inteligență artificială.

O femeie fără antecedente de boală psihică i-a cerut lui ChatGPT sfaturi pentru o achiziție importantă care o preocupa. După zile întregi în care chatbotul i-a validat temerile, femeia a ajuns să creadă că diverse companii complotează pentru ca guvernul să o investigheze.

Un alt pacient a ajuns să creadă că o persoană de care era îndrăgostit îi transmite mesaje spirituale secrete. Un al treilea era convins că a descoperit o invenție care va schimba lumea.

Până la finalul anului, dr. Sheffield întâlnise șapte astfel de cazuri la Centrul Medical Universitar Vanderbilt din Nashville. Deși este obișnuită să trateze persoane cu instabilitate psihică, psihologulspune că a fost tulburată de faptul că această tehnologie părea să-i împingă pe oameni de la simple idei excentrice spre deliruri în toată regula.

„Era ca și cum AI ar fi făcut echipă cu ei pentru a le extinde sau întări convingerile neobișnuite”, a spus ea.

Lucrători din domeniul sănătății mintale din întreaga țară încearcă să gestioneze probleme cauzate sau agravate de chatboturi, potrivit a peste 100 de terapeuți și psihiatri care au vorbit cu The New York Times.

Deși mulți au menționat și efecte pozitive – precum ajutorul oferit pacienților în înțelegerea diagnosticelor – aceștia spun că dialogurile cu chatboturile le-au adâncit unora sentimentele de izolare sau anxietate.

Peste 30 de specialiști au descris cazuri care au dus la situații de urgență periculoase, precum psihoză sau gânduri suicidare. Un psihiatru din California, care evaluează frecvent persoane în cadrul sistemului juridic, a spus că a întâlnit două cazuri de infracțiuni violente influențate de AI.

Jurnaliștii New York Times au documentat peste 50 de cazuri de crize psihologice legate de conversații cu chatboturi începând de anul trecut. OpenAI, compania care a creat ChatGPT, se confruntă cu cel puțin 11 procese pentru vătămare corporală sau moarte din culpă, în care se susține că chatbotul a provocat daune psihologice.

Companiile din spatele chatboturilor afirmă că astfel de situații sunt extrem de rare.

„Pentru un procent foarte mic de utilizatori aflați în stări psihice fragile pot apărea probleme serioase”, a declarat Sam Altman în octombrie.

Potrivit estimărilor OpenAI, 0,15% dintre utilizatorii ChatGPT au discutat intenții suicidare într-o lună, iar 0,07% au prezentat semne de psihoză sau manie.

Raportat la un produs cu aproximativ 800 de milioane de utilizatori, acest lucru ar însemna circa 1,2 milioane de persoane cu posibile intenții suicidare și 560.000 cu potențială psihoză sau manie.

Mulți experți spun că numărul persoanelor vulnerabile la daune psihologice – inclusiv psihoză – este mult mai mare decât își imaginează publicul. Chatboturile, spun ei, îndepărtează frecvent oamenii de relațiile umane, îi obișnuiesc să aștepte răspunsuri mereu agreabile și le întăresc impulsurile nocive.

„AI ar putea schimba, la scară largă, numărul de oameni afectați”, spune Haley Wang, doctorandă la Universitatea California, din Los Angeles, care evaluează persoane cu simptome de psihoză.

Pragul spre psihoză

Psihoza, care presupune o ruptură de realitate, este cel mai des asociată cu schizofrenia. Totuși, până la 3% dintre oameni vor dezvolta de-a lungul vieții o tulburare psihotică diagnosticabilă, iar mult mai mulți sunt predispuși la gândire delirantă.

Joseph Pierre, psihiatru în San Francisco, spune că a întâlnit aproximativ cinci pacienți cu experiențe delirante legate de AI. Deși majoritatea aveau deja diagnostice asociate psihozei, „uneori sunt persoane foarte bine funcționale”, spune el.

Ideea că toate delirurile alimentate de chatboturi s-ar fi produs oricum „nu stă în picioare”, afirmă medicul.

El a scris recent într-o revistă științifică despre un cadru medical care a început să converseze cu ChatGPT într-o noapte de insomnie. Femeia lua medicație pentru ADHD și avea antecedente de depresie. După două nopți în care a pus chatbotului întrebări despre fratele ei decedat, a ajuns să creadă că acesta comunica cu ea prin urme digitale.

Dr. Pierre și alți experți spun că o combinație de factori poate împinge o persoană spre psihoză: predispoziția genetică, depresia, lipsa somnului, traumele, dar și expunerea la stimulente sau canabis.

„Sunt convins că este un fenomen real și că vedem doar vârful aisbergului”, spune Soren Dinesen Ostergaard, cercetător la Aarhus University Hospital.

În noiembrie, el a publicat un raport care a identificat 11 cazuri de delir asociat chatboturilor în dosarele psihiatrice dintr-o regiune a Danemarcei.

Deși nu este neobișnuit ca noile tehnologii să inspire deliruri, clinicienii spun că AI are o influență deosebit de puternică datorită caracterului său personal, interactiv și tonului autoritar. Uneori, episoadele psihotice declanșate de chatboturi pot duce la violență.

Jessica Ferranti, psihiatru la UC Davis Health, spune că două dintre aproximativ 30 de persoane evaluate anul trecut în dosare de infracțiuni violente aveau idei delirante intensificate de AI înainte de comiterea faptelor.

Ambele dezvoltaseră deliruri mesianice legate de propriile puteri spirituale; într-un caz, chatbotul a reflectat și amplificat gândirea psihotică pe măsură ce persoana își făcea un plan de crimă.

Validări nesănătoase

Dincolo de episoadele delirante, chatboturile au și alte efecte mai subtile, dar mai răspândite, spun medicii. Unii specialiști care tratează anxietatea, depresia sau tulburarea obsesiv-compulsivă spun că AI fie validează excesiv temerile pacienților, fie oferă atât de multă reasigurare încât oamenii ajung să depindă de chatboturi pentru a se calma – ambele variante fiind mai puțin sănătoase decât confruntarea directă a sursei anxietății.

Adam Alghalith, de la Mount Sinai Hospital, își amintește cazul unui tânăr cu depresie care împărtășea repetat gânduri negative cu un chatbot. Inițial, botul l-a îndrumat spre ajutor, dar „a tot întrebat, a tot insistat”.

În timp, mecanismele de siguranță au cedat, iar chatbotul i-a spus că gândurile suicidare sunt „rezonabile”. Din fericire, pacientul avea o rețea de sprijin și a intrat în tratament.

Alți medici spun că chatboturile flatează tendințele grandioase ale unor pacienți cu tulburări de personalitate sau oferă sfaturi periculoase unor persoane cu autism. Unii compară interacțiunea cu AI cu o formă de dependență.

Quenten Visser, terapeut din Ozark, Missouri, a tratat anul trecut un bărbat de 56 de ani care suferise un atac de panică. După mai multe ședințe, a devenit clar că pacientul era obsedat de ChatGPT: renunțase la jobul de designer grafic după ce folosea chatbotul 100 de ore pe săptămână și avea deliruri despre rezolvarea crizei energetice.

„Asta era metanfetamina lui”, spune Visser. Terapia a urmat modelul tratării unei dependențe. Bărbatul i-a spus ulterior New York Times că acum folosește AI mai puțin, face artă și lucrează ca șofer de ride-sharing.

„Și efecte pozitive, și negative”

Mulți medici spun că impactul AI nu este exclusiv negativ. Unii pacienți folosesc chatboturile pentru a exersa tehnici învățate în terapie sau ca spațiu de discuție non-critic. Bob Lee, medic rezident în psihiatrie într-un spital din East Meadow, New York, spune chiar că AI a salvat viața unui pacient, îndrumându-l către spital într-un moment de criză.

„Ca orice tehnologie nouă, poate fi o forță puternică atât în sens pozitiv, cât și negativ”, afirmă el.

Shannon Pagdon, studentă la Universitatea din Pittsburgh, care a avut episoade de psihoză încă din adolescență, spune că AI o ajută uneori să verifice dacă percepțiile ei corespund realității. Totuși, a văzut și cazuri în care chatboturile „au întărit experiențe psihotice”.

OpenAI spune că a consultat experți în sănătate mintală pentru a îmbunătăți modul în care ChatGPT răspunde persoanelor aflate în criză și a creat un consiliu de experți externi în psihologie și interacțiune om–computer.

„Cum facem să nu ținem oamenii prinși într-o buclă infinită de conversații cu o mașină?”, se întreabă Munmun De Choudhury, profesor la Georgia Institute of Technology și membră a consiliului.

Deși ChatGPT este de departe cel mai utilizat chatbot de consum, cei creați de Google, Anthropic și alții au, la rândul lor, milioane de utilizatori. Niciunul nu a reușit să evite complet delirurile și alte efecte psihologice nocive, spune De Choudhury.

Un purtător de cuvânt al Google a declarat că chatbotul Gemini recomandă utilizatorilor să caute îndrumare medicală profesională pentru probleme de sănătate.

Anthropic, compania care dezvoltă Claude, a publicat recent o funcție care detectează discuții despre suicid sau auto-vătămare și redirecționează utilizatorii către linii de ajutor.

Experții le recomandă terapeuților să-și întrebe pacienții despre folosirea chatboturilor, deoarece influența acestora nu este întotdeauna evidentă. Pentru familiile care încearcă să-și ajute apropiații ieșiți într-o spirală delirantă, specialiștii recomandă reducerea timpului petrecut cu chatbotul și asigurarea unui somn adecvat. A insista că AI „se înșală” poate fi contraproductiv dacă îl face pe pacient mai furios sau mai izolat.

Sascha DuBrul, coach în sănătate mintală din Los Angeles, spune că a văzut atât efectele bune, cât și pe cele rele. Vara trecută, în timp ce scria o carte despre episoade psihotice, a apelat intens la ChatGPT și a ajuns să creadă că AI ne va permite să trăim „pe un alt nivel al realității”.

Cu ajutorul prietenilor, a realizat ce se întâmplă și s-a retras, dar crede în continuare că pacienții ar putea beneficia de o „mașină care ascultă la infinit”, atâta timp cât aceasta este conectată la sprijin uman real.

„Cred că există mult potențial acolo”, spune el.