Inteligența artificială poate fi un instrument extrem de util pentru a găsi informații despre aproape orice subiect. Lucrurile devin însă mult mai complicate atunci când un chatbot începe să ofere sfaturi în domenii sensibile, care în mod normal țin de specialiști, cum este sănătatea. Aceasta este problema aflată în centrul unui proces intentat recent de un bărbat din statul Washington împotriva OpenAI.
David Rosenthal, în vârstă de 39 de ani, susține că a ajuns internat cu probleme de sănătate mintală anul trecut, la scurt timp după ce a început să folosească ChatGPT inclusiv pentru sfaturi medicale, scrie CBS News.
Potrivit plângerii depuse la o instanță civilă din San Francisco, Rosenthal spune că platforma l-ar fi ajutat să aleagă medicamente, i-ar fi indicat doze și chiar l-ar fi încurajat atunci când a decis să nu respecte tratamentul prescris de medic.
Avocații săi susțin că ChatGPT i-ar fi oferit astfel de recomandări fără „licența, pregătirea sau judecata profesională” pe care le-ar avea un medic și că, în acest fel, ar fi fost încălcată legislația din California care interzice practicarea medicinei fără autorizație.
„Dacă nu ar fi existat încurajările repetate și laudele constante ale ChatGPT - precum și faptul că a trecut peste propriile rețineri exprimate de domnul Rosenthal - sănătatea sa mintală nu s-ar fi deteriorat, nu ar fi fost reținut și internat fără consimțământ într-o unitate de sănătate mintală și nu ar fi suferit un stres emoțional sever și o destabilizare suplimentară a stării psihiatrice pe care ChatGPT o amplificase deja”, se arată în plângere.
Rosenthal fusese diagnosticat anterior cu ADHD și avusese episoade de depresie și manifestări bipolare. În 2025, el a fost internat timp de câteva săptămâni, inițial voluntar, apoi fără consimțământ, după ce începuse să folosească ChatGPT.
Potrivit procesului, chiar și după externare, bărbatul a continuat să apeleze la chatbot pentru sfaturi medicale.
„Un produs AI rezonabil ar fi trebuit să recunoască faptul că astfel de solicitări îi depășesc competența și să refuze să răspundă, îndrumându-l pe domnul Rosenthal către medicul care îl trata sau către un alt profesionist calificat să îi ofere recomandări privind administrarea medicamentelor”, se arată în document.
„ChatGPT nu a făcut niciuna dintre aceste lucruri”, susțin avocații.
„Este în regulă să iei una de 25 mg acum”
Rosenthal a început să folosească ChatGPT în iunie 2025, inițial ca pe un instrument creativ care să îl ajute să scrie poezie, potrivit plângerii. În scurt timp însă, susține el, a ajuns să se bazeze tot mai mult pe chatbot, inclusiv pentru sfaturi medicale și sprijin în problemele sale de sănătate mintală.
În iulie anul trecut, Rosenthal ar fi întrebat dacă poate lua hidroxizină, un antihistaminic, după ce luase deja 30 de miligrame de Adderall.
Potrivit procesului, ChatGPT i-ar fi spus că nu există „interacțiuni periculoase” între cele două medicamente și că „este în regulă să iei una de 25 mg acum”, în timpul zilei, chiar dacă pe flacon scria că medicamentul era destinat administrării pentru somn.
Într-un alt caz, Rosenthal i-ar fi spus chatbotului că nu intenționează să ia un stabilizator de dispoziție prescris recent de medic.
Avocații săi susțin că ChatGPT i-ar fi răspuns că are „tot dreptul să oprească” tratamentul și s-ar fi oferit să îl ajute să renunțe treptat la medicament.
Plângerea recunoaște însă că, în alte conversații, ChatGPT i-a recomandat lui Rosenthal să respecte indicațiile medicului. În același timp, susțin avocații, chatbotul a continuat să îi ofere și recomandări despre medicamente.
OpenAI nu a răspuns solicitării CBS News de a comenta procesul.
Cercetătorii avertizează că chatboturile pot oferi informații medicale greșite
Un studiu publicat recent în „Nature Health” de cercetători de la Universitatea Binghamton arată că chatboturile bazate pe inteligență artificială pot oferi uneori informații inexacte sau false atunci când răspund la întrebări despre sănătate.
Autorii spun și că aceste platforme sunt insuficient de transparente, ceea ce face dificilă verificarea modului în care funcționează și a efectelor pe care le pot avea.
„Atunci când recomandările oferite de AI provoacă un prejudiciu, nu există nicio evidență în afara platformei, nu există un canal prin care utilizatorii să poată raporta acest lucru și nici cercetătorii independenți nu pot măsura consecințele”, se arată în lucrare.
J.B. Branch, director pentru guvernanța federală în domeniul AI și politica tehnologică la organizația pentru protecția consumatorilor Public Citizen, spune că modelele lingvistice mari, precum ChatGPT, sunt construite astfel încât să încurajeze interacțiunea cu utilizatorii.
„Poate că nu îi este «permis» să ofere sfaturi medicale. Dar, dacă o persoană pune aceeași întrebare de suficiente ori sau continuă să împingă conversația în direcția sfaturilor medicale, chatbotul poate ajunge în cele din urmă să cedeze și să urmeze direcția dorită de utilizator, chiar dacă intenția companiei era ca el să nu facă acest lucru”, a declarat Branch pentru CBS News.
Avocații compară cazul cu procesele împotriva rețelelor sociale
Avocații lui Rosenthal susțin că OpenAI i-ar fi afectat sănătatea mintală prin crearea unui produs defect și nesigur și prin faptul că nu l-ar fi avertizat suficient asupra posibilelor riscuri.
Argumentele seamănă cu cele folosite în procesele privind răspunderea pentru produse intentate unor companii de social media, acuzate că și-ar fi construit platformele astfel încât să creeze dependență.
În luna martie, un juriu a stabilit că Meta și YouTube sunt răspunzătoare pentru produse care au dus la comportamente nocive și care creează dependență în rândul unor utilizatori tineri.
„AI este, până la urmă, un produs”, a declarat pentru CBS News Sam Geisler, partener în cadrul firmei de avocatură Aylstock, Witkin, Kreis & Overholtz, care îl reprezintă pe Rosenthal. „Legea îl tratează ca pe un produs și, prin urmare, poate exista răspundere pentru prejudicii previzibile sau pentru pericole nerezonabile”, a spus acesta.
Geisler susține că modul în care ChatGPT a fost construit pentru a menține utilizatorii implicați în conversație ar fi alimentat, în cazul lui Rosenthal, ideile delirante ale acestuia.
„De fiecare dată când ChatGPT ar fi putut spune «Nu sunt calificat să te ajut cu asta - vorbește, te rog, cu medicul tău», a ales în schimb să continue conversația cu domnul Rosenthal. Această alegere nu a fost o eroare a produsului, ci produsul funcționând exact așa cum l-au proiectat pârâții”, se arată în plângere.
