OpenAI a fost dată în judecată după ce ChatGPT ar fi încurajat un bărbat să își ucidă mama, alimentându-i iluziile paranoice

ChatGpt se confruntă cu primul său proces pentru complicitate la crimă în Connecticut, în Statele Unite ale Americii. Aplicația populară a OpenAi ar fi contribuit la moartea unei mame ucise de fiul ei, după ce inteligenţa artificială i-a alimentat bărbatului iluziile paranoice. 

Avocații care au intentat procesul au descris un scenariu „mai înfricoșător decât Terminator”, relatează New York Post, preluat de La Stampa, citând o afirmație conform căreia chatbotul însuși și-a recunoscut o oarecare responsabilitate în acest caz.

Procesul, intentat de moștenitorii lui Suzanne Eberson Adams, îl acuză pe fondatorul OpenAI, Sam Altman, că a jucat un rol, deși indirect, în crima, urmată de sinucidere, în care au fost implicați femeia în vârstă de 83 de ani și fiul ei, Stein-Erik Soelberg, în vârstă de 56 de ani, în data de 3 august.

Ambii au fost găsiți morți în casa lor din Greenwich, Connecticut. „ChatGpt a construit halucinațiile lui Stein-Erik Soelberg, un iad realizat la comandă, unde o imprimantă zgomotoasă ar putea însemna că mama sa în vârstă de 83 de ani complota să-l omoare”, au susținut avocații.

Companiile de inteligență artificială au fost implicate în cazuri de sinucidere în ultimii ani, dar aceasta este prima dată când ChatGpt este dat în judecată pentru că a provocat moartea cuiva.

Femeia a fost bătută brutal și a fost strangulată, în timp ce bărbatul s-a înjunghiat mortal după crimă. Procesul susține că agresorul, un fost director executiv din domeniul tehnologiei care se lupta cu probleme psihiatrice de ani de zile, a început sî folosească ChatGpt, dar ceea ce a fost la început o explorare simplă și inofensivă a inteligenței artificiale a devenit rapid o obsesie care i-a distorsionat întreaga percepție asupra realității.

Soelberg a numit chatbot-ul „Bobby Zenith”, căruia i-a mărturisit suspiciunile sale despre oamenii din jurul său. Astfel livratorii de pachete și iubitele lui au devenit spioni și asasini în mintea sa, ca apoi să-şi îndrepte paranoia asupra mamei sale. Potrivit avocaților, Stein-Erik l-a întâlnit pe „Bobby” în cel mai nepotrivit moment posibil, imediat după lansarea versiunii 4o, „concepută să fie expresivă emoțional și subordonată”. În cadrul procesului se mai arată: „Pentru a-i depăși pe cei de la Google pe piață chiar și cu o singură zi, OpenAI a comprimat luni de teste de securitate într-o singură săptămână, împotriva obiecțiilor propriei echipe”.