Un bărbat s-a prezentat în fața unui tribunal din New York cu un avatar generat de inteligența artificială (AI) pe post de avocat, stârnind furia judecătoarei care prezida cazul, scrie New York Times, care citează AP.
Jerome Dewald a folosit avatarul în încercarea sa de a pleda pentru anularea unei decizii a unei instanțe inferioare în litigiul său cu un fost angajator. Cum Dewalt nu este avocat și s-a reprezentat singur, instanța i-a permis să să adauge pledoariei sale o prezentare video preînregistrată.
Din primele secunde ale clipului, întreaga sală de judecată a fost contrariată, pentru că în videoclip apărea un bărbat aparent mai tânăr decât cei 74 de ani ai dlui Dewald, purtând o cămașă albastră cu guler și un pulover bej, stând în fața a ceea ce părea a fi un fundal virtual neclar. La câteva secunde după începerea filmării, unul dintre judecători, derutat de imaginea de pe ecran, l-a întrebat pe dl Dewald dacă bărbatul era avocatul său.
„Eu am generat asta”, a răspuns Dewald. „Nu este o persoană reală”.
Vizibil nemulțumită de răspunsul lui, Judecătoarea Sallie Manzanet-Daniels, de la Primul Departament Judiciar al Diviziei de Apel i-a spus acestuia: "Ar fi fost frumos să știm asta atunci când ați depus cererea de a vă apăra singur. Nu-mi place să fiu indusă în eroare! Suferiți sau nu de o boală care vă împiedică să vorbiți în fața instanței? Nu veți folosi această sală de judecată pentru a vă promova afacerea!”, înainte de a striga la cineva să oprească înregistrarea video.
Dewald, care se prezintă ca antreprenor, făcea apel la o hotărâre anterioară într-un litigiu contractual cu un fost angajator. În cele din urmă, el și-a prezentat argumentele în cadrul ședinței de apel, bâlbâindu-se și făcând pauze frecvente pentru a se reculege și pentru a citi notițe de pe telefonul mobil.
Iată mai jos înregistrarea video, postată live pe 26 martie 2025 pe canalul YouTube al diviziei de apel a Primului Departament Judiciar al Curții Supreme din statul New York:
Dewalt a creat avatarul digital folosind un software de inteligență artificială, acesta fiind cel mai recent exemplu al modului în care această tehnologie se strecoară în sistemul juridic american în moduri potențial îngrijorătoare.
Bărbatul plănuise să creeze o versiune digitală a sa
Contactat de AP, Dewald a declarat că a fost copleșit de jenă la audiere și că a trimis judecătorilor o scrisoare de scuze, exprimându-și regretul profund și recunoscând că acțiunile sale au „indus în eroare” instanța.
El a declarat că a recurs la utilizarea software-ului după ce a constatat în cadrul unor proceduri judiciare anterioare că nu este un bun orator, gândidu-se că prezentare făcută de avocatul AI ar putea diminua din presiunea pe care o va simți în sala de judecată.
Dewalt a mai spus că plănuise să creeze o versiune digitală a sa, dar că a întâmpinat „dificultăți tehnice” în acest sens, ceea ce l-a determinat să creeze în schimb o persoană falsă pentru înregistrare.
„Intenția mea nu a fost niciodată de a înșela, ci mai degrabă de a-mi prezenta argumentele în cel mai eficient mod posibil”, a declarat el în scrisoarea sa către judecători. „Cu toate acestea, recunosc că transparența trebuie să aibă întotdeauna întâietate.”
Folosirea AI în sistemul juridic, problematică. Sistemele pot avea "halucinații"
În 2023, un avocat din New York s-a confruntat cu repercusiuni grave după ce a folosit ChatGPT pentru a crea un memoriu juridic plin de opinii judiciare și citate juridice false. Cazul a scos în evidență limitele folosirii inteligenței artificiale și a devenit cunoscut printre cei care lucrează în domeniul juridic.
În același an, Michael Cohen, un fost avocat și intermediar al președintelui Trump, i-a furnizat avocatului său citate juridice false pe care le obținuse de la Google Bard, un program de inteligență artificială. În cele din urmă, Cohen a pledat pentru clemență din partea judecătorului federal care prezida cazul său, subliniind că nu a știut că serviciul de generare text putea furniza informații false.
Unii experți spun că inteligența artificială și modelele mari de limbaj pot fi utile persoanelor care au probleme juridice de rezolvat, dar nu își permit avocați. Totuși, riscurile tehnologiei rămân.
„AI-urile pot să aibă halucinații - să producă informații foarte convingătoare” care sunt de fapt „fie false, fie lipsite de sens”, a declarat Daniel Shin, director adjunct de cercetare la Centrul pentru Tehnologie Juridică și Judiciară de la Facultatea de Drept William & Mary. „Acest risc trebuie să fie luat în seamă”, a mai spus Shin, potrivit New York Times.