Un scandal uriaș zdruncină sistemul de justiție din India, după ce hotărâri judecătorești false, generate cu ajutorul inteligenței artificiale, au reușit să păcălească un judecător, care a soluționat în baza lor un litigiu privind o proprietate. Cazul a ajuns până la Curtea Supremă a Indiei, care a suspendat decizia, a sesizat Baroul și procurorul general și a amenințat judecătorii cu sancțiuni disciplinare dacă folosesc AI sau acceptă documente generate cu acest instrument, relatează BBC.
Curtea Supremă a calificat cazul drept o chestiune de „îngrijorare instituțională” și a afirmat că hotărârile false generate de AI au „un impact direct asupra integrității procesului de judecată”.
Incidentul a ajuns în atenția presei, devenind cel mai recent dintr-o serie de cazuri în care inteligența artificială a perturbat procedurile judiciare în India și în alte părți ale lumii.
Problemele din cazul din Andhra Pradesh au apărut în august anul trecut, când un judecător civil junior de la instanța de fond din orașul Vijayawada a emis o ordonanță într-un dosar privind o proprietate disputată.
Instanța desemnase anterior un funcționar pentru a inspecta proprietatea și a depune un raport, lucru contestat de pârâți. Judecătorul le-a respins obiecția, invocând patru hotărâri anterioare, toate ulterior dovedite a fi generate de inteligență artificială.
Programele de inteligență artificială au simplificat considerabil sarcinile la locul de muncă, însă sistemele generative sunt cunoscute pentru că „halucinează” și prezintă informații false drept fapte, uneori chiar inventând surse pentru datele inexacte.
Pârâții au contestat decizia la Înalta Curte a statului, subliniind că hotărârile invocate erau false. Înalta Curte a recunoscut acest lucru, dar a acceptat că judecătorul civil junior a comis eroarea „cu bună-credință” și a menținut totuși decizia instanței de fond.
În motivarea sa, Înalta Curte a declarat că „trimiterile pot fi inexistente, dar dacă instanța de fond a avut în vedere principiile corecte de drept, iar aplicarea lor la faptele cauzei este corectă, simpla menționare a unor hotărâri/trimiteri incorecte sau inexistente nu poate constitui un motiv pentru anularea deciziei”.
Înalta Curte a solicitat, de asemenea, un raport din partea judecătoarei care folosise hotărârile generate de AI. Aceasta a declarat că era prima dată când utiliza un instrument de inteligență artificială și că a crezut că trimiterile erau „autentice”. Nu a avut intenția de a cita greșit sau de a denatura hotărârile și „eroarea s-a produs exclusiv din cauza încrederii într-o sursă automată”, a consemnat instanța.
Înalta Curte a pledat totodată pentru „exercitarea inteligenței reale asupra inteligenței artificiale”.
Curtea Supremă denunță un act de „abatere disciplinară”
Ulterior, pârâții au formulat un nou apel, ducând cazul la Curtea Supremă, care a fost mult mai puțin indulgentă în privința impactului utilizării AI.
Criticând ferm hotărârile false, instanța supremă a suspendat vinerea trecută decizia instanței inferioare privind litigiul imobiliar. A precizat că utilizarea AI în pronunțarea hotărârilor nu reprezintă doar „o eroare în luarea unei decizii”, ci un act de „abatere disciplinară”.
„Acest caz ridică o problemă instituțională semnificativă, nu din cauza soluției pronunțate pe fondul cauzei, ci din cauza procesului de judecată și de determinare a acesteia”, a declarat instanța supremă.
Curtea a anunțat că va examina cazul mai detaliat și a emis notificări către procurorul general al țării, precum și către Baroul din India.
Într-un alt caz, luna trecută, Curtea Supremă și-a exprimat îngrijorarea față de tendința avocaților de a utiliza instrumente AI pentru redactarea cererilor. „Este absolut nejustificat”, a citat publicația juridică LiveLaw instanța.
India nu este singura țară care se confruntă cu efectele AI în instanțe. În octombrie, doi judecători federali din Statele Unite au fost criticați pentru utilizarea unor instrumente AI care au dus la erori în hotărârile lor. În iunie 2025, Instanța Supremă din Anglia și Țara Galilor a avertizat avocații să nu folosească materiale generate de AI în dosare, după o serie de cazuri în care au fost invocate hotărâri fictive sau parțial inventate.
Instituțiile juridice din India, alături de altele din întreaga lume, încearcă să găsească modalități de reglementare și monitorizare a utilizării inteligenței artificiale în sala de judecată.
Anul trecut, Curtea Supremă a publicat un document de luare poziție privind utilizarea AI în sistemul judiciar indian, în care a enumerat bune practici și orientări pentru folosirea AI de către instituțiile judiciare, avocați și grefieri. Instanța a subliniat necesitatea supravegherii umane și importanța menținerii garanțiilor instituționale.