Angajaţii din Congresul american scriu legi cu Claude şi ChatGPT. Rezultatul: textele sunt pline de greşeli

Un birou din Camera Reprezentanţilor a Statelor Unite, care se ocupă de redactarea legilor, se confruntă cu un val de proiecte legislative generate cu inteligenţă artificială – multe dintre ele pline de greşeli, scrie Politico.

Juriştii din Congresul american se chinuie să facă faţă unui potop de propuneri legislative scrise cu ajutorul unor instrumente de inteligenţă artificială, multe dintre ele pline de erori şi de formulări de proastă calitate.

Presiunea asupra Biroului de Consiliere Legislativă (Office of Legislative Counsel, OLC) din Camera Reprezentanţilor creşte pe măsură ce tot mai multe birouri din Congres şi tot mai multe grupuri din afară apelează la inteligenţa artificială generativă ca să redacteze legi. Concluzia reiese din discuţiile cu opt oficiali, actuali şi foşti, care lucrează sau au lucrat cu acest birou.

Ei spun că, întrucât inteligenţa artificială poate genera rapid munţi de text, juriştii de la OLC sunt nevoiţi să petreacă mult mai mult timp verificând şi rescriind aceste propuneri. Iar în multe cazuri, textele sunt pline de greşeli ale căror efecte s-ar putea răsfrânge cu mult dincolo de Washington – pot bloca adoptarea legilor şi pot duce la procese, din cauza unor articole de lege citate greşit sau a unor definiţii juridice incorecte.

Sosirea inteligenţei artificiale în Congres înseamnă că această tehnologie, care avansează extrem de rapid şi care ameninţă deja să dea peste cap industria software, războiul, Hollywoodul şi nenumărate alte domenii, ar putea în curând să modeleze legi care afectează milioane de americani – în moduri imprevizibile.

„Inteligenţa artificială e bună la multe lucruri”, spune Daniel Schuman, directorul executiv al organizaţiei nonprofit American Governance Institute, care ajută la modernizarea tehnologiei folosite de stat. „Dar nu e capabilă să redacteze o lege pe care ai vrea, apoi, să o adopţi”.

Angajaţii birourilor şi grupurile din afară „se duc la Claude sau la ChatGPT ca să redacteze textul de lege în sine”, spune o persoană care i-a consiliat pe angajaţi în privinţa acestei tehnologii – şi care, la fel ca alte câteva persoane citate în articol, a primit garanţia anonimatului, întrucât nu era autorizată să vorbească oficial.

Din cauza greşelilor pe care le generează aceste instrumente, OLC pierde „mai mult timp încercând să repare legislaţia scrisă de AI decât i-ar lua să o scrie de la zero”, mai spune sursa.

„Inteligenţa artificială nu poate înlocui profesioniştii pricepuţi şi dedicaţi din Biroul de Consiliere Legislativă, cei care ajută Camera Reprezentanţilor să-şi facă cea mai importantă treabă”, a declarat, într-un comunicat, Joe Morelle, liderul democraţilor din Comitetul pentru Administraţia Camerei.

„Dependenţa prea mare de texte de lege generate de AI ar putea introduce erori, ar putea crea consecinţe juridice neintenţionate sau ar putea duce la formulări care nu reflectă cu exactitate intenţia de politică publică a unui membru al Congresului”, a explicat şi Norma Torres, un alt democrat din comitet.

Ea a subliniat că OLC deţine expertiza tehnică esenţială pentru redactarea unor legi eficiente şi a adăugat că responsabilitatea finală pentru legile depuse revine membrilor Congresului şi echipelor lor.

„Această responsabilitate nu poate fi pasată unui chatbot”, a spus ea.

Însă patru angajaţi din Congres implicaţi în redactarea proiectelor de lege au declarat pentru POLITICO că folosirea inteligenţei artificiale devine tot mai obişnuită în Cameră, angajaţii şi grupurile de lobby bazându-se pe ea în munca de zi cu zi, inclusiv pentru verificarea şi redactarea legilor.

„Este absolut înfricoşător”, a spus un angajat al Camerei, „şi încă nu se gândeşte nimeni la asta”.

De ce se descurcă AI atât de prost la scrierea legilor

Oamenii familiarizaţi cu instrumentele AI şi cu activitatea biroului spun că redactarea legilor e plină de detalii esenţiale care pot încurca „agenţii” de inteligenţă artificială. De exemplu, dacă un anumit fond de bani ar trebui să fie „un credit fiscal, o deducere fiscală, o scutire fiscală sau o subvenţie”, spune Wade Ballou, care a condus biroul între 2016 şi 2024. „AI-ul o să rateze aceste nuanţe”, spune el.

În alte cazuri, capitala Washington D.C. şi naţiunile tribale ar putea ajunge excluse din programe federale, dacă o lege defineşte „statul” ca referindu-se doar la cele 50 de state, atrage atenţia o persoană care lucrează cu OLC.

Textele generate de AI pot, de asemenea, să citeze greşit legi anterioare, spune Ari Hershowitz, avocat şi specialist în tehnologie care a colaborat cu biroul pentru a integra instrumente tehnologice în activitatea acestuia – „o metodă garantată de a introduce mii de erori în sistemul nostru juridic”.

Schuman, de la American Governance Institute, spune că instrumentele AI disponibile comercial nu au atenţia la detalii şi înţelegerea juridică nuanţată de care e nevoie ca să scrii legi.

Cât de important este Biroul de Consiliere Legislativă

Tocmai evitarea acestor capcane este treaba OLC, ale cărui zeci de funcţionari reprezintă unul dintre cele mai importante mecanisme de control al calităţii din Congres.

OLC „este capacitatea instituţională care face ca principala putere constituţională a Congresului – legiferarea – să funcţioneze cu adevărat”, spune Marci Harris, directoarea executivă a organizaţiei nonprofit POPVOX Foundation, dedicată modernizării administraţiei. „Când vorbim despre capacitatea Congresului de a face legi, despre acest birou vorbim”.

Angajaţii lui se pregătesc ca inteligenţa artificială să le mărească şi mai mult volumul de muncă, deja considerabil – chiar şi în lipsa vreunei erori – după cum a declarat şeful OLC, Warren Burke, într-o audiere din martie. El a refuzat să comenteze pentru acest articol.

În ultimul deceniu, numărul cererilor şi al proiectelor de lege depuse a crescut constant. În sesiunea anterioară a Congresului, biroul lui Burke – format din 61 de avocaţi şi 19 angajaţi de suport – a pregătit peste 30.000 de proiecte de lege, de aproape trei ori mai multe decât cele efectiv depuse.

La începutul lui 2025, în primele 60 de zile ale actualei sesiuni a Congresului, biroul a primit 5.623 de cereri de redactare a unor legi, a declarat Burke în faţa unei subcomisii, în urmă cu un an – cu 72% mai multe decât în urmă cu doi ani.

Cum inteligenţa artificială e de aşteptat să alimenteze în continuare această creştere, angajaţii suprasolicitaţi ai OLC ar putea răspunde tot mai greu la cererile de verificare venite din partea membrilor Congresului.

„Textul produs de entităţi din afară, fie ele om sau computer, durează adesea semnificativ mai mult de verificat şi de revizuit, ca să ne asigurăm că textul chiar îndeplineşte scopurile de politică publică urmărite de iniţiator”, a declarat Burke în martie.

Această întârziere i-ar putea împinge pe legislatori pur şi simplu să depună legi generate de AI, în loc să lucreze cu OLC ca să le redacteze, spune o persoană care colaborează cu biroul. Deocamdată, nu s-a demonstrat că vreo lege votată în vreuna dintre camere ar fi fost creată integral de inteligenţa artificială.

Dar textele de lege generate de AI sunt adesea pline de greşeli, cum ar fi folosirea unor termeni greşiţi, spun Ballou şi Schuman. Ei adaugă, împreună cu Hershowitz, că trimiterea incorectă la anumite părţi din Codul Statelor Unite (culegerea legilor federale americane) este o eroare frecventă în astfel de texte.

Dacă juriştii biroului nu reuşesc să oprească aceste greşeli înainte să ajungă în legi, agenţiile şi instanţele ar putea avea dificultăţi în a înţelege ce anume le cer, de fapt, legile vagi sau greşite. Iar Congresul ar putea fi nevoit să piardă mai mult timp reparând erorile din trecut.

Instrumentele AI sunt deja integrate în întreaga administraţie federală, spune Ballou. Dar folosirea unei tehnologii predispuse la erori tocmai pentru limbajul legilor care stau la baza dreptului american creează „cel mai mare risc, chiar în vârful piramidei”.

„O totală incongruenţă”

Ceea ce complică şi mai mult problema: cei care folosesc AI ca să scrie legi s-ar putea să nu recunoască public asta.

„Angajaţii care folosesc AI nu prea vorbesc despre asta”, spune un angajat, care a declarat pentru POLITICO că folosirea inteligenţei artificiale încă pare un subiect tabu. „Legile generate integral de AI sunt un deserviciu adus întregului proces legislativ”.

Congresmena Anna Paulina Luna (republicană de Florida) a fost criticată în iunie pentru că a depus un rezumat al unui amendament generat cu ajutorul lui Claude, însă ea a spus că amendamentul în sine nu a fost scris de AI.

„Nicio surpriză. Majoritatea angajaţilor îl folosesc”, a scris ea pe reţelele sociale. De atunci, le-a spus angajaţilor ei „să se asigure că verifică de două ori şi că sunt mai riguroşi”.

Pe lângă erori, textele pe care le verifică OLC devin deja tot mai stufoase – o marcă a implicării AI în redactare, potrivit unei persoane care lucrează cu biroul.

Şi, pe măsură ce folosirea AI creşte, tot mai mulţi angajaţi din Congres nu mai sunt în stare să explice ce anume vor, de fapt, să realizeze prin legea lor, spune aceeaşi sursă. Nemaifiind nevoiţi să redacteze ei înşişi textul, nu mai sunt obligaţi „să înveţe subiectul la fel de în profunzime”, lăsând astfel „agenţii” AI să ia decizii importante despre definiţii şi formulări.

Puse cap la cap, aceste tendinţe fac şi mai importantă munca celor de la OLC de a analiza în detaliu fiecare text primit.

Numai că viteza rămâne o problemă: AI poate redacta text atât de repede încât, fără un sprijin adecvat, va copleşi cu siguranţă biroul, spune Schuman.

„Membrii Congresului şi grupurile de interese pot scrie texte cu AI, dar apoi consilierii legislativi înşişi nu au voie să folosească AI-ul disponibil comercial”, spune Charlotte Lee, director de dezvoltare strategică la Granicus, o companie de software care furnizează instrumente tehnologice unor instituţii publice, printre care şi OLC. „Există o totală incongruenţă”, spune ea.

Cum foloseşte OLC tehnologia

OLC a înfiinţat un grup de lucru care să exploreze cum ar putea fi folosită inteligenţa artificială pentru „a îmbunătăţi eficienţa, de exemplu prin optimizarea cercetării juridice”, a spus Burke în audierea din martie.

Biroul a integrat deja diverse instrumente tehnologice în sistemele sale, ca să-şi ajute angajaţii.

Unul dintre ele, un program numit Comparative Print Suite, le permite angajaţilor din Congres să vizualizeze cum anume va modifica un anumit proiect de lege Codul Statelor Unite.

Multe legi conţin instrucţiuni despre cum să fie modificată legislaţia în vigoare – tăind anumite formulări şi introducând altele. Comparative Print Suite foloseşte procesarea limbajului natural – o formă de inteligenţă artificială – ca să arate exact cum ar urma să fie modificat Codul, o performanţă pe care Hershowitz a descris-o drept „primul instrument AI din Cameră”.

Hershowitz, care a dezvoltat instrumentul împreună cu angajaţii OLC şi cu alţi colaboratori, consideră programul mult superior produselor disponibile comercial, pentru că este conceput să returneze mesaje de eroare atunci când nu poate stabili cu certitudine unde ar trebui făcute modificările.

„Nu există halucinaţii”, spune Hershowitz, spre deosebire de instrumentele obişnuite de AI generativă care, atunci când nu sunt sigure, fac presupuneri doar ca să ducă sarcina la capăt.

Iar programul a fost gândit special pentru Congres. Lee, una dintre principalele proiectante ale Comparative Print Suite, a adaptat instrumentul la nevoile biroului prin discuţii cu cei care urmau să-l folosească şi prin întâlniri săptămânale cu angajaţii OLC. Ea spune că acest proces personalizat va duce la mai puţine greşeli şi va permite ca instrumentul să fie adoptat pe scară largă în întreaga ramură legislativă.

În Senat, adoptarea nu a fost la fel de amplă, doar un număr limitat de angajaţi având acces la instrument, spune Schuman.

Ca membru al Comitetului pentru Alocări Bugetare, Morelle a spus că e hotărât să doteze OLC „cu resursele necesare pentru a-şi continua serviciul exemplar şi pentru a se asigura că toate legile rămân un produs bine gândit, de înaltă calitate”.

Deocamdată, Ballou vede rolul cel mai clar al inteligenţei artificiale în fostul său birou ca fiind acela de ajutor pentru cei care redactează legi, nu de înlocuitor al lor. AI îi poate ajuta pe legislatori să proceseze informaţia, spune el, dar nu poate înlocui „arta redactării”.

Chiar şi în lipsa greşelilor, Hershowitz se aşteaptă ca volumul de muncă al biroului să se înrăutăţească, pe măsură ce AI accelerează generarea textelor de lege.

„Aveai o problemă care era deja la nivel 10”, spune el. „Acum înmulţeşte-o cu 100”.