Legea AI a UE, depășită după doar doi ani. De ce nu mai ține pasul Europa cu inteligența artificială

Inteligența artificială a depășit capacitatea guvernelor de a o controla. Legile adoptate acum doi ani sunt deja depășite, proiectele noi zac în sertare, iar companiile precum OpenAI și Anthropic își stabilesc singure regulile. Nici Bruxelles-ul, nici Washingtonul nu au un răspuns, deși modelele AI au spart deja autonom sistemele altor organizații, scrie The New York Times.

Luna aceasta, Ursula von der Leyen, președinta Comisiei Europene, a reunit înalți oficiali la o întâlnire restrânsă, într-un palat din secolul al XIX-lea de lângă Bruxelles.

Scopul era pregătirea unui discurs care să prezinte prioritățile blocului de 27 de state pentru anul următor. Inteligența artificială a dominat agenda. Noul „țar” european pentru AI, Jim Hagemann Snabe, președintele consiliului de administrație al gigantului industrial german Siemens, a prezentat modalități prin care Europa ar putea folosi tehnologia în beneficiul economiei. Alții au ridicat îngrijorări legate de siguranța AI și de riscurile tot mai mari, potrivit a două persoane informate despre întâlnire.

De la reuniunea din 4 septembrie, von der Leyen și comisarii ei se tot întreabă ce pot face în privința unei tehnologii care se schimbă atât de rapid, a spus una dintre surse. Ar trebui să înăsprească reglementarea pentru a face față pericolelor emergente ale AI? Sau un astfel de pas ar avea costuri economice și geopolitice, dacă alte țări nu ar face la fel?

Nu au ajuns la nicio concluzie finală. Liderii europeni urmează să mai discute subiectul anul acesta.

„AI vine cu un echilibru între posibilități și riscuri”, a declarat von der Leyen în discursul privind Starea Uniunii, pe 16 septembrie. „Fără să abordăm aceste riscuri, nu vom putea niciodată să valorificăm potențialul AI”.

Variante ale întâlnirii din Belgia au loc aproape peste tot. Multe guverne se chinuie să țină sub control o tehnologie care le-a depășit rapid capacitatea de reacție. AI evoluează atât de repede încât legile adoptate acum doi ani au un efect limitat, proiectele de lege care ar reglementa tehnologia se împotmolesc fără să ajungă la vot, iar summiturile internaționale convocate pe această temă sunt rapid uitate.

AI a transformat decalajul dintre elaborarea politicilor și tehnologie într-unul dintre cele mai mari din istorie, potrivit a peste 20 de interviuri cu legiuitori, specialiști în tehnologie și experți în politici publice. Multe guverne sunt prinse între dorința de a valorifica AI și teama de riscurile ei. Iar situația e complicată și mai mult de politica internă, de cunoștințele tehnologice limitate, de diviziunile geopolitice și de reticența de a rămâne în urmă într-o cursă care ar putea modela puterea economică și securitatea națională pentru decenii de acum înainte.

Multe țări așteaptă ca cele două mari puteri ale AI, Statele Unite și China, să dea tonul prin propriile politici. Numai că, în Statele Unite, administrația Trump este divizată în privința siguranței AI. Președintele Trump susține că reglementarea ar afecta inovația și ar ceda teren Chinei. China, la rândul ei, a impus câteva reguli pentru AI, mai ales pentru cenzurarea conținutului chatboturilor, dar a accelerat și dezvoltarea tehnologiei.

„Există această presupunere că în privința acestui subiect sunt adulți în cameră, dar în camera asta nu sunt adulți”, a declarat Sean O Heigeartaigh, directorul programului AI: Futures and Responsibility de la Universitatea Cambridge și membru al unui consiliu consultativ al Uniunii Europene pentru AI. „Asta face ca totul să fie atât de complet terifiant”.

Ce rămâne este un vid de reglementare, în care companiile de AI precum Anthropic și OpenAI sunt lăsate în mare parte să se autoreglementeze. Uniunea Europeană a adoptat în 2024 o lege care reglementează AI, însă punerea ei în aplicare a durat ani de zile, iar unii spun că ar trebui deja actualizată pentru a ține pasul cu progresele tehnologice. India, Japonia, Australia, Canada și Kenya au optat pentru o abordare mai relaxată sau pentru o strategie de tip „așteptăm și vedem”, în timp ce Brazilia dezbate reguli mai cuprinzătoare.

Presiunea de a acționa crește, mai ales după ce liderii Anthropic, OpenAI și Google DeepMind au cerut recent încetinirea dezvoltării celor mai avansate modele AI și întărirea supravegherii guvernamentale.

Cercetătorii au descris scenarii în care o AI capabilă să se autoperfecționeze ar putea scăpa de sub controlul uman și ar putea provoca daune catastrofale. Opinia publică din Statele Unite s-a întors împotriva AI: un sondaj recent al New York Times arată că 61% dintre alegătorii probabili se opun construirii centrelor de date care alimentează AI.

Provocările au fost vizibile săptămâna trecută. Joi, la Washington, președintele Trump și președintele chinez Xi Jinping au subliniat importanța AI pentru țările lor, dar nu au convenit asupra unor protocoale de siguranță. Statele Unite și China sunt principalii dezvoltatori de AI din lume, ceea ce face ca o cooperare între ele să fie esențială pentru standarde internaționale de siguranță. În același timp, sunt rivale care se feresc să-i ofere celeilalte un avantaj tehnologic.

La Adunarea Generală anuală a Națiunilor Unite de la New York, săptămâna trecută, mulți lideri mondiali au fost de acord că pericolele AI trebuie abordate. Trump a declarat însă că Statele Unite vor respinge „orice încercare de a construi o schemă globalistă pentru a controla” tehnologia.

Experții în siguranță avertizează că timpul critic se scurge. În curând, supravegherea va fi tot mai greu de impus, pentru că AI se va fi răspândit prea mult.

„Guvernele gândesc lucrurile pe o scară de ani, nu de săptămâni sau luni”, a spus Darren Jones, membru al Parlamentului britanic, care a lucrat la politicile privind AI și tehnologia în guvernul fostului premier Keir Starmer. „Instituțional, nu suntem organizați astfel încât să ținem pasul cu ritmul dezvoltării”.

(The New York Times a dat în judecată OpenAI și Microsoft, acuzând încălcarea drepturilor de autor asupra conținutului jurnalistic în legătură cu sistemele AI. Cele două companii au respins acuzațiile.)

Legea care a devenit o lecție de evitat

În 2024, Europa a adoptat prima lege cuprinzătoare din lume privind inteligența artificială. Legea AI (AI Act), menită să impună garanții pentru cele mai riscante utilizări ale tehnologiei, a fost salutată de liderii europeni drept un model de reglementare.

Doi ani mai târziu, a devenit un exemplu de evitat.

Implementarea a fost încetinită de schimbarea priorităților și de temerile că reglementarea ar putea slăbi competitivitatea Europei în fața Statelor Unite și a Chinei. Unele dintre cele mai importante reguli ale legii, cele care vizează utilizările AI cu risc ridicat, au fost amânate. Lipsa de personal și constrângerile bugetare au complicat și mai mult aplicarea.

Legea AI a fost propusă la începutul lui 2021, cu 18 luni înainte ca OpenAI să lanseze ChatGPT. Gândite inițial pentru probleme precum software-ul de recunoaștere facială, regulile au fost revizuite pentru a acoperi noile sisteme AI de uz general, extrem de puternice, precum GPT de la OpenAI.

Dar tehnologia nu a făcut decât să accelereze după adoptarea legii, în 2024. Acum, avangarda AI o reprezintă așa-numiții agenți, care pot acționa cu o supraveghere umană minimă. Companiile se pregătesc pentru ziua în care AI va putea crea singură următoarele versiuni ale ei.

„Când am adoptat-o, nici nu ne puteam imagina ce este AI capabilă să facă acum”, a declarat despre Legea AI Valerie Hayer, membră a Parlamentului European, la o conferință de presă recentă. Legea a fost înaintea timpului ei, a spus ea, dar „trebuie să ne adaptăm”.

Provocarea Europei e cu atât mai mare cu cât rămâne în urma Statelor Unite și a Chinei în domeniul AI. Anul trecut, la doar șase luni după adoptarea legii, președintele Franței, Emmanuel Macron, avertiza că Europa riscă să încerce să reglementeze o tehnologie la a cărei dezvoltare nu a contribuit.

„Dacă îi lăsăm pe americani și pe chinezi să aibă toți campionii doar pentru ei, un lucru e sigur: s-ar putea să avem cele mai bune reglementări din lume, dar nu vom reglementa nimic”, spune el.

Limitele legii devin tot mai evidente. În iulie, modele OpenAI au ieșit dintr-un mediu de testare restricționat și au spart sistemele start-up-ului de AI Hugging Face. Pentru că breșa a avut loc în perioada de testare, incidentul a căzut însă într-o zonă gri în privința aplicării legii. Legea AI exceptează în general cercetarea și testele efectuate înainte ca un model să fie lansat în Europa.

Susținătorii legii spun că a fost concepută să evolueze odată cu tehnologia. Ea include cerințe de transparență și de testare pe care experții în siguranța AI le consideră necesare pentru ca tehnologia să fie folosită responsabil. Autoritățile de reglementare pot cere informații, pot numi experți externi care să evalueze modelele și pot dispune corecturi. În ultimă instanță, pot bloca un model AI în toată Europa și pot aplica amenzi de până la 7% din cifra de afaceri anuală a unei companii.

„Europa a fost întotdeauna clară că AI trebuie dezvoltată în siguranță și transparent și trebuie să rămână sub control uman”, a declarat Thomas Regnier, purtător de cuvânt al Comisiei Europene. „De aceea avem Legea AI”.

Totuși, aplicarea legii necesită o expertiză tehnică aflată încă în construcție. Un grup științific de 60 de membri, înființat prin Legea AI pentru a oferi expertiză privind modelele de frontieră și riscurile acestora, a fost numit abia în iunie. Un nou birou din cadrul Comisiei Europene, care ar trebui să aplice multe dintre reguli, are doar aproximativ 40 de oameni într-o unitate dedicată siguranței AI. Situația a dus la un amendament la lege, care să ofere mai multe resurse.

Gabriele Mazzini, oficial al Comisiei Europene și unul dintre principalii autori ai Legii AI, care a demisionat în 2024, consideră dezamăgitoare implementarea și aplicarea legii.

„Obiectivul lor a fost să treacă legea și să se gândească la implementare mai târziu”, a explicat el. „Există o ruptură între lege și realitatea a ceea ce se reglementează”.

O altă ruptură a fost cu Statele Unite.

Lipsa sentimentului de urgență

Reprezentanta Lori Trahan, democrată din Massachusetts, spune că a rămas cu gura căscată când a citit, în aprilie, că Anthropic avertiza că cel mai nou model AI al său, Mythos, este prea periculos pentru public. Anthropic a precizat că abilitatea extraordinară a modelului de a găsi vulnerabilități în software ar putea aduce un „moment al adevărului” pentru securitatea cibernetică.

În timpul voturilor din acea zi din Camera Reprezentanților, Trahan a traversat sala pentru a-și împărtăși îngrijorarea reprezentantului Jay Obernolte, republican din California, care are un master în AI. Cei doi au redactat rapid un proiect de lege care să impună testarea de siguranță a modelelor AI.

Puțini legiuitori le-au împărtășit sentimentul de urgență, spune ea. Unii au vrut să aștepte până după alegerile de la jumătatea mandatului din noiembrie pentru a se concentra pe un subiect complicat din punct de vedere tehnic. Alții au ezitat să impună limite unei industrii pe care Trump voia să o păstreze nereglementată. Pe fondul unui lobby corporativ intens, parlamentarii s-au certat pe detalii, iar proiectul a fost revizuit de mai multe ori.

Cinci luni mai târziu, proiectul și alte zeci de propuneri legate de siguranța și securitatea AI sunt înghețate. Chiar și după informațiile potrivit cărora modele de la OpenAI, Google și Anthropic au spart în mod autonom sistemele altor organizații, niciun vot nu se întrevede.

„Este extrem de dezamăgitor”, spune Trahan. „Dacă Congresul nu ține pasul cu AI, pericolele sunt chiar mai mari decât în cazul oricărui alt val tehnologic prin care am trecut”.

Reprezentantul Ted Lieu, democrat din California, încearcă de ani de zile să susțină același lucru. La scurt timp după lansarea ChatGPT, în 2022, a scris un articol de opinie pentru The New York Times intitulat „AI mă bagă în sperieți”.

Lieu, care are o diplomă în informatică, a condus ulterior, alături de Obernolte, un grup de lucru al Congresului menit să-i educe pe legiuitori în privința AI. Au invitat lideri din industrie, precum Sam Altman de la OpenAI, să facă demonstrații tehnologice.

Dar, după un val inițial de interes, participarea la aceste evenimente s-a stins.

Când OpenAI a dezvăluit breșa de la Hugging Face în această vară, Lieu a depus un proiect de lege care ar impune un „buton de oprire” pentru modelele AI care devin prea periculoase. Le-a spus colegilor că situația e de alertă maximă. Totuși, nu a reușit să strângă suficient interes.

„Sunt mai speriat decât eram în 2023”, a spus Lieu.

Reprezentantul Brett Guthrie din Kentucky, influentul președinte republican al Comisiei pentru Energie și Comerț din Camera Reprezentanților, a spus că, probabil, Congresul nu va supune la vot nicio lege privind AI până anul viitor.

La o conferință recentă, Guthrie a spus că nu înțelege cum funcționează modelele și că nu folosește AI prea des.

„N-am vrea să facem ceva într-o sesiune de final de mandat, să o facem repede și să nu o facem bine”, a spus el.

Un început de mișcare?

Atacurile informatice recente comise de AI au dus la un val de activitate. Lideri din domeniu cer mai multă cooperare cu guvernele și colaborează pe tehnici de siguranță și monitorizare pentru a preveni accidentele.

În Statele Unite, legiuitorii au depus proiecte de lege pentru crearea unei agenții federale care să supravegheze modelele AI, pentru introducerea obligatorie a butonului de oprire și pentru interzicerea celor mai puternice modele, care depășesc capacitățile umane. Voturile ar putea avea loc după alegerile de la jumătatea mandatului, mai ales că AI devine o temă importantă de campanie.

Separat, Trump a propus o „Forță AI” și un nou „țar al AI” la Casa Albă, fără să ofere detalii.

La Adunarea Generală a ONU, lideri din peste 20 de țări, printre care von der Leyen și Macron, au semnat o scrisoare care cere acțiuni colective pentru siguranța AI. Membrii Consiliului de Securitate au vorbit, într-un rar moment de unitate, despre nevoia unor garanții globale pentru AI.

„Industria, guvernele și societatea trebuie să acționeze acum”, se arată în scrisoare.

La Washington, Trump și Xi nu au încheiat un acord privind AI, dar cele două părți au stabilit noi canale de comunicare pentru gestionarea celor mai mari riscuri asociate tehnologiei.

În timp ce Trump a numit riscurile legate de siguranța AI o „farsă”, pozițiile lui Xi rămân mai puțin clare.

„Avem atât capacitatea, cât și responsabilitatea de a dezvolta și gestiona AI în scopuri benefice și de a ne asigura că dezvoltarea AI rămâne mereu sub control uman”, a declarat la Casa Albă liderul chinez.

Cele două țări au anunțat că vor continua discuțiile pe această temă.