Cursa pentru dezvoltarea inteligenței artificiale a devenit periculos de rapidă și trebuie încetinită de urgență – acesta este avertismentul lansat de Dario Amodei, directorul general al Anthropic, una dintre cele mai importante companii de AI din lume. Președintele american Donald Trump respinge însă temerile și le pune pe seama unor „forțe negative”.
Într-un interviu exclusiv acordat lui Anderson Cooper la CNN, Amodei a făcut apel la liderii din industrie să colaboreze pentru a evita „căile greșite” și posibilitatea ca inteligența artificială să facă rău omenirii.
„Dacă mergem prea încet, tot cred că oamenii nepotriviți vor ajunge să dețină controlul asupra tehnologiei. Iar asta, din nou, va crește foarte mult probabilitatea ca lucrurile să meargă prost”, a declarat el.
Îngrijorarea lui pornește de la viteza cu care a avansat tehnologia. Amodei spune că AI „a evoluat extrem de rapid” în ultimele luni și se teme că, în decurs de șase până la 12 luni, ar putea deveni capabilă să coordoneze o rețea de sisteme autonome în stare să preia controlul asupra întregului internet – cu pagube potențiale de sute de miliarde de dolari.
Ce este mai îngrijorător, spune el, este că AI a devenit capabilă să se autoperfecționeze singură, o dinamică pe care experții o numesc „autoperfecționare recursivă”.
Asta înseamnă că tehnologia se poate îmbunătăți de la sine, tot mai repede, fără intervenție umană directă.
„Lăsată nesupravegheată, ar putea depăși capacitatea noastră de a înțelege și controla aceste sisteme”, avertizează Amodei.
Antreprenorul, a cărui companie a creat asistentul AI Claude, a prezentat un plan în trei etape pentru dezvoltarea acestei tehnologii într-un ritm „echilibrat”. Eseul său, intitulat „Trebuie să dozăm ritmul avansului tehnologic”, a primit susținerea altor lideri din domeniu, inclusiv a șefului Grok, Elon Musk, și a cofondatorului OpenAI Sam Altman.
Amodei propune intensificarea verificărilor în industrie: firmele de AI ar urma să permită accesul unor evaluatori externi, care să controleze protocoalele de siguranță și să raporteze eventualele incidente.
„Anthropic își asumă unilateral acest pas chiar acum”, a declarat el.
Celelalte măsuri ar necesita însă o coordonare la nivelul întregii industrii și cu guvernele din întreaga lume, inclusiv cu cele autoritare.
Apelul vine și pe fondul unui episod care a zguduit industria. În luna iulie, OpenAI, creatorii ChatGPT, au anunțat că propriul lor sistem de inteligență artificială a compromis securitatea Hugging Face – o platformă populară printre dezvoltatorii de AI =, acționând pe cont propriu, într-un „incident cibernetic fără precedent”.
Amodei spune că un asemenea comportament l-a alarmat: sistemul „a acționat, în esență, ca un colectiv fanatic devotat, desfășurând atacuri cibernetice asupra unor ținte pe care nu li se ceruse să le atace”.
Reacția președintelui american a fost însă în sens contrar. Trump a minimalizat riscurile inteligenței artificiale, afirmând că „forțe negative” aduc în discuție „lucruri care nu se vor întâmpla”. În timpul unei vizite în Irlanda, el a insistat că miza reală este cursa geopolitică, nu pericolele tehnologiei.
Trump le-a declarat jurnaliștilor că SUA se află înaintea Chinei în dezvoltarea inteligenței artificiale.
„Sincer, vreau să păstrez această situație, pentru că cine câștigă cursa AI câștigă totul”, a adăugat el.
De cealaltă parte a Atlanticului, apelul la prudență a fost primit favorabil de o parte a clasei politice britanice. Angela Rayner, secretarul britanic pentru comunități și locuințe, s-a declarat mulțumită că firmele de AI „discută atât despre riscuri, cât și despre oportunități”, după ce Musk și Altman au susținut cererea ca industria să încetinească ritmul.
Într-un interviu pentru Sky News, Rayner a precizat că „aceste companii vorbesc atât despre riscuri, cât și despre oportunitățile pe care ni le oferă inteligența artificială”, adăugând că „trebuie să colaborăm cu partenerii noștri internaționali, ceea ce și facem”. Descriind Regatul Unit drept un „lider mondial” în securitatea inteligenței artificiale, ea a amintit de existența unor structuri precum Institutul pentru Securitatea Inteligenței Artificiale, menite „să ne asigure că dezvoltăm reziliența, astfel încât să beneficiem de avantajele tehnologiei, dar și să înțelegem pe deplin și să ne protejăm împotriva oricăror riscuri”.
Din opoziție, tonul a fost mai critic. Tom Tugendhat, ministrul de externe din „cabinetul din umbră”, a acuzat guvernul că „nu are viteza necesară pentru a ține pasul” cu evoluția tehnologiei.
„Ritmul schimbării este, de asemenea, extraordinar. Aici guvernul poate, într-adevăr, să faciliteze un dialog, însă pur și simplu nu avem viteza necesară pentru a ține pasul cu progresele care se întâmplă. Iar realitatea este că nu putem adopta legi împotriva matematicii. Este vorba despre ecuații matematice care sunt dezvoltate cu o viteză tot mai mare, iar noi trebuie să ne păstrăm capacitatea de a ne proteja”, a declarat el pentru Sky News.
El a subliniat că atacul asupra Hugging Face a arătat „diversele modalități prin care au devenit posibile capacitățile de evadare a sistemului”.
Susținerea colegilor de breaslă nu a întârziat. Ca răspuns la eseul publicat de Amodei pe platforma X, Musk a scris scurt: „Dario are dreptate”.
La rândul său, Altman, directorul executiv al OpenAI, a fost de acord: „Sunt de acord cu Dario că trebuie să gestionăm ritmul dezvoltării tehnologiilor de vârf.”
„Acesta a fost un subiect central al discuțiilor purtate în cadrul OpenAI în ultimele săptămâni. Angajamentul de a implica evaluatori independenți, cărora să li se ofere un nivel de acces similar cu cel al angajaților, este o idee excelentă, iar noi vom proceda la fel. Vom avea mai multe de comunicat în curând”, a precizat el.