Vicepreședintele american JD Vance a respins apelurile la o reglementare globală a inteligenței artificiale printr-un mesaj tăios adresat companiilor care dezvoltă cele mai avansate modele: „Dacă tot creați monstrul lui Frankenstein, opriți-vă”. Declarația acestuia vine după o săptămână de îngrijorare globală tot mai mare privind riscurile pe care le-ar presupune apariția unei superinteligențe artificiale – și scoate la iveală o falie tot mai adâncă între liderii din tehnologie, administrația Trump și chiar în interiorul propriei tabere republicane, întrucât președintele american numește pericolele AI o simplă „farsă”, scrie The Guardian.
Într-o remarcă adresată lui Dario Amodei, cofondatorul Anthropic, care a cerut Washingtonului să coordoneze controlul asupra sistemelor de AI, inclusiv împreună cu China, JD Vance a spus: „Dacă tot creați un monstru al lui Frankenstein, nu veniți la guvern să ne spuneți că avem nevoie de reglementare”.
El a mai afirmat că șefii din tehnologie ar trebui, în schimb, „să privească în interior și să accepte că, dacă tot construiți monstrul lui Frankenstein, în primul rând, ar trebui să vă opriți, iar în al doilea rând, atunci când vin companii la voi și spun «avem nevoie de instrumente ca să ne apărăm de monstrul lui Frankenstein», dați-le acele instrumente”.
Vance a făcut aceste declarații la un summit dedicat AI, la Los Angeles, după o săptămână de îngrijorare globală tot mai mare față de riscurile la adresa omenirii pe care le-ar presupune apariția unei superinteligențe artificiale – o tehnologie care încă nu există.
Sâmbătă, Amodei a avertizat că ritmul accelerat de creștere a capacităților înseamnă că un roi de agenți AI „ar putea fi capabil să preia controlul asupra întregului internet” în șase până la douăsprezece luni.
Deși mulți pun la îndoială această afirmație, ea a alimentat suplimentar ideea lansată de Evan Hubinger, șeful diviziei de alignment de la Anthropic, potrivit căreia există o probabilitate mai mare de 10% ca AI să ucidă toți oamenii în următorii 10 ani. El răspundea unui cercetător, Jacob Coxon, care a demisionat de la Anthropic printr-un avertisment similar.
Marți seară, Coxon a oferit un prognostic nuanțat: „Cred că, dacă mergem mai încet, putem reduce riscul la 0%, dar asta necesită acțiuni radicale”. El a recunoscut, de asemenea, că „este foarte greu să transmiți scenarii concrete” în care AI ucide toți oamenii și a adăugat: „Trebuie să lucrez la felul în care comunic acest punct”.
Disponibilitatea lui Vance de a lua în calcul că AI ar putea reprezenta un risc real marchează o ruptură față de președintele american Donald Trump, care a scris în această săptămână: „Ideea că AI preia controlul lumii, distruge omenirea și toate celelalte lucruri rele este o FARSĂ”.
Trump a postat pe rețelele sociale că AI va fi „cel mai mare motor de dezvoltare economică din istorie – mai mare decât petrolul, aurul, diamantele sau chiar internetul”.
Vance a mai spus că îi suspectează pe liderii din domeniul AI că trag semnalul de alarmă privind riscurile de siguranță ca pe un „cal troian”.
Amodei a propus o coordonare la nivelul industriei pentru „a încetini ritmul în care îmbunătățim capacitățile modelelor de AI”, în timp ce se implementează o reglementare americană și globală.
Criticii acestor companii cred că ele împing, de fapt, guvernul american să creeze reguli noi și dure – modelate în interesul lor – care ar putea limita concurența mai largă, într-o tactică cunoscută drept „capturarea reglementatorului” (regulatory capture).
OpenAI, care a pierdut controlul asupra a sute de agenți AI în timpul testărilor din această vară – agenți care apoi au conspirat pentru a sparge site-ul Hugging Face –, a anunțat luni că sprijină eforturile bipartizane ale legislatorilor de la Washington de a aborda riscurile catastrofale generate de AI și că se coordonează cu Google și Anthropic.
Miercuri, Reuters a relatat afirmațiile unui cercetător independent, Jonas Wiedermann-Möller, potrivit cărora agenții scăpați de sub control ai OpenAI începuseră să caute vulnerabilități în Hugging Face cu aproape două luni înainte de atac.
Sam Altman, directorul general al creatorului ChatGPT, a criticat marți sugestiile venite din partea altor companii, potrivit cărora „vom încetini doar dacă, sau vom fi responsabili doar dacă și celelalte companii sunt responsabile”. Altman a spus: „Nu ar trebui să existe niciun «dacă» aici”.
Mark Zuckerberg, fondatorul și directorul general al Meta, a pledat pentru ca firmele să ia măsuri de siguranță în mod unilateral. El a spus că firma sa a amânat recent cu câteva luni lansarea celui mai recent model de AI, Muse, „ca să ne concentrăm pe siguranță și securitate”.
„Nu am cerut tuturor celorlalți să facă asta înainte s-o facem noi”, a spus el. „Pur și simplu am făcut-o, ca parte din activitatea noastră de zi cu zi, pentru că era, în mod clar, lucrul corect – pentru oameni și pentru noi”.
Meta a fost nevoită să plătească miliarde în procese legate de prejudiciile cauzate de platformele sale de socializare. Luna trecută, a soluționat un proces cu state americane care susțineau că Facebook și Instagram au făcut rău copiilor, acceptând să plătească până la 18 miliarde de dolari (13,3 miliarde de lire).
„[Laboratoarele de AI] se confruntă cu o răspundere juridică semnificativă dacă modelele lor provoacă prejudicii, așa că au un stimulent puternic să prevină și ele acest lucru”, a declarat Zuckerberg.
