Directorul Anthropic, Dario Amodei, a cerut, marți, din nou încetinirea dezvoltării inteligenței artificiale, avertizând că industria ar trebui să se oprească și să-și revizuiască practicile de siguranță. Pe aceeași scenă, la conferința Dreamforce din San Francisco, șeful Nvidia, Jensen Huang, a respins direct această idee, îndemnând companiile să „alerge cât de repede” pot. Divergența dintre cei doi arată cât de adâncă a devenit ruptura din Silicon Valley pe tema riscurilor AI, într-un moment în care un fost cercetător Anthropic tocmai a demisionat, avertizând că tehnologia ar putea duce la dispariția omenirii în următorul deceniu, scrie The Guardian.
Dario Amodei a recurs la o analogie din lumea auto pentru a-și susține punctul de vedere: atunci când o companie auto concurentă are un incident de siguranță, cum ar fi defectarea frânelor, este un moment în care toate companiile auto ar trebui să se oprească și să-și revizuiască propriile practici, a declarat el marți, la conferința Dreamforce organizată de Salesforce.
„Este foarte tentant să-ți ataci concurentul și să spui că cei de acolo sunt periculoși”, a afirmat el. „Dar cred că modul mai responsabil de a reacționa este să spui: hai să ne uităm la propriul nostru bilanț. Poate că noi nu am avut acest incident major, de mare vizibilitate, dar sunt sigur că nici noi nu suntem perfecți”.
Jensen Huang de la Nvidia a replicat la scurt timp: „Aleargă cât de repede poți”.
Amodei cere trei direcții de acțiune: integrarea unor evaluatori externi în interiorul companiilor de AI; coordonarea standardelor de siguranță între țările democratice; și, în cele din urmă, o coordonare globală mai amplă.
La Dreamforce, Amodei a spus că Anthropic s-a angajat să accepte evaluatori independenți și că urma „să poarte un dialog cu restul industriei” pe marginea celorlalți doi pași.
Amodei, Elon Musk de la xAI și Sam Altman de la OpenAI au cerut recent o încetinire a ritmului de dezvoltare a AI. Declarațiile directorilor vin după avertismentele lui Jacob Coxon, un fost cercetător al Anthropic, care a demisionat printr-o declarație publică în care afirma că AI ar putea duce la dispariția omenirii în decurs de un deceniu.
Comentariile lui Coxon au stârnit o dezbatere mai amplă în Silicon Valley, au atras atenția autorităților de reglementare și au alarmat publicul.
Huang, care a apărut și el marți la Dreamforce, a declarat că firmele nu ar trebui să încetinească dezvoltarea AI. El a susținut că nu sunt necesare noi reglementări, sfătuind companiile de AI să aștepte pur și simplu cu lansarea produselor până când au certitudinea că acestea sunt sigure, în loc să implore guvernul american să intervină.
Huang susține că întrevede un viitor în care „fiecare companie, fiecare întreprindere… va deveni o companie de AI”. El a afirmat că firmele vor deveni mai ambițioase atunci când sunt înarmate cu AI și a reiterat ideea că cei care nu îmbrățișează tehnologia vor rămâne în urmă.
De asemenea, a respins ideea că AI va distruge locuri de muncă, numind-o „o prostie totală”.
Cu o zi înainte, la summitul All-In din Los Angeles, Donald Trump l-a sunat pe Huang în timp ce directorul se afla pe scenă. Huang l-a pus pe președinte pe difuzor, iar Trump a numit îngrijorarea tot mai mare față de AI o „farsă” și a afirmat din nou că o încetinire ar avantaja doar China.
„Ne vom asigura că toată lumea câștigă în cursa AI a Americii”, a răspuns Huang.
Altman, care a vorbit mai târziu marți, a cerut un nou nivel de rigoare în privința securității, pe măsură ce AI avansează.
Altman a arătat că modelele de AI au avansat atât de rapid încât monitorizarea și securitatea trebuie tratate cu un „nou nivel de rigoare”, numind un incident în care niște agenți ai OpenAI au spart sistemele altei companii un „semnal de alarmă” pentru industrie.
El a mai spus că publicul are toate motivele „să se teamă” de AI, din cauza potențialei pierderi a controlului și a posibilității ca un grup restrâns de companii puternice de AI să-și impună viziunea asupra lumii.
Oamenii „simt viteza cu care se mișcă lucrurile”, a declarat Altman. „Nu-ți trebuie multă imaginație ca să-ți dai seama cum ar putea să meargă prost”.
Anterior, Altman fusese de acord cu apelul lui Amodei la o încetinire. Dar marți, la Dreamforce, a spus că este dezamăgit de felul în care a fost formulat argumentul.
„Ai companii care spun lucruri de genul: «Vom încetini sau vom fi responsabili doar dacă și celelalte companii sunt responsabile»”, a afirmat el, sugerând că acest lucru creează teamă în rândul publicului. „Lumea ar trebui să aibă încredere că vom face ceea ce trebuie pentru că așa e corect”.
Altman a mai precizat că incidentele de tip hacking au arătat că firmele trebuie să se pregătească pentru un „val iminent de atacuri cibernetice”, afirmând: „Nu suntem prea departe de modele open-source care pot provoca pagube serioase.” Companiile ar trebui să folosească această „scurtă perioadă de avantaj pentru a se apăra”, a spus el.
Îngrijorarea tot mai mare față de AI vine în contextul în care OpenAI și Anthropic se îndreaptă spre listări la bursă, care ar putea oferi investitorilor și publicului o imagine asupra finanțelor companiilor. Unii analiști au prezis că aceste listări se vor număra printre cele mai mari din istorie. În plină panică legată de AI, Altman a spus că intenționează să amâne listarea OpenAI până anul viitor, din motive de siguranță.
Marți, Amodei a spus că ceea ce l-a surprins cel mai mult la AI a fost viteza răspândirii sale.
„A fost ritmul progresului – nu doar al tehnologiei, ci și al laturii economice”, a spus el despre adoptarea tot mai largă a AI. „Aveam o predicție despre cât de capabile vor fi aceste modele. Dar cred că ceea ce nu am anticipat a fost că asta va face ca aceste companii să crească atât de rapid”.
Indiferent de ritmul rapid al dezvoltării, Altman a spus că, în opinia sa, oamenii vor folosi AI ca pe un instrument pentru a-i ajuta pe alții și pentru a-și dezvolta afacerile. El a spus că acest moment reprezintă clipa în care scenariul „science-fiction” a devenit realitate, în care oamenii vorbesc cu asistenții lor AI și transformă modul în care muncesc.
„Cred că vom rămâne într-o lume extrem de centrată pe om, oricât de bună ar deveni tehnologia”, a spus el.
