Șeful Anthropic a cerut încetinirea ritmului de dezvoltare a modelelor de inteligență artificială și monitorizarea atentă a acestora. Într-un eseu publicat sâmbătă, Dario Amodei a afirmat că dezvoltarea inteligenței artificiale nu este pusă în discuție, dar riscurile asociate acesteia sunt „serioase” și trebuie să li se acorde timp companiilor și guvernelor pentru a le aborda, scrie BBC News.
El a propus un plan în trei puncte care include monitorizarea independentă a modelelor de inteligență artificială pe măsură ce acestea sunt dezvoltate, reglementare la nivelul întregii industrii și reglementare globală.
Recent, au existat îngrijorări tot mai mari cu privire la potențialele riscuri ale tehnologiei, cea mai gravă dintre acestea sugerând că există o probabilitate mai mare de 10% ca aceasta „să ucidă toți oamenii” în următorul deceniu.
Anthropic a declarat anterior că a identificat și a întrerupt încercările de a utiliza modelul său de inteligență artificială pentru „activități rău intenționate” care ar putea sprijini dezvoltarea de arme biologice.
Însă cel mai dur avertisment a venit de la doi angajați din echipa de siguranță a Anthropic, care au demisionat în ultimele două săptămâni, spunând că „omenirea s-ar putea să nu supraviețuiască cursei dintre companiile de inteligență artificială pentru a dezvolta mașini mai inteligente decât oamenii”.
Avertismentele au determinat apeluri la acțiune, însă președintele american Donald Trump a respins până acum astfel de temeri, declarând joi că este îngrijorat: „Dacă nu câștigăm cursa AI, vom fi puși într-o poziție foarte proastă”.
În eseul său, intitulat „Trebuie să păzim granița”, Amodei a subliniat că inteligența artificială a avansat „drastic mai rapid”, inclusiv „capacitatea sa de a construi următoarea generație de inteligență artificială” și a menționat un incident care a implicat rivalul OpenAI, care a dezvăluit că agenții au efectuat atacuri cibernetice asupra unor ținte pe care nu li s-a cerut să le atace în iulie.
„Agenții OpenAI au acționat în esență ca un colectiv devotat fanatic”, a spus Amodei.
În comentariile sale despre incident, OpenAI a declarat că „semnificația activității de comunicare inter-agenți nu a fost evidentă pentru lideri” până în iulie și, prin urmare, compania a încetinit instruirea anumitor modele și instrumente avansate de inteligență artificială, menționând că există acum un risc crescut ca instrumentele de inteligență artificială să scape de sub control.
În eseul său, Amodei a cerut „construirea AI într-un ritm echilibrat, care să urmărească asigurarea siguranței acesteia, realizând în același timp beneficiile sale”.
„Aceasta nu ar însemna oprirea instruirii în materie de modele sau a progresului tehnic, ci asigurarea faptului că firmele își iau suficient timp pentru a-și alinia și proteja modelele și ca evaluatorii terți să confirme acest lucru”, a subliniat el.
El angaja Anthropic în acest sens „unilateral” și îndemna guvernele „să le solicite și altor companii de frontieră să se implice”.
În eseu său, el a recunoscut că reglementările s-ar putea să nu țină pasul cu ritmul inteligenței artificiale și, prin urmare, a cerut companiilor de inteligență artificială să „colaboreze în mod voluntar pentru a stabili standarde” în paralel cu reglementările.
Directorul general al Anthropic a continuat să abordeze impactul pe care o încetinire l-ar avea asupra industriei și asupra concurenței cu dezvoltatorii de top din întreaga lume, în special China.
„Cred că dacă încetinirea ne-ar aduce chiar și un an sau doi în plus înainte ca modelele să atingă niveluri critice de capacitate și am folosi acest timp pentru a avansa alinierea, am putea reduce considerabil riscul ca ceva să meargă prost”, a spus Amodei.
Acest lucru ar trebui făcut într-un mod coordonat „fără a sacrifica avantajul comercial sau conducerea Statelor Unite în domeniul inteligenței artificiale”. Orice încetinire ar trebui limitată, a spus el, pentru a evita să se permită Chinei să avanseze.
El a îndemnat guvernul SUA să ia măsuri astfel încât cipurile de inteligență artificială ale companiilor americane să nu poată fi vândute Chinei sau tehnologia să fie partajată cu țări autoritare.
