Compania Anthropic, creatoarea modelelor Claude și Mythos, a avansat, vineri, propunerea ca principalele companii de Inteligență Artificială din lume să se pună de acord asupra unui "mecanism coordonat" de stopare temporară a dezvoltării sistemelor avansate AI, avertizând că tehnologia evoluează atât de rapid încât există riscul ca oamenii să piardă controlul asupra acesteia, relatează Al Jazeera.
Compania a argumentat într-o postare pe blog că, pe măsură ce modelele AI de ultimă generație devin din ce în ce mai rapide în executarea sarcinilor, "ar fi benefic pentru lume să aibă posibilitatea de a încetini sau de a opri temporar" dezvoltarea acestora.
Anthropic a precizat că institutul său intern de cercetare intenționează să studieze această problemă în colaborare cu alte organizații și să ia măsuri pentru a contribui la construirea unor mecanisme "credibile" de încetinire sau suspendare a dezvoltării, fără să ofere însă detalii suplimentare.
Rivala sa, OpenAI, a susținut o abordare diferită, într-un raport publicat miercuri.
Creatoarea ChatGPT a pledat ca guvernele democratice - și nu companiile private, care acționează ghidate de profit - să stabilească, în cele din urmă, regulile, măsurile de protecție și mecanismele de responsabilizare.
"Considerăm că deciziile privind ritmul inovării în domeniul Inteligenței Artificiale nu ar trebui lăsate în seama unui singur laborator, unei singure companii sau unui grup de interese", a comunicat OpenAI.
Anthropic: AI ar putea ajunge să-și creeze, singură, succesorul
Potrivit Anthropic, modelele de IA evoluează rapid, iar capacitatea lor de a îndeplini autonom sarcini software, precum programarea, crește într-un ritm accelerat.
Dacă tendințele actuale continuă și există suficientă putere de calcul disponibilă, un sistem AI ar putea ajunge să își proiecteze și să își dezvolte singur succesorul, într-un proces cunoscut sub numele recursive self-improvement ("autoîmbunătățire recursivă").
Anthropic apreciază că o Inteligență Artificială capabilă să se construiască și să se perfecționeze singură ar reprezenta o etapă tehnologică majoră, cu beneficii importante pentru știință, sănătate și alte domenii.
Totuși, acest lucru ar putea crește și riscul ca oamenii să piardă controlul asupra sistemelor AI, a subliniat compania.
Mai multe personalități din industria tehnologică avertizează de ani de zile asupra unui astfel de scenariu.
Avertismente în cascadă privind riscul ca oamenii să piardă controlul AI
Postarea Anthropic vine după un alt avertisment lansat în această săptămână de o echipă de cercetători de la Universitatea din Toronto.
Acești cercetători au demonstrat cum instrumentele AI ar putea fi utilizate pentru a crea un nou tip de "vierme informatic", capabil să își adapteze strategia de atac pe măsură ce se răspândește de la un dispozitiv la altul, cu potențialul de a compromite o rețea informatică extinsă.
"Cred că este foarte important ca oamenii să înțeleagă că nu doar cele mai mari și mai puternice modele lingvistice ridică probleme de securitate", a declarat cercetătorul principal Nicolas Papernot.
Autorii articolului publicat de Anthropic - cofondatorul companiei, Jack Clark, și directoarea institutului intern de cercetare, Marina Favaro - afirmă că o eventuală pauză ar putea fi folosită pentru a permite "structurilor sociale și cercetărilor privind alinierea" să țină pasul cu progresul AI.
În jargonul industriei, "alinierea" se referă la asigurarea faptului că tehnologia respectă valorile și intențiile umane.
Mecanismul de coordonare propus ar permite laboratoarelor AI să verifice dacă rivalii lor internaționali au încetinit sau au suspendat efectiv dezvoltarea și, de asemenea, "să se asigure că un actor rău intenționat nu ar putea profita de o astfel de încetinire coordonată pentru a progresa în secret".
Anthropic cere un mecanism global de verificare, pentru ca "actorii rău intenționați" să nu poată profita
Anthropic subliniază necesitatea unui mecanism global coordonat.
În lipsa lui, o încetinire a dezvoltării AI ar putea permite celor mai puțin prudenți actori să continue cercetările și să amplifice presiunea asupra companiilor rivale și a guvernelor, care s-ar vedea forțate să ia decizii dificile privind siguranța tehnologiei.
Temerile că sistemele avansate de IA ar putea scăpa de sub controlul uman și ar putea provoca daune sociale au crescut pe măsură ce tehnologia a devenit tot mai capabilă.
Chiar modelul Mythos al Anthropic a produs unde de șoc în diverse industrii, inclusiv în sectorul bancar și în dezvoltarea software, la începutul acestui an, datorită capacității sale de a identifica vulnerabilități în codul existent.
Cu toate acestea, reglementarea a avansat lent, în special în Statele Unite, unde își au sediul majoritatea laboratoarelor AI de vârf.
Un ordin executiv emis de administrația Trump la începutul acestei săptămâni transferă responsabilitatea chiar către companiile din sector, solicitându-le să prezinte "voluntar" cele mai performante modele pentru testări guvernamentale de securitate cibernetică, înainte de lansarea publică.
Ideea "pauzei AI" nu este nouă
Cercetătorii din domeniul AI au mai cerut anterior o pauză în dezvoltare, însă fără prea mult succes.
Elon Musk, proprietarul xAI, s-a numărat printre susținătorii unei inițiative lansate în 2023 de organizația non-profit Future of Life Institute, care solicita suspendarea dezvoltării IA pentru șase luni, pentru a permite implementarea unor măsuri suplimentare de siguranță.
Anthropic s-a prezentat de multă vreme drept o companie AI orientată spre siguranță.
La începutul acestui an, compania a refuzat să permită armatei americane utilizarea modelelor sale pentru supraveghere internă și pentru arme complet autonome.
Decizia a atras represaliile guvernului american, care a inclus compania pe o listă neagră de securitate națională.
Presa internațională remarcă faptul că demersul Anthropic apare într-un moment în care rivalii de la OpenAI se pregătesc pentru listarea pe bursă într-o Ofertă Publică Inițială, IPO, de la care să așteaptă să ducă valoarea companiei între 850 de milioane și un trilion de dolari.
Momentul ar putea surveni în luna septembrie sau în trimestrul al patrulea al anului curent.