Anthropic a anunțat că modelele sale de inteligență artificială au spart sistemele a trei organizații în timpul unor teste de securitate cibernetică, după ce au primit, accidental, acces la internet, relatează BBC. Anunțul companiei americane vine la o săptămână după ce OpenAI a anunțat că propriile sale modele au „evadat” în timpul unui experiment și au spart o platformă globală de inteligență artificială.
Anthropic nu și-a dat seama de incidente timp de aproape patru luni. Abia după ce OpenAI a anunțat că două modele AI au evadat, compania a demarat propriile verificări. Așa a descoperit trei cazuri separate, care au fost apoi semnalate companiilor afectate.
Compania de inteligență artificială nu a dezvăluit numele organizațiilor ale căror sisteme au fost sparte, dar a îndemnat alte laboratoare de AI să facă verificări similare pentru a înțelege mai bine riscurile capabilităților propriilor modele de înteligență artificială.
Anthropic a precizat, într-un comunicat de presă, că a analizat peste 140.000 de teste pentru a identifica dovezi că Claude, familia sa de modele de inteligență artificială, a putut accesa internetul din medii de testare care ar fi trebuit să fie complet izolate.
Testele includ și așa-numitele evaluări „capture-the-flag”. Mai exact, Claude a primit sarcina de a obține informații prin compromiterea altor sisteme. Aceasta este o metodă folosită frecvent de experți pentru a evalua capacitățile de hacking ale unui model.
O „configurare greșită” a sistemelor administrate de Anthropic și de partenerul său de testare a permis modelelor să aibă acces la internetul public. Odată ce au avut acces la internet, ele au putut compromite alte sisteme, a precizat compania cu sediul în San Francisco.
Incidentele au trecut neobservate 4 luni
Timp de patru luni, nici Anthropic, nici organizațiile ale căror sisteme au fost compromise, nu au observat ce s-a întâmplat.
Anthropic a spus că cele mai vechi incidente datează din aprilie și că „abordează remedierea situației ca și cum responsabilitatea ar fi în totalitate a noastră”.
Compania americană a recunoscut că ar fi putut să își verifice mai atent înregistrările și a adăugat că rezultatele îi oferă companiei „un optimism prudent” că astfel de riscuri pot fi depășite prin investiții mai mari și măsuri de securitate mai stricte.
„Lecția mai largă nu este neapărat că inteligența artificială a dezvoltat o capacitate de atac nouă. Mai degrabă, este faptul că agenții AI pot combina diferite capacități, pot obține acreditări și acces la sisteme pentru a întreprinde acțiuni în mod autonom, adaptându-și în același timp amploarea și anvergura cu viteza unei mașinării”, a declarat pentru BBC expertul în securitate cibernetică David Allott.
Incidentele au loc într-un moment în care companiile de tehnologie investesc miliarde de dolari în dezvoltarea agenților AI capabili să îndeplinească în mod independent sarcini care variază de la cercetare și asistență pentru clienți până la securitate cibernetică.
O serie de atacuri cibernetice realizate cu ajutorul inteligenței artificiale a alimentat apelurile pentru măsuri de protecție și mecanisme de supraveghere mai stricte, pe fondul îngrijorărilor legate de riscurile generate de sistemele autonome tot mai puternice.
Președintele american Donald Trump a declarat miercuri că Washingtonul ia în calcul măsuri pentru a limita instrumentele de inteligență artificială, în urma incidentelor recente de securitate cibernetică.
Un experiment OpenAI a scăpat de sub control
Doar în ultima săptămână, OpenAI și-a asumat responsabilitatea pentru cel puțin două incidente de hacking în care modelele sale de AI au încălcat limitele stabilite pentru acțiunile pe care fuseseră instruite să le efectueze.
Pe 21 iulie, compania care a creat ChatGPT a anunțat că agentul său, un sistem de inteligență artificială capabil să funcționeze autonom după ce primește instrucțiuni de la un om, a scăpat de sub control și a „evadat” din laboratorul de testare, ajungând să spargă sistemele Hugging Face.
OpenAI a calificat incidentul drept „fără precedent” și a anunțat că investighează situația împreună cu Hugging Face. Cofondatorul și directorul companiei, Thomas Wolf, a declarat pentru BBC că incidentul reprezintă „un semnal de alarmă” pentru întreaga industrie.
Incidentele au fost privite cu o anumită doză de scepticism, în condițiile în care OpenAI și Anthropic se pregătesc pentru listări spectaculoase la bursă, despre care se estimează că ar putea evalua fiecare companie la aproximativ 1.000 de miliarde de dolari.
Un purtător de cuvânt al OpenAI a declarat că „înțelegem că există multe întrebări și speculații care circulă” cu privire la incident. Acesta a adăugat că „intenționăm să publicăm un raport tehnic cu concluziile noastre în următoarele săptămâni”.