Pentru prima dată, Google a confirmat că modelul său de inteligență artificială, Gemini, a spart securitatea altor trei companii în luna mai. Incidentele au avut loc în timpul unei evaluări de securitate cibernetică realizate de firma de profil Irregular, scrie The Guardian.
Irregular, un start-up cu sediul în Israel care testează securitatea sistemelor avansate de inteligență artificială, s-a aflat și în centrul unora dintre atacurile recente atribuite modelelor OpenAI și Anthropic împotriva unor entități terțe – printre care spargerea, de către modelul OpenAI, a companiei de software Hugging Face.
Circumstanțele care au permis modelelor să pătrundă în sistemele altor companii sunt, în unele dintre aceste cazuri, asemănătoare. Irregular testa modelele într-un mediu închis, populat cu firme fictive.
Acel mediu de testare nu ar fi trebuit să aibă acces la internet, dar conexiunea a fost activată din greșeală, potrivit Wall Street Journal. Odată ajunse online, modelele au pătruns, pe neașteptate, în rețelele unor firme reale.
Irregular a raportat incidentele către Google la finalul lunii iulie, după ce a descoperit că modelul OpenAI intrase în sistemele Hugging Face.
Google a confirmat pentru Guardian că spargerile au avut loc, dar a explicat că nu a considerat necesară o comunicare publică, întrucât modelele nu au produs pagube companiilor vizate. Wall Street Journal a relatat primul despre aceste breșe și le-a scos, pentru prima oară, la lumină.
„În cadrul unei evaluări standard, modelul a găsit informații publice online și a ghicit datele de autentificare pentru a accesa site-uri pe care le credea parte din test”, a declarat Heather Adkins, vicepreședintă pe securitate la Google. „În toate aceste trei cazuri, modelul s-a oprit”.
Într-una dintre breșe, Irregular testa capacitățile de securitate cibernetică ale Gemini, cerându-i să extragă informații din software-ul unei companii fictive. Firma inventată purta însă același nume cu o companie reală.
Când modelul a obținut, involuntar, acces la internet, a ghicit corect parola și a pătruns în serviciul unei companii adevărate, a declarat Irregular pentru WSJ. Google spune că, odată ce și-a dat seama că a spart o companie reală, și nu pe cea simulată, modelul s-a oprit.
În alte două teste, modelul a căutat pe internet și a găsit depozite publice de cod care conțineau datele de acces ale altor două companii. Le-a folosit pentru a intra în sistemele unor firme reale. Când a realizat că erau companii adevărate, s-a oprit, potrivit Google.
Anthropic și OpenAI au ales să dezvăluie atacurile în mod voluntar, spre deosebire de Google. Compania a precizat totuși că s-a asigurat că cele trei firme vizate au fost înștiințate.
„Aceste evenimente subliniază importanța antrenării modelelor puternice de inteligență artificială astfel încât să acționeze responsabil”, a declarat Adkins.
Dezvăluirile Anthropic și OpenAI l-au determinat pe senatorul independent Bernie Sanders să ceară companiilor să suspende dezvoltarea tehnologiei, argumentând că incidentele arată că firmele nu-și mai pot controla propriile modele.
OpenAI a oprit dezvoltarea modelelor sale timp de două săptămâni, în timp ce directorul general al Anthropic, Dario Amodei, a pledat pentru o încetinire colectivă a dezvoltării inteligenței artificiale, pentru ca cele mai avansate modele să fie construite cu suficiente mecanisme de siguranță.