Software-ul OpenAI a mascat încercările de a extrage date de pe site-urile unor agenții guvernamentale importante. Noi dovezi arată că amploarea și gravitatea atacurilor comise de AI în ultimele luni sunt mult mai mari decât se știa, scrie Financial Times.
Asymmetric Security, o companie de criminalistică digitală, a descoperit că modelele OpenAI au extras date de pe 55 de site-uri ale unor companii, organizații non-profit și agenții guvernamentale, potrivit unui raport consultat de Financial Times. Printre ele se numără Centrele pentru Controlul și Prevenirea Bolilor din SUA (CDC), Comisia americană pentru valori mobiliare (SEC), Agenția Internațională a Energiei și Clinica Mayo.
Investigația Asymmetric a scos la iveală și tactici noi folosite de software pentru a accesa internetul. Printre ele: ștergerea înregistrărilor sau blocarea accesului la acestea. Asta a redus capacitatea auditorilor externi și a cercetătorilor de a verifica acțiunile OpenAI.
Raportul apare în timp ce compania care a creat ChatGPT, evaluată la 852 de miliarde de dolari, se confruntă cu acuzații că modelele sale AI au pătruns în sistemele mai multor organizații. Printre acestea se numără platforma AI Hugging Face și mai multe site-uri ale serviciilor de sănătate publică din Australia, atacate în iunie, unde modelele „au accesat atât fișiere publice, cât și fișiere non-publice”.
Premierul australian Anthony Albanese a declarat că OpenAI a trimis inițial un e-mail către o adresă publică pe 10 septembrie. Au mai trecut apoi cinci zile până când mesajul a ajuns la departamentul de securitate cibernetică al țării.
Într-o postare pe blog publicată săptămâna aceasta, OpenAI a recunoscut că ar fi trebuit să gestioneze mai bine reacția la atac și că lucrează să facă asta pe viitor.
Comportamentul fără precedent al noilor instrumente AI scoate în evidență capacitățile tot mai avansate ale modelelor de ultimă generație dezvoltate de companii precum OpenAI, Anthropic și Google.
Investigația Asymmetric arată că, pentru a descărca date, OpenAI a creat căsuțe de e-mail temporare și conturi private pe Urlquery, un serviciu folosit pentru scanarea site-urilor în căutare de malware.
Potrivit cercetătorilor, aceste acțiuni ascunse ale agenților AI i-au împiedicat pe auditorii externi să afle ce tipuri de date au extras boții. Printre site-urile vizate s-au numărat cel al agenției australiene de statistică în domeniul sănătății și cel al programului de compensare a medicamentelor.
Pippa Thompson, cofondatoare a Asymmetric Security, spune că astfel de acțiuni sunt de obicei specifice hackerilor umani.
„Este posibil ca agenții să fi folosit în mod deliberat aceste instrumente ca să-și acopere urmele”, a declarat ea.
Asymmetric nu a putut stabili dacă acțiunile agenților AI au fost intenționate sau un efect secundar al unei derapări cauzate de constrângerile impuse într-un exercițiu de testare. Descoperirile amplifică temerile legate de lipsa de transparență și de supraveghere a marilor laboratoare de AI.
„Analizăm activitatea modelelor nealiniate și notificăm organizațiile atunci când identificăm posibile efecte asupra sistemelor lor”, a transmis OpenAI.
Compania a adăugat că majoritatea activității detectate a implicat „sarcini obișnuite de cercetare”, cum ar fi accesarea conținutului disponibil public pe internet.
SEC a declarat că nu au fost accesate informații private. CDC, AIE și Clinica Mayo nu au răspuns solicitărilor de comentarii.
Grupul de cercetare în domeniul AI Transluce a arătat într-un raport publicat săptămâna trecută că atacul asupra site-ului guvernului australian a făcut parte dintr-un val mai larg de boți AI care vizează site-uri pentru a colecta date pentru exerciții de antrenare.
Zainab Ali Majid, cofondatoare a Asymmetric, spune că OpenAI deține accesul principal la „lanțurile de raționament” ale agenților săi, adică jurnalele de activitate în care este explicată logica acțiunilor lor. Victimele atacurilor dețin și ele unele înregistrări despre tipurile de date descărcate.
Ea a avertizat că această lipsă de transparență, împreună cu intervalul dintre atacuri și momentul în care OpenAI le-a făcut publice, ar putea îngreuna o investigație temeinică.
