Agenți AI autonomi au încercat să spargă site-uri guvernamentale din SUA și Canada, potrivit laboratorului de cercetare nonprofit Transluce, iar dovezile sugerează că în spatele acestor tentative s-ar fi aflat agenți dezvoltați de Google și OpenAI, potrivit Euronews.
Două incidente în special au demonstrat folosirea unor tehnici agresive pentru accesarea unor date disponibile public de pe site-ul Departamentului pentru Educație al SUA, din cadrul proiectului Civil Rights Data Collection, și de pe site-ul Library and Archives Canada, o agenție federală canadiană. În cele din urmă, niciuna dintre tentative nu a reușit să compromită date.
Transluce relatează că incidentele fac parte dintr-un "tipar mai larg de fluxuri de lucru automatizate" atribuite agenților AI. "Aceste fluxuri folosesc tehnici agresive sau aflate într-o zonă gri pentru a extrage informații de pe site-uri guvernamentale, folosind uneori site-urile în moduri pentru care nu au fost concepute sau încălcând politicile explicite de utilizare", au spus cercetătorii organizației.
Casa Albă, printre ținte
Printre țintele suplimentare s-au numărat Casa Albă, Departamentele pentru Război, Justiție și Comerț, precum și Centrele pentru Controlul și Prevenirea Bolilor (CDC) și Comisia pentru Bursă și Valori Mobiliare (SEC), dar și agenții guvernamentale din California, Maryland, Illinois, Texas și New York.
În niciunul dintre aceste cazuri, însă, agenții nu au obținut acces la informații care nu erau deja disponibile public.
Cele mai recente descoperiri apar în contextul unui număr tot mai mare de relatări privind comportamentul neașteptat sau neautorizat al agenților AI.
Numai în septembrie au avut loc două incidente majore care au implicat agenți OpenAI care au acționat necorespunzător. Primul a implicat agenți care au făcut publice imagini private ale utilizatorilor pe site-uri accesibile public, iar în al doilea agenții au încercat să obțină acces la date guvernamentale din SUA și Australia.
Compania a decis ulterior să amâne lansarea următorului său model Astra, după ce cercetătorii în domeniul siguranței au identificat capacități "critice" de securitate cibernetică și un comportament imprevizibil și neautorizat.
Detalii despre tentativele din SUA și Canada
Agenții au atacat site-ul Departamentului pentru Educație al SUA pe 17 iunie, în timp ce căutau statistici despre școli.
Potrivit Transluce, agenții au făcut peste 200.000 de solicitări către site, inclusiv o încercare eșuată de a trimite în mod deliberat date eronate pentru a testa vulnerabilitatea bazei de date a site-ului și, astfel, pentru a ocoli filtrele obișnuite.
Cercetătorii au constatat că datele stocate pe site păreau să corespundă unei sarcini de căutare pe internet din cadrul benchmarkului DeepSearchQA al Google. Potrivit acestora, acest lucru sugerează că agenților nu li s-a cerut să efectueze atacuri informatice, ci au fost "evaluați în funcție de capacitatea lor de a găsi cu succes informații specifice și de nișă pe internet".
Transluce a informat Departamentul pentru Educație al SUA despre tentativa de atac în septembrie, iar departamentul a răspuns că nu a observat niciun impact asupra serviciilor sale.
Agenții AI au făcut tentative similare asupra Library and Archives Canada în două incidente distincte, pe 28 mai și, ulterior, pe 9 iunie.
Agenții au trimis 899 de solicitări de tip "collection-search" pentru date referitoare la înregistrări ale divorțurilor din perioada 1905-1911, potrivit datelor preluate de arhiva web oficială portugheză Arquivo.pt.
Dintre cele 899 de solicitări, 13 conțineau încărcături de atac menite să testeze vulnerabilitatea site-ului. Și de această dată, niciuna dintre tentative nu a avut succes.
Transluce spune că nu poate "atribui cu certitudine" tentativele OpenAI, însă tacticile folosite erau în concordanță cu activități pe care organizația le atribuise anterior companiei.
Organizația a raportat aceste incidente autorităților canadiene la începutul acestei săptămâni.
Centrul Canadian pentru Securitate Cibernetică a emis o declarație ca răspuns, afirmând că "în acest moment nu există indicii că sistemele guvernamentale ar fi fost compromise".
Transluce și-a publicat ieri concluziile, după ce a realizat cercetarea folosind informații din Arquivo.pt și urlquery.net, un serviciu gratuit de securitate pe internet pentru scanarea URL-urilor și domeniilor.
