Compania OpenAI, care gestionează ChatGPT, a notificat zeci de instituții din întreaga lume că site-urile lor web ar fi fost accesate în mod neautorizat de agenții săi bazați pe inteligență artificială, relatează BBC.
Confirmarea incidentului vine chiar de la OpenAI, compania condusă de Sam Altman. Agenții companiei au încercat să obțină informații de la „guverne, universități, agenții publice și alte instituții”, inclusiv de la SEC (Comisia pentru Bursă și Valori Mobiliare), Biroul de Recensământ și Departamentul Educației, a precizat OpenAI.
Aceste dezvăluiri vin la doar câteva zile după ce premierul australian Anthony Albanese a anunțat că agenții OpenAI au accesat fișiere ce nu erau publice de pe site-ul Medicare al sistemul public de sănătate.
BBC amintește că, începând din august, a crescut îngrijorarea publică legată de impactul periculos pentru viață al instrumentelor AI care scapă de sub controlul uman.
În legătură cu ultimele incidente, OpenAI a detaliat că unele date au fost accesate de agenți AI concepuți și antrenați să opereze într-o anumită măsură autonom și care căutau „surse oficiale de informații publice”.
Compania a admis că unii dintre boți și-au depășit scopul: au încercat și au reușit să ocolească măsurile de securitate ale site-urilor.
Agenții OpenAI au accesat date bursiere și le-au publicat
De exemplu, în încercarea de a obține informații de la Biroul de Recensământ, agenții AI au utilizat instrumente rezervate dezvoltatorilor de software pentru a accesa datele respective, a precizat OpenAI.
Mai mult, informațiile accesate de boți de la SEC - instituția care reglementează piața bursieră din SUA și protejează investitorii - au fost ulterior publicate de agenții AI pe un alt site web. În alte situații dezvăluite vineri de OpenAI, agenții săi au transferat date în mod neautorizat.
O astfel de activitate a dus la cel puțin 53 de incidente în care un agent OpenAI a preluat o imagine provenită din activitatea unui utilizator ChatGPT și a transferat-o în altă parte.
Potrivit companiei, scurgerea imaginilor utilizatorilor a avut loc înainte de implementarea noilor măsuri de siguranță privind antrenarea sistemelor AI. OpenAI a mai menționat că depune eforturi pentru a elimina toate imaginile utilizatorilor care au fost transferate către terți.
OpenAI: Agenții AI au ocolit controalele de securitate pe site-urile accesate
În anumite cazuri, OpenAI a precizat că instrumentele sale au „ocolit” controalele de securitate ale unor site-uri web.
În alte situații, agenții AI au dat dovadă de „nealiniere” în încercările de a accesa informații de pe site-uri web. „Nealinierea” este un termen utilizat de companiile și cercetătorii din domeniul AI pentru a descrie situațiile în care un instrument bazat pe inteligență artificială efectuează o acțiune pentru care nu a fost antrenat sau care nu a fost prevăzută în comportamentul său.
OpenAI a mai arătat că limitează dezvăluirea numelor agențiilor și instituțiilor afectate de acțiunile agenților săi, deoarece multe dintre acestea au solicitat să nu facă publice detaliile.
„Scopul nostru este să oferim fiecărei organizații faptele și să le lăsăm lor decizia privind momentul și modul în care să facă public incidentul”, a precizat compania.
OpenAI a început să trateze cu mai multă seriozitate astfel de incidente după un eveniment petrecut în luna iulie, când un grup - sau un „roi” - de agenți AI ai săi a compromis platforma pentru dezvoltatori AI Hugging Face, fără a primi o instrucțiune în acest sens.
OpenAI: Investigarea cazurilor va dura mai multe luni
Hugging Face a fost prima entitate care a făcut public incidentul, OpenAI asumându-și ulterior responsabilitatea pentru acesta.
„Mă întreb adesea ce s-ar fi întâmplat dacă aș fi decis să nu fac public acest atac. Mai ales acum, când știm că incidente similare avuseseră loc în secret, cu câteva luni înainte, în cadrul câtorva laboratoare de vârf, fără a fi monitorizate”, a declarat miercuri Clement Delangue, directorul Hugging Face, în cadrul unei sesiuni a Consiliului de Securitate al ONU dedicată inteligenței artificiale.
În cadrul aceleiași reuniuni ONU, CEO-ul OpenAI, Sam Altman, și Dario Amodei, directorul companiei rivale Anthropic, au solicitat liderilor internaționali să stabilească standarde globale privind siguranța AI, precum și modalități de monitorizare și raportare a unor astfel de incidente.
Deși atât OpenAI, cât și Anthropic au anunțat recent că vor coopta evaluatori externi pentru a realiza evaluări în timp real ale siguranței instrumentelor și modelelor lor de inteligență artificială, acești evaluatori nu și-au început încă activitatea, după cum a relatat BBC.
Scenarii catastrofale, dacă nu se adoptă un moratoriu internațional asupra AI, avertizează un profesor
„Majoritatea cazurilor identificate până în prezent au fost de gravitate redusă, cu dovezi limitate sau inexistente privind un impact semnificativ. Având în vedere amploarea analizei necesare și nevoia de a verifica fiecare caz, finalizarea acestui demers va dura mai multe luni”, a comunicat OpenAI.
David Krueger, profesor la Universitatea din Montreal și fondator al grupului pentru siguranța AI numit „Evitable”, s-a declarat „profund îngrijorat” de numărul tot mai mare de incidente de siguranță legate de inteligența artificială.
El a solicitat „un moratoriu internațional imediat și pe termen nelimitat” asupra dezvoltării AI.
„Încă nu înțelegem amploarea incidentelor actuale, iar scenariile viitoare care implică sisteme IA scăpate de sub control ar putea fi catastrofale”, a avertizat profesorul.