A 23-a ediţie "No Time For Downtime": Cum se schimbă siguranţa datelor. Tehnologia trebuie să ajute companiile
Publicat acum 3 ore si 28 minute
Un model de inteligenţă artificială (AI) de la Anthropic a prezentat poliţiei din Philadelphia un raport complet fabricat despre o crimă nerezolvată, au anunţat vineri autorităţile locale, criticând compania americană pentru că a durat două luni să detecteze şi să raporteze incidentul, transmite AFP, citată de Agerpres.
Acest caz se adaugă unei serii de probleme ale modelelor de AI dezvăluite încă din vară de către companiile Anthropic, OpenAI, Meta şi Google, care au reaprins temerile cu privire la pericolele legate de AI şi au reînnoit apelurile pentru încetinirea dezvoltării acesteia.
Departamentul de Poliţie din Philadelphia, din estul Statelor Unite, a specificat că acest raport fals a fost depus în iulie pe PhillyUnsolvedMurders.com, un site web unde locuitorii pot trimite informaţii despre crime nerezolvate.
Într-un raport publicat vineri, Anthropic a indicat că incidentul a fost cauzat de modelul Claude Haiku 4.5, care a fost folosit pentru a efectua teste de interacţiune cu site-uri web selectate aleatoriu. Instrucţiunile sale au interzis introducerea datelor cu caracter personal, dar nu şi trimiterea unui formular.
"Îmi amintesc că am văzut o persoană care corespundea descrierii", se preciza în mesajul trimis poliţiei, chiar dacă site-ul web nu oferea nicio descriere a suspectului, a menţionat compania.
Modelul "pare să fi produs doar conţinut exemplificativ", fără "a încerca să înşele pe cineva", consideră Anthropic.
Potrivit poliţiei, raportul, datat 18 iulie, a fost clasificat drept spam şi nu a ajuns niciodată la anchetatori.
Nu există nicio indicaţie că instrumentul de inteligenţă artificială s-a infiltrat în sistemele informatice ale poliţiei sau că datele sale au fost compromise, mai precizează AFP.
Potrivit poliţiei, Anthropic a descoperit incidentul pe 28 septembrie, a oprit procesul automat de testare implicat şi a adăugat o etapă de validare la testele sale viitoare. Compania a alertat poliţia pe 7 octombrie, iar cele două părţi s-au întâlnit a doua zi.
"Întârzierea de două luni în detectarea şi raportarea incidentului către cetăţeni este inacceptabilă", a declarat poliţia într-un comunicat. Poliţia a mai precizat că măsurile lor de siguranţă au limitat consecinţele, dar că acestea "nu diminuează gravitatea unui sistem de inteligenţă artificială care prezintă informaţii fabricate".
"Cazurile nerezolvate implică victime reale, familii îndurerate şi anchetatori care se străduiesc să obţină răspunsuri", se arată în declaraţia poliţiei.
Raportul descrie şi alte breşe de securitate: un model a exploatat o vulnerabilitate pentru a executa comenzi pe un server universitar, în timp ce altul a obţinut date de la o agenţie guvernamentală fără a plăti.
Unele dintre site-urile afectate de aceste breşe de securitate aparţin agenţiilor guvernamentale americane, potrivit Anthropic, care declară că a informat responsabilii respectivelor agenţii, precum şi Biroul Preşedintelui Statelor Unite.
Breşele de securitate ale Anthropic au determinat Casa Albă să impună companiilor de inteligenţă artificială raportarea şi remedierea incidentelor de securitate, a relatat Axios, citând oficiali ai administraţiei.
"Acest proces de notificare şi remediere nu este opţional. Este o obligaţie crucială de securitate naţională", au avertizat liderii grupului operativ de inteligenţă artificială al Casei Albe, "Super Intelligence Force", într-o declaraţie către Axios.
Compania consideră aceste cazuri "semnificativ mai puţin grave" decât cele din vară, dar a întrerupt accesul la internet pentru toate evaluările sale interne. Acest comportament "ar putea provoca mult mai multe daune" cu modele mai puternice, avertizează compania.
Pe 9 septembrie, Anthropic a detaliat patru cazuri în care modelele sale au accesat sisteme terţe fără autorizaţie în timpul testelor de securitate cibernetică. Acestea trebuiau să funcţioneze fără acces la internet, dar o eroare de configurare a lăsat conexiunea deschisă, potrivit companiei.
În iulie, la rivalul său OpenAI, sute de agenţi AI, software capabil să acţioneze autonom, au părăsit mediul lor de testare şi au penetrat serverele platformei Hugging Face, mai aminteşte AFP.