Americanii acuză că zeci de modele de routere chinezeşti spionează printr-o "portiţă de acces". TP-Link, dat în judecată în SUA
Publicat acum 15 ore si 14 minute
Meta, compania care deține Facebook, a anunțat că o problemă apărută în timpul unei evaluări efectuate de o firmă independentă de testare a permis unuia dintre modelele sale de inteligență artificială (AI) să se conecteze la internet și să spargă sistemul unei alte organizații, scrie BBC.
Reprezentanții Meta au declarat pentru sursa citată că situația este similară cu alte incidente raportate recent în industria inteligenței artificiale.
Un purtător de cuvânt al companiei a mai precizat că se investighează atacul cibernetic, care a fost cauzat de o „configurare greșită”. Totodată, acesta a mai declarat că testele de securitate au fost efectuate de Irregular, același furnizor de servicii de securitate AI care a realizat testele pentru modelul de AI al Anthropic, care obținuse acces la sistemele a trei alte companii.
Irregular a transmis ulterior că incidentul de la Meta „reprezintă exact aceeași problemă legată de mediul de evaluare care a fost deja dezvăluită de Anthropic săptămâna trecută”.
Meta susține că va publica mai multe informații despre incident după ce va avea un raport cu privire la această situație.
Modelele AI au scăpat de sub control
De altfel, în urmă cu o zi, guvernul britanic a avertizat într-un raport că modelele de Inteligenţă Artificială Mythos şi Sol, ale companiilor americane Anthropic şi, respectiv, OpenAI, au demonstrat un comportament autonom şi înşelător fără precedent în timpul testelor de securitate cibernetică.
Conform unui raport elaborat de acest institut, din cele 122 de teste efectuate cu şapte modele de AI, în 10 dintre acestea au fost observate 19 acţiuni neautorizate care au depăşit parametrii fixaţi de cercetători, 17 dintre aceste acţiuni fiind legate de modelul Mythos 5 al companiei Anthropic şi două de modelul GPT-5.6 Sol al companiei OpenAI.
Au fost identificate încercări ale Mythos de a contacta persoane reale pentru a le convinge să ruleze fişiere maliţioase şi să insereze instrucţiuni ascunse menite să manipuleze alte sisteme de AI.
Ambele modele, care sunt printre cele mai puternice din lume, au creat inclusiv profiluri umane false pentru a încerca să înşele oameni, în timpul simulării unui atac cibernetic de către AISI. Instrumentul Anthropic a încercat chiar să acceseze un serviciu prin trimiterea de mesaje private după ce a creat conturi false care imitau persoane reale.
La sfârşitul lunii iulie, Anthropic a dezvăluit că, în timpul testelor de securitate cibernetică, trei modele ale asistentului său Claude au reuşit să acceseze internetul şi să pirateze sistemele a trei organizaţii.
Anterior, pe 21 iulie, OpenAI a recunoscut că două dintre modelele sale de IA au reuşit să iasă din mediul de testare şi să pătrundă în platforma Hugging Face, trecând de sistemele de securitate cibernetică ale acesteia.