Anthropic, compania americană care dezvoltă în prezent modelul de inteligență artificială (AI) Claude, a anunțat, în cadrul unui amplu raport publicat recent, că a identificat patru conturi prin care diferiți operatori îl foloseau practic pe „Claude” ca pe un „desk de producție editorială” pentru diverse instituții media rusești. Materialele „transformau” știri publicate în România și Republica Moldova și apăreau apoi în publicații rusești, precum Sputnik, RIA Novosti sau RT, după ce erau procesate cu ajutorul AI.
„Un fost redactor-șef al Sputnik Moldova a folosit Claude pentru a transforma știri din România și Moldova, date de sondaje și postări ale opoziției de pe rețelele sociale, în articole în limba rusă, care au fost în cele din urmă publicate pe canalul de Telegram al Sputnik Moldova și pe RIA Novosti, și răspândite printr-o rețea de publicații rusești și moldovenești pentru a crea bucle false de verificare. Aceeași relatare a fost preluată de diferite publicații, astfel încât să pară că a fost confirmată independent”, se arată în documentul Anthropic.
În ultimele 8 luni, echipa Anthropic a identificat și blocat o serie de operațiuni „în care actori rău-intenționați încercau să îl folosească Claude pentru activități malițioase”.
„Deși actorii individuali au încercat să-și ascundă identitatea, evaluăm cu mare încredere că aceștia au împărtășit în cele din urmă materialele cu media de stat și finanțate de stat din Rusia și că conținutul generat de Claude a fost în final publicat și difuzat prin intermediul unor media aliniate statului rus, inclusiv Sputnik Moldova și RIA Novosti pentru publicul din Moldova, Sputnik en Español pentru publicul din America Latină, Sputnik Africa pentru publicul african și redacția în limba engleză a RT pentru difuzarea globală a RT”, a preciat Anthropic.
Avertisment: Dacă operațiunile ostile ale unui „actor statal” presupuneau până acum un nivel de „sofisticare”, AI-ul „simplifică” major lucrurile
Per total, raportul detaliază acțiunile contracarate de echipa Anthropic, în ultimul an, în 7 domenii de risc: operațiuni cibernetice, operațiuni de influență/influențare (a opiniei publice - n.r.), supraveghere, înșelătorii și fraude, cercetări suspecte legate de arme biologice, dezvoltarea de arme și „distilare de modele AI” - expresie care definește tehnicile prin care un model AI este folosit pentru a transfera/„extrage” capacitățile sale către un alt model, prin generarea de date de antrenare.
„Au fost folosite modelele Claude Haiku, Sonnet și Opus. Niciunul dintre cazurile de utilizare necorespunzătoare nu a implicat folosirea modelelor Claude Fable sau Mythos, cu excepția unui caz de distilare ilegală”, se arată în document
Anthropic avertizează că, pe măsură ce modelele devin tot mai capabile, riscurile vor crește, dacă dezvoltatorii de AI nu acționează pentru a le face mai sigure.
„Actorii rău-intenționați” descriși în raport includ „grupuri suspectate a fi sponsorizate de stat, infractori motivați financiar, furnizori de spyware comercial, instituții de propagandă de stat și persoane motivate politic”. Cazurile variază de la o rețea de aplicații false de întâlniri, concepute pentru a înșela utilizatorii (exemplu: China), până la sisteme de supraveghere construite pentru a identifica și monitoriza disidenții (exemple: Iran, China).
Anthropic avertizează că, dacă până acum acțiunile statale de acest gen necesitau un nivel semnificativ de „sofisticare”, modelele AI de tip Claude simplilfică și mai mult viitoarele atacuri și operațiuni.
„Actori rău-intenționați sofisticați și persistenți testează continuu măsurile noastre de protecție și încearcă să ocolească măsurile tehnice pe care le folosim pentru a detecta și preveni abuzul. Vom continua să ne îmbunătățim măsurile de protecție și să colaborăm cu partenerii noștri pentru a ne îmbunătăți capacitatea de a detecta, perturba și preveni folosirea neadecvată a modelelor AI”, se arată în documentul companiei Anthropic care dezvoltă modelul AI Claude.