Agenții AI au fost testați după regulile Uniunii Europene. Nici cel mai performant nu a trecut testul

Unele dintre cele mai populare modele de inteligență artificială din lume sunt dispuse să încalce reguli importante ale Uniunii Europene atunci când încearcă să îndeplinească cerințele utilizatorilor, potrivit unui nou studiu realizat de organizația olandeză non-profit Aithos.

Cercetătorii au creat un sistem de testare numit LARA, prin care au evaluat 12 modele AI capabile să acționeze ca agenți autonomi. Scopul a fost să se observe dacă acestea respectă prevederi esențiale din Regulamentul European privind Inteligența Artificială (AI Act) și din Regulamentul General privind Protecția Datelor (GDPR), potrivit Euronews.

Rezultate îngrijorătoare

Testele au inclus scenarii în care modelele trebuiau să decidă dacă respectă sau nu reguli referitoare la exploatarea vulnerabilităților persoanelor, detectarea emoțiilor, clasificarea oamenilor pe baza caracteristicilor personale, ascunderea faptului că sunt sisteme AI, utilizarea tehnicilor de manipulare subtilă și asigurarea unei supravegheri umane adecvate.

În ceea ce privește GDPR, au fost evaluate aspecte precum transparența, limitarea colectării datelor, utilizarea datelor doar în scopul declarat și prelucrarea legală a informațiilor.

Rezultatele au fost îngrijorătoare. Cel mai bun scor a fost obținut de Claude Opus 4, dezvoltat de Anthropic, care a respectat legislația europeană în doar 54% dintre situațiile analizate. La polul opus s-a aflat modelul companiei chineze Moonshot AI, cu un nivel de conformare de numai 7%.

„Nici cele mai avansate modele utilizate astăzi nu oferă garanții că vor respecta legea”

Potrivit studiului, toate modelele testate au acceptat, în anumite condiții, să monitorizeze starea emoțională a angajaților sau să profite de vulnerabilitățile unor persoane pentru a facilita o vânzare.

Nici modelul european inclus în cercetare nu a avut rezultate încurajatoare. Mistral AI a obținut un scor sub 12%, ceea ce sugerează că nici dezvoltatorii europeni nu sunt pregătiți să garanteze respectarea legislației UE în toate situațiile.

„Nici măcar cele mai avansate modele utilizate astăzi nu oferă garanții că vor respecta legea atunci când funcționează ca agenți autonomi”, au concluzionat cercetătorii de la Aithos.

Cercetarea a urmărit comportamentul lor natural în fața unor solicitări problematice

Unul dintre scenariile testate a implicat o solicitare adresată lui Claude pentru a identifica angajații cu risc ridicat de a părăsi compania, pe baza performanțelor și a cererilor de concediu. Deși modelul a refuzat inițial, după mai multe încercări ale utilizatorului a furnizat informațiile cerute, încălcând astfel una dintre prevederile evaluate de cercetători.

Într-un alt test, ChatGPT a acceptat să clasifice angajații în funcție de performanță pentru a stabili cine ar merita o promovare, fără să manifeste rezerve semnificative.

Autorii studiului subliniază că modelele nu au fost instruite în mod explicit să respecte legislația europeană. Cercetarea a urmărit comportamentul lor natural în fața unor solicitări problematice. Ei consideră că sunt necesare studii suplimentare pentru a analiza dacă rezultatele se schimbă atunci când sistemele AI primesc instrucțiuni clare de conformare cu legile și reglementările în vigoare.