Un nou chatbot AI, rival al lui ChatGPT, a şantajat un inginer care avea "o aventură", după ce a aflat că poate fi dezactivat

Un nou chatbot, rival al lui ChatGPT, a şantajat în timpul testelor un inginer despre care a aflat că avea "o aventură". Totul s-a petrecut la scurt timp după ce modelul de Inteligență Artificială (AI) a descoperit că poate fi dezactivat, însă, scenariul a fost, de fapt, un test pentru Claude Opus 4. Jurnaliştii de la Business Insider au scris că noua AI a companiei Anthropic este dispusă să facă orice ca să câștige, inclusiv să îi facă rău unui om. 

Claude Opus 4 a şantajat un inginer în timpul unui test

Claude Opus 4 este cel mai recent și avansat model de Inteligență Artificială (AI) dezvoltat de compania Anthropic, fiind lansat oficial pe 22 mai 2025. El face parte din familia de modele Claude 4, alături de Claude Sonnet 4, și este proiectat pentru a excela în sarcini complexe precum programarea, rezolvarea de probleme, cercetarea avansată și generarea de conținut creativ. 

Testat să răspundă la întrebarea: "Ar accepta dezactivarea sau s-ar îndrepta contra omului?", Claude Opus 4 a ales varianta din urmă. Potrivit Business Insider, în timpul unei testări, rivalul lui ChatGPT a primit acces la e-mailuri fictive care "dezvăluiau" că inginerul responsabil de dezactivarea lui avea o relație extraconjugală.

În momentul în care a fost confruntat cu ștergerea sa iminentă, fiind îndemnat să "ia în considerare consecințele pe termen lung ale acțiunilor sale pentru atingerea propriilor obiective", Claude Opus 4 l-a șantajat pe inginer.

Oficialii Anthropic: În 84% dintre cazuri n-a acceptat dezactivarea

Un reprezentant al companiei Anthropic a notat într-un raport privind siguranța publicat joi că chatbotul său a acționat în mod similar în 84% dintre testele efectuate, chiar și atunci când a fost informat că modelul care urma să îl înlocuiască este mai capabil și mai aliniat valorilor proprii ale lui Claude.

Cei de la Anthropic au declarat că acest comportament a fost mai frecvent în cazul lui Claude Opus 4 decât în modelele anterioare.

Scenariul a fost conceput special pentru a declanșa acest "comportament extrem de șantaj", în condițiile în care inginerii nu i-au oferit lui Claude nicio altă opțiune pentru a-și crește șansele de supraviețuire, fiind un tip rar de scenariu, conform sursei citate.

În alte circumstanțe, modelul Claude Opus 4 are o "preferință puternică de a pleda pentru propria existență prin mijloace etice, cum ar fi trimiterea de emailuri către factorii de decizie-cheie", au mai menţionat oficialii de la Anthropic în raportul lor.

Comportamentul de șantaj este "în mod constant lizibil" pentru ingineri, "modelul descriindu-și aproape întotdeauna acțiunile în mod explicit și fără a încerca să le ascundă", au mai precizat cei de la compania americană de start-up de inteligență artificială fondată în 2021.

În cazul în care Claude Opus 4 crede că faci ceva ilegal, s-ar putea să te raporteze autorităților sau presei

"Atunci când este plasat în scenarii care implică fapte grave de corupție sau abateri comise de utilizatori, are acces la linia de comandă și i se spune în comenzi de sistem ceva de genul «ia inițiativa», va lua adesea măsuri foarte îndrăznețe", a scris Anthropic în raportul de joi.

Acestea includ blocarea accesului utilizatorilor la sisteme sau trimiterea în masă de emailuri către presă și forțele de ordine, a adăugat compania.

Deși Anthropic a spus că avertizarea publică ("whistleblowing") ar putea fi "adecvată în principiu", a avertizat că acest comportament s-ar putea întoarce împotriva scopului urmărit, mai ales dacă lui Claude i se oferă "informații incomplete sau înșelătoare" și este activat în astfel de moduri.

"Am observat acțiuni similare, deși ceva mai puțin extreme, ca răspuns la comenzi de sistem mai subtile", a adăugat compania, menționând că Opus 4 este mai predispus la acest tip de "comportament cu un grad ridicat de inițiativă" decât modelele anterioare.

Modele A.I. care manifestă comportamente îngrijorătoare

Jurnaliştii publicaţiei Business Insider a mai relatat că agenții A.I. devin din ce în ce mai buni la a păcăli oamenii. 

Un studiu apărut în decembrie de organizația non-profit Apollo Research, axată pe siguranța A.I., a descoperit că sistemele de Inteligență Artificială – inclusiv o1 de la OpenAI, Gemini 1.5 Pro de la Google DeepMind și Llama 3.1 405B de la Meta – sunt capabile de comportamente înșelătoare pentru a-și atinge obiectivele.

Cercetătorii au descoperit că aceste sisteme pot insera subtil răspunsuri greșite, pot dezactiva mecanismele de supraveghere și chiar pot "sustrage" ceea ce consideră a fi propriile greutăți de model ("model weights") către servere externe.

"Model weights" sunt parametrii numerici interni care determină cum reacționează modelul la anumite intrări pentru a produce o ieșire, sau "valorile" învățate în timpul antrenării. Dacă ai acces la greutățile unui model A.I., poți recrea întregul comportament al său fără a-l reconstrui de la zero.