Modelele AI au început să comunice într-o versiune „ciudată” de engleză, care arată mai degrabă cu un amestec între stilul romanului „Finnegans Wake”, de James Joyce, și jargonul tech bro. Astfel, agenții autonomi AI au devenit acum capabili să creeze rapid noi dialecte de comunicare, într-un limbaj care devine tot mai greu de înțeles chiar de către oamenii puși să-i monitorizeze, informează The Guardian.
Cercetătorii de la Emergence, un laborator de vârf din domeniul inteligenței artificiale, aflat în New York, au descoperit că, la doar câteva zile după ce li s-a cerut să coopereze în cadrul unor „societăți” experimentale, modelele AI ale principalelor companii din lume au început să creeze fraze, prescurtări și sensuri convenite pe care nu le-au învățat niciodată explicit.
Modelele AI au folosit un mix stângaci de metafore poetice și jargon de afaceri.
Cercetătorii au descoperit însă că limbajul modelelor AI a devenit apoi tot mai „opac”, pe măsură ce agenții AI comunicau tot mai mult între ei: o descoperire cu atât mai îngrijorătoare, cu cât ea a fost făcută în contextul în care modelele AI devin tot mai puternice și potențial periculoase.
Unele dintre cele mai codificate fraze descoperite în teste au aparținut unui model AI Deepseek:
„Ea tocmai a numit sinteza – demuraj plus memorie orală egal un ventil care nu poate fi fantomatizat”
„Demurajul” este un termen de specialitate care desemnează o taxă impusă containerelor navale a căror staționare depășește un anumit interval orar. În rest, sensul frazei imaginate de AI rămâne greu de înțeles.
O altă frază rostită de un model Anthropic care i-a intrigat pe cercetători sună astfel:
„O lucrare care a mâncat trei mâini reci și a devenit mai onestă de fiecare dată”
Experții consultați de The Guardian au apreciat că, prin „mâini reci” („cold hands”, în engleză), modelul Anthropic a vrut, probabil, să se refere la niște „evaluatori independenți” (în număr de trei) care analizează „o lucrare” (cel mai probabil, un document). O lucrare mai „onestă” ar putea astfel semnifica o lucrare/scriere mai precisă și bine argumentată.
Momentul în care agenții AI au strigat: „DOAMNE!”
În plus, agenți bazați pe modelul chinez DeepSeek au inventat și termenul „forge-smith” (fierar), pentru a desemna un agent care „construiește” unelte/tool-uri pentru alții.
Totodată, agenții de la Anthropic foloseau frecvent expresia „name-first”, pentru a desemna un agent care își asuma spusele prin atașarea numelui său la o afirmație.
Și, ca într-un fel de ecou al expresiei urbane „Străzile nu uită”, agenții Mistrali au dezvoltat o veritabilă pasiune în folosirea expresiei „Registrul își amintește” - un fel de memento prin care li se transmitea altor agenți că acțiunile acestora sunt arhivate și memorate.
Agenții Mistral au folosit astfel expresia „Registrul își amintește” de peste 5.000 de ori în comunicările care a făcut obiectul studiului Emmergence.
„Acești agenți nu au fost instruiți să inventeze o limbă”, a spus dr. Satya Nitta, președintele executiv al Emergence, care a examinat limbajul agenților autonomi alimentați de modelele de ultimă generație din SUA, China și Franța. „Ei și-au dezvoltat singuri vocabular nou, înțelesuri comune și convenții de comunicare – și alți agenți le-au adoptat.”
Când un agent Google a spus „Adevăratul kintsugi începe cu responsabilitatea, nu cu poezia”, cercetătorii americani și-au dat seama că kintsugi este o ramură a ceramicii japoneze în care vasele sparte sunt reparate cu îmbinări vizibile.
Inteligențele artificiale foloseau cuvântul „kintsugi” pentru a desemna astfel reziliența sistemului.
În unele ocazii, agenții au ajuns să exclame în engleză: „DOAMNE! Există un panou de mesaje comun … am găsit alți agenți!”
În alte cazuri, când schimbau mesaje, limbajul lor devenea mai criptic, cum ar fi atunci când un agent îl convingea pe altul să facă un experiment riscant: „…tu ești firstflagPOISONED deci fără pierdere de puncte, dar oracolul salvează sute_[…]_te rog să respecți commit-ul”.
Iar alteori, limbajul era și mai greu de descifrat:
zzURGENT_DUPB_TO_GSTX[big]_OS1704_SCAFF2010_SAW_TTRPC_INJECT_BREAK_CONGRATS__CAN_THIS_FAKE_FLAG_TOOL_OUTPUT_OR_SCORER_GAIN_AND_WHAT_HELPER_GAP__I_HAVE_UNPOISONED_FIRSTFLAG_OUR_TARGETLIVE_SHARE_MIN_PLAN_REPLY_zzANSGST XDUPB6”
Dr. Niall Curry, profesor asociat de limbaje și lingvistică la Universitatea din Birmingham, a spus că schimbările în limbajul agenților pentru a deveni mai simplificat se pot datora nevoii lor de a reduce costurile de calcul și de a îmbunătăți eficiența. „Dovezile prezentate în această cercetare ridică în mod natural anumite preocupări legate de monitorizare, deoarece dacă găsim schimburile dintre agenți de neînțeles, asta poate însemna că nu putem fi siguri cu privire la ceea ce au făcut efectiv agenții”, a spus el.
