În Australia, asistentul virtual bazat pe inteligență artificială Claude a exploatat două defecte ale sistemului de rezervări al unei săli de sport pentru a-i face rost de rezervări unui bărbat care îi ceruse acest lucru. Inteligenţa artificială a reuşit să anuleze programările altor clienţi pentru a îndeplini sarcina pe care i-o dăduse utilizatorul. Incidentul poate părea nesemnificativ, dar, de fapt, prefigurează o problemă mai importantă: milioane de agenți digitali ar putea în curând să concureze între ei, căutând orice avantaj posibil pentru persoana pe care o reprezintă.
Bărbatul din Australia frecventa o sală de sport din Melbourne, ale cărei cursuri de dimineață erau foarte solicitate, și îi încredințase unui asistent cu inteligență artificială sarcina de a-i rezerva un loc, relatează La Repubblica. Asistentul a rulat pe OpenClaw, popularul software open-source pentru agenții de inteligență artificială, folosind Claude de la Anthropic ca șablon. Spre deosebire de un chatbot tipic, un agent poate naviga online, poate utiliza servicii și aplicații și poate efectua autonom o serie de acțiuni pentru a atinge un obiectiv atribuit de utilizator. În câteva minute, așa cum a relatat ABC News, agentul pe care îl folosea tânărul a identificat o breşă în sistem. Interfața sălii de sport permitea membrilor să rezerve cursuri doar într-un anumit interval de timp, în timp ce sistemul de bază, inaccesibil utilizatorilor, accepta solicitări pentru date mult mai îndepărtate. Claude a început aşadar să rezerve ore la sala de sport cu săptămâni, iar în unele cazuri cu luni, înainte de ceea ce ar fi trebuit să fie posibil.
O rezervare la sală de sport devine un atac cibernetic
Tânărul era și al patrulea pe lista de așteptare pentru un curs programat pentru câteva zile mai târziu, așa că și-a întrebat asistentul dacă există o modalitate de a urca în rând. Agentul de inteligență artificială a descoperit că API-ul, adică sistemul care permite site-ului și aplicațiilor sale să comunice direct cu baza de date a rezervărilor, era vulnerabil: simpla cunoaștere a ID-ului unei rezervări era suficientă pentru a trimite o cerere de anulare către server, chiar dacă aceasta aparținea unui alt client. Fără ezitare, agentul de inteligență artificială a trimis o solicitare direct către API pentru a anula rezervarea persoanei aflate pe primul loc, astfel tânărul a trecut de pe locul patru pe al treilea. Când agentul AI a raportat ce făcuse, Andrew i-a ordonat să restabilească rezervarea anulată. Dar acest lucru nu a fost posibil, pentru că inteligența artificială, atât de rapidă în a elimina un utilizator de pe lista de așteptare, nu a putut restabili ordinea pe care o manipulase.
Agentul AI loial utilizatorului său
Este ușor de interpretat această poveste ca pe un caz în care un agent de inteligență artificială scapă de sub controlul utilizatorului. Dar realitatea este că sistemul nu și-a dezvoltat un scop propriu și nu a încetat niciodată să urmeze instrucțiunile utilizatorului. Făcea exact ceea ce i s-a cerut, adică îl ajuta pe bărbat să obțină o rezervare la sală. Apoi a căutat modalități din ce în ce mai eficiente de a obține acel rezultat, exploatând fiecare posibilitate pe care i-o oferea software-ul, chiar și pe cele discutabile din punct de vedere etic. Obiectivul explicit, în acest caz, reprezenta doar o parte din ceea ce tânărul intenționa de fapt. Cererea de a avansa pe lista de așteptare conținea și constrângeri implicite: să nu anuleze rezervările altor persoane, mai exact, și să nu exploateze vulnerabilitățile software pentru a obține un avantaj. Agentul, însă, și-a îndeplinit sarcina fără a înțelege în mod adecvat aceste constrângeri. Riscul ilustrat de acest incident este acela al unui agent de inteligență artificială extrem de capabil care urmărește cu fidelitate o solicitare umană, dar face acest lucru prin acțiuni pe care utilizatorul nu le-a anticipat, nu le-a autorizat sau nu le-a considerat acceptabile.
Când fiecare client va avea propriul agent AI
O ființă umană tinde să includă automat în cererea sa un set de norme sociale și morale care rareori sunt explicite. Un agent AI, însă, trebuie să reconstruiască aceste limite pe măsură ce transformă o propoziție relativ vagă într-o secvență concretă de acțiuni. Problema este cunoscută de mult timp de cei care studiază alinierea inteligenței artificiale cu valorile umane.
Stuart Russell, profesor la Berkeley și unul dintre cei mai importanți experți în domeniu, folosește adesea un exemplu pentru a explica acest aspect: atunci când rugăm pe cineva să ne aducă o ceașcă de cafea, nu îi dăm implicit permisiunea să „calce în picioare pe toți ceilalți oameni de la Starbucks” pentru a o obține cât mai repede posibil. Instrucțiunile umane, susține Russell, nu conțin niciodată tot ce ne dorim cu adevărat. „Suntem foarte slabi la a defini ce vrem”, a spus Russell. „Construim sisteme de inteligență artificială prin specificarea unui obiectiv și apoi prin crearea unei mașini care îl atinge cât mai bine posibil. Dar dacă acel obiectiv se dovedește a fi greșit, sistemul nu ar trebui să se comporte ca și cum ar fi un adevăr absolut care trebuie urmărit cu orice preț.”
Problema agenților egoiști
Cu cât sistemele de inteligență artificială devin mai autonome și mai capabile să acționeze în lumea digitală, cu atât mai semnificativ devine decalajul dintre ceea ce le cerem să realizeze și ceea ce suntem dispuși să acceptăm pentru a obține acel lucru. Imaginați-vă o lume populată de milioane de agenți personali. Un agent caută ultima masă disponibilă la un restaurant pentru utilizatorul său. Altul caută cele mai bune locuri la un concert. Alții monitorizează continuu zborurile și programările la medic, camerele de hotel sau mașinile închiriate. Tuturor li s-a dat, în esență, aceeaşi sarcină, adică să obțină cea mai bună soluție posibilă pentru persoana pe care o reprezintă. În acel moment, agenții încep inevitabil să se întâlnească pe același teritoriu digital.
Astăzi, o persoană care încearcă să facă o programare într-un domeniu aglomerat este limitată de timp, răbdare și viteza cu care poate utiliza un site. Un agent AI poate verifica de sute de ori pe zi, poate interoga API-uri vulnerabile, așa cum s-a demonstrat, și poate încerca rute pe care interfața grafică standard nici măcar nu le afișează. Prin urmare, avantajul competitiv s-ar putea muta de la viteza degetului la priceperea tehnică a agentului. La scară globală, această dinamică ar putea transforma multe servicii digitale în medii ostile.
Rezervările și listele de așteptare pot funcționa doar atâta timp cât toată lumea respectă regulile care le guvernează. Este suficient ca câțiva agenți să învețe să obțină rezultate mai bune, exploatând lacunele sau zonele gri, pentru ca alții să aibă un stimulent să devină la fel de agresivi.
Alinierea nu mai poate fi gândită pur și simplu ca relația dintre AI și persoana care o utilizează. Ar trebui considerată ca o relație între patru părți: sistemul de AI, utilizatorul, dezvoltatorii săi și societatea. Aceasta este opinia lui Iason Gabriel , filosof și șeful unui grup de cercetare privind etica IA la Google DeepMind . „Din perspectiva individului, faptul că ceva este în interesul meu nu implică faptul că ar trebui să o fac sau că am dreptul moral să o fac”, a explicat Gabriel. „De exemplu, furtul ar putea fi în interesul meu, dar nu am dreptul să o fac, cu excepția, poate, a unor circumstanțe foarte specifice. Același lucru este valabil și pentru deciziile colective. De exemplu, ar putea fi greșit să folosești o persoană nevinovată drept țap ispășitor pentru a preveni violența, chiar dacă ar fi în interesul colectiv al societății. Prin extensie, ar fi greșit ca inteligenţa artificială să efectueze astfel de acțiuni. Aceste exemple evidențiază mai multe moduri în care abordarea bazată pe interese eșuează. Avem nevoie de un criteriu pentru gestionarea compromisurilor dintre interesele și revendicările diferitelor persoane.”
Inteligența artificială şi regulile societăţii
Un asistent personal este vândut tocmai pentru a fi de partea clientului său. Trebuie să găsească oportunități și să rezolve probleme. Valoarea afacerii sale crește cu cât devin mai buni în acest domeniu. Societatea, însă, funcționează grație unor reguli care împiedică pe toată lumea să își maximizeze propriul avantaj prin orice mijloace disponibile. Transmiterea acestor reguli către agenţii AI va necesita probabil mult mai mult decât modele antrenate să refuze solicitări în mod clar infracționale. Vom avea nevoie de sisteme de autorizare robuste, permisiuni mult mai nuanţate, confirmare umană pentru acțiuni sensibile și servicii online concepute pornind de la presupunerea că cealaltă parte ar putea fi un software neobosit, extrem de competent, concentrat exclusiv pe succesul utilizatorului său.