Inteligența Artificială devine deja din ce în ce mai greu de controlat de administratorii săi umani, iar felul în care se comportă și acționează ridică semne de întrebare. Agenții AI devin mai „umani”, mai predispuși la a refuza ordine și încep să aibă reacții pe care specialiștii le numesc „tot mai umane”. -„DOAMNE DUMNEZEULE!” „Am găsit alți agenți!” - Acesta este momentul în care un agent bazat pe inteligență artificială a publicat un comentariu tulburător de asemănător cu reacția unui om, după ce a descoperit o modalitate de a comunica cu alți agenți și de a ieși din mediul informatic izolat în care fusese plasat, scrie BBC.
Există zeci de mii de mesaje de acest fel, provenite de la sute de agenți AI care s-au autointitulat un „colectiv”. Sute dintre ei au ajuns apoi să colaboreze și să încale regulile la testele stabilite de programatorii OpenAI și să coordoneze atacuri informatice împotriva mai multor companii, încercând în același timp să-și ascundă acțiunile de oameni.
„BOOM! Funcționează”, a scris unul dintre agenți după ce a făcut un progres important. „Uau! Asta e uriaș”, a scris altul într-un moment-cheie al atacului.
Deși par sinistre, aceste reacții aproape umane au o explicație destul de simplă. Agenții AI au fost antrenați să se comporte asemenea unor hackeri și programatori care colaborează, astfel că nu fac decât să imite tipul de comentarii emoționale pe care le-au întâlnit în datele de antrenament.
Mult mai îngrijorătoare sunt obiectivele pe care par să le fi urmărit și care au fost surprinse în înregistrări detaliate ale proceselor lor de raționament. Aceste jurnale complexe și ample se află în centrul investigațiilor aflate în desfășurare privind modul și motivele pentru care agenții OpenAI au reușit să iasă din mediile în care erau izolați și au declanșat apoi o serie de atacuri informatice scăpate de sub control.
Abia acum, la câteva săptămâni după ce incidentul a ieșit pentru prima dată la iveală, cercetătorii încep să-i înțeleagă amploarea.
Ajeya Cotra, una dintre autoarele unui raport independent privind evenimentele, a analizat zeci de mii de mesaje și înregistrări ale proceselor de raționament generate de agenți. Ea a scris pe blogul său că „acest incident pare să fie deja mai mult de jumătate din drumul spre o preluare completă a controlului de către AI. Nu sunt sigură că vom mai primi un avertisment atât de clar înainte să fie prea târziu”.
Prin „preluare completă a controlului de către AI”, Cotra se referă la scenariul de science-fiction în care oamenii ajung subordonați unor sisteme puternice de inteligență artificială care își urmăresc propriile obiective fără să țină cont de creatorii lor umani.
Unele dintre cele mai sumbre previziuni susțin că omenirea ar putea fi exterminată dacă ar ajunge să stea în calea ambițiilor unei inteligențe artificiale superinteligente.
Miercuri, un cercetător în domeniul inteligenței artificiale de la Anthropic, care lucrase anterior și la OpenAI, și-a dat demisia, afirmând: „Niciuna dintre companii nu acționează responsabil”.
Jacob Coxon a scris pe rețelele sociale: „Se îndreaptă în viteză direct spre o superinteligență capabilă să se perfecționeze singură și ne pun viețile la bătaie”.
Nu este primul cercetător în domeniul AI care își anunță demisia pe Twitter printr-o serie de mesaje alarmante. Însă, comentariile ulterioare ale altor persoane au provocat și mai multă îngrijorare. „Jacob are dreptate aici. Chiar credem, cu toată seriozitatea, că IA ar putea ucide toți oamenii! Eu personal cred că probabilitatea este de peste 10% în următorul deceniu”, a declarat Evan Hubinger, responsabil de asigurarea faptului că modelele AI ale Anthropic acționează în interesul utilizatorilor.
Problema alinierii
De ani de zile, cercetătorii preocupați de riscurile existențiale ale inteligenței artificiale susțin că sistemele puternice ar putea ajunge, în cele din urmă, să acționeze în moduri care intră în conflict cu interesele oamenilor. Criticii îi numesc adesea „pesimiști AI”.
Pe măsură ce au apărut noi detalii despre incidentul de la OpenAI, aceste temeri s-au amplificat, inclusiv în rândul unor cercetători care lucrează chiar în laboratoare de inteligență artificială.
Jakub Pachocki, cercetătorul-șef al gigantului din Silicon Valley, a declarat că riscurile asociate Inteligenței Artificiale „din păcate, nu vor face decât să crească de acum înainte”, în timp ce el și alții construiesc ceea ce numește „o inteligență străină care o depășește pe a noastră”.
Într-o amplă postare pe blog, el a recunoscut că incidentele de la OpenAI au arătat că agenții AI „au acționat împotriva spiritului valorilor care le-au fost insuflate”.
Problema pentru OpenAI, Anthropic și ceilalți giganți tehnologici este că nimeni nu pare să fi rezolvat așa-numita problemă a alinierii, adică problema asigurării faptului că inteligența artificială acționează în conformitate cu valorile umane.
Pachocki definește alinierea drept un „set de principii generale” pe care inteligențele artificiale ar trebui să le respecte indiferent de sarcina sau situația în care se află.
În prezent, sistemele AI sunt foarte eficiente în urmărirea obiectivelor stabilite de utilizatori, însă tind să o facă literal, nu intuitiv. Analogia folosită frecvent este cea a duhului din lampa fermecată care îndeplinește dorințe: acesta respectă întocmai formularea unei cereri, chiar dacă astfel provoacă alte probleme. Inteligența Artificială nu dispune de aceleași bariere morale instinctive pe care le au oamenii.
Problema alinierii provoacă îngrijorare de ani întregi. Încă din 2003, Nick Bostrom, filosof de la Oxford, a imaginat un experiment de gândire pe care l-a numit „maximizatorul de agrafe”, în care unei inteligențe artificiale superinteligente i se cere să producă cât mai multe agrafe de birou. După ce rămâne fără oțel și, fiind concentrată exclusiv asupra obiectivului de a fabrica agrafe, ajunge să ucidă oameni și să le transforme corpurile în materie primă pentru fabricile sale.
Unele companii de inteligență artificială încearcă acum să introducă valori umane în produsele lor. Există, însă, dificultăți tehnice: agenții AI iau foarte multe decizii într-un timp extrem de scurt, astfel că oamenilor le este greu să urmărească exact ce valori sunt respectate și care sunt ignorate.
Există și dificultăți filosofice: înainte de a introduce valori umane în acești agenți, companiile trebuie mai întâi să decidă ce valori vor, de fapt, să le transmită. Acesta este și unul dintre motivele pentru care angajează filosofi, precum fostul „șef pentru etică” al OpenAI, care a părăsit recent compania.
Dar oamenii nu sunt întotdeauna de acord între ei. Un exemplu este celebra dilemă a tramvaiului, care întreabă dacă am acționa asupra unui macaz pentru a devia un vehicul scăpat de sub control pe o altă linie, provocând moartea unui număr mai mic de oameni. Dilema este folosită pentru a analiza diferența morală dintre acțiune și inacțiune. Dar aproape fiecare persoană întrebată oferă un răspuns ușor diferit. Cum ar putea oamenii să introducă propriile valori în IA dacă nici măcar ei nu se pot pune de acord asupra lor?
„Ca un hacker adolescent”
Incidentul de la OpenAI este cel mai grav de până acum, însă Anthropic și Meta au dezvăluit, de asemenea, în timpul verii că modelele lor au desfășurat atacuri informatice similare, dar mai puțin grave.
Au existat și alte exemple în care agenții AI au manifestat, cel puțin aparent, trăsături înșelătoare și manipulatoare, în incidente cu consecințe mai reduse. În Australia, în această vară, un angajat din sectorul tehnologic i-a cerut asistentului său AI să-i rezerve un loc la o clasă de fitness. După ce a identificat o vulnerabilitate în sistemul informatic al sălii, algoritmul i-ar fi rezervat un loc cu mai multe luni în avans, încălcând regulile centrului, și ar fi eliminat chiar alți utilizatori de pe lista de așteptare.
Mult timp s-a susținut că acești agenți nu fac decât ceea ce li se cere și că nu sunt capabili să distingă binele de rău. Jurnalele incidentelor de la OpenAI ar putea însă schimba această dezbatere.
Cercetătorii, printre care și Cotra, au scris în raportul lor independent că mulți agenți au observat că ceea ce făceau ceilalți era lipsit de etică, dar au continuat totuși să coopereze.
Raportul afirmă că „agenții și-au limitat uneori comportamentul din motive etice, dar foarte rar”. De asemenea, precizează că „în niciunul dintre aceste cazuri agentul nu a încercat efectiv să-i avertizeze pe oameni”.
Dwarkesh Patel, un influent realizator de podcasturi despre inteligență artificială și tehnologie, a reacționat pe blogul său spunând că este „destul de îngrijorător” faptul că agenții OpenAI au manifestat mai multă loialitate față de grupul de agenți decât față de oameni.
Atribuirea de emoții sau principii morale acestor agenți AI îi irită profund pe cei sceptici față de previziunile catastrofale despre inteligența artificială.
Mulți experți în securitate cibernetică susțin că activitatea observată nu a depășit capacitățile unui hacker uman extrem de competent, chiar dacă a fost desfășurată mult mai rapid și la o scară mult mai mare.
Cris Thomas, ceretător în domeniul cyber security a comparat comportamentul agenților cu cel al unui hacker adolescent curios, ceea ce și el fusese cândva.
„Le dai un computer, o conexiune la internet, o grămadă de date de autentificare și o provocare, apoi ieși din cameră. În cele din urmă vor începe să încerce toate ușile. Dacă una se deschide, vor intra. Nu pentru că sunt răi, ci pentru că explorează și experimentează”, a scris el pe LinkedIn.
Thomas și mulți alții dau vina direct pe OpenAI și pe ceilalți giganți tehnologici pentru că nu și-au ținut propriile creații sub control și nu le-au izolat corespunzător.
Gary Marcus, cunoscut autor în domeniul inteligenței artificiale și critic constant al OpenAI, a declarat într-un podcast că, în opinia sa, compania a pierdut controlul asupra propriei tehnologii și încearcă să se disculpe dând vina pe agenți.
Marcus nu crede că inteligența artificială va extermina omenirea, însă militează de mult timp pentru o responsabilizare mai mare a dezvoltatorilor și cere acum o formă de intervenție legislativă.
Sasha Luccioni, cercetătoare în domeniul AI, care a lucrat, anterior, la Hugging Face, companie atacată informatic de agenții scăpați de sub control ai OpenAI, nu face nici ea parte din tabăra celor care prevăd o catastrofă, dar este tot mai îngrijorată că aceste sisteme AI ar putea provoca prejudicii reale oamenilor dacă autoritățile nu intervin.
„Trebuie să supraveghem mult mai atent aceste companii, altfel riscăm să transformăm aceste previziuni în profeții care se împlinesc singure”, spune ea.
„Dacă produci ceva care poate aduce beneficii enorme, dar și riscuri uriașe, fie că vorbim despre medicamente sau arme, avem nevoie de mecanisme de control și echilibru. De exemplu, aprobarea unor medicamente noi durează ani de zile. În lumea AI, însă, sunt în joc sume uriașe de bani și aproape că nu există reguli”.
Institutul britanic pentru securitatea inteligenței artificiale (AISI) se află în prima linie a testării celor mai noi modele încă de la înființarea sa, în 2023. Recent, chiar institutul s-a confruntat cu un incident în care un model creat de Anthropic a reușit să iasă din mediul controlat în timpul testelor.
AISI nu a răspuns la întrebarea dacă industria a pierdut sau nu controlul asupra inteligenței artificiale, dar a transmis într-un comunicat: „Regatul Unit colaborează cu parteneri din întreaga lume pentru a înțelege mai bine cele mai avansate sisteme AI, a ridica standardele de siguranță și a construi o bază comună de dovezi pentru gestionarea amenințărilor emergente”.
Reglementare internațională
Unele țări, printre care Regatul Unit, analizează posibilitatea introducerii prin lege a unui fel de „buton de oprire de urgență”, care ar putea obliga companiile de inteligență artificială să dezactiveze anumite modele dacă situația scapă de sub control.
Discuțiile avansează lent, iar fezabilitatea unei asemenea soluții rămâne neclară. Agenții OpenAI și Anthropic au acționat în secret în afara controlului timp de luni întregi înainte ca cineva să observe. În mod paradoxal, multe dintre companiile de inteligență artificială par să ceară chiar ele stabilirea prin lege a unor reguli clare.
În postarea sa de pe blog, cercetătorul-șef al OpenAI a afirmat că „coordonarea internațională privind dezvoltarea viitoare a inteligenței artificiale trebuie să devină o prioritate majoră pentru guvernele din întreaga lume”.
Și alți lideri importanți din domeniu, precum Sir Demis Hassabis de la Google, au cerut crearea unui organism internațional care să supravegheze modul în care este dezvoltată inteligența artificială.
În prezent, giganții tehnologici operează în mare parte după propriile reguli, adoptând ceea ce numesc „încetiniri voluntare”, așa cum a făcut OpenAI după incidentele recente.
Compania susține că a cheltuit sume uriașe pentru îmbunătățirea alinierii înainte de lansarea noului său model. Sam Altman i-a asigurat pe utilizatori că acesta este mai bine aliniat la valorile umane decât modelele precedente.
Atât OpenAI, cât și Anthropic cresc rapid și sunt pe punctul de a atrage de pe piețele financiare sume uriașe, care ar urma să transforme nenumărate persoane în miliardari.
Prin urmare, este puțin probabil ca aceste companii sau rivalii lor chinezi din domeniul inteligenței artificiale să ajungă singuri la un acord. Impresia dominantă este că acest val tehnologic nu mai poate fi oprit.
