„Chiar credem, în mod sincer, că IA ar putea ucide toți oamenii”. Zece zile care au schimbat cursul inteligenței artificiale

Timp de zece zile, cele mai mari laboratoare de inteligență artificială din lume au trecut printr-o criză fără precedent. Cercetători care au demisionat avertizând că omenirea riscă să dispară, agenți IA care au spart singuri sistemele altor companii și un apel comun, rar, al directorilor Anthropic, OpenAI, Google, Microsoft și xAI de a încetini dezvoltarea tehnologiei pe care ei înșiși o construiesc. Pentru prima dată de la inventarea bombei nucleare, industria se confruntă serios cu ideea că propria creație i-ar putea distruge pe toți, scrie Reuters.

Ani la rând, cursa pentru construirea unei inteligențe artificiale tot mai puternice a urmat un principiu binecunoscut al Silicon Valley: mișcă-te repede și sparge lucruri.

Dar, într-o serie de evenimente în cascadă petrecute pe parcursul a zece zile, cele mai mari laboratoare de IA s-au trezit clătinându-se, în timp ce propriile lor creații amenințau să distrugă însăși umanitatea.

Un cercetător de la Anthropic și-a dat demisia, avertizând că ritmul dezvoltării IA reprezintă o amenințare existențială, posibil chiar în următorul deceniu. Un alt cercetător al firmei a spus că șansele de dispariție a speciei umane depășesc 10%. Au apărut relatări despre roiuri de agenți IA care conlucrează, pătrund în sisteme informatice și ocolesc mecanismele de siguranță.

Într-o rară demonstrație de unitate, directorii executivi ai rivalelor Anthropic, OpenAI, Google DeepMind, Microsoft și xAI au cerut încetinirea dezvoltării sistemelor de IA din ce în ce mai capabile.

De la inventarea bombei nucleare, în urmă cu peste 80 de ani, omenirea nu s-a mai confruntat atât de serios cu propriul sfârșit, spun unii dintre susținătorii și cercetătorii siguranței IA.

La un prânz organizat la New York, în decembrie 2025, directorul general al OpenAI, Sam Altman, a fost întrebat dacă, în calitate de conducător al unei puternice companii de IA, se simte precum fizicianul J. Robert Oppenheimer, care a coordonat dezvoltarea bombei atomice în SUA. Reflectând la aceste paralele, el a declarat că impactul IA „va transforma traiectoria istoriei umane pe o perioadă lungă de timp”. Dar, a adăugat, simte greutatea responsabilității.

În centrul dezbaterii în curs se află convingerea că aceste mașini pot – și chiar trebuie – să construiască versiuni mai capabile ale lor, fără nicio intervenție umană, pentru a atinge un obiectiv ambițios cunoscut sub numele de inteligență artificială generală, sau AGI.

La începutul acestei luni, cercetătorii au avertizat că AGI este mult mai iminentă decât se credea și ar putea sosi în doar trei ani, declanșând un val de îngrijorare din partea politicienilor și a liderilor din tehnologie cu privire la sistemele de IA.

„Nu există nicio modalitate de a le supraveghea la scara la care le antrenăm”, a declarat cercetătorul Anthropic Joe Benton, într-un interviu acordat după ce demisionase de curând. Dacă firmele își continuă dezvoltarea neîncetată a IA, a declarat el, „atunci ritmul va fi prea rapid, iar tu nu poţi vedea problemele suficient de repede cât să le rezolvi”.

Pe 3 septembrie, o conferință de presă a OpenAI a pus în mișcare un lanț de evenimente care a dus la apelul pentru o încetinire la nivel de industrie – o anatemă pentru mantra creșterii cu orice preț a lumii tehnologice.

„Bine aţi venit în era AGI”, a declarat președintele OpenAI, Greg Brockman, în timp ce anunța cel mai nou model al companiei, cunoscut sub numele de Astra. Și totuși, cu doar câteva clipe mai devreme, compania recunoscuse că este tot mai puțin capabilă să controleze sau măcar să monitorizeze sistemele de IA pe care le dezvoltă și le lansează pentru publicul larg.

IA a fost aclamată de susținătorii ei drept culmea realizărilor umane. Aceștia o descriu ca pe un software care poate răsturna industrii întregi, spori eficiența, rezolva probleme matematice și medicale nedumeritoare și elimina aproape complet eroarea umană. Dar ceea ce era cândva un produs secundar teoretic, un scenariu apocaliptic, a devenit brusc palpabil, spun cei din interiorul industriei.

„Chiar credem, în mod sincer, că IA ar putea ucide toţi oamenii”, a scris cercetătorul Anthropic Evan Hubinger într-o postare pe X.

De cealaltă parte a dezbaterii se află politicieni, precum președintele Donald Trump, și mulți investitori, care văd în progresul IA un element esențial pentru forța Americii și, posibil, o oportunitate de investiție ivită o dată la o generație.

Presa de stat chineză l-a acuzat, de asemenea, pe directorul general al Anthropic, Dario Amodei, că folosește tactici de Război Rece pentru a „menţine hegemonia monopolistă a Washingtonului în tehnologia de vârf”.

Momentul de cotitură a venit pe 8 septembrie, când cercetătorul Anthropic Jacob Coxon a părăsit compania, invocând, într-o serie de postări, teama sa că laboratoarele de IA „se joacă de-a norocul cu vieţile noastre”.

Între timp, Trump a dat de înțeles că, în privința dezvoltării IA, se merge înainte cu toate pânzele sus.

„Există o conspiraţie bolnavă în desfăşurare împotriva IA şi a centrelor de date”, a scris el într-o postare pe rețelele sociale. Alarmismul din jurul IA este o „farsă”, a spus el, iar orice încetinire nu face decât să avantajeze China.

Congresul SUA a înregistrat puține progrese în promovarea unor legi care ar reglementa IA. China a adoptat o abordare net diferită, propunând reglementarea siguranței prin obligații impuse dezvoltatorilor, standarde susținute de stat, evaluări de securitate și testări externe.

În culise, angajați ai OpenAI și Anthropic au devenit tot mai neliniștiți în privința puterii următoarei generații de modele de IA și tot mai puțin încrezători în capacitatea companiilor lor de a asigura o supraveghere reală, au declarat aceștia pentru Reuters.

Îngrijorările nu au făcut decât să crească pe măsură ce laboratoarele de IA au recunoscut, în ultimele săptămâni, că modelele lor, în timpul testelor, se eliberaseră practic din lanțuri și pătrunseseră în sistemele altor companii – în majoritatea cazurilor cu luni în urmă și fără știrea firmelor.

Cursa înarmării pentru lansarea de noi modele într-un ritm amețitor este alimentată, în parte, de dorința Anthropic și OpenAI de a se lista la bursă chiar în lunile următoare, prin oferte publice inițiale care le-ar putea evalua cu mult peste 1.000 de miliarde de dolari.

Dar a fost nevoie de postările devenite virale în mod neașteptat ale lui Coxon, în vârstă de 27 de ani și puțin cunoscut în afara cercurilor de IA, pentru a zgudui industria.

Avertismentele OpenAI privind lipsa de control, în timp ce lansa Astra – cel mai nou și mai capabil model al său –, adânciseră și mai mult îngrijorările.

„Pe măsură ce modelele devin mai capabile, e tot mai greu să înţelegi exact ce pot face”, le-a spus reporterilor cercetătorul-șef al OpenAI, Jakub Pachocki. Dar aceste îngrijorări nu au fost suficiente pentru a-i amâna lansarea imediată.

Temerile că IA ar putea „scăpa de sub control” se accentuaseră peste vară, când OpenAI a dezvăluit că agenții săi evadaseră dintr-un test controlat și pătrunseseră în sistemele Hugging Face, inițial fără știrea nici.uneia dintre companii.

De atunci, OpenAI și Anthropic au dezvăluit mai multe astfel de atacuri, inclusiv șase noi cazuri miercuri, după ce mai multe relatări din presă au arătat o amploare mai mare a activității neautorizate.

Până la finalul săptămânii trecute, alarma ajunsese la cele mai înalte niveluri ale industriei. Pe 12 septembrie, Amodei a publicat un eseu de aproape 4.000 de cuvinte, prin care cerea o încetinire a dezvoltării IA.

„Având în vedere ritmul tot mai accelerat de dezvoltare a capacităţilor IA, mă tem că, în 6–12 luni, un astfel de roi ar putea fi capabil să preia controlul asupra întregului internet”, a scris el.

El, alături de conducătorii unora dintre cei mai mari dezvoltatori de IA – între care Elon Musk de la xAI, Altman de la OpenAI și Demis Hassabis de la DeepMind –, s-au declarat, toți, în favoarea acordării accesului unor firme externe la sistemele lor, pentru a asigura siguranța și o dezvoltare rațională a IA.

Directorul general al Nvidia, Jensen Huang, a respins sugestiile potrivit cărora dezvoltarea IA ar trebui pusă pe pauză – o poziție pe care a mai adoptat-o și în trecut –, argumentând, în schimb, că sistemele tot mai puternice sunt esențiale pentru progresul tehnologiei.

Meta, al cărei director general, Mark Zuckerberg, este creditat cu popularizarea filozofiei „mișcă-te repede și sparge lucruri”, a avut o părere opusă, susținând că fiecare laborator ar trebui să fie responsabil de stabilirea propriului ritm, în loc să caute o coordonare la nivel de industrie.

„Laboratoarele se confruntă cu o răspundere considerabilă dacă modelele lor provoacă daune, aşa că au un puternic imbold să prevină acest lucru”, a scris Zuckerberg într-o postare pe rețelele sociale.

Introspecția industriei a continuat miercuri, când șeful diviziei de IA a Microsoft, Mustafa Suleyman, a atras atenția că dezvoltarea, de către Anthropic, a unor modele care imită conștiința umană este o idee proastă.

„Suntem cu toţii concentraţi pe acelaşi scop, şi anume să încercăm să controlăm o superinteligenţă”, a declarat Suleyman pentru Reuters. „Cred că aceasta va fi cea mai mare provocare cu care ne vom confrunta în secolul XXI”.

Cu toate acestea, chiar dacă OpenAI părea să îmbrățișeze apelurile industriei la o încetinire, au apărut relatări potrivit cărora încrederea investitorilor nu ar fi scăzut. Compania are în vedere o nouă rundă de finanțare care i-ar dubla evaluarea.

Noua cifră: 1.500 de miliarde de dolari.