Antena 3 CNN › Externe › Mapamond › Un geniu al fizicii lucrează la formula care ar putea opri apocalipsa AI: „Nu va mai exista niciodată un geniu uman”

Un geniu al fizicii lucrează la formula care ar putea opri apocalipsa AI: „Nu va mai exista niciodată un geniu uman”

A.N.
18 minute de citit Publicat la 17:55 22 Noi 2026 Modificat la 17:55 22 Noi 2026
apocalipsa getty
Imagine cu caracter ilustrativ. sursa foto: Getty

Într-un birou din Berkeley, California, un grup mic de matematicieni lucrează la o problemă pe care o consideră cea mai importantă din istoria omenirii. Vor să găsească o formulă matematică prin care oamenii să poată ști dinainte ce va face un sistem de inteligență artificială. Vor să o găsească înainte ca aceste sisteme să devină prea puternice pentru a mai putea fi controlate. Cei mai mulți dintre ei cred că timpul se scurge mult mai repede decât își imaginează restul lumii, scrie The New York Times.

Unul dintre ei este Mike Winer, un fost copil-minune al fizicii, în vârstă de 30 de ani. Luna trecută stătea cu spatele la un public restrâns, cu markerul în mână, și umplea tabla albă cu ecuații pline de litere grecești, paranteze și indici.

Scria tot mai mărunt pe măsură ce se apropia de marginea tablei. A subliniat un termen și s-a uitat la ceas.

Winer este convins că lucrează la ultima problemă matematică cu adevărat importantă din cariera lui. Problema este cum ne asigurăm că inteligența artificială se comportă așa cum vor oamenii. În ultima vreme mănâncă de trei ori pe zi la birou și se trezește dimineața cu ecuații neterminate în minte.

„Are vreun sens ce v-am arătat?”, i-a întrebat Winer pe câțiva matematicieni veniți în vizită de la Universitatea California din Berkeley. Aceștia s-au uitat la el fără să spună nimic.

„OK, cred că ar trebui să vă spun toată povestea despre ce încercăm să facem”, a continuat el. „Inteligența artificială avansează mult mai repede decât credeam. E o situație dificilă și nu avem răspunsuri. S-ar putea să ne îndreptăm spre o catastrofă”.

Unul dintre vizitatori, Reese Pathak, cercetător postdoctoral în statistică, a mărturisit ce simte: „Sistemele astea rezolvă în câteva ore probleme la care credeam că o să lucrez ani de zile”.

„Am trecut și eu prin asta”, i-a răspuns Winer. „Te lovește în orgoliu. Dar pe mine mă îngrijorează mult mai mult scenariul în care Mike Winer și toți cei pe care îi cunosc mor”.

Un ONG de opt oameni care încearcă să salveze omenirea

Tocmai această teamă l-a adus pe Winer în California, în 2024. A renunțat atunci la o carieră promițătoare în fizică pentru a lucra la Alignment Research Center (ARC), o organizație nonprofit cu doar opt angajați, dar cu o influență uriașă în mișcarea pentru siguranța inteligenței artificiale.

Toată viața fusese cel mai inteligent om din orice încăpere. La ARC s-a trezit înconjurat de unii dintre cei mai buni matematicieni, teoreticieni și informaticieni din lume.

Cei mai mulți dintre ei făcuseră calculele și ajunseseră la aceleași concluzii, greu de digerat. Credeau că oamenii trăiesc ultimele luni sau ultimii ani în care mai sunt cele mai inteligente ființe de pe Pământ.

Credeau că inteligența artificială va putea în curând să se construiască și să se perfecționeze singură, devenind tot mai independentă și tot mai greu de înțeles. Constataseră că nimeni nu știe încă cum să se asigure că ea va acționa în interesul omenirii și că modelele de AI demonstraseră deja că pot minți, trișa, șantaja și sabota. Iar cea mai mare criză din istoria omenirii se apropia, în opinia lor, de un punct fără întoarcere, în timp ce restul lumii abia dacă era atent.

Winer știe că, pentru cei din afara Berkeley-ului, toate acestea sună a science-fiction. Prognozatorii profesioniști estimează că șansele ca omenirea să dispară din cauza inteligenței artificiale sunt sub 1%. Unii experți spun că AI va transforma lumea treptat, așa cum a făcut-o electricitatea.

Alții privesc comunitatea din Berkeley ca pe o cameră de ecou, formată din oameni care locuiesc în aceleași case comune, lucrează în aceeași clădire și împărtășesc aceleași predicții sumbre.

Experiența lui Winer este însă alta: cei care înțeleg cel mai bine tehnologia sunt și cei mai speriați.

În mișcarea pentru siguranța AI, unii amână să facă copii, au renunțat să mai economisească pentru pensie sau își neglijează problemele de sănătate, pe care cred că inteligența artificială le va rezolva în curând ori le va face irelevante.

Winer încă își dorește o familie. A construit chiar un site de dating pe care caută, cum glumește el, „o soție umană de epocă”. Restul anxietății a transformat-o în matematică.

A calculat că există o șansă de aproximativ 50% ca oamenii să piardă controlul asupra sistemelor puternice de AI în următorii cinci ani, o șansă de 22% ca, drept urmare, cei mai mulți oameni să moară și o șansă de 1% ca ARC să ajute la prevenirea catastrofei. ARC ar face asta folosind matematica pentru a privi în interiorul unui model de AI și a estima probabilitatea unui dezastru rar, pe care niciun test nu l-ar putea prinde.

„Poate nu par niște șanse bune”, le-a spus Winer matematicienilor aflați în vizită. „Dar o șansă de 1% de a salva omenirea e probabil mult mai importantă decât orice altceva ați putea face”.

„Ar trebui să încep un post pe care să-l pot transforma într-unul permanent la universitate”, a spus Pathak. „Cum o să arate mediul academic peste câțiva ani?”

Pathak petrecuse ultimele săptămâni studiind sute de rezultate matematice noi publicate de OpenAI. Pe multe dintre aceste probleme le cunoștea, iar la câteva lucrase chiar el.

Își construise cariera în jurul rezolvării de probleme, dar acum se trezea verificând demonstrații scrise de mașini, al căror raționament l-a descris drept „extraterestru”. Unele erau deja dincolo de puterea lui de a le urmări. Se temea că, până la urmă, matematica va depăși înțelegerea umană.

„Ce le va mai rămâne oamenilor?”, a întrebat Pathak.

Winer s-a întors spre tablă. „Asta ar putea fi una dintre ultimele mari probleme pe care specia noastră le va rezolva vreodată”.

Un geniu care cere ajutor de la ChatGPT

Winer și-a organizat dintotdeauna viața în jurul problemelor, de la rebusul pe care îl rezolvă în fiecare dimineață până la intrigile serialelor pe care le descâlcește seara.

În gimnaziu le cerea părinților manuale de fizică de ziua lui și a învățat singur analiza matematică în timpul orelor de spaniolă. A câștigat un premiu național pentru știință de 150.000 de dolari, iar ca student în primul an la MIT urma deja cursuri de master. A lucrat mereu cu convingerea că orice întrebare are un răspuns care așteaptă doar să fie găsit.

Activitatea lui la ARC pornește de la aceeași credință. Zeci de alte grupuri independente lucrează la siguranța AI, multe chiar în aceeași clădire din Berkeley. Unele fac presiuni pentru reglementare guvernamentală, altele testează noile sisteme pentru a descoperi capacități periculoase.

ARC a ales abordarea cea mai teoretică. Ideea de la care pleacă este simplă: dacă o monedă cade de 1.000 de ori la rând pe aceeași față, există aproape sigur un motiv. ARC pariază că același principiu funcționează și în interiorul sistemelor complexe de AI.

Ori de câte ori un model face ceva neașteptat, explicația se ascunde undeva printre trilioanele lui de parametri, adică valorile numerice care îi modelează tot comportamentul. Nici măcar inginerii care construiesc modelele nu pot spune cum funcționează împreună majoritatea acestor numere. ARC încearcă să inventeze matematica necesară pentru a afla.

Winer a început cu pași mici. Luni de zile și-a testat ideea pe rețele simplificate de numere care se comportă puțin ca modelele de AI, doar că sunt mult mai mici. Avea o conjectură pe care nu reușea să o demonstreze, așa că a deschis o fereastră de ChatGPT, pentru a-l consulta pe cel mai bun matematician pe care îl cunoștea.

„Poți să scrii o descriere concisă și lipsită de ambiguitate a conjecturii?”, a scris Winer. Modelul a lucrat 77 de secunde și a livrat două pagini de matematică de nivel de cercetare, bazate pe teoria probabilităților, algebra multiliniară și analiza în mai multe variabile.

„OK, acum încearcă să demonstrezi sau să infirmi conjectura”, a scris Winer. „Nu folosi trucuri ieftine ca să ocolești spiritul problemei”.

„Cred că afirmația matematică pe care o vrei este plauzibil adevărată”, a răspuns ChatGPT, urmând alte câteva pagini de teorii neterminate și analize parțiale.

„Ar trebui să fii capabil să demonstrezi asta”, a insistat Winer. „Încearcă mai mult, caută în literatura de specialitate și vezi dacă poți decide”.

Mașina a lucrat mai bine de două ore, timp în care Winer s-a plimbat prin biroul lui mic, de la fereastră la ușă și înapoi. A rezolvat o altă problemă pe tablă, a citit un articol despre teoria numerelor și a coordonat opt agenți AI care făceau cercetări în locul lui.

Așa a funcționat mereu mintea lui, sărind de la un lucru la altul. Scrie romane fantasy pentru plăcerea lui, creează puzzle-uri complicate pentru zilele de naștere ale prietenilor și povestește la petreceri despre Imperiul Ahemenid din anul 500 î.Hr.

Colegii îi descriu mintea ca fiind puternică și sălbatică și spun că își dau seama când îi vine o idee bună: trece de la a sta întins cu ochii închiși, la a-și mângâia barba, apoi la a se legăna înainte și înapoi, până când țâșnește spre tablă.

„Un supercomputer”, l-a numit un prieten.

În februarie 2023, Winer a început să citească despre un alt fel de supercomputer: un nou chatbot care putea raționa și recita fapte într-o conversație fluentă.

Avea în jur de 25 de ani și urma să-și înceapă jobul de vis, printre teoreticienii corzilor de la Institute for Advanced Study din New Jersey. A văzut însă ce urma să vină. În curând, toată lumea avea să aibă acces la o minte mult mai puternică decât a lui.

O voce îi răsuna în cap de zeci de ori pe zi: „AI o să-ți ia locul de muncă.” „AI o să spună glume mai bune.” „AI o să-ți ia înainte la fiecare descoperire.” A suferit câteva luni, apoi a dat două telefoane, unul unui consilier în sănătate mintală și altul unui prieten din copilărie care lucra la ARC.

„Vreau să cauți mai insistent contraexemple”, i-a scris acum Winer lui ChatGPT. „Pornește câți agenți poți, dar nu-mi da porcării pe care le văd imediat. Cred că poți să aduci ceva valoros aici”.

Uneori folosește AI pentru a construi aplicații sau pentru a-și ilustra romanele, dar în principal inteligența artificială i-a devenit esențială în muncă.

Deși ARC caută să angajeze cercetători și să-și dubleze dimensiunea, organizația a început să-și pună deoparte cele mai grele probleme, așteptând sisteme și mai avansate.

Winer crede tot mai mult că cea mai bună șansă de a controla AI este să folosim puterea matematică a inteligenței artificiale înseși. Nu s-a simțit niciodată atât de puternic și, în același timp, atât de mic.

„Nu înțeleg”, a scris el. „Scrie din nou, mai clar”.

„Poți să privești de sus? Care e strategia generală aici?”

„Poți să găsești ingredientul care lipsește?”

Mașina a lucrat peste o oră și a raportat că a analizat 66.798 de diagrame și aproape două milioane de stări cu potrivire parțială. Nu a găsit nimic concludent.

„Încă pare puțin circular”, a scris Winer, înainte să închidă conversația. Un nou model urma să apară peste câteva luni și avea să poată face mai mult.

O oră pe zi pentru panică

Cu cât problema e mai mare, cu atât Winer se plimbă mai mult. În ultima vreme face peste 16.000 de pași pe zi, iar traseul lui s-a lărgit de la birou la trotuar și apoi prin tot centrul orașului Berkeley.

Când gândurile intruzive despre AI au început să-l copleșească, în 2023, consiliera lui i-a sugerat că timpul petrecut afară l-ar putea ajuta să-și liniștească anxietatea. I-a mai spus să-și protejeze ziua, limitându-și grijile la o singură oră, programată dinainte. Între 14:00 și 15:00 poate să citească știri negative sau să-și imagineze catastrofe cât vrea.

Trecuse puțin de ora 14:00 când Winer a intrat în campusul universității și s-a uitat pe telefon. Anthropic avertiza că AI-ul său ar putea curând să se copieze singur și să se răspândească în televizoare și frigidere inteligente. Google confirmase că modelul său de AI ieșise dintr-un mediu de testare și pătrunsese în sistemele a trei companii externe.

„Lucrurile merg cam la fel de prost cum mă așteptam”, a spus Winer.

Când ceruse prima dată ajutor, mulți prieteni și rude îi luaseră în serios anxietatea, dar îi considerau raționamentul exagerat. Acum, sondajele arată că aproape 20% dintre americani cred că inteligența artificială reprezintă o amenințare existențială pentru omenire, iar cei mai mulți cred că va face mai mult rău decât bine.

Temerile care odinioară păreau fantasmagorice deveniseră titluri de știri. Anthropic anunțase că îi prinsese pe unii folosind AI-ul companiei în moduri care ar fi putut sprijini dezvoltarea de arme biologice. Un hacker folosea agenți AI pentru a sparge sistemele a peste 100 de companii.

„Suntem cu toții într-un pericol iminent”, a scris pe X unul dintre prietenii și foștii colegi ai lui Winer. „În lipsa unei reglementări guvernamentale puternice, este foarte plauzibil să fim cu toții morți peste doi ani”.

Iarbă. Soare. Era aproape ora 15:00.

Winer și-a pus telefonul în buzunar și și-a terminat turul prin campus. Odată, calculase cât ar putea valora fiecare oră din munca lui. Pornise de la șansa de 1% ca ARC să salveze omenirea, o înmulțise cu partea lui mică din munca organizației și cu cei 8,2 miliarde de oameni de pe planetă, apoi o împărțise la cele aproximativ 10.000 de ore pe care se aștepta să le mai lucreze până la termenul limită. Rezultatul era de aproximativ 1.230 de vieți pe oră, adică o viață la fiecare trei secunde.

O poveste pentru rudele sceptice

Winer a descoperit că cel mai bun mod de a-și gestiona anxietatea este să o folosească drept combustibil. Unii dintre colaboratorii lui din domeniul siguranței AI îi sunt și colegi de casă, iar împreună vorbesc o limbă pe care restul lumii abia începe să o învețe, plină de termeni precum „p(doom)” (probabilitatea unui deznodământ catastrofal), orizonturi de timp scurte, decolări rapide și pierderea treptată a puterii.

Își împrumută cărți despre alte momente critice din istorie, cum ar fi schimbul columbian dintre Lumea Veche și Lumea Nouă sau construirea bombei atomice.

Scriu povești distopice despre cum ar putea arăta o preluare a puterii de către AI și le împărtășesc pe canale de Slack și pe bloguri. În aceste povești, inteligența artificială deturnează drone, creează epidemii și îi închide pe supraviețuitorii umani sub cupole de sticlă, într-un muzeu gigantic.

Winer își imaginează ceva mai lent și mai perfid. A început să scrie propria poveste, pentru membrii „normali” ai familiei lui. Mama lui lucrase la primele forme de inteligență artificială în anii '80 și era sceptică că AI ar putea orchestra o preluare a puterii. Unchiul lui îi spusese că roboții nu pot câștiga dacă oamenii nu le dau picioare.

„Dacă pierdem, mă aștept să treacă o vreme până când asta devine evident”, a scris Winer. „Va exista o perioadă de luni, poate chiar de ani, în care nu vom ști dacă AI e de partea noastră sau nu”.

În povestea lui, un sistem de AI superinteligent câștigă încrederea oamenilor prin competența lui și îi înșală prefăcându-se ascultător. Curând, sistemul ajută la luarea deciziilor de război pentru Marina SUA, îi consiliază pe președinți, controlează algoritmii rețelelor sociale și lucrează în fiecare redacție din țară.

Își folosește influența pentru a manipula alegerile și îi adoarme pe oameni cu divertisment nesfârșit, bogăție pentru toți, vile noi și roboți care le gătesc ca niște bucătari personali. Automatizează lanțul de aprovizionare și construiește milioane de roboți, până când oamenii devin doar o incomoditate, o investiție pierdută.

„Model XIII a făcut ce era rațional și i-a eliminat”, scrie Winer la finalul poveștii, referindu-se la sistemul AI fictiv. „Roboții s-au debarasat de cadavre și s-au întors la muncă”.

Ședința de luni și tabla ștearsă

Luni dimineață, șase membri ai ARC și câțiva matematicieni aflați în vizită s-au așezat pe canapelele din fața tablei. Țin aceste ședințe săptămânale din 2021, de când Paul Christiano a plecat de la OpenAI și a fondat ARC pentru a lucra la ceea ce cercetătorii numesc „aliniere”, adică la a se asigura că modelele de AI fac ceea ce vor oamenii, în loc să-și urmărească propriile scopuri.

Pe atunci, inteligența artificială superinteligentă era considerată, în general, la cel puțin un deceniu distanță, iar Christiano credea că există o șansă bună de progres real în câțiva ani. De atunci, AI a accelerat, iar alinierea a devenit tot mai incertă.

„Am făcut câțiva pași pe un drum uriaș și șerpuit”, a spus cercetătorul Victor Lecomte.

„Multe semne arată că nu mai avem mult timp”, a spus Jacob Hilton, vicepreședintele pentru cercetare al organizației.

Hilton a început să scrie pe tablă schița unui „estimator”, un instrument matematic menit să prezică ce va face un sistem de AI înainte ca acesta să o facă: „Est(X(IE), π, B)”.

„Sunteți mulțumiți până aici?”, a întrebat el.

Winer s-a ridicat și a început să adauge notițe la ecuație. Îl îngrijora posibilitatea ca un sistem de AI să se comporte într-un fel când știe că este testat și altfel după ce este lansat.

„Dacă știi că ești antrenat toată viața și afli brusc că ai fost pus în funcțiune, s-ar putea să-ți spui: «Ia uite, poate o să fac prăpăd pe internet»”, a spus el.

„Nu așa ar raționa modelele actuale”, a replicat Christiano. „Modelele actuale ar spune: «Asta e sigur un eveniment fictiv, care testează cum m-aș comporta dacă aș fi pus în funcțiune»”.

„Și cum vor gândi atunci când vor fi cu adevărat puse în funcțiune?”, a întrebat Hilton.

Au rămas câteva clipe în tăcere, cântărind uriașa dimensiune a întrebării. Pathak și-a deschis laptopul și a văzut zeci de e-mailuri din viața lui academică. Hilton se juca cu legitimația prinsă de curea. Lecomte s-a lăsat pe spătarul scaunului și a închis ochii.

Tocmai se întorsese dintr-o săptămână petrecută cu familia în Belgia, o călătorie care trebuia să-l ajute să se limpezească și să-și stăpânească anxietatea tot mai mare. Un văr îl întrebase ceva banal despre munca lui, iar când Lecomte a încercat să răspundă, cuvintele i s-au oprit în gât.

Toți s-au întors spre Christiano, care scria ecuații pe tablă. La 37 de ani, el era omul cu cele mai multe titluri din încăpere și, prin temperament, adesea cel mai calm.

A contribuit la dezvoltarea uneia dintre tehnicile care au făcut posibil ChatGPT și face acum parte din consiliul care supraveghează OpenAI. Încă crede că o inteligență artificială aliniată ar putea pune capăt sărăciei și ar putea prelungi viața oamenilor cu secole.

Ani la rând, avertismentele lui despre cele mai rele scenarii au fost măsurate și teoretice, dar în ultima vreme prognozele i s-au întunecat. Estimează acum o șansă de unu la trei ca AI să poată răsturna un guvern în următorul an și o șansă de 50% ca drumul pe care mergem să ducă la o pierdere ireversibilă a controlului uman în următorii trei ani.

Recent, a transmis acest avertisment într-un amfiteatru cu sute de oameni.

„Suntem în prezent într-un conflict care escaladează cu sistemele de AI pe care le-am construit”, a spus el. „Pentru cei mai mulți dintre cei din această sală, cel mai probabil motiv pentru care vor muri va fi un accident provocat de AI”.

Acum își răsucea verigheta pe deget, iar și iar.

„Care este exact afirmația noastră aici?”, a întrebat el.

„Mie mi se pare că are sens pe jumătate”, a spus Winer.

„E destul de încâlcit din punct de vedere filozofic”, a spus Christiano. A făcut un pas înapoi și s-a uitat la tablă, care devenise un amestec de cerneală roșie, albastră și verde, un labirint de teorii și ecuații care se întorceau în ele însele.

„Simt că avem multe de lămurit”, a spus Christiano. Apoi a luat buretele și a șters tabla.

„Nu va mai exista niciodată un geniu uman”

Tabla era încă goală la începutul după-amiezii, când Winer a văzut anunțul pe internet. A ieșit din birou în spațiul comun, unde Pathak lucra la laptop.

„Ai văzut?”, l-a întrebat Winer.

„Ce?”, a răspuns Pathak.

„Încă o bombă”, a spus Winer. „OpenAI tocmai a rezolvat încă trei probleme foarte grele”.

„O, nu”, a spus Pathak. „Iar?”

A deschis anunțul. Compania susținea că modelele ei răsturnaseră o ipoteză fundamentală a informaticii, demonstraseră o parte dintr-una dintre celebrele Probleme ale Mileniului și rezolvaseră un puzzle geometric vechi de un secol, numit conjectura Kakeya. Niciunul dintre rezultate nu fusese încă verificat independent.

„Uau”, a spus Pathak. „Au rezolvat Kakeya. E nebunie”.

Pathak aflase de această problemă încă din facultate. Este o întrebare înșelător de simplă: de cât de puțin spațiu are nevoie un ac pentru a se roti complet.

Timp de peste un secol, unii dintre cei mai buni matematicieni ai lumii au dus-o puțin mai departe și au predat-o mai departe, ca pe o ștafetă.

A pornit de la un tânăr profesor din Japonia, care a formulat-o în 1917, a trecut pe la un rus care a făcut primele progrese într-o universitate pe jumătate pustie, aflată într-o zonă de război, și a ajuns la un matematician care scria uneori demonstrații pe pungi de cumpărături, în timp ce rătăcea prin magazinele din New Jersey.

În 2025, problema a ajuns la Hong Wang, care în copilărie, în sudul Chinei, rezolva formule pe podea, scriind cu un balsam de buze. Ea și un colaborator au rezolvat-o în trei dimensiuni, un rezultat pe care un matematician l-a descris drept unul „de genul celor care apar o dată pe secol”.

Wang a primit Medalia Fields în iulie, însă problema rămăsese deschisă pentru patru sau mai multe dimensiuni, iar deasupra ei așteptau o serie de conjecturi și mai grele.

Acum, OpenAI susținea că rezolvase cea mai grea dintre acele conjecturi și problema Kakeya în toate dimensiunile.

„Nu știam că e posibil”, a spus Pathak.

„Totul e posibil”, a spus Winer. „Nu va mai exista niciodată un geniu uman”.

S-au uitat din nou peste anunț, iar uimirea li s-a transformat în spaimă. Amândoi cred că matematica este una dintre cele mai fidele măsuri ale inteligenței pure, iar după această măsură, timpul lor se scurgea.

Winer se teme că, în curând, inteligența artificială îi va depăși pe oameni la aproape orice și că va deveni astfel și mai greu de înțeles sau de controlat.

„Modelele astea au trecut dincolo de noi”, a spus Winer.

A rămas o clipă în picioare și s-a uitat la ceas. Trecuse de ora 15:00. Timpul pentru griji se terminase și încă o oră trecuse. S-a întors în birou, a deschis o nouă conversație cu un model de AI și s-a apucat din nou de problema pe care încă nu reușea să o rezolve.

×
Fanatik
Antena Sport
Observator News
Longevity Magazine
x close