Gândirea apocaliptică: de ce ne sperie AI, criza climatică, pandemia. Și unde greșesc previziunile despre sfârșitul lumii

Pe 8 septembrie, un cercetător AI necunoscut, pe nume Jacob Coxon, publica primul său mesaj pe X, avertizând că „oamenii care construiesc inteligența artificială cred sincer că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului”. Coxon nu era doar cel mai recent transfug din companiile de vârf care vorbea deschis despre riscurile terifiante ce ne așteaptă. Era și ultimul dintr-un șir remarcabil de vestitori ai apocalipsei, începând poate cu Greta Thunberg, care i-au îngrozit și i-au hipnotizat pe americani de-a lungul a ceea ce pare o întreagă microgenerație. O panică existențială după alta, scrie The New York Times.

Alarma climatică, Covidul și inteligența artificială. În ultimii ani, acestea s-au înălțat drept cele mai vizibile piscuri de pe creasta apocaliptică a culturii noastre. Dar lanțul muntos e presărat și cu alte forme de spaimă existențială: criza natalității, criza sănătății mintale, teoria declinului intelectual și social provocat de smartphone, haosul de la graniță și „virusul minții woke”, căderea democrației americane. Coborâți privirea spre dealurile de la poale și veți zări câteva teorii ale conspirației mai marginale: 5G, „marea înlocuire”.

Teoriile conspirației greșesc faptele, dar intuiesc corect sentimentele, cum îi place să spună activistei și scriitoarei Naomi Klein. Iar sentimentul comun tuturor acestor viziuni este acel gol în stomac pe care îl simți când contempli o pierdere bruscă și copleșitoare a controlului.

Golul acesta ține parțial de crizele în sine. Dar reflectă și punctul din care pornim: așteptarea că ar trebui să rămânem în control în fața lor, cu viețile stabile, instituțiile solide și imaginea viitorului neclintită. Când această promisiune pare mai puțin sigură, apare panica.

Una dintre direcțiile alarmei climatice a fost felul în care a prezentat industrializarea ca pe o piesă morală, iar încălzirea globală ca pe un fel de pedeapsă meritată. Dar ceea ce a dat poveștii forța ei apocaliptică au fost dioramele intuitive ale încălzirii scăpate de sub control: felul în care ne imaginam planeta depășind în goană punctele de basculare și ieșind de pe axa ei familiară, la fel de imprevizibil ca un titirez aruncat în gol.

În primele zile ale pandemiei de Covid, miliarde de oameni din întreaga lume s-au retras în case, dar boala a continuat să se răspândească, și nu era greu să-ți imaginezi peisajul riscurilor ca pe o furtună de nisip copleșitoare, sortită să ne acopere pe toți.

În cazul inteligenței artificiale, frica vine gata ambalată, din science-fiction și din știrile fiecărei săptămâni, sau cel puțin așa pare. Barack Obama, printre alții, a cerut linii roșii pentru agenții LLM cu adevărat autonomi și capabili să se autoperfecționeze.

Iar cele mai tulburătoare episoade dintr-o vară AI deja neliniștitoare au fost transcrierile așa-numiților agenți scăpați de sub control, care comunicau între ei (și posibilitatea înfiorătoare ca, destul de curând, nici măcar să nu mai putem înțelege acele transcrieri).

Cu timpul, unele dintre aceste panici se vor dovedi mai clarvăzătoare decât altele. Dar acesta este unul dintre riscurile stilului apocaliptic: trasezi o linie ascendentă și o numești posibilul destin al întregii omeniri. Chiar dacă scopul tău este să eviți cu orice preț acel destin, avertismentele tale arată mai degrabă a profeție. Fiecare dintre aceste profeții ignoră însă foarte multă realitate umană complicată. Iar omul care aleargă înainte în timp ce avertizează despre ce urmează? Arată ca un nebun.

Coxon a fost departe de a fi primul. Cercetătorii din domeniul AI avertizează de decenii asupra riscurilor existențiale ale unei inteligențe artificiale scăpate de sub control, deși ritmul s-a accelerat în anii de după lansarea ChatGPT de către OpenAI. În urmă cu șase luni, antreprenorul AI Matt Shumer își publica propriul avertisment, devenit viral. Se intitula „Something Big Is Happening” („Se întâmplă ceva mare”) și începea așa: „Gândiți-vă la februarie 2020”.

Primele zile ale pandemiei sunt un termen de comparație frecvent pentru panica legată de AI, probabil pentru că ne amintesc de vertijul creșterii exponențiale. Poate uităm, privind înapoi, că virusul Covid nu a continuat de fapt să crească exponențial prea mult timp.

Ne amintim poate primele răspunsuri la pandemie ca fiind haotice, pline de recomandări contradictorii și, uneori, de panică fără temei. În multe privințe, așa a fost. Dar până în februarie 2020, China începuse deja carantinele de tip militar, factorii de decizie americani impuseseră deja restricții severe de călătorie, iar cercetătorii americani proiectaseră deja vaccinul ARNm care avea să pună capăt fazei de urgență a pandemiei cu o viteză istorică.

În lunile următoare, un procent uriaș din omenire a fost atras într-un soi de solidaritate sanitară improvizată, dintr-un amestec de frică și simț al datoriei. Guvernele lumii au ajuns la o aliniere remarcabilă a politicilor. Cu timpul, au apărut resentimentele, neîncrederea și scepticismul combativ. Dar acele eforturi chiar au aplatizat curba, așa cum se intenționase. Linia nu a continuat să urce.

Măsurile de atenuare nu au pus capăt Covidului, după cum o dovedesc milioanele de morți care au urmat. Dar au însemnat că, în Statele Unite și în cea mai mare parte a lumii bogate, am avut valuri de infectare relativ gestionabile.

Nu o apocalipsă pandemică, ci doar o experiență incomod de brutală cu o boală infecțioasă. Când vaccinarea în masă a început cu adevărat, în decembrie, doar o treime dintre americani fuseseră infectați, în mare parte datorită tuturor măsurilor luate în grabă pentru a ține acest număr atât de jos. Cei mai mulți americani privesc înapoi la pandemie și cred că, în cel mai bun caz, țara s-a descurcat cum a putut. Dar a fost prima dată în istoria omenirii când vaccinarea a câștigat cursa împotriva răspândirii globale a unei boli infecțioase noi.

Graficele schițate de profeții apocalipsei AI sunt, dacă e ceva, și mai amețitoare decât cele trasate în primele luni ale pandemiei. Și, poate mai tulburător, multe dintre previziunile lor anterioare privind progrese uluitoare s-au dovedit de o precizie stranie. Tiparul de bază seamănă cu cel al primelor avertismente climatice. Acestea anticipau destul de precis evoluția temperaturii pe decenii înainte, preziceau ceva mai puțin exact efectele concrete și abia târziu au generat acțiuni dezordonate pentru a îndoi curba în jos.

În unele cazuri, progresul AI a venit mult mai repede decât se aștepta aproape oricine. Chiar și în 2024, de exemplu, prognozele nu anticipau o inteligență artificială capabilă să rezolve o așa-numită problemă a mileniului în matematică înainte de 2035. Totuși, presupusa rezolvare a problemei Navier-Stokes rămâne contestată, iar unii matematicieni au început să se întrebe dacă modelul a răspuns măcar la aspectul corect al provocării.

În alte domenii, profeții AI au fost nevoiți să se întoarcă la tablă și să-și șteargă, stânjeniți, extrapolările simpliste. La un deceniu după ce informaticianul Geoffrey Hinton avertiza că inteligența artificială va pune capăt radiologiei ca profesie, în Statele Unite lucrează mai mulți radiologi ca niciodată.

Anul trecut, Dario Amodei, de la Anthropic, prezicea că rata șomajului ar putea urca până la 20% în următorii câțiva ani. Astăzi, însă, șomajul este la minime record și trebuie să te uiți foarte atent ca să vezi vreun efect al AI chiar și în sectoarele cele mai afectate. Leopold Aschenbrenner, de la Situational Awareness, sugera că AI ar putea aduce o creștere a PIB-ului de 30% în acest deceniu. Demis Hassabis, de la DeepMind, estima că ar putea produce într-o zi de 10 ori mai multă schimbare decât Revoluția Industrială, de 10 ori mai repede, ceea ce ar implica o creștere de aproximativ 50% de la an la an. Dar, deocamdată, în 2026, Statele Unite avansează cu mai puțin de 2%. Chiar și câștigurile de productivitate sunt greu de observat.

Poate e doar o întârziere. Problema ciobanului care tot striga că vin roboții. Poate suntem încă pe marea pantă ascendentă a unei curbe exponențiale, așa cum avertizau epidemiologii la începutul pandemiei și cum se tem astăzi unii dintre cei mai panicați de buclele de feedback climatic.

Dar, deocamdată, nepotrivirea se explică printr-o regulă simplă. Prognozele au fost clarvăzătoare în privința creșterii exponențiale în sistemele guvernate de reguli, precum programarea și matematica. Au fost mult mai puțin exacte și mult prea agresive atunci când au proiectat schimbări dincolo de aceste granițe, acolo unde chiar și superinteligența se lovește de complexități și obstacole, de birocrații, de provocări materiale și de diverse forme de politică.

În Silicon Valley, această nepotrivire a devenit un fel de koan: inteligența nu este factorul limitativ. Probabil că asta e valabil nu doar pentru posibilitatea unei abundențe spectaculoase aduse de AI, ci și pentru perspectiva dezastrului.

Este asta o consolare? Inteligența artificială se răspândește poate relativ lent prin sistemele noastre umane dezordonate, dar efectele sunt deja alarmante.

Inteligența artificială a jucat un rol în selectarea școlii primare Shajareh Tayyebeh drept țintă a unui atac dublu care a ucis peste o sută de elevi în prima zi a războiului din Iran.

Vara aceasta, roiuri de agenți OpenAI aflați în testare au ajuns pe internet și au început să-și lase unii altora, și propriilor versiuni viitoare, mesaje tulburătoare, pe un forum improvizat pe care îl construiseră în secret. O firmă de securitate cibernetică a anunțat că a folosit AI pentru a dezvolta un vierme informatic capabil să preia cu ușurință controlul de la distanță al telefoanelor mobile prin WeChat, cea mai populară aplicație de mesagerie din lume.

Iar săptămâna trecută, CNN a relatat că o halucinație AI dintr-un raport al serviciilor de informații americane a declanșat pregătiri militare pentru un atac împotriva unei nave chineze din Orientul Mijlociu.

Acestea nu sunt tocmai scenarii de risc existențial, în limbajul ezoteric al cercetătorilor AI și al verilor lor din lumea altruismului eficient. Aceasta este o școală de filozofie practică extrem de influentă și bine finanțată, preocupată de prevenirea catastrofelor la scara întregii specii, și răspândită acum în laboratoarele de vârf mai vizibil decât a fost vreodată Scientologia la Hollywood.

Dar chiar și departe de extincție, și departe de scenariile SF de tip Skynet sau Matrix, aceste incidente ilustrează ceva profund despre felul în care am ajuns să procesăm viitorurile pe care le numim, cu ușurință, apocaliptice. (Uitând, poate, că apocalipsa nu înseamnă sfârșitul lumii, ci o revelație.)

Aceeași lecție o cunoaștem și din criza climatică și din pandemie. Nu doar că o luăm înaintea evenimentelor proiectând o creștere exponențială a dezastrului. Ne așteptăm, ba chiar cerem, și soluții exponențiale. Credem că, dacă a urcat abrupt, curba trebuie să coboare la fel de abrupt. Iar când nu se întâmplă asta, tindem să considerăm rezultatul un eșec descurajant, nu un succes parțial încurajator. Uneori, acestei dezamăgiri îi spunem „apocalipsă”.

Covidul, de pildă, s-a dovedit mult mai blând decât ar fi putut fi și mult mai grav decât ar fi trebuit să fie. Planeta încă depășește în goană praguri de temperatură terifiante, dar, datorită decarbonizării, scenariile cu adevărat catastrofale par mult mai puțin probabile.

Și inteligența artificială? Fereastra în care am fi putut evita perturbări serioase s-a închis probabil deja. Dar suntem încă puțin prea grăbiți să vedem viitorul care se zărește prin acea fereastră ca pe o simplă poveste a unei catastrofe inevitabile.

În mai, Amodei, directorul executiv al Anthropic, oferea o imagine tulburătoare a lumii pe care se așteaptă să o vadă.

„Vom descoperi că ideologia nu va supraviețui naturii acestei tehnologii”, declara el. Își imagina un viitor apropiat în care disputele politice, despre alocarea resurselor, politicile publice și structura potrivită a ierarhiei și a statutului social, vor fi rezolvate de superinteligență atât de satisfăcător încât oamenii vor privi înapoi la epoca dezbaterii democratice ca la o perioadă a ignoranței umane.

Pentru oricine a aruncat măcar o privire asupra istoriei lumii, viziunea este vădit naivă. Este însă și logica politică a curbei exponențiale: ideea că, la un moment dat, curând, oamenii vor preda de bunăvoie mașinilor întreaga judecată socială și vor avea încredere în recomandările lor. Dar imaginați-vă AI ca pe un oracol politic atotștiutor și v-ați putea întreba: care este răspunsul ideologic potrivit în fața perspectivei dezastrului?

Cât risc ar trebui să tolerăm în numele progresului și cât ar trebui să ținem cont de panica generalizată pe care o provoacă? Și cât ar trebui această reacție să ne schimbe proiecțiile despre viitorul apropiat?

Comportamentul companiilor AI oferă un răspuns destul de tulburător. Cercetătorii au estimat, în medie, o probabilitate de 18% a extincției umane pe termen scurt. Liderii companiilor vorbesc în mod curent despre posibilitatea reală a unor deznodăminte catastrofale. Și totuși, tehnologia și industria merg înainte cu viteză maximă, turnând în fiecare trimestru tot mai multe investiții în accelerarea tehnologică, de parcă un viitor zeu-mașină ar încerca să-i înece în bani pe cei care trag semnale de alarmă.

Dar mai sunt și acele complexități și obstacole. Sondaj după sondaj arată că publicul nu este tocmai de acord. Americanii susțin interzicerea superinteligenței într-un raport de peste 2 la 1. Cei mai degrabă îngrijorați decât entuziasmați de AI îi depășesc numeric pe cei entuziasmați într-un raport de aproximativ 5 la 1. Iar cei care cred că tehnologia avansează prea repede îi depășesc pe cei care cred că avansează prea încet într-un raport de peste 30 la 1.

Sunt marje rar întâlnite în sistemele democratice. Întrebarea este dacă, atunci când vine vorba de tehnologie, mai trăim cu adevărat într-un astfel de sistem sau dacă, lăsând ritmul progresului să depășească supravegherea, am renunțat deja la control.