În ultimele trei săptămâni, lumea a urmărit cum doi dintre cei mai bogați oameni ai planetei, Elon Musk și Sam Altman, s-au angajat într-o confruntare publică și controversată într-un tribunal din California, din cauza unei organizații pe care au fondat-o împreună: OpenAI. Dovezile prezentate, note interne, e-mailuri și mesaje text, au oferit o perspectivă rară și fascinantă asupra originilor companiei, potrivit The Times.
Karen Hao cunoștea însă deja foarte bine această poveste. De fapt, urmărind procesul, a simțit că investigațiile sale au fost confirmate. „A fost bine să văd multe dintre lucrurile pe care le descoperisem expuse public”, a spus ea, la câteva zile după încheierea procesului.
Hao a primit acces fără precedent în birourile OpenAI încă din 2019 și, de atunci, a discutat cu sute de foști angajați și persoane din cercul apropiat al lui Altman pentru a reconstrui povestea transformării OpenAI: de la o organizație non-profit construită pe ideea de a „salva omenirea”, la un gigant al investițiilor financiare și al controverselor. Săptămâna trecută, The Wall Street Journal relata că OpenAI se pregătește pentru listarea la bursă, la o evaluare estimată la peste 1 trilion de dolari.
Aceasta este și tema centrală a cărții sale, „Empire of AI: Inside the Reckless Race for Total Domination”, publicată luna trecută, în care susține că producătorul ChatGPT a declanșat o cursă tehnologică lacomă și periculoasă pentru societate.
Musk a pierdut procesul în care îl acuza pe fostul său partener că a încălcat acordul inițial non-profit prin transformarea OpenAI într-o companie comercială. Dar, spune Hao, procesul în sine a fost mai degrabă o distragere a atenției. Ceea ce conta cu adevărat era cum s-a ajuns aici și ce urmează de acum înainte.
„Încă de la început am simțit că există ceva suspect”
Când Hao a ajuns pentru prima dată la sediul OpenAI din San Francisco, în 2019, directorul tehnic al companiei a întâmpinat-o cu un zâmbet ezitant. „Nu am mai oferit niciodată cuiva atât de mult acces”, i-a spus Greg Brockman, invitând-o să se integreze în companie pentru un material de profil pe care îl pregătea.
Cu doar două săptămâni înainte, pe 22 iulie 2019, OpenAI primise o investiție de 1 miliard de dolari de la Microsoft. Pentru Hao, o tânără jurnalistă de tehnologie care studiase ingineria și lucrase anterior într-un startup din Silicon Valley înainte de a ajunge la MIT Technology Review, era oportunitatea carierei. Totodată, a fost și momentul în care și-a dat seama că ceva nu era în regulă.
„Încă de la început am simțit că există ceva suspect”, spune Hao, acum în vârstă de 32 de ani.
AGI ar putea deveni suficient de puternică fie pentru a distruge lumea
După ani petrecuți în jurul startup-urilor din Silicon Valley care se prezentau drept proiecte „nobile”, Hao devenise deja destul de sceptică. Totuși, OpenAI trebuia să fie diferită. Fondată în 2015, organizația își propusese dezvoltarea inteligenței artificiale generale (AGI), cea mai avansată formă de inteligență artificială imaginată până acum.
Ideea era că această superinteligență ar putea replica și apoi depăși inteligența umană. În viziunea OpenAI, AGI ar putea deveni suficient de puternică fie pentru a distruge lumea, fie pentru a crea o utopie globală, rezolvând probleme pe care omenirea nu le poate rezolva singură. Compania susținea că vrea să atingă cea de-a doua variantă și că OpenAI urma să fie un instrument transparent și colaborativ pentru întreaga lume.
Doar ”conversații aprobate”
Hao spune că a fost surprinsă să descopere exact opusul transparenței promise. Era însoțită peste tot, nu avea acces la anumite etaje și nici la unele ședințe. „Când vorbeam cu cercetătorii, observam că erau foarte nervoși să nu spună ceva ce nu aveau voie. Era ciudat, pentru că întreaga filozofie OpenAI era că vor împărtăși totul”, spune ea.
Un agent de securitate primise inclusiv o fotografie cu chipul ei și fusese instruit să o oprească dacă apărea neautorizată în anumite zone. Angajații au fost avertizați pe Slack să nu discute cu Hao în afara „conversațiilor aprobate”. Atmosfera, spune ea, era „competitivă, secretomană și izolată”.
Ulterior, discutând cu persoane din interiorul companiei, Hao avea să afle cum ceea ce începuse ca o organizație care experimenta liber idei „ca să vadă ce funcționează” se transformase într-un proiect dominat de obsesia lui Sam Altman: atingerea AGI înaintea tuturor celorlalți, fie că era vorba despre competitori precum Google sau despre state precum China.
Totul semăna cu o religie în sine
Cercetătorii și oamenii de știință din companie erau printre cele mai strălucite minți din industrie. Însă, spune Hao, credința lor în AGI ajunsese să semene mai degrabă cu o religie în sine. Ea o numește „căutarea ideologică a zeului-robot”.
Mai mulți foști angajați OpenAI i-au povestit despre o retragere organizată în munții Sierra Nevada, unde cercetători seniori, îmbrăcați în halate de baie, stăteau în jurul unui foc de tabără și îl priveau pe Ilya Sutskever, excentricul și strălucitul director științific al OpenAI, arzând o efigie care „reprezenta AGI”. Unii dintre cei care au lucrat acolo i-au spus lui Hao că abia după ce au plecat din companie au simțit că „au revenit cu picioarele pe pământ”.
Hao susține că exista o adevărată paranoia legată de scurgerile de informații și de posibili spioni. În cartea sa, ea povestește că Sutskever le-ar fi spus colegilor că se gândea ce ar trebui făcut dacă cineva i-ar tăia mâna pentru a o folosi într-un scaner biometric ce proteja secretele OpenAI. Acesta propusese inclusiv construirea unui „buncăr” securizat, cu un computer complet izolat de orice rețea.
Computer fără conexiune la internet pentru redactarea documentelor strategice
Un alt executiv, Dario Amodei, folosea un computer fără conexiune la internet pentru redactarea documentelor strategice, conectat direct la o imprimantă, astfel încât informațiile să existe doar în format fizic.
Ceea ce a dezamăgit-o cel mai mult pe Hao a fost însă felul în care această cursă obsesivă pentru superinteligență transforma întreaga industrie.
OpenAI a decis că cea mai bună metodă pentru a atinge AGI era să mărească radical dimensiunea modelelor sale lingvistice (LLM). Asta însemna „să introducă din ce în ce mai multe date și să le antreneze pe supercomputere mai mari decât orice a construit omenirea vreodată”, spune Hao.
„Am văzut cum întregul domeniu AI s-a prăbușit într-o singură direcție”
Această putere uriașă de procesare costa enorm, iar OpenAI a creat o divizie comercială pentru a putea finanța proiectul.
„Este greu de explicat cât de extremă părea atunci această idee a scalării”, spune Hao, care descrie strategia drept una bazată pe „forță brută”.
Până atunci, cercetarea în inteligența artificială fusese mult mai precisă și orientată spre obiective clare. Cercetătorii foloseau seturi mici și controlate de date pentru a testa ipoteze concrete, de exemplu, detectarea semnelor bolii Alzheimer prin analiza scanărilor cerebrale.
Noua direcție a OpenAI era diferită: introducerea unei cantități uriașe de date în sisteme, în speranța că acestea vor dezvolta „inteligență” în orice domeniu.
Rezultatul a constat în modele tot mai fluente și impresionante, deși mulți specialiști se întrebau dacă asta înseamnă cu adevărat inteligență sau doar imitație sofisticată. Chiar și așa, competitorii OpenAI au început imediat să își dezvolte propriile LLM-uri.
„Am văzut cum întregul domeniu al inteligenței artificiale s-a prăbușit într-o singură direcție, una intelectual leneșă și profund nocivă pentru societate”, spune Hao.
La început, OpenAI folosea „date curate”
Ea susține că multe dintre efectele negative ale inteligenței artificiale provin exact din această obsesie pentru scalare: centre de date uriașe care consumă apă și energie, creșterea costurilor locale la electricitate și colectarea masivă de informații de pe internet, care afectează confidențialitatea și proprietatea intelectuală.
La început, OpenAI folosea „date curate”, lucrări științifice și surse verificate. Însă acestea s-au terminat rapid. Compania a început apoi să extragă informații de pe rețele sociale, forumuri și alte surse online, inclusiv conținut de slabă calitate sau teorii conspiraționiste.
Potrivit lui Hao, acest lucru a dus inevitabil la rezultate slabe: chatboturi care oferă jumătăți de adevăr, informații greșite și conspirații.
”De ce alegem, de fapt, să construim o superinteligență care să depășească omul?”
Cu toate acestea, Hao insistă că nu este o „catastrofistă” în ceea ce privește inteligența artificială. Ea spune că soluția nu este oprirea progresului tehnologic, ci schimbarea direcției în care merge industria.
„Am putea continua să dezvoltăm rapid inteligența artificială, doar într-un mod diferit”, spune ea.
În opinia sa, viitorul ar trebui să însemne sisteme AI mai specializate și mai precise, construite pentru obiective concrete, precum descoperirea de noi medicamente, folosind seturi mici și relevante de date și teste științifice riguroase.
Poate că astfel de sisteme nu vor crea o superinteligență capabilă să depășească omul, spune Hao, însă ar aduce beneficii reale societății fără efectele secundare actuale.
În final, pentru ea, totul se reduce la întrebarea pe care le-a adresat-o directorilor OpenAI încă din prima zi petrecută în companie, în 2019. O întrebare la care, spune ea, nici atunci nu au știut să răspundă clar și care rămâne valabilă și astăzi:
De ce alegem, de fapt, să construim o superinteligență care să depășească omul?