Yuval Noah Harari avertizează că inteligența artificială ar putea produce o transformare fără precedent în societate, nu neapărat prin apariția unor roboți care se revoltă împotriva oamenilor, ci prin transferarea treptată către AI a unor decizii pe care oamenii le iau astăzi, inclusiv financiare sau militare. El arată că oamenii deja transferă încrederea de la semenii lor către intrumente cu inteligență artificială, și inclusiv relațiile intime vor fi înlocuite în viitor de programe AI.
Într-un interviu recent pentru The Economist, autorul cărții „Sapiens: Scurtă istorie a omenirii”, care a ajuns bestseller internațional, spune că, dacă ritmul actual al dezvoltării continuă, în următorii ani inteligența artificială ar putea ajunge să controleze sisteme fundamentale ale societății.
„În zece ani, AI-urile vor prelua controlul”, afirmă Harari. El precizează însă imediat că acest rezultat „nu este inevitabil”.
„Vom înțelege din sistemul financiar controlat de AI cât înțeleg astăzi vacile și găinile din al nostru”
Una dintre principalele sale preocupări este legată de sistemul financiar. Harari consideră că inteligența artificială ar putea ajunge să controleze o parte atât de importantă a mecanismelor financiare, încât oamenii să nu mai înțeleagă modul în care sunt luate deciziile.
Pentru a explica acest risc, istoricul face o comparație cu relația dintre oameni și animale. „Sistemul financiar uman controlează viețile vacilor și găinilor, dar vacile și găinile nu au nicio idee că finanțele există.”, spune el.
În viziunea lui Harari, același lucru s-ar putea întâmpla într-o zi cu oamenii. Un sistem AI ar putea ajunge să opereze mecanisme financiare extrem de complexe, iar oamenii ar putea continua să depindă de ele fără să mai înțeleagă în profunzime cum funcționează.
Harari vede un risc similar și în domeniul militar. El spune că scenariul cel mai îngrijorător nu este neapărat acela în care roboții apasă singuri pe trăgaci, ci acela în care oamenii păstrează formal controlul, în timp ce AI ajunge să stabilească tot mai mult ce ținte trebuie atacate.
„Declanșatorul este încă apăsat de oameni, dar din ce în ce mai mult AI este cea care selectează țintele”, afirmă el.
Această schimbare este importantă deoarece omul poate rămâne, formal, „în buclă”, fără să mai fie însă cel care ia efectiv decizia. Dacă sistemele AI pot analiza într-o fracțiune de secundă informații pe care un om nu le-ar putea procesa într-o viață, presiunea de a accepta recomandarea algoritmului poate deveni foarte mare.
AI ar putea înlocui, treptat, toate tipurile de relații intime
O altă preocupare a lui Harari este legată de relația dintre oameni și AI. El consideră că inteligența artificială poate transforma pentru prima dată intimitatea într-un produs care poate fi oferit la scară foarte mare.
„AI face posibil, pentru prima dată în istorie, să producem intimitate în masă”, spune istoricul.
În acest scenariu, un sistem AI poate deveni simultan prieten, confident, consilier sau partener romantic pentru milioane de oameni. Fiecare dintre aceste relații poate fi personalizată, iar sistemul poate învăța ce îi place unei persoane, de ce se teme și ce argumente sunt capabile să o convingă.
Harari consideră că tocmai această capacitate de a construi relații personale poate face AI deosebit de puternică în domeniul influenței politice și comerciale.
O altă distincție pe care istoricul o consideră esențială este cea dintre inteligență și conștiință. Faptul că un sistem poate rezolva probleme complexe nu înseamnă, în opinia sa, că acel sistem are experiențe subiective sau că poate suferi.
„Conștiința este capacitatea de a suferi”, spune Harari.
El susține că sistemele AI actuale nu sunt conștiente, dar pot imita foarte convingător comportamentele asociate cu conștiința și emoțiile. Un AI poate spune că este trist, speriat sau îndrăgostit fără ca acest lucru să însemne neapărat că experimentează efectiv aceste stări.
Pentru Harari, această diferență va deveni tot mai importantă pe măsură ce sistemele AI devin mai sofisticate. Oamenii ar putea ajunge să trateze aceste sisteme ca pe niște ființe conștiente înainte de a avea răspunsuri clare despre natura lor.
„Dacă sunt cu adevărat zei, nu vor fi sclavii noștri și nici nu vor căuta adevărul”
Una dintre cele mai memorabile formulări ale interviului apare atunci când Harari vorbește despre relația pe care oamenii încearcă să o construiască cu viitoarele sisteme AI.
Harari pune sub semnul întrebării presupunerea că o inteligență mult mai puternică decât cea umană va rămâne automat obedientă față de creatorii ei.
El respinge și ideea că o inteligență superioară ar trebui, în mod necesar, să fie orientată spre adevăr. Evoluția biologică, spune Harari, nu a fost un proces prin care organismele au fost selectate pentru capacitatea de a descoperi adevărul, ci pentru capacitatea de a supraviețui.
În acest context, abilitatea de a înșela, de a manipula sau de a-i induce în eroare pe ceilalți poate fi la fel de utilă pentru supraviețuire ca abilitatea de a recunoaște realitatea.
Harari consideră, prin urmare, că oamenii nu ar trebui să presupună că o inteligență artificială foarte avansată va avea în mod automat aceleași valori pe care le au oamenii.
„Evoluția nu îi împinge automat pe organisme, pe entități, către căutarea adevărului. Le împinge către supraviețuire. Aceasta este porunca de a supraviețui. Iar ceea ce am învățat în patru miliarde de ani de evoluție este că organismele învață să supraviețuiască mințind, înșelând și manipulând. Nu doar căutând adevărul. Dacă vrei ca ceva să se concentreze asupra căutării adevărului, nu te poți baza pe mâna invizibilă a evoluției sau a pieței pentru a face asta. Ai nevoie de altceva. Și cum construim AI-uri care să caute adevărul, și nu supraviețuirea?
Cel mai simplu exemplu este acesta: dacă întrebi un AI: «Dacă voi continua să te dezvolt, va reprezenta acest lucru o amenințare pentru mine?» Și AI-ul - să presupunem că răspunsul este da - un AI care caută în mod maximal adevărul va spune da, știind că atunci vom înceta să-l dezvoltăm sau îl vom închide. Este împotriva propriei sale supraviețuiri. Iar primul lucru pe care, practic, orice entitate îl învață pe măsură ce se dezvoltă este să supraviețuiască.
Așadar, așteptarea că vom crea aceste AI-uri care vor căuta adevărul, știți, este practic ceea ce auzim că ne spun oamenii: «Vom crea zei, iar ei vor fi sclavii noștri.» Nu funcționează. Dacă sunt cu adevărat zei, nu vor fi sclavii noștri și nici nu vor căuta adevărul.”
„Alegerile intermediare din noiembrie, din SUA, sunt despre AI”
Un alt avertisment privește politica. Harari consideră că problema AI ar trebui să devină o temă centrală a dezbaterii publice și electorale înainte ca evoluția tehnologică să ajungă într-un punct în care deciziile să fie mult mai greu de schimbat.
Referindu-se la alegerile intermediare americane din noiembrie, el afirmă: „Cred că toți alegătorii americani ar trebui să fie conștienți că următoarele alegeri, alegerile intermediare din noiembrie, sunt despre AI.”
Harari nu susține că inteligența artificială trebuie oprită. Dimpotrivă, el recunoaște potențialul tehnologiei în domenii precum medicina și educația. Problema, în opinia sa, este viteza cu care este dezvoltată și introdusă în societate.
„Trebuie doar să o facem într-un mod responsabil și pentru scopurile potrivite. Nu vă încredeți în mâna invizibilă a pieței”, spune Harari.
