Poate scăpa inteligența artificială de sub control? Cercetător în etica AI: „Cei mai nepotriviți s-o dețină sunt oamenii din politică”

Dario Amodei, omul care a construit una dintre cele mai puternice inteligențe artificiale din lume, spune acum că se teme de ea. Într-o postare recentă pe blog, șeful Anthropic cere încetinirea cursei AI și avertizează că, lăsată nesupravegheată, tehnologia ar putea depăși capacitatea noastră de a o înțelege și controla.

Constantin Vică, conferențiar la Facultatea de Filosofie a Universității din București și cercetător în etica inteligenței artificiale, spune, într-un interviu pentru Antena3.ro, că avertismentul nu e doar un semnal de alarmă tehnic, ci și un mesaj de PR care ascunde o criză economică: industria AI merge în pierdere, costurile rămân prea mari, iar cererea de a schimba ritmul urmărește, de fapt, să facă profitul posibil.

Acesta mai explică de ce nicio industrie nu s-a putut controla vreodată singură, de ce aceste sisteme sunt „mașini predictive imprevizibile” pe care nici măcar creatorii lor nu le mai înțeleg. Și, mai ales, de ce pericolul real nu e AI-ul care „scapă din cutie” și „atacă ținte”, ci felul în care tehnologia se topește tăcut în viețile noastre, erodând abilități, relații și chiar bucuria de a gândi pe cont propriu.

„E bine că măcar în ceasul al 12-lea și-au dat seama”

Reporter: Dario Amodei a construit una dintre cele mai puternice inteligențe artificiale din lume, iar acum, într-o postare pe blogul lui, el spune că se teme de ea. Cum comentați dumneavoastră ultima lui postare pe această temă?

Constantin Vică: Nu știu dacă neapărat se teme de ceea ce a făcut, dar e din ce în ce mai evident că nu se mai poate controla, nu neapărat sistemul ca atare, cât întregul ciclu de dezvoltare, după care de utilizare.

Și aici cred că e bine că măcar în ceasul al 12-lea și-au dat seama, sau compania, întreaga companie, și mai multe companii și-au dat seama că, de fapt, sistemul este atât de complex încât nu au cum să nu apară diverse goluri, ori de responsabilitate, ori care țin de control, care țin chiar de înțelegerea întregului proces și așa mai departe.

Deci nu cred că e neapărat o teamă, ca și cum s-ar teme de un copil care sparge geamul și pe care nu-l mai poate reintegra social sau școlar, cât mai degrabă observarea acestei complexități și faptul că nu mai putem să reducem complexitatea la pași mai mărunți sau la elemente mai mici, pentru că are loc ceea ce se numește un fenomen de emergență. Adică, pur și simplu, nu putem prezice, în starea actuală a nivelului de dezvoltare a sistemului, neapărat ce se poate întâmpla.

Riscuri greu de prezis

Reporter: Când omul care construiește această tehnologie este și cel care ne avertizează în legătură cu ea, ce ar trebui să înțelegem din asta?

Constantin Vică: Depinde unde ne uităm. Că dacă ne uităm doar la, să zicem, la text, putem să înțelegem poate chiar un semn de, nu știu cum să zic, de normalizare, de afirmare a responsabilității, de înțelegere mai clară a riscurilor pe termen lung. Riscul nu neapărat cel vizibil sau cel predictibil, cât mai degrabă acele riscuri care sunt din ce în ce mai greu de prezis. Dar eu cred că e mai mult decât atât.

„Mai degrabă văd aici semnul unei crize”

În momentul actual, industria, chiar dacă pare triumfătoare și primim tot felul de mesaje în fiecare săptămână, mesaje de PR, de marketing, că am ajuns la inteligența artificială generală sau că suntem la super-inteligență, astfel de mesaje optimiste, triumfătoare... În fapt, economia inteligenței artificiale este încă fragilă, ca să nu spun că e încă mai degrabă nefuncțională, pentru că aceste companii merg în pierdere.

Costurile sunt mai mari. De fapt, costurile per token procesat, cum ar veni, sunt în continuare mult prea mari pentru a le pune la dispoziție. Nu există destulă energie ieftină, de calitate, adică verde, care să nu pună probleme.

Nu există un cadru foarte clar, chiar dacă avem diverse mecanisme, cum să le numim, de reglementare. Deci, mai degrabă văd aici semnul unei crize, și nu neapărat o criză morală, cât o criză economică cu implicații sociale.

Să nu uităm că pe aceste companii se pune o presiune politică foarte mare în Statele Unite, pentru că ele sunt într-o cursă, mai ales cu companiile din China și cele din Europa, într-o anumită măsură.

În tot acest context, mesajul, chiar dacă pare unul focusat, concentrat pe problemele, să zicem, tehnice sau de securitate ale sistemului de inteligență artificială, de fapt, eu îl citesc ca pe un mesaj de PR. Și cererea unui echilibru sau a schimbării acestui ritm este tocmai pentru a aduce mai aproape sau a face posibil profitul.

Cine ar trebui să controleze cursa AI

Reporter: În postarea sa, el cere încetinirea cursei AI. Tot Dario Amodei este și cel care propune cine ar trebui să fie cei care să o verifice. Poate această industrie să se controleze de una singură?

Constantin Vică: Nu, nu se poate, cum nicio industrie se pare că nu s-a putut controla de una singură, cu toate speranțele pe care le-au avut unii și alții, care ar vrea, poate, mai puțină implicare a statului sau mai puțină implicare a societății.

Reporter: De ce nu se poate controla singură?

Constantin Vică: Pentru că, la rândul său, această industrie este prinsă în jocul capitalist, unde trebuie la finalul anului să ai niște rezultate pozitive și să întorci profit. Acesta este unul dintre motive. Pur și simplu nu putem să-i lăsăm pe cei care joacă să fie și judecătorii jocului.

El propune acel „embeding”, adică să încorporeze diverse entități. Pot să fie persoane, pot să fie alte sisteme de AI care să verifice ceea ce se întâmplă. Dar asta este o perspectivă un pic utopică, pentru că, în primul rând, acele persoane care sunt încorporate sau acele entități din interiorul unei companii nu vor avea autonomie, chiar dacă vor avea acces la tot felul de lucruri. Ele sunt într-un fel sau altul plătite, sau cineva trebuie să le plătească munca, și nu vor face acest lucru.

Acest lucru s-a mai întâmplat o dată, s-a mai întâmplat în momentul în care industria de platforme sociale – că vorbim de Meta, că vorbim de Google, că vorbim de X (adică fostul Twitter) sau de LinkedIn, indiferent de acestea – au cerut, în urmă cu vreo 10-15 ani, să nu se implice statul prea mult, că se vor auto-reglementa. Ei vor avea tot felul de mecanisme de verificare, de control, dar ele nu au funcționat.

Și vedem unde a ajuns social media astăzi și efectele devastatoare atât asupra cogniției umane, asupra vieții sociale, și nu în ultimul rând asupra democrațiilor, asta incluzând instituțiile politicii care trebuie să ducă la conviețuire. Deci, nu cred că se poate controla.

Problema mai gravă este că nu are cine altcineva să o controleze, pentru că din exterior nu ai cum să-ți dai seama de ce fac aceste sisteme de AI. Nu poți să faci un fel de inginerie inversă, poți să ai poate niște aproximări, să încerci să-ți dai niște explicații, dar nu poți să vezi procesul din interior fiind în afara sa. Deci nici un control din afară nu este cu putință.

Și atunci, s-ar putea ca singurul mod să fie să împuternicim mai mult persoanele care sunt în astfel de industrii să fie ceea ce am numi „avertizori de integritate”, adică să denunțe diverse lucruri.

Întâmplător, în cazul ăsta, Anthropic, chiar președintele companiei, conducătorul companiei, a avertizat asupra anumitor lucruri și sunt destul de transparenți. Cumva, cam toți jucătorii mari sunt transparenți, pentru că altfel ar pierde total încrederea publicului și nu ar mai putea să facă damage control.

Cine stabilește că un om „e nepotrivit” pentru a folosi AI sau nu?

Reporter: Tot el mai spune că nu trebuie să lăsăm tehnologia pe mâna oamenilor nepotriviți. Cine hotărăște cine e potrivit să dețină o anumită tehnologie și cine nu? Care e măsura? Și întreb asta pentru că inteligența artificială, am văzut, poate fi folosită pentru lucruri foarte bune, dar și pentru a face lucruri rele.

Constantin Vică: Da, asta e o discuție veche de când lumea: cine ar trebui să fie polițiștii cetății? Cine ar fi mai îndreptățit să aibă grijă de afacerile publice sau să le supravegheze? E o problemă veche, de la Platon încoace, de la „Republica”.

Nu avem un răspuns la asta, pentru că nu există un fel de corp al experților, chiar dacă avem foarte mulți specialiști în AI, dar nu există un corp al experților privind comportamentul elementelor AI-ului. Posibilitatea de a face un lucru sau un alt lucru, aici se leagă un pic de întrebarea precedentă.

Pentru că cu ce avem de-a face? Avem de-a face cu niște sisteme predictive care prezic, cum ar veni în cazul textului sau imaginii, care ar fi cel mai adecvat cuvânt sau pixel care urmează și așa mai departe. Dar sunt mașini predictive imprevizibile, adică nu putem să facem niște previziuni clare despre comportamentul lor, nu sunt reproductibile. Adică, rezultatele lor la același prompt nu-ți vor produce, chiar pentru același utilizator, același text.

Și ce înseamnă asta? Înseamnă că ele nu au acea calitate pe care o are experimentul științific: dacă e bine construit, dacă ai toate datele experimentului, dacă ai toate condițiile, în principiu trebuie să obții același rezultat. Ei bine, în cazul sistemelor de AI, nu este niciodată același rezultat.

De ce? Pentru că sunt sisteme stocastice, cum se numește, nedeterministe. Au o variabilitate generativă și, în cazul ăsta, e aproape imposibil să faci o predicție despre ceea ce se întâmplă. Mai mult, ele sunt opace.

Amodei, de exemplu, propunea să existe un fel de RMN funcțional care să interpreteze ce se întâmplă în „creierul” AI-ului. Dar și asta este o altă poveste interesantă, o idee filozofică, poate tehno-filozofică, nu știu cum s-o numesc.

Dar nu suntem în stare să facem așa ceva, prin constituția și arhitectura acestor sisteme. Interpretarea a ceea ce se întâmplă în interiorul lor este extrem de complicată, e mai degrabă un joc de umbre. Dacă vrem, avem un fel de aproximări.

„Cei mai nepotriviți sunt oamenii din politică”

Acum, să mă întorc la întrebarea asta. După părerea mea, oamenii nepotriviți care n-ar trebui să pună mâna pe tehnologia asta sunt mai mulți: Donald Trump, Elon Musk, Vladimir Putin și Xi Jinping. Adică, cred că cei mai nepotriviți sunt oamenii din politică, pentru că ei au o capacitate de a discrimina într-un fel și de a lua niște decizii pe care restul oamenilor nu o au; acea capacitate nu e împărțită tuturor în mod egal.

Și atunci, mai degrabă oamenii nepotriviți sunt oamenii din politică, indiferent de spectrul pe care se află, și, bineînțeles, tot felul de oameni care au tot felul de interese, cum ar fi să descopere anumite date, să ajungă mai repede la niște rezultate în medicină, și după aceea să le poată revinde ca să le poată controla și așa mai departe.

Nu cred că oamenii nepotriviți sunt neapărat niște oameni lipsiți de moralitate sau niște oameni „răi”, cum s-ar spune popular. Mai degrabă, oamenii care dețin puterea sunt nepotriviți.

Inteligența artificială chiar ar putea ajunge să facă „ce vrea ea”? 

Reporter: Un sistem a atacat singur ținte, deși nu-i ceruse nimeni asta. Cât de departe suntem, de fapt, de o inteligență artificială care ajunge să facă „ce vrea ea”?

Constantin Vică: Ea nu face ce vrea ea. Ea nu are voință, nu are intenții, ea nu seamănă nici măcar cu animalele mai puțin dezvoltate de pe planeta noastră.

Dar în cazul acesta, ce s-a întâmplat? S-a întâmplat o proastă setare, dacă vreți, o proastă orientare a sistemului. I s-a cerut să atingă anumite scopuri, dar el nu era aliniat foarte clar la nivelul instrumentelor și la nivelul motivelor, rațiunilor.

Pentru că el, de altfel, și vorbește în text despre această problemă a alinierii sistemelor de AI cu scopurile noastre, cu mijloacele pe care le avem, cu valorile pe care vrem să le susținem și așa mai departe.

Și chiar dacă să zicem că am putea să facem alinierea asta generală sau într-un cadru general pentru un LLM, în contexte particulare sau când are de făcut acțiuni particulare, ea nu dă rezultate. Pentru că aceste sisteme nu sunt reflexive.

Aceste sisteme, din perspectiva aceasta a autocontrolului sau a-și da seama despre ceea ce fac, ele sunt la nivelul unor copii. Dacă am putea să facem această comparație nefericită, pentru că un copil, de bine, de rău, învață din experiență, el este ghidat, comportamentul său este destul de transparent. Atunci când nu este transparent, se poate detecta ce a făcut, de ce a făcut, cu ajutorul psihologilor, părinții au metodele lor și așa mai departe.

În cazul AI-ului nu există acest lucru, nici măcar pentru sisteme poate un pic mai simple. Și atunci când, să zicem, a atacat acele ținte, nu și-a propus să atace ținte, ci, ca orice entitate care are aceste funcții care țin de eficiență și de consum, caută calea cea mai scurtă.

Așa cum și noi, oamenii, adesea căutăm calea cea mai scurtă. Și dacă uneori calea cea mai scurtă înseamnă să blochezi un sistem uman, să simulezi, să păcălești, să minți, să impersonifici, ajunge să facă asta, ca să zic așa, într-un mod, între ghilimele, „natural”. Pentru că așa ar ajunge orice sistem care este supus presiunilor legate de energie, consum, cât de repede trebuie să producă niște rezultate. La fel s-ar comporta și niște animale în criză, și oamenii, și așa mai departe.

O auto-perfecționare. Dar nu una umană

El se auto-perfecționează în sensul în care devine din ce în ce mai bun, mai rapid, folosește mai puțină energie și așa mai departe.

Dar nu se auto-perfecționează în sensul perfectibilității umane. În sensul în care un cântăreț, un interpret de muzică repetă ca să devină un virtuoz. În sensul în care un matematician face mai multe exerciții, se gândește la mai multe probleme. În sensul în care David Popovici, cu fiecare campionat pe care îl are, mai câștigă niște milisecunde. Nu este neapărat genul ăsta de perfecționare, pentru că în cazul nostru, al oamenilor, perfecționarea asta e foarte conștientă și e coordonată, și noi știm efortul pe care îl depunem și ne gândim adesea și împărtășim cu alții.

Și de cele mai multe ori ne perfecționăm tocmai pentru că avem ajutorul altora. Adică ne perfecționăm într-un sens comunicativ și cu ajutorul comunicării.

Noi avem dorințe despre dorințe, noi avem intenții despre intențiile noastre. De exemplu, intenția de a te lăsa de fumat și după care te gândești: dar stai un pic, ca să-mi obțin asta, poate că ar trebui să am o intenție foarte clară legată de viitorul meu și de ce fac. Și noi reflectăm asupra intențiilor primare pe care le avem, mai mult sau mai puțin, mai bine sau mai prost.

Dar inclusiv psihopații fac treaba asta. O fac cu o anumită răceală care, într-un fel, îi apropie de modul, între ghilimele, „barbar și inuman” în care funcționează sistemele de AI. Dar ele nu se perfecționează în sensul în care ar căpăta un intelect asupra căruia pot reflecta, o voință pe care și-o pot controla și o pot exersa și așa mai departe.

Noi nu înțelegem cum funcționează. Și aceste sisteme nu înțeleg sub nicio formă cum funcționează mintea umană și existența socială, pentru că sunt lipsite de toate elementele care să le plaseze real într-o existență socială istorică. Și nu se pot analiza, nu se pot auto-analiza. Nici noi nu reușim întotdeauna. Dar de-aia mergem la psiholog, de-aia citim cărți, de-aia urmărim, nu știu, diverși influenceri, de-aia avem prieteni.

Scenariul cel mai rău

Reporter: În primul rând, Amodei spune că, lăsată nesupravegheată, inteligența artificială ar putea depăși „capacitatea noastră de a o înțelege și controla” și că în șase luni sau un an ar putea ajunge să controleze întreg internetul. Asta este o exagerare a unui om, nu știu, speriat, îngrijorat, sau chiar acolo am ajuns? Și, din punctul dumneavoastră de vedere, care este cel mai rău scenariu care s-ar putea întâmpla cu o inteligență artificială care „face ce vrea ea”?

Constantin Vică: Nu este neapărat o exagerare, este mai degrabă un avertisment în cazul acestui patron, pentru că asta este, până la urmă.

Capacitatea noastră de înțelegere este limitată. Și când zic asta, nu zic capacitatea, nu știu, oamenilor comuni ca noi, ci chiar capacitatea acestor designeri, ale acestor creatori de inteligență artificială.

Ei nu mai înțeleg de la un punct încolo ce se întâmplă acolo. Se lucrează mult cu încercare și eroare, se tot joacă în planul hiperparametrilor, se încearcă tot felul de metode de a constrânge sistemul, de a limita output-ul sistemului, dar în continuare el nu este reproductibil. Rezultatele nu sunt reproductibile pentru că el nu lucrează determinist.

Noi înțelegem mult mai ușor lucrurile când avem relația cauză-efect: fie e transparentă, fie putem să o inferăm. Ei, în această situație, noi nu vedem foarte clar. Nu putem să detectăm relația de cauză și efect.

Normal, există o origine, promptul – ceea ce îi ceri să facă – sau constituția acelui AI pentru ceea ce face. Dar asta nu înseamnă că noi de acolo putem să inferăm, în sensul de a previziona, să facem predicții despre output-ul făcut de el.

Capacitatea noastră de înțelegere e limitată pentru că sistemele sunt opace, pentru că sistemele sunt complexe. Astea sunt primele două motive, dar nu țin doar de asta.

Problema controlului din asta decurge într-un fel: când nu înțelegi ceva, e normal că nu vei putea să controlezi. Iar când ceva este atât de complex prin natura sa, nu poate fi controlat.

Iar un scenariu cum ar fi că ar putea un roi de agenți artificiali să atace diverse zone critice ale infrastructurii noastre online... da, acesta cred că este posibil. Nu știu cât de răspândit ar putea să fie.

În principiu, arhitectura internetului permite decuplări, în sensul în care anumite zone pot să devină nefuncționale, inaccesibile, dar pachetele de informații să circule prin alte servere. În principiu, asta nu înseamnă că noi am testat vreodată până la capăt ce s-ar putea întâmpla.

Ce pagube pot produce „agenții năzdrăvani AI” lăsați „de capul lor” pe internet

Alte scenarii mult mai plauzibile ar fi ca un astfel de roi să atace, de exemplu, infrastructura care e expusă online a spitalelor sau a anumitor centrale care produc electricitate. Nu cele nucleare neapărat, pentru că sistemul lor este prea puțin, adică deloc, de fapt, conectat la internet. Dar ar putea să pună probleme unor state deja. Asta se poate face în momentul actual cu tehnologia pe care o avem.

Au fost astfel de atacuri, vedem ce s-a întâmplat, de exemplu, cu cadastrul în România. Dar pe de altă parte, cu cât folosim mai mult AI pentru a ataca ținte, sau lăsăm să fie folosit pentru „a ataca ținte”, cu atât în egală măsură se dezvoltă și domeniul de cyber security.

Se dezvoltă AI-ul pentru a fi folosit să detecteze astfel de atacuri și atunci poate, încet-încet, se poate ajunge la un echilibru în care avem astfel de agenți „năzdrăvani” pe net – nici nu știu cum să zic, dezlănțuiți online – dar avem și sisteme care pot detecta astfel de atacuri.

Numai că aceasta e o cursă inegală, pentru că una este să ai o companie cu un sistem atât de mare, cum e Anthropic, sau OpenAI, sau Meta, sau Microsoft... și altceva este să folosești tu pe plan local un sistem de AI ca să te apere.

Eu cred că, de fapt, pericolul nu este neapărat cu AI-ul ăsta care scapă din sandbox, din cutiuța lui de joacă, din cutia cu nisip unde se joacă, și se duce în lume și „atacă ținte”. Problema este felul în care noi ajungem să utilizăm IA în viața de zi cu zi și în care se integrează, se topește în textura socială și în viețile noastre cognitive și sociale.

Când inteligența artificială schimbă relațiile dintre oameni. Și nu, nu (prea) ne face mai buni

Aici, pentru că nu ne dăm seama cum ne transformă acest lucru, nu ne dăm seama cum ne pierdem anumite abilități, cum ne pierdem inclusiv această capacitate de a verifica. Noi ne uităm acolo unde pare că focul e mai mare și că e un pericol mai mare.

Dar există un pericol generalizat, universalizat, de a scăpa cumva de sub control nu neapărat AI-ul, cât mai degrabă relațiile dintre oameni și modul în care noi ne mai raportăm la ceilalți, modul în care mai trăim cu ceilalți. Pentru că AI-ul, în multe situații, lasă impresia asta că este și un bun psiholog, poate juca rolul unui prieten, poate fi un profesor, de ce nu, poate înlocui și un medic.

Dar în practică, când stăm să reflectăm mai mult și ne dăm seama și de efecte, vedem că, totuși, e o utilizare limitată. Sau ar trebui să fie o utilizare limitată. Pentru că altfel trăim într-un fel de lume a iluziilor, într-o lume din ce în ce mai ficțională, generată de AI. Și asta vine într-o desfășurare oarecum istorică, raportat la ce se întâmplă acuma cu social media și cum, din ce în ce mai mulți oameni ajung să fie captivi și captivați de dezinformare.

Cine răspunde pentru un AI rebel?

Reporter: Când AI-ul ajunge să facă un rău „de capul lui”, cine răspunde? Cel care l-a construit, cel care l-a pornit? Nimeni? Cine credeți că ar trebui să fie tras la răspundere, în acest context?

Constantin Vică: În primul rând, compania este responsabilă. Ar trebui să fie responsabile. Dar nu știu dacă aceste companii bifează toate criteriile responsabilității. Primul dintre ele este să aibă libertatea totală de a delibera. Iar aceste companii, vedem, primesc o presiune din ce în ce mai mare, ori prin reglementare, ori direct prin aproape forță brută politică, dintr-o parte sau din alta, fie că vorbim de America, de China sau chiar de Uniunea Europeană.

Deci doar un om cu adevărat liber, care nu e constrâns, poate fi făcut responsabil. Acolo unde nu există libertate, nu există responsabilitate. De aceea nu îi acuzăm pe copii că sunt iresponsabili, pentru că ei nu sunt liberi, de fapt. Iar acum, libertate nu înseamnă doar libertate negativă: să faci tu ce vrei, să nu te constrângă nimeni și să nu ai cumva coerciție. Libertatea înseamnă și capacitatea pozitivă de a te guverna pe tine.

Și aici intrăm în a doua problemă a acestor companii. Poate că ele își doresc să guverneze aceste sisteme. De altfel, Anthropic are o întreagă constituție, dar e incompetentă în guvernare, pentru că sistemul devine complex.

Când sunt toate aceste ramuri, toată această structurare aproape rizomică a lumii dezvoltării AI-ului, mai poți delibera? Mai poți avea discernământ? Mai poate funcționa cu adevărat? Ei bine, dacă nu se împlinesc măcar aceste două criterii: libertate – de sine și de reflexivitate – și capacitate deliberativă reală, atunci e cam greu să mai zicem că o entitate este responsabilă.

„Companiile ar trebui să fie, în primul rând, responsabile”

Ne aflăm, din păcate, într-o zonă a istoriei noastre, care nu e diferită neapărat de alte momente, în care iresponsabilitatea este punctul de unde, de fapt, plecăm, nu punctul unde ajungem. Pentru că nu e cu putință să mai fii cu adevărat responsabil.

Dar dacă tot au intrat în jocul ăsta, companiile ar trebui să fie, în primul rând, responsabile. Și nu în ultimul rând, și utilizatorii. Pentru că unii utilizatori pot prelua, pot implementa, pot deriva astfel de modele, ca să conducă ei pe cont propriu astfel de roiuri de agenți artificiali, să le genereze, și atunci responsabilitatea se duce într-un fel și la utilizator. Dar utilizatorii nu sunt educați așa. Nu ai nevoie de un fel de școală ca să stai pe internet sau ca să te joci, între ghilimele, cu un AI. Și atunci ne aflăm chiar într-o situație, paradoxal, în care putem produce foarte mult output pozitiv, necesar, util, dar nu avem, de fapt, niciun context care să ne motiveze să o ținem doar așa.

Iar motivarea nu cred că vine doar din reglementare, ci vine și dintr-o anumită presiune pe care și altă industrie ar putea să o facă, pe care utilizatorii ar putea-o face.

Nu putem să acceptăm un răspuns de genul „nu e nimeni responsabil”. Pentru că, în cazul ăsta, dacă nu e nimeni responsabil, atunci de ce să mai dăm cuiva vreo libertate? Ar trebui să naționalizăm toate aceste sisteme sau să le facem absolut deschise, ca toată lumea să poată beneficia de ele, să se poată juca și să ne asumăm toate riscurile care decurg de aici.

Folosirea inteligenței artificiale nu ne face mai deștepți. Din contră

Reporter: Știu că sună clișeic întrebarea asta, dar cum le putem explica oamenilor din România care au job-uri obișnuite de la nouă la cinci, sau studenților dumneavoastră, care văd, aud, citesc toate cele de mai sus, că inteligența artificială este periculoasă? Dacă e? Și în ce sens?

Constantin Vică: Pentru asta există cursuri specializate, de exemplu de etica inteligenței artificiale. Avem un astfel de curs la masterul nostru de etică aplicată. Nu e imposibil să explicăm așa ceva. Nu e imposibil să discutăm așa ceva. Dar cred că ar trebui să trecem un pic de acest prim nivel mediatic în care ne speriem sau ne entuziasmăm de anumite știri legate de AI.

Să reflectăm mai mult: în ce sens este periculoasă? Doar pentru că ar putea să ducă la blocarea unor sisteme, cum ar fi printr-un atac, de exemplu, vizând arhiva cadastrului? Da, poate fi periculoasă. Și în acest sens poate fi periculoasă.

Un astfel de sistem poate fi periculos în momentul în care ar ataca, nu știu, sistemul de dirijare al căilor ferate, să spunem, sau al traficului aerian. Da, sunt astfel de cazuri care sunt evident probleme de securitate, cyber security.

Dar eu cred că ar trebui să discutăm mai mult despre utilizarea AI în viața de zi cu zi, care duce la pierderea unor abilități. La câștiguri de cunoaștere, dar de scurtă durată, pentru că o cunoaștere produsă rapid, cu iuțeală, la fel de repede se și evaporă din mințile oamenilor. Putem să facem asta practicând utilizarea, nu doar utilizarea, ci și crearea de sisteme de AI împreună cu studenții noștri. Asta zic de universitate, ce putem face și ce facem de altfel.

În cazul lumii sociale mai largi, cred că ar trebui arătat mai clar cum AI-ul este folosit de social media și de toate aceste platforme ca să îi țină pe oameni și „mai angajați” în interesele platformei, și prin asta li se schimbă comportamentul oamenilor, cum deja li s-a putut schimba algoritmic.

Și li se schimbă și setul de valori, și orientarea lor în viață, inclusiv orientarea spirituală, într-un sens mai larg. Și aici este periculoasă utilizarea AI-ului, pentru că e total netransparentă și noi nu putem nici să ne dăm seama ce se întâmplă, nici, dacă ne dăm seama de asta, să acționăm puternic în raport cu aceste companii.

Vedem cât a durat un proces în Statele Unite, în urma căruia a fost evident că Meta, prin Facebook, prin Instagram, a reușit chiar să modifice cumva comportamentul oamenilor tineri și să îi arunce în tot felul de riscuri care țin inclusiv de propria identitate, de respectul de sine.

Prin felul în care acești leviatani digitali au modificat comportamentele și relațiile dintre oameni, inteligența artificială participă la acest proces și va participa din ce în ce mai mult.

Și nu în ultimul rând, să înțelegem exact cum astăzi există foarte multă propagandă computațională, unde avem niște ființe umane și niște boți destul de simpli. În anii care vor urma, această propagandă computațională va fi mult mai puternică.

Va fi mult mai simplu să simulăm entități umane, duplicate digitale, doppelgängeri, astfel încât, dacă până acum doar primeai o anumită reclamă sau te nimereai într-un flux de știri – chiar dacă era plin de dezinformări, dar care ție îți răspundea simpatiilor tale – în viitor vom putea fi foarte ușor păcăliți de avatare dotate cu inteligență artificială, care să treacă drept o persoană sau alta, un politician sau altul, și nu numai.

Se vor putea crea tot felul de astfel de „lumi ficționale”, în care oamenii pică cu o deosebită plăcere. Pentru că acestea, lumi ficționale funcționează și ca un fel de pseudo-terapie, ca un fel de lume în care tu îți verși toată oftica și toată supărarea, și toată nemulțumirea legată de viața ta economică, viața ta socială.

Deci, aici cred că ar trebui să fim mai atenți. Să fim mai atenți la faptul că toate aceste mari companii presează de zor sistemul educațional în întreaga lume să se convertească într-un fel de a cincea roată la sistemul de AI. Ceea ce este absolut devastator pentru procesele educaționale. Educația nu trebuie să se întâmple mai repede. Educația nu trebuie să se întâmple cu o mie de sisteme „în jurul tău”. Educația trebuie să fie autentică, și pentru asta trebuie să intri într-o anumită stare, să ai o comunitate, să ai încredere și să accepți greșeala, eroarea, și întotdeauna să ai o relație umană.

Pentru că dacă nu ai o relație umană, cel mult poate înveți niște practici, niște metode, dar nu-ți dai seama despre ceea ce faci. Și ajungem în felul ăsta să fim mai slabi într-un fel reflexiv, cognitiv, chiar decât sistemele de AI.

Aici văd eu pericolul mai mare. Dincolo de aceste incidente care normal trebuie tratate cu maximă seriozitate, se pare că de fapt ne ascundem în spatele entuziasmului, un entuziasm generalizat, un entuziasm construit de companiile de AI. Ascundem, de fapt, toate riscurile pierderii umanității noastre.

„Se pierde bucuria de a gândi pe cont propriu”

Reporter: Spuneați mai devreme că oamenii își pierd anumite abilități prin felul în care folosesc inteligența artificială. Puteți să-mi dați câteva exemple?

Constantin Vică: Se pierd virtuțile. Virtuțile răbdării, virtuțile curajului de a încerca și altceva. Se pierde și virtutea aceasta a echilibrului. Până la urmă, să nu te lași convins atât de ușor. Asta e o problemă.

Se pierd capacitățile de documentare pentru cele și cei care aveau astfel de capacități de documentare critică, atentă, reflexivă. Se pierde inclusiv bucuria de a gândi. De fapt, cred că asta e cel mai important: bucuria de a gândi pe cont propriu și libertatea aceasta de a face diverse erori.

Se pierd capacități conversaționale, pentru că AI-ul îți răspunde întotdeauna, știi... e așa, un fel de tovarăș de drum care nu te deranjează, nu te supără. Se pierde uneori respectul pentru persoane, pentru că, interacționând prea mult cu sistemele, începem să aplicăm genul ăsta de „brutalitate” și în relația cu oamenii. Iar asta vedem mai ales la copii și adolescenți, care sunt lăsați prea mult în grija inteligenței artificiale. Astea ar fi câteva.

Da, se pierd și alte lucruri: capacitatea de a mai face drumul invers, de a mai face niște deducții corecte, de a vedea unde este limita inducțiilor. Inducțiile nici ele nu vin cu necesitate și cu un rezultat cert final. Noi nu investim destul de mult în asta.

Și poate că exact din profiturile, care încă nu prea sunt, ale companiilor de AI, ar trebui făcut ceva. Exact cum o parte din profiturile companiilor de țigări se duc către prevenție, către tratament, la fel ar trebui să se întâmple și aici: o mai mare prevenție, o mai mare deschidere a acestor companii spre a explica procesele, atât cât se poate, și a permite oamenilor să interpreteze aceste limite.

Unele dintre ele fac asta și spun: „Hei, acest subiect nu va fi discutat”, sau „În acest caz, te rog caută tu pe Google, nu mă mai pune pe mine să caut pe Google”. Toate lucrurile astea nu se pot rezolva de azi pe mâine.

Nu putem să venim cu un discurs care este tehno-optimist, dar irațional. Că „oamenii se vor adapta”. Pentru că procesele de adaptare nu se întâmplă doar la nivel de individ, ci și la nivel de specie, și durează destul de mult un astfel de proces.

Nu putem să spunem că se vor adapta și să facem analogii absolut inutile, cum ar fi: „Uite, s-au adaptat mersului cu trenul”. Păi e cu totul altceva! Sunt două categorii total diferite. Mersul cu trenul chiar a venit cu beneficii. Bineînțeles, a venit și cu probleme de poluare, dar mersul cu trenul e determinist, e clar mecanicist, și așa mai departe.

Pe când în cazul inteligenței artificiale, o astfel de analogie n-are sens. Inclusiv analogia cu felul în care oamenii s-au adaptat computerelor.

Oamenii nu s-au adaptat neapărat computerelor; vedem că nivelul de literație computațională sau digitală e în continuare foarte scăzut, și – nu? – folosim computere de peste 30 de ani.

Și cred că aici ar trebui să se uite mai atent statele, sistemul educațional, cu mult mai multă psihologie, mai multă neuroștiință, ca să vedem în ce mod putem conviețui și putem să ajungem la rezultate bune cu sistemele de inteligență artificială. Care nu gândesc așa cum gândim noi și produc niște rezultate care, la rândul lor, ar trebui să fie investigate, pe care nu te poți baza.

Nu degeaba absolut toate sistemele de AI publice de tip ChatGPT sau Claude sau Copilot au acolo un mesaj scurt, sub bara de interogare, de prompting, care spun explicit că rezultatele pot fi greșite. Atunci avem nevoie de un fel de literație, educație pentru AI, care nu se poate petrece, din păcate, în ritmul în care se dezvoltă AI.

Cine este Constantin Vică și de ce este important ce spune el

Constantin Vică este conferențiar universitar la Facultatea de Filosofie a Universității din București și cercetător la Centrul de cercetare în etică aplicată. În cadrul masterului de Etică aplicată predă cursul Etica tehnologiilor. Ariile sale de interes sunt plasate în etica AI și cea digitală, bioetică, filosofie socială și politică. A publicat diverse articole despre internet și ameliorarea cognitivă, designul platformelor sociale, indignarea online, autenticitate, autonomie și neurotehnologii, inteligența artificială și etica viitorului, responsabilitatea sistemelor de AI, duplicatele digitale sau roboții ca asistenți și companioni.

Publică în reviste precum Science and Engineering Ethics, Ethics and Information Technology, AI & Society, Philosophy & Technology, International Journal of Social Robotics, Frontiers in Robotics and AI, Journal of Bioethical Inquiry, Topoi, Philosophical Psychology, Phenomenology and the Cognitive Sciences.

În 2023 a publicat volumul de autor Civilizație algoritmică și viața în lumea digitală (Editura Universității din București),

Tot în 2023, a revenit, după 20 de ani, cu un nou volum de poezie, 20002020 (OMG Publishing).

Face parte din echipa proiectului avataResponsibility, finanțat de European Research Council (ERC).