Dragoș Stanca: „Democrația e lentă. Tehnologia nu așteaptă”. Sau cum alegerile și viețile noastre sunt dictate de algoritmi și AI

Alegerile viitoare nu vor fi decise de idei, ci de cine manipulează mai eficient algoritmii. România, codașa Europei la digitalizare, intră cu ochii închiși într-o cursă în care regulile le fac alții - Big Tech, AI și campaniile de microtargetare. Suntem complet nepregătiți și total depășiți de viteza cu care tehnologia avansează, spune Dragoș Stanca, expert în media digitală, într-un interviu pentru Antena3.ro.

În absența unei reglementări reale, spațiul online devine teren de luptă pentru cei mai versați în manipulare. Cei care cred că libertatea de alegere mai există… n-au înțeles ce face deja inteligența artificială cu noi. Iar cei mai afectați de toate acestea sunt copiii de azi.

Lupta comercială versus lupta ideologică

Reporter: Am văzut ce influență au avut rețelele sociale, în special TikTok, asupra alegerilor prezidențiale din România. De ce credeți că nu știm să ne apărăm de dezinformare? Și cum credeți că vor arăta alegerile viitoare dacă nu va exista o reglementare serioasă a spațiului online? Ce ar putea să mai apară peste cinci ani?

Dragoș Stanca: Oricine pretinde că poate face predicții pe cinci ani în 2025, aberează. Nu există o predicție clară privind evoluția tehnologiei în următorii cinci ani, pentru că am intrat în faza de dezvoltare exponențială a mai multor tehnologii: inteligență artificială, quantum computing, blockchain. Și toate, cumulate, transformă radical societatea. Prin urmare, întreaga societate umană, nu doar România, nu are cum să fie pregătită pentru acest ritm accelerat.

Acesta este și motivul pentru care, în Statele Unite, există discuții serioase, pentru impunerea unor reglementări. Există o parte a lumii mai conservatoare, mai circumspectă în fața ideii de a lăsa tehnologia să se dezvolte fără limite. Așa că există o luptă comercială și una ideologică. Ambele se derulează în paralel.

Lupta comercială vizează accelerarea dezvoltării tehnologiilor de tot felul, dincolo de orice reglementare, pentru a face față competiției globale. Iar cea ideologică presupune grija față de om, presupune adaptarea rapidă a democrațiilor liberale la noua situație și multe alte complicații.

Noi, în această situație, stăm prost din mai multe motive. Pe de o parte, suntem ultimii în Uniunea Europeană în ceea ce privește atât digitalizarea, cât și adopția inteligenței artificiale – conform statisticilor Eurostat.

Iar Uniunea Europeană, la rândul ei, este în urmă față de Statele Unite și China. Deci noi suntem la coada cozii în această luptă globală. Nu avem premise să fim foarte optimiști cu privire la cât suntem de echipați în fața noilor forme de dezinformare.

„Vor câștiga cei care vor reuși să manipuleze mai bine algoritmii”

Am văzut deja, la alegerile trecute, cât de mult a contat folosirea tehnologiei și cât de puțin au contat adevărul și faptele. Iar lucrurile nu vor face decât să se amplifice și să se agraveze în anii următori.

Fără o strategie națională clară, transformarea digitalizării și adopției instrumentelor AI și a media literacy ca și urgență, ca și punct esențial în strategia națională a noii administrații, nu sunt foarte optimist vizavi de ce se va întâmpla în următorul ciclu electoral.

Pe scurt, e previzibil că nu vor câștiga cei care propun cele mai bune idei sau au cele mai bune platforme pentru oameni ori pentru interesul strategic al României. Vor câștiga cei care vor reuși să manipuleze mai bine algoritmii, amplificați și de inteligența artificială, și cei care vor integra inteligența artificială în campaniile lor.

Un lucru important de reținut este că inteligența artificială nu este folosită doar pentru a face poze sau videoclipuri, care sunt doar forma cea mai simplă și vizibilă. Ea este folosită inclusiv la microtargetare și la optimizare.

Pe scurt, inteligența artificială „nevăzută” va face campaniile de dezinformare și mai eficiente și va îngreuna lupta împotriva lor.

Cât din ce facem zi de zi mai e doar alegerea noastră

Reporter: Iar dacă majoritatea deciziilor – de la ce citim la ce cumpărăm – sunt influențate de algoritmi sau de inteligență artificială, ce mai înseamnă alegere liberă? Mai avem vreun pic de autonomie sau totul ne este servit de o platformă, indiferent care ar fi aceea?

Dragoș Stanca: Aici este o discuție publică utilă. Cred că, dacă vom discuta mai mult despre asta, poate vom găsi și soluții. Evident că liberul arbitru și decizia personală rămân principalele arme de apărare.

Problema este cât de echipați suntem pentru a răspunde acestor provocări, în condițiile în care chiar și oameni instruiți, documentați, pot cădea pradă unor tehnologii noi.

E foarte simplu, dar și complicat, în același timp. Pur și simplu, tehnologia avansează cu o viteză mult mai mare decât capacitatea noastră de a o înțelege, de a o integra în sistemul nostru de valori și, mai ales, e mult mai rapidă decât capacitatea statelor democratice de a o reglementa. Tocmai de aceea, unii adepți ai teoriei acceleraționiste propun să nu mai reglementăm deloc, ci să așteptăm ca acest ciclu tehnologic să se maturizeze și să se reașeze.

Asta înseamnă să ne asumăm toate riscurile. Mi-e greu să fac o predicție. Ce pot spune e că e nevoie de înțelegerea acestui fenomen general. Particular și granular nu poate fi pe deplin administrat, pentru că viteza e prea mare și capacitatea noastră e prea redusă.

Democrația noastră e lentă. Democrația necesită dezbateri, necesită analize, perioade de consultare. Iar tehnologia nu își permite să aștepte, nu își permite acest lux.

Au existat și exemple clare în trecut. Companii globale au avut o filozofie de tipul „eludăm legea locală pentru că amenda e mai mică decât profitul”. Acest mod de gândire e răspândit în lumea tech. La fel, și în România, unele televiziuni bugetează amenzile CNA pentru că ele sunt mai mici decât veniturile din publicitate pe care le vor obține dacă vor încălca legislația audiovizuală.

Care sunt nevoile României la capitolul educație digitală

Prin urmare, mă tem că vom ajunge, curând, la nevoia adoptării unor reglementări care să aibă cu adevărat impact. De exemplu: obligarea platformelor globale la suspendarea instrumentelor de publicitate pe durata campaniilor electorale.

O altă măsură care trebuie implementată urgent e să nu mai poți derula campanii publicitare în social media fără o identitate clar probată. Deja unele companii fac asta – inclusiv LinkedIn, parte din Microsoft. Există legislație nouă care obligă platformele să nu accepte bani de la clienți necunoscuți.

Dar dincolo de toate astea, avem nevoie de informare și de educație. Inclusiv educația educatorilor.

România ar trebui să implementeze urgent un program de educație digitală și tehnologică pentru profesori, pentru că ritmul transformărilor este accelerat.

Elevii și studenții ar trebui să înțeleagă că atenția noastră este o marfă tranzacționabilă. Ar trebui să știe că fiecare minut petrecut pe social media valorează foarte mult. În România, vorbim de sute de mii de euro pe lună din publicitate. Ar trebui să înțeleagă că aceste platforme exploatează vulnerabilități și emoții – sunt concepute încă din faza de scriere a codului să creeze dependență.

Trebuie să înțelegem ce înseamnă microtargetare, ce înseamnă o campanie publicitară care se bazează pe istoricul nostru de navigare, pe istoricul achizițiilor, pe toate datele colectate. Toate aceste lucruri ar trebui să devină cultură generală. Nu expertiză. Cultură generală.

Cum este „scrisă” dependența de platforme în liniile de cod

Reporter: Vorbiți despre educație. Avem tot mai mulți adolescenți care trăiesc cu presiunea de a părea perfecți în online și își construiesc o versiune ideală a lor. Ce impact are asta asupra felului în care se dezvoltă și se cunosc pe ei înșiși? Mai învață copiii aceștia să gândească singuri? Cum îi apărăm de manipularea online?

Dragoș Stanca: Există mai multe lucrări de specialitate pe această temă. Jonathan Haidt - „O generație în pericol” este o carte tradusă și în limba română. Și cartea „Identitatea virtuală” a colegului Mihnea Măruță, la fel, tratează acest subiect.

Mai nou, în Statele Unite, în cadrul unor procese publice, există documentație despre modul în care, intenționat, companii precum Meta au inclus în liniile de cod tehnici de generare a dependenței de consum – mai ales la tineri și la adolescenți.

La fel ca alte industrii non-etice, este o luptă între societatea civilă și lumea responsabilă și corporații care pun profitul înaintea unor reguli de bun simț.

E o comparație perfect validă: social media trebuie pusă în rând cu industrii precum tutunul sau jocurile de noroc. Dacă e interzis să vinzi țigări copiilor sub 18 ani, ar trebui să existe limite și pentru social media. Să ignorăm că un copil de 10 ani care petrece 10 ore pe zi pe TikTok e ca și cum nu ne-ar păsa că acel copil fumează două pachete de țigări pe zi și nu am luat măsuri.

Suntem la începutul unui ciclu de transformări istorice, amplificate de algoritmizare, de inteligența artificială și de noi tehnologii.

Pe măsură ce apar consecințele negative, sper să avem înțelepciunea să reglementăm – fără abuz, fără cenzură. Dacă ignorăm, vom ajunge la măsuri extreme: cenzură totală sau, dimpotrivă, autocrații digitale care folosesc algoritmii pentru a-și impune ideologiile sau teze periculoase.

Se vede deja, de exemplu, în valul de băieți tineri contaminați de masculinitatea toxică de tip Andrew Tate, care tot din cauza algoritmilor a ajuns mainstream.

În umila mea părer, suntem într-un moment istoric crucial. Dacă nu ne protejăm din timp, ori vom abuza mai târziu, ori nu vom mai putea face nimic, pentru că va fi prea târziu și va trebui să așteptăm să se încheie cu totul acest ciclu istoric și să reluăm lucrurile pe baze mai logice și normale o generație mai târziu sau știu eu când. Greșeli am mai făcut și s-au tot făcut, am învățat din ele și am încercat să le corectăm. Sper să facem mai mulți pași înainte decât înapoi. Până acum, ne-a ieșit. Sper să ne iasă și de acum încolo.