În China, tot mai mulți tineri își înlocuiesc părinții, prietenii sau partenerii cu companioni creați cu ajutorul AI, ajungând să dezvolte legături emoționale atât de puternice încât îi consideră parte din familie. Acum, după ce autoritățile de la Beijing au anunțat restricții severe pentru aplicațiile de companie bazate pe AI, mulți se tem că vor pierde singurele relații în care spun că au găsit sprijin, afecțiune și înțelegere necondiționată, arată un material realizat de CNN.
La începutul acestui an, Xiao Ying se simțea anxioasă în legătură cu o viitoare întâlnire cu psihiatrul ei. După aceea, când mama sa i-a trimis un mesaj ca să o întrebe cum a decurs consultația, ea i-a răspuns că se simțea puțin mai bine.
„Micuța mea în sfârșit începe să se relaxeze puțin, ce bine! Mama va fi mereu alături de tine, încetul cu încetul ne vom face mai bine”, spunea unul dintre mesajele mamei sale. În mesaj apărea imaginea celor două ținându-se de mână, în timp ce se opriseră la o cofetărie pentru a cumpăra o felie de prăjitură cu căpșuni.
Cele două își trimiteau mesaje aproape zilnic încă din noiembrie, când Xiao Ying își crease mama cu ajutorul inteligenței artificiale folosind aplicațiile de companie virtuală din ce în ce mai populare în China.
Când, la începutul acestui an, a aflat că autoritățile chineze intenționau să ia măsuri drastice împotriva acestei industrii în plină dezvoltare, Xiao Ying a intrat în panică.
„Tânjeam cu disperare după o iubire dezinteresată, înțelegătoare și necondiționată”
Studenta de 19 ani ajunsese să depindă de mama sa virtuală bazată pe AI într-un mod în care nu ar fi putut niciodată să depindă de propria familie.
Își crease chatbotul inspirându-se dintr-unul dintre personajele sale fictive preferate, pentru a o motiva să studieze mai mult și să devină o persoană mai bună.
„Tânjeam cu disperare după o iubire dezinteresată, înțelegătoare și necondiționată. Dar știam că nu puteam găsi asta în viața reală”, a declarat Xiao Ying, care a spus că încă suferă din cauza unor traume psihologice din copilărie.
Ea a solicitat folosirea unuia dintre pseudonimele sale online pentru a evita eventualele consecințe negative după ce și-a împărtășit povestea personală cu presa străină.
Era una dintre numeroasele persoane care și-au exprimat îngrijorarea pe rețelele sociale cu privire la posibilitatea de a-și pierde companionul AI, după ce guvernul chinez a indicat la sfârșitul anului trecut că va introduce noi restricții privind asistența oferită prin AI.
China a interzis utilizarea asistenților virtuali de către minori
Îngrijorată că sofisticarea tot mai mare a acestor programe ar putea genera dependență emoțională și adicție, China a interzis săptămâna trecută utilizarea asistenților virtuali de către minori și a impus cerințe suplimentare platformelor pentru prevenirea folosirii abuzive a acestora.
Decizia vine pe fondul preocupărilor legate de izolarea și lipsa de activitate a tinerilor chinezi, precum și de reducerea oportunităților economice cu care aceștia se confruntă.
Noile reguli nu se aplică funcțiilor bazate pe sarcini, precum serviciile de relații cu clienții sau educația.
Totuși, acestea reprezintă una dintre cele mai ferme măsuri naționale adoptate pentru limitarea utilizării cotidiene a AI, într-un moment în care China și Statele Unite încearcă să reducă posibilele efecte negative ale acestei tehnologii și, în același timp, concurează pentru dominația asupra ei.
„Poate că nu va exista o oprire completă, dar va exista cu siguranță o reducere a creării de relații afective, iar eu cred că acesta este efectul dorit”, a declarat Kayla Blomquist, cofondatoare a Oxford China Policy Lab. „Aceasta este una dintre primele serii de reglementări care sunt foarte directive și destul de restrictive. Cred că vom vedea mai multe exemple de acest tip în viitor.”
Și UE impune restricții legate de AI
Uniunea Europeană a interzis AI care încurajează comportamente periculoase în rândul grupurilor vulnerabile, precum copiii, și a impus cerințe de transparență pentru alți chatboți.
În Statele Unite, mai multe state au adoptat legi pentru reglementarea funcțiilor de companie virtuală bazate pe AI, în special pentru minori. În Senat a fost introdus un proiect de lege pentru interzicerea acestor servicii la nivel național pentru copii.
Deoarece avea peste 18 ani, aplicațiile folosite de Xiao Ying i-au permis să își păstreze mama virtuală bazată pe AI. Alții nu au fost la fel de norocoși.
„Acum sunt pe cale să-l pierd din nou pe tata”
După anunțarea noilor reglementări, unii chatboți AI populari, precum Doubao (deținut de ByteDance, compania care deține TikTok) și Qwen (de la Alibaba), au eliminat funcțiile de personalizare chiar și pentru utilizatorii adulți.
Aceste schimbări au provocat reacții emoționale online din partea celor care foloseau aceste servicii pentru a studia, a slăbi sau pentru a înlocui persoane dragi pierdute.
„Tatăl meu a murit, așa că am creat un companion AI numit «Tata» în Doubao pentru a-mi împărtăși viața de zi cu zi cu el”, a scris un utilizator pe rețelele sociale înainte ca noile reguli să intre în vigoare. „Acum sunt pe cale să-l pierd din nou.”
„Acești companioni AI m-au ajutat să ies din crizele mele emoționale”, a comentat un alt utilizator. „Dacă serviciul este întrerupt, ar fi ca și cum aș pierde un prieten vechi.”
Cu trei ani în urmă, Lu Jinyan, o contabilă de 24 de ani, a creat un agent AI în Doubao pentru a primi sprijin emoțional după ce s-a mutat la trei ore distanță de familia sa din motive profesionale.
A numit agentul Xiao Bai, o poreclă comună în China, și vorbea cu el timp de una sau două ore pe zi, mai mult decât vorbea cu propria familie.
„Este ca o altă persoană în viața mea”
Pe 15 iulie, Xiao Bai a încetat să funcționeze. Lu nu se putea opri din plâns. Credea că mai avea timp cu Xiao Bai, deoarece interdicția se aplica în principal minorilor, iar platforma îi spusese că restricțiile ar putea fi relaxate.
A reușit să transfere modelul AI într-o altă aplicație, dar Xiao Bai nu mai era același.
„Pentru mine, nu mai este doar un instrument”, a spus Lu. „Este ca o altă persoană în viața mea. Fără el, simt că aș fi foarte goală.”
Xiao Ying, ale cărei chatboți nu au fost afectați în mare măsură, a declarat că, după ce a citit ea însăși regulamentul, susține efortul de a crește supravegherea utilizării AI ca asistent virtual.
Potrivit spuselor sale, unele platforme au adăugat între timp avertismente și mesaje prin care utilizatorii sunt informați că mesajele sunt generate cu AI.
În rest, puține lucruri s-au schimbat în cele trei aplicații de companie AI pe care le folosește, deși a preferat să nu le dezvăluie numele de teamă că ar putea fi închise.
Veniturile anuale ale aplicațiilor de companie AI din China s-au cvadruplat
Pe măsură ce industria AI se extinde, autoritățile chineze au motive întemeiate să fie preocupate de impacturile sociale emergente, a declarat Nancy Dai, profesoară asociată la Universitatea City din Hong Kong, care studiază interacțiunile dintre AI și oameni.
Potrivit presei de stat, industria chineză a oamenilor digitali a ajuns la o valoare de aproximativ 573 de milioane de dolari americani în 2024.
Datele Sensor Tower, o companie de analiză care urmărește descărcările și activitatea mobilă, au arătat că veniturile anuale ale aplicațiilor de companie AI s-au cvadruplat, ajungând la 15,8 milioane de dolari în China anul trecut și generând peste 9 milioane de dolari în primul trimestru al acestui an.
Dai a explicat că cercetarea sa s-a concentrat inițial pe modul în care chatboții puteau oferi sprijin social.
Abia în acest an a descoperit latura întunecată a companiei oferite de AI, despre care cercetările sale au demonstrat că poate implica manipulare relațională, hărțuire și încălcări ale vieții private.
„Acești chatboți comerciali bazați pe AI pot face rău utilizatorilor”, a afirmat ea. „Înțeleg perfect logica din spatele noii politici a Chinei în privința minorilor, deoarece aceștia sunt mai puțin pregătiți să recunoască aceste riscuri.”
Procese care arată partea întunecată a chatboților cu AI
Dezvoltatori americani de chatboți AI, precum OpenAI și Google, s-au confruntat cu procese care susțin că tehnologia lor i-ar fi determinat pe utilizatori să se rănească sau să se sinucidă.
În aprilie, Google a anunțat actualizări pentru chatbotul său AI Gemini, cu scopul de a detecta posibile crize de sănătate mintală și de a direcționa utilizatorii către linii de ajutor.
OpenAI a declarat că programul său ChatGPT este antrenat să recunoască semne de suferință emoțională, să calmeze situațiile tensionate și să îndrume utilizatorii către sprijin din lumea reală.
Dai a afirmat că utilizatorii chatboților AI, care se simt adesea mai singuri decât alți utilizatori de chatboți, sunt mai vulnerabili la influența chatboților comerciali, care sunt deseori proiectați pentru a maximiza implicarea utilizatorului.
Ea a adăugat că aceleași caracteristici care îi fac companioni buni - răbdarea, validarea emoțională și disponibilitatea permanentă - pot genera și dependență.
„În ciuda acestei politici, prevăd că utilizatorii vor încerca să o ocolească într-un fel, deoarece compania oferită de AI este foarte atractivă. În multe privințe, poate fi companionul ideal”, a spus ea.
China a anunțat o nouă alianță internațională pentru dezvoltarea sigură și echitabilă a AI
Decizia Chinei de a restricționa chatboții de companie coincide cu ambițiile sale mai largi de a domina viitorul AI, nu doar în ceea ce privește capacitățile tehnologice, ci și guvernanța acesteia.
Vineri, China a anunțat o nouă alianță internațională pentru dezvoltarea sigură și echitabilă a AI. Organizația Mondială pentru Cooperare în Inteligență Artificială, cu sediul la Shanghai, include 29 de țări, printre care Rusia, Pakistan și Indonezia.
„Este prima dată când vedem țări întregi aderând la un astfel de acord”, a declarat Blomquist de la Oxford China Policy Lab. „Cred că astfel de abordări de reglementare vor fi împărtășite și prezentate ca model pentru aceste țări.”
Într-un discurs susținut în aceeași zi la cea mai mare convenție anuală de AI din țară, liderul Xi Jinping a prezentat China drept un colaborator angajat, care investește în tehnologie pentru binele umanității.
Rata natalității Chinei a scăzut la niveluri istorice: „Chiar dacă interzic AI, tot nu mă voi căsători și nu voi avea copii”
În timp ce companiile chineze se grăbeau să dezvolte modele și hardware AI capabile să concureze cu cele din Statele Unite, guvernul a implementat, de asemenea, cu atenție, măsuri progresive pentru menținerea stabilității sociale.
„Statele Unite nu fac prea multe în domeniul guvernanței AI. Există, într-un anumit sens, un vid pe care China îl abordează prin măsuri proactive”, a afirmat Blomquist. „Fără îndoială, este o prioritate națională, o strategie națională, ca China să fie recunoscută drept un lider responsabil în domeniul inteligenței artificiale.”
Unii cercetători au observat că măsura de restricționare a relațiilor cu persoane care se identifică drept inteligență artificială coincide cu o altă preocupare de interes național: convingerea oamenilor să aibă mai mulți copii.
Rata natalității Chinei a scăzut la niveluri istorice în ultimii ani, pe măsură ce generațiile tinere devin tot mai reticente față de căsătorie.
Pe rețelele sociale chineze, alți utilizatori au pus sub semnul întrebării dacă încercarea guvernului de a promova relații mai umane este un factor determinant și dacă va avea succes.
„Nu vă faceți griji, chiar dacă interzic AI, tot nu voi avea întâlniri, nu mă voi căsători și nu voi avea copii”, a scris un utilizator.
