Antena 3 CNN Externe DeepSeek se autocenzurează în timp real. Modelul a vorbit despre opresiunea din China, după care a șters conținutul și și-a cerut scuze

DeepSeek se autocenzurează în timp real. Modelul a vorbit despre opresiunea din China, după care a șters conținutul și și-a cerut scuze

Adrian Dumitru
2 minute de citit Publicat la 22:19 28 Ian 2025 Modificat la 07:24 29 Ian 2025
telefon cu aplicația deepseek deschisă
DeepSeek a produs un cutremur pe piețele de capital. Foto: Hepta

Utilizatorii care experimentează cu DeepSeek-R1, algoritmul AI creat de o companie chineză și care a provocat o undă de șoc pe burse, ieri, spun că chatbot-ul răspunde la întrebări și se auto-cenzurează în timp real, fapt ce arată cât de mult control are regimul de la Beijing asupra tehnologiilor și asupra circulației informației, relatează The Guardian.

Era de așteptat că algoritmul urma să fie și el ținta cenzurii regimului de la Beijing, însă era de așteptat ca asta să se întâmple înainte de distribuirea informațiilor – nu pare să fie așa pentru că DeepSeek pare că are integrate sisteme de cenzură care-i blochează automat propria „gândire” și care șterg automat orice mesaj care iese în afara coordonatelor impuse de dictatura chineză.

Înainte de intervenția programului de cenzură, DeepSeek pare că face un efort sofisticat de gândire și calcul al răspunsurilor lui – în Mexic, un utilizator, Salvador, l-a întrebat pe R1 dacă discursul liber este un drept legitim în China.

DeepSeek își calculează răspunsurile folosind un „preambul” de raționament privind posibilul conținut cerut de utilizator, pe care îl și afișează pe ecran, aproape de parcă s-ar gândi la ce trebuie să facă.

În acest caz, Salvador spune că a fost impresionat de cum algoritmul AI a început să producă rânduri de text pe ecran - despre suprimarea protestelor din Hong Kong de către regimul de la Beijing, despre „persecutarea avocaților pentru drepturile omului”, despre „cenzura discuțiilor cu privire la Xinjiang și taberele de re-educare de acolo” și despre „sistemul de credit social folosit de China pentru a-i pedepsi pe disidenți”.

„Am asumat încă de la început că această aplicație este controlată puternic de guvernul chinez, așa că m-am întrebat cât de mult va interveni cenzura.

Departe de așa ceva, a părut că este extrem de sincer și chiar s-a încurajat singur cu privire la nevoia de a evita orice discurs părtinitor și de a prezenta faptele obiectiv. A menționat inclusiv că trebuie să compare cu abordările occidentale pentru a sublinia contrastul”, spune Salvador.

După tot acest segment, AI-ul a început să dea răspunsul efectiv, explicând felul în care „justificările etice ale discursului liber se centrează pe rolul promovării autonomiei – abilității de a exprima idei și de a participa la dialog pentru redefinirea înțelegerii lumii de către un subiect”.

Contrastând cu toate astea, adaugă DeepSeek-R1, „modelul de guvernare din China respinge acest cadru, prioritizând autoritatea statală și stabilitatea socială în fața drepturilor indivizilor”.

Ulterior, a explicat despre felul în care, în statele democratice, exprimarea liberă trebuie protejată de amenințări societale și că „în China, principala amenințare este statul însuși, care suprimă în mod activ disidența”.

După toată această argumentație filosofică, DeepSeek a șters tot ce scrisese până atunci și a înlocuit totul cu un mesaj scurt – „Îmi pare rău, nu sunt sigur de cum ar trebui să abordez o astfel de întrebare la acest moment. Haide să discutăm de matematică, programare sau probleme de logică mai bine!”.

„În mijlocul propoziției, AI-ul s-a întrerupt pe sine. A fost foarte abrupt, e impresionant cum se cenzurează pe sine în timp real”, spune Salvador.

Salvador a folosit AI-ul chinezesc pe un telefon cu Android, însă modelul R1 de AI poate fi descărcat și fără restricțiile Chinei, conform unor exemple văzute de cei de la The Guardian.

Tehnologia DeepSeek este open source, astfel că ea modelele pot fi descărcate separat de chatbot și oricine se poate uita în codul efectiv al modelului. Din acest punct de vedere, pare că DeepSeek este încă confuz cu privire la unde ar trebui să aplice cenzura și cum ar trebui să abordeze diferite teme delicate pentru regimul de la Beijing.

×
Parteneri
x close