Malaezia și Indonezia au interzis Grok, chatbotul lui Elon Musk, pentru că poate genera deepfake-uri

Malaezia și Indonezia au interzis chatbotul de inteligență artificială Grok, creat de Elon Musk, deoarece poate genera imagini deepfake cu conținut sexual explicit la solicitarea utilizatorilor. Oficiali din cele două țări din Asia de Sud-Est au declarat că această funcție poate fi folosită pentru a produce pornografie cu femei și copii. Malaezia și Indonezia sunt primele țări din lume care interzic acest instrument AI, relatează BBC. 

Grok, un instrument încorporat și în rețeaua socială X, deținută tot de Elon Musk, le permite utilizatorilor să genereze imagini. În ultimele săptămâni însă, fotografii ale mai multor persoane publice au devenit virale pe internet după ce au fost manipulate cu ajutorul Grok pentru a părea că poartă ținute provocatoare.

BBC a contactat conducerea Grok pentru un punct de vedere. Elon Musk a declarat anterior că cei care critică chatbotul caută „orice pretext pentru cenzură”.

Malaezia și Indonezia interzic Grok

Ministerele comunicațiilor din Malaezia și Indonezia au anunțat măsurile împotriva Grok în declarații separate făcute în weekend.

Comisia malaeziană pentru Comunicații și Multimedia a declarat duminică faptul că a emis notificări către X încă de la începutul anului, solicitând măsuri mai stricte după ce a constatat „utilizarea repetată abuzivă” a Grok pentru generarea de conținut dăunător.

Însă, în răspunsul său, X nu a abordat riscurile inerente ale designului platformei și s-a concentrat în principal pe procesul de raportare pentru utilizatori, a precizat autoritatea de reglementare.

Aceasta a adăugat că Grok va rămâne blocat până la implementarea unor măsuri de protecție eficiente și a îndemnat publicul să raporteze conținutul online dăunător.

Utilizarea Grok pentru a produce conținut sexual explicit reprezintă o încălcare a drepturilor omului, a demnității și a siguranței online, a declarat Meutya Hafid, ministrul Comunicațiilor și Afacerilor Digitale din Indonezia, într-o postare pe Instagram.

Ministerul a cerut, de asemenea, platformei X a lui Musk să ofere clarificări privind utilizarea Grok.

Autoritățile indoneziene au luat măsuri dure împotriva altor surse online de materiale pornografice în ultimii ani, platforme precum OnlyFans și Pornhub fiind deja interzise în țară.

Utilizatorii indonezieni ai platformei X care și-au găsit imaginile manipulate online au spus că s-au simțit furioși că acest lucru a fost permis.

Kirana Ayuningtyas, o utilizatoare care se află în scaun rulant, care postează online despre viața ei de zi cu zi, a descoperit că un străin a comentat la fotografia ei cu un prompt prin care îi cerea lui Grok să o reprezinte purtând un bikini.

Ayuningtyas a spus că și-a ajustat setările de confidențialitate și a contactat platforma pentru a elimina imaginea și a preveni editarea fotografiilor sale de către alți utilizatori.

„Din păcate, nimic din toate acestea nu a funcționat cu adevărat”, a spus ea, adăugând că este greu de știut dacă cineva păstrează acele imagini.

Ea și-a rugat prietenii să raporteze conturile care au publicat imaginile falsificate, însă acest lucru a dus la faptul că și mai multe persoane au văzut imaginile editate, ceea ce este profund stânjenitor pentru ea.

Presiuni anti-Grok și în UK

Grok și compania-mamă X se confruntă, de asemenea, cu presiuni în Marea Britanie, după ce secretarul pentru tehnologie, Liz Kendall, a susținut apelurile de a bloca accesul la rețeaua socială pentru nerespectarea legilor privind siguranța online.

Autoritatea britanică de reglementare a mass-media, Ofcom, este așteptată să decidă în curând ce măsuri va lua în privința Grok.

Utilizarea Grok pentru a genera imagini sexualizate a fost condamnată de lideri din întreaga lume, inclusiv de premierul britanic Keir Starmer, care a numit această practică „rușinoasă” și „dezgustătoare”.