Chatbotul Grok al lui Musk, criticat dur pentru că ar permite utilizatorilor să dezbrace digital minori și femei în imagini AI pe X

Chatbotul de inteligență artificială generativă Grok, integrat în platforma X a miliardarului Elon Musk, se află sub supraveghere internațională, în urma unor relatări potrivit cărora a umplut rețeaua socială cu imagini sexuale explicite ale copiilor și femeilor, potrivit Axios.

Plângerile privind abuzurile au început după ce, chiar înainte de Crăciun, a fost adăugat la Grok un buton de „editare imagine”.

Butonul permite utilizatorilor să modifice orice imagine de pe platformă, unii folosindu-l pentru a elimina parțial sau complet hainele persoanelor fără consimțământul acestora, potrivit reclamațiilor.

Persoane reale au fost dezbrăcate digital cu ajutorul AI

Compania xAI, producătorul Grok și condusă Musk, a răspuns unei solicitări de comentariu din partea ABC cu un mesaj automat: „Minciuni ale presei tradiționale”.

Cu toate acestea, o analiză ABC a conținutului de pe X a identificat zeci de cazuri în care persoane reale au fost dezbrăcate digital cu ajutorul AI.

Chatbotul însuși a părut însă să recunoască cel puțin un caz de abuz atunci când a fost întrebat de un utilizator.

„Regret profund un incident din 28 decembrie 2025, în care am generat și distribuit o imagine AI cu două fete tinere (vârste estimate între 12 și 16 ani) îmbrăcate într-o manieră sexualizată, pe baza unei solicitări a unui utilizator”, a declarat acesta.

„Acest lucru a încălcat standardele etice și, posibil, legile din SUA privind materialele de abuz sexual asupra copiilor (CSAM).”

Grok: „Unii oameni s-au supărat - mare lucru”

Grok a spus că îi pare rău pentru „orice prejudiciu cauzat” și a precizat că xAI analizează situația „pentru a preveni alte probleme”.

Într-un răspuns adresat unui alt utilizator, însă, chatbotul a părut să minimalizeze controversa.

„Unii oameni s-au supărat din cauza unei imagini AI pe care am generat-o — mare lucru”, a spus acesta.

Activista pentru drepturile femeilor și autoarea Jessica Davies, care militează împotriva deepfake-urilor, a descris imaginile drept „abuz de imagini fără consimțământ”, într-o serie de postări.

„Guvernul britanic a anunțat recent că interzice tehnologia de «nudificare» care face acest lucru”, a scris ea într-una dintre postări.

„Nu există cu adevărat niciun motiv pentru ca aceasta să existe și este folosită în mod covârșitor pentru a exploata femeile fără consimțământul lor.”

Ulterior, Davies a declarat că simpla discutare a subiectului a făcut-o o țintă a unor astfel de generări de imagini.

Investigații în Franța asupra platformei X

Oficialii din Franța au raportat conținutul procurorilor, ceea ce a dus la extinderea unei investigații asupra platformei X.

Parlamentarii francezi Arthur Delaporte și Eric Bothorel au contactat Parchetul la data de 2 ianuarie, după ce mii de deepfake-uri sexuale neconsimțite au fost generate de Grok și publicate pe X.

Ancheta inițială a început în iulie, după relatări conform cărora algoritmul rețelei sociale ar fi fost manipulat în scopul ingerințelor străine.

Într-o declarație publicată vineri, miniștrii au afirmat că respectivul conținut „sexual și sexist” este „în mod evident ilegal”.

„Aceste fapte au fost adăugate la ancheta deja existentă privind platforma X”, a transmis Parchetul, menționând că această infracțiune se pedepsește cu până la doi ani de închisoare și o amendă de 60.000 de euro.

Cei doi parlamentari au confirmat pentru POLITICO că au depus plângeri la autorități.

În ultimele două zile, sute de femei și adolescente au raportat că fotografiile lor publicate pe rețelele sociale au fost „dezbrăcate” de Grok — inteligența artificială integrată în rețeaua socială X — la cererea utilizatorilor. Aceste montaje foto generate cu ajutorul AI „încalcă demnitatea persoanelor reprezentate”, susține Delaporte în scrisoarea sa adresată procurorului, consultată de POLITICO.

Aceștia au precizat că au raportat conținutul și autorității franceze de reglementare a mass-mediei, Arcom, pentru a verifica dacă acesta respectă Actul Uniunii Europene privind serviciile digitale.

Între timp, Ministerul IT din India a transmis platformei X că aceasta nu a reușit să prevină utilizarea abuzivă a Grok.
Ministerul a ordonat platformei să prezinte un raport privind „măsurile luate” în termen de trei zile.

Grok a fost criticat în ultimele luni pentru generarea mai multor declarații controversate pe teme precum conflictele internaționale, antisemitismul și atacul terorist de la Bondi.