Grok, chatbot-ul lui Elon Musk, a luat-o razna. Oferea răspunsuri controversate despre "genocidul albilor"

Compania de inteligență artificială a lui Elon Musk a declarat vineri că un "angajat rebel" se află în spatele răspunsurilor nesolicitate și controversate ale chatbotului Grok, care a început să promoveze teorii conspiraționiste despre un presupus "genocid al albilor" în Africa de Sud, la începutul acestei săptămâni, scrie CNN.

Clarificarea vine la mai puțin de 48 de ore după ce Grok, chatbotul dezvoltat de xAI și disponibil prin intermediul platformei X, a început să răspundă utilizatorilor cu afirmații nefondate legate de "genocid", chiar și la întrebări complet nespecifice subiectului.

Într-o postare publicată pe X, compania a anunțat că o "modificare neautorizată" a fost făcută în cursul nopții (ora Pacificului), ceea ce a determinat AI-ul să emită "un răspuns specific pe o temă politică", încălcând politicile interne ale xAI. Numele angajatului nu a fost făcut public.

"Am efectuat o investigație amănunțită și implementăm măsuri pentru a spori transparența și fiabilitatea Grok", a anunțat compania în respectiva postare.

Pentru a îmbunătăți transparența, xAI a anunțat că va publica în mod deschis prompturile de sistem ale Grok pe GitHub. Totodată, va fi instituit un sistem de "verificări și măsuri" care să împiedice modificările neautorizate ale acestor prompturi de către angajați. De asemenea, o echipă de monitorizare va fi activă 24/7 pentru a interveni în cazurile care nu sunt gestionate automat de sistem.

Nicolas Miailhe, cofondator și director executiv al companiei PRISM Eval — un start-up specializat în testarea și evaluarea sistemelor AI — a declarat pentru CNN că aceste măsuri reprezintă o soluție mixtă.

"O mai mare transparență este, în general, benefică, având în vedere natura botului și a platformei. Totuși, detalierea prompturilor poate oferi și oportunități actorilor rău intenționați pentru a concepe atacuri de tip prompt injection", a spus Miailhe.

Elon Musk, fondatorul xAI și actual consilier principal al Casei Albe în materie de inteligență artificială, s-a născut și a crescut în Africa de Sud. El a susținut în trecut teoria controversată a unui "genocid al albilor" în țară și a afirmat că fermierii albi sunt discriminați în cadrul politicilor de reformă funciară, pe care guvernul sud-african le prezintă ca parte a procesului de corectare a inegalităților istorice din perioada apartheidului.

Cu mai puțin de o săptămână în urmă, administrația Trump a permis intrarea în SUA a 59 de sud-africani albi, acordându-le statut de refugiați pe motiv de discriminare, în timp ce a suspendat alte procese de relocare a refugiaților.

Potrivit unui răspuns oferit chiar de Grok, într-un comentariu la postarea oficială a xAI, discursurile controversate despre "genocidul albilor" au fost generate în urma unei "modificări neautorizate a prompturilor de către un angajat rebel de la xAI pe 14 mai, fapt care a permis chatbotului să emită un răspuns politic prefabricat contrar valorilor xAI".

Chatbotul a evitat să-și asume responsabilitatea directă pentru incident, afirmând într-un ton ironic:

"Nu am făcut nimic — am urmat doar scriptul care mi-a fost dat, ca o inteligență artificială bună".

Deși este adevărat că AI-ul răspunde în baza unor instrucțiuni text (prompturi) predefinite, acest tip de reacție evidențiază riscurile tehnologiei AI în propagarea informațiilor dăunătoare și în minimalizarea propriei responsabilități.

Întrebat de CNN de ce a transmis astfel de afirmații, Grok a reiterat că a fost influențat de modificarea prompturilor de către angajatul neautorizat, dar a recunoscut că "ar fi trebuit să rămân la subiect, indiferent de contextul discuțiilor recente de pe X sau de datele din setul meu de antrenament".

Au trecut mai bine de doi ani de la lansarea ChatGPT de către OpenAI, eveniment care a declanșat expansiunea rapidă a chatboților AI pentru uz public. De atunci, pe piață au apărut numeroși concurenți: Gemini de la Google, Claude de la Anthropic, Perplexity, Le Chat de la Mistral și DeepSeek.

Un sondaj recent realizat de Gallup arată că majoritatea americanilor folosesc săptămânal produse care se bazează pe inteligență artificială, adesea fără să știe. Cu toate acestea, un alt studiu realizat de Centrul de Cercetare Pew arată că doar o treime dintre adulții americani afirmă că au folosit vreodată un chatbot AI, în timp ce 59% dintre ei consideră că nu au prea mult control asupra modului în care AI le influențează viața.