O reţea internaţională de spameri publică pe Facebook imagini generate de inteligenţa artificială cu victime false ale Holocaustului, potrivit unei investigaţii BBC despre fenomenul „AI slop”.
Organizaţiile dedicate păstrării memoriei Holocaustului spun că aceste imagini îi tulbură pe supravieţuitori şi pe familiile victimelor.
Ele au criticat şi compania Meta, proprietara Facebook, acuzând-o că permite transformarea atrocităţii într-un „joc emoţional”.
Există doar câteva fotografii autentice realizate în interiorul lagărului de concentrare Auschwitz în timpul celui de-Al Doilea Război Mondial.
Însă, în ultimele luni, spameri care folosesc AI au publicat imagini false care pretind că provin din interiorul lagărului – precum un prizonier cântând la vioară sau îndrăgostiţi care se întâlnesc la gardurile lagărului – postări care au atras zeci de mii de aprecieri şi distribuiri.
„Aici avem pe cineva care inventează poveştile… pentru un fel de joc emoţional ciudat care se întâmplă pe reţelele sociale”, a spus Pawel Sawicki, purtător de cuvânt al Memorialului Auschwitz din Polonia.
„Acesta nu este un joc. Este o lume reală, o suferinţă reală şi oameni reali pe care vrem şi trebuie să-i comemorăm.”
BBC a identificat multe dintre aceste imagini ca provenind din conturile unei reţele de creatori de conţinut din Pakistan, care colaborează pentru a câştiga bani pe Facebook. Ei exploatează programul de monetizare al Meta (Content Monetisation – CM), un sistem „doar pe bază de invitaţie”, care plăteşte utilizatorii pentru conţinut performant şi pentru vizualizări.
Un cont numit Abdul Mughees, listat ca fiind din Pakistan, a postat capturi de ecran pretinzând că a câştigat 20.000 de dolari prin scheme de monetizare, inclusiv prin Meta. O altă postare arată că ar fi acumulat peste 1,2 miliarde de vizualizări în patru luni. BBC nu a putut verifica independent câştigurile acestor creatori.
Printre numeroasele postări de pe contul lui Abdul Mughees se află mai multe fotografii false generate cu AI, prezentate ca victime ale Holocaustului, precum şi poveşti inventate despre un copil ascuns sub duşumea sau un bebeluş abandonat pe şinele de tren din faţa unui lagăr de concentrare.
Analiza BBC asupra activităţilor online ale acestui cont şi ale altora similare arată că ele postează aproape exclusiv „AI slop” – un termen care desemnează imagini şi texte de slabă calitate, produse în masă cu AI şi răspândite pe reţele sociale.
Auschwitz a devenit o temă populară pentru pagini şi grupuri cu profil istoric. Unele, cu nume precum „Poveşti atemporale” sau „Refugiul istoriei”, postau şi peste 50 de ori pe zi.
În iunie, Muzeul Auschwitz a avertizat că astfel de conturi îi fură postările, le procesează cu modele AI şi distorsionează frecvent detaliile istorice sau inventează complet poveşti şi victime. Într-o postare pe Facebook, Muzeul a spus că aceste imagini reprezintă o „distorsiune periculoasă” care „lipseşte victimele de respect şi hărţuieşte memoria lor”.
Sawicki a subliniat că valul de imagini false subminează misiunea Memorialului Auschwitz de a menţine vie memoria Holocaustului.
„Am început deja să primim comentarii la postările noastre pe Facebook de genul ‘ah, aceasta este o fotografie generată de AI’”, a spus el.
Şi supravieţuitorii, precum şi familiile acestora, sunt tulburaţi de creşterea numărului de imagini false despre Holocaust, potrivit unei organizaţii care promovează educaţia şi cercetarea legată de Holocaust.
„Ei nu înţeleg foarte bine ce văd”, a declarat dr. Robert Williams, de la International Holocaust Remembrance Alliance.
El a spus că supravieţuitorii Holocaustului simt „un anumit sentiment de tristeţe că aşa ceva a fost permis să se întâmple”, în ciuda investiţiilor guvernamentale şi filantropice în campanii de conştientizare.
„Ei simt că eforturile lor nu au fost suficiente”, a adăugat el.
„Este un lucru foarte trist de luat în considerare, pentru că în curând ultimii supravieţuitori ne vor părăsi.”
Meta nu încurajează în mod intenţionat utilizatorii să publice poveşti false, inclusiv despre Holocaust, dar sistemul său recompensează postările cu engagement ridicat. BBC a descoperit şi conturi similare în India, Vietnam, Thailanda şi Nigeria.
Pentru a înţelege de ce aceste reţele produc în masă anumite tipuri de conţinut, BBC a vorbit cu un pakistanez, Fazal Rahman, înscris în mai multe scheme de monetizare pe reţele sociale, care a spus că aceasta a devenit singura lui sursă de venit.
El a precizat că nu creează personal imagini cu Holocaustul şi nici nu ştia ce înseamnă termenul atunci când a fost întrebat, dar activează în aceleaşi grupuri Facebook cu cei care fac asta.
Rahman a explicat că o pagină cu 300.000 de urmăritori poate aduce proprietarului aproximativ 1.000 de dolari pe lună, dacă are „conţinut premium” adaptat pentru audienţele din SUA, Marea Britanie şi Europa. El estimează că vizualizările din Occident valorează de opt ori mai mult pe postare decât cele din Asia.
El a adăugat că istoria ca temă este un generator sigur de trafic online.
Alţi creatori par să fie de acord. BBC a găsit videoclipuri-tutorial care arată pas cu pas cum modelele AI pot fi folosite pentru a produce continuu imagini şi texte istorice false.
Într-un clip, un creator a cerut chatbotului AI să enumere evenimente istorice importante care ar putea fi folosite pentru a crea conţinut, iar printre răspunsuri s-a regăsit Holocaustul.
Alte sfaturi oferite de creatori includ trucuri pentru a păcăli publicul, cum ar fi ca pagina să imite alte entităţi, pentru a strânge audienţă şi a deveni eligibilă pentru programul de monetizare al Meta.
Facebook are o funcţie de transparenţă a paginilor, care permite utilizatorilor să vadă denumirile anterioare. Folosind această funcţie, BBC a descoperit că multe pagini care au publicat imagini false despre Holocaust fuseseră anterior prezentate ca departamente de pompieri din SUA, afaceri comerciale sau influenceri americani – toate fără consimţământul acestora.
Aceste pagini pot fi vândute sau închiriate celor care doresc să intre pe piaţa creatorilor de conţinut, potrivit unor postări publice ale creatorilor.
BBC a cerut explicaţii companiei Meta în legătură cu mai multe profiluri care publicaseră conţinut AI despre Holocaust şi care păreau implicate şi în practici de înşelăciune.
Mai multe profiluri şi grupuri au fost eliminate, inclusiv unele semnalate anterior de Memorialul Auschwitz, în iunie.
Un purtător de cuvânt al gigantului tech a declarat că, deşi acele imagini false nu încălcau politicile de conţinut, compania a constatat că încălcau regulile privind uzurparea de identitate sau comerţul cu pagini.
„Am eliminat paginile şi grupurile transmise de voi şi am dezactivat conturile din spatele lor pentru încălcarea politicilor noastre privind spamul şi comportamentele neautentice”, a spus acesta.
Inteligenţa artificială a mai fost folosită în trecut pentru a comemora Holocaustul şi pentru a readuce la viaţă poveştile reale ale victimelor, dar dr. Williams de la International Holocaust Remembrance Alliance avertizează: „Orice formă de manipulare extremă este ceva de care ar trebui să ne ferim.”