Google a suspendat noua funcție de inteligență artificială integrată în Google Earth la mai puțin de 48 de ore de la lansare, după ce experți în combaterea dezinformării au avertizat că aceasta putea fi folosită pentru crearea și distribuirea unor imagini false, dar extrem de credibile, potrivit BBC.
Instrumentul, bazat pe generatorul de imagini AI Nano Banana 2, permitea utilizatorilor să adauge elemente fictive peste imaginile reale din satelit, fotografiile aeriene sau modelele 3D disponibile în Google Earth. Imaginile rezultate puteau fi apoi descărcate și distribuite pe alte platforme.
Compania a anunțat că a decis să oprească temporar funcția după ce a observat că utilizatorii distribuiau capturi de ecran cu imagini generate care păreau să încalce politicile platformei.
„Știm că oamenii au încredere în Google Earth ca într-o sursă fiabilă pentru a vedea lumea așa cum este. Suspendăm această funcție până când vom introduce măsuri suplimentare de protecție”, a transmis compania.
Imagini false cu Turnul Eiffel și tancuri în Kiev
În timpul testelor realizate de BBC Verify, noua funcție a fost folosită pentru a genera imagini complet fictive, dar integrate peste hărțile reale ale Google Earth.
Printre exemple s-au numărat:
- Turnul Eiffel prăbușit;
- o groapă uriașă care înghite Piramida din Giza;
- tancuri rusești în centrul Kievului.
Specialistul în inteligență artificială și dezinformare Henk van Ess a demonstrat, la rândul său, că putea crea imagini ale unei centrale nucleare inexistente în Iran, ale unei tabere de refugiați la granița dintre SUA și Mexic sau ale unui spital fals din Gaza, lângă care apărea un crater provocat de o explozie.
Potrivit acestuia, problema nu era doar imaginea falsă, ci faptul că aceasta era plasată peste coordonate și imagini reale din Google Earth, ceea ce îi conferea o credibilitate sporită.
Verificările AI nu au funcționat întotdeauna
Google susține că imaginile generate de instrumentele sale AI conțin filigrane digitale invizibile și că autenticitatea acestora poate fi verificată cu ajutorul aplicației Gemini sau prin funcția Google Lens.
Cu toate acestea, testele BBC Verify au arătat că aceste măsuri puteau fi ocolite. În unele cazuri, chatbotul Gemini a identificat imaginile false drept autentice, iar unele programe externe de detectare a conținutului generat cu AI nu au reușit să le recunoască.
Experții avertizează că astfel de imagini ar putea avea consecințe grave, mai ales în timpul conflictelor sau al situațiilor de criză, când informațiile sunt limitate și circulă foarte rapid.
Restricțiile puteau fi ocolite
Google afirmase inițial că modelul AI include reguli care împiedică generarea imaginilor legate de subiecte sensibile sau periculoase.
Totuși, BBC Verify a constatat că mici modificări ale comenzilor introduse de utilizatori permiteau ocolirea acestor filtre.
De exemplu, o solicitare explicită pentru crearea unei platforme destinate spânzurării unor persoane lângă Parlamentul britanic a fost respinsă. Însă o formulare mai vagă a fost acceptată, iar imaginea a fost generată.
Experții: încrederea în imaginile din satelit poate fi afectată
Specialiștii în analiză geospațială avertizează că Google Earth este una dintre cele mai utilizate surse de imagini satelitare accesibile publicului, inclusiv de jurnaliști și cercetători.
Bill Greer, cofondator al organizației Common Space, consideră că introducerea unor imagini false într-o platformă percepută drept de încredere poate afecta serios credibilitatea acestui tip de informații.
El atrage atenția că imaginile satelitare falsificate au mai fost folosite pentru răspândirea dezinformării și avertizează că, pe măsură ce accesul la imaginile reale devine tot mai restricționat în unele regiuni ale lumii, conținutul fals generat cu inteligență artificială ar putea deveni din ce în ce mai greu de deosebit de realitate.
