Uniunea Europeană a început, de miercuri, un efort susținut pentru a se asigura că imaginile și clipurile video produse cu ajutorul algoritmilor AI sunt identificabile ușor online, relatează Politico.
Comisia Europeană urmează să organizeze întâlniri cu organizații din zona industriei tech pentru o primă discuție pentru etichetarea conținutului AI ca atare. Invitația a fost văzută de jurnaliștii de la Politico. Este pentru prima oară când organizațiile guvernamentale de reglementare vor avea un cuvânt de spus înainte de apariția celor mai noi reguli, anul viitor.
Creșterea numărului de deepfake-uri produse cu ajutorul algoritmilor AI, inclusiv în două campanii electorale recente, a produs îngrijorări că internetul va fi inundat de imagini manipulate prin care sunt păcăliți oamenii. Asta presupune un risc uriaș pentru viitoarele alegeri și pentru democrația din țările europene.
Dar, chiar și în contextul în care există numeroase voci care cer ca problema să fie rezolvată, cei din industrie avertizează că nu e bine ca guvernele să reglementeze mult prea strict.
Legea AI a Uniunii Europene, pe care guvernele s-au pus de cord în 2024, va prevede niște solicitări generale pentru textul generat cu AI, pentru imaginile statice și video – acestea urmând să fie marcate, iar utilizatorii trebuie să fie informați în prealabil când interacționează cu algoritmi AI.
Aceste „reguli de transparență” urmează să intre în vigoare din august anul viitor.
Înainte de asta, Comisia trebuie să obțină din partea celor din industrie angajamentul că vor accepta un set de reguli – un cod de bune practici.
Întâlnirea de miercuri marchează startul unor opt luni de negocieri pe acest cod. Digital Europe, care reprezintă un număr mare de companii Big Tech la Bruxelles și Consiului pentru Industria Tehnologiei și Informației (ITI) se numără printre organizațiile de lobby care au participat.
„Tehnicile pentru marcarea conținutului genert cu AI sunt încă la început și au unele limitări”, spune Marco Leto Barone, directori de politici la ITI Europe, argumentând că cei din industrie ar trebui să „combine și utilizeze diverse soluții” pentru a respecta legea.
Mai multe companii din domeniul AI deja experimentează cu etichete – noul generator video al OpenAI, Sora2, adaugă un watermark vizibil la orice clip generat. Totuși, la fel de rapid au apărut și niște site-uri prin care poate fi eliminat acest watermark.
Companii precum OpenAI, Microsoft, Google și Meta și-au unit forțele în Coaliția pentru Proveniența Conținutului și Autenticitate (C2PA), care a dezvoltat o tehnică specifică pentru codarea informațiiei în interiorul fișierului. În metadata, astfel, se menționează originea conținutului și dacă el este generat cu AI.
În ciuda acestor eforturi, cercetările arată că majoritatea conținutului generat cu AI care a fost răspândit în timpul alegerilor din Olanda nu a fost marcat corespunzător.
„Mare parte din conținutul AI nu este marcat, iar aceasta este o problemă de transparență, o problemă de reglementare”, spune Simon Kruschinski, cercetător cercetător pe campanii politice la Universitatea din Mainz, Germania.
Comisia intenționează să publice un draft inițial pentru codul de bune practici până în luna decembrie. Al doilea draft este programat pentru martie, iar versiunea finală ar urma să fie gata în iunie.