Parlamentul European a blocat prelungirea unei legi care permitea marilor companii tech să scaneze platformele pentru depistarea materialelor de exploatare sexuală a copiilor, creând un vid juridic despre care experții în siguranța copiilor spun că va duce la nedetectarea unor infracțiuni, scrie The Guardian.
Legea, care funcționa ca o derogare de la Actul european privind confidențialitatea, a fost adoptată în 2021 ca măsură temporară, permițând companiilor să folosească tehnologii automate de detecție pentru a scana mesajele în căutarea unor conținuturi nocive, inclusiv materiale de abuz sexual asupra copiilor (CSAM), grooming și sextorsiune.
A expirat însă pe 3 aprilie, iar Parlamentul European a decis să nu voteze prelungirea ei, în contextul îngrijorărilor unor parlamentari legate de protecția vieții private.
Vidul de reglementare a creat incertitudine pentru marile companii tech, deoarece, deși scanarea pentru depistarea abuzurilor pe propriile platforme este acum ilegală, ele rămân răspunzătoare de eliminarea oricărui conținut ilegal găzduit pe acestea, în baza unei alte legi – Actul privind serviciile digitale (DSA). Google, Meta, Snap și Microsoft au anunțat că vor continua să scaneze voluntar platformele pentru depistarea materialelor CSAM, într-un comunicat comun publicat pe un blog Google.
„Suntem dezamăgiți de acest eșec iresponsabil de a ajunge la un acord pentru menținerea eforturilor consacrate de protecție a copiilor online”, se arată în comunicat.
Parlamentul European a transmis că prioritizează lucrul la legislația pentru prevenirea și combaterea abuzului sexual asupra copiilor online și că negocierile pentru un cadru legal permanent sunt în desfășurare, însă instituția nu a oferit niciun calendar pentru ajungerea la un acord sau pentru implementare.
Apărătorii drepturilor copilului avertizaseră că lăsarea legii să expire va declanșa, cel mai probabil, o scădere abruptă a raportărilor de abuz sexual asupra copiilor. Aceștia indică un vid juridic similar petrecut în 2021, când raportările de astfel de materiale provenind din conturi din UE către National Center for Missing and Exploited Children (NCMEC) au scăzut cu 58% pe parcursul a 18 săptămâni.
„Atunci când instrumentele de detecție sunt întrerupte, pierdem o vizibilitate care afectează direct capacitatea noastră de a găsi și proteja victimele abuzului sexual asupra copiilor”, spune John Shehan, vicepreședinte al NCMEC, organizație din Statele Unite care funcționează ca centru de colectare a raportărilor de abuzuri asupra copiilor și care le transmite mai departe agențiilor de aplicare a legii din întreaga lume. „Când detecția se oprește, abuzul nu se oprește”.
În 2025, NCMEC a primit 21,3 milioane de raportări care includeau peste 61,8 milioane de imagini, videoclipuri și alte fișiere suspectate de a fi legate de abuzuri asupra copiilor, din întreaga lume. Aproximativ 90% dintre aceste raportări sunt legate de țări din afara SUA.
Un purtător de cuvânt al Parlamentului European a refuzat să comenteze dacă instituția legislativă a realizat vreo evaluare pentru a determina consecințele expirării legii.
Decizia UE de a interzice scanarea va avea efecte de undă în alte regiuni ale lumii, spun experții în siguranța copiilor. Multe infracțiuni online au caracter transfrontalier, agresorii trimițând imagini ilegale unor persoane sau vizând copii din alte țări. „Sextorsioniștii”, care se dau drept potențiali parteneri romantici pentru a-și păcăli victimele să trimită fotografii intime, înainte de a trece la șantaj, ar putea, la rândul lor, profita de schimbarea legislativă, atrage atenția Shehan.
„Agresorul poate fi oriunde în lume, dar acum ar putea avea acces nestingherit la minori din Europa, în condițiile în care există incertitudine juridică în privința acelor mecanisme de protecție menite să identifice momentele în care un copil este supus groomingului”, spune Shehan.
Ani de negocieri tensionate au dus la expirarea unei legi vitale
În ultimii patru ani, regulamentul propus pentru combaterea abuzului sexual asupra copiilor a fost în negociere, controversele apărând pentru că ar fi obligat companiile să ia măsuri pentru a reduce la minimum riscurile de pe platformele lor, spune Hannah Swirsky, șefa departamentului de politici și afaceri publice de la Internet Watch Foundation, o organizație non-profit din Marea Britanie dedicată siguranței copiilor.
Apărătorii dreptului la viață privată susțin că scanarea mesajelor de către marile companii tech pentru depistarea abuzurilor asupra copiilor amenință drepturile fundamentale la confidențialitate și securitatea datelor cetățenilor UE, echivalând aceste măsuri cu un „control al conversațiilor” care ar putea duce la supraveghere în masă și la rezultate fals-pozitive.
„Există acuzații de supraveghere sau de încălcare a vieții private”, spune Swirsky. „Blocarea materialelor CSAM nu este o încălcare a confidențialității. Libertatea de exprimare nu include abuzul sexual asupra copiilor”.
Tehnologia de scanare folosește machine learning care realizează detecție de tipare pentru a identifica imagini sau videoclipuri cunoscute cu abuzuri, precum și un limbaj asociat cu exploatarea copiilor, fără a stoca vreo informație, explică Emily Slifer, director de politici la Thorn, organizație non-profit care dezvoltă tehnologie pentru detectarea abuzurilor online asupra copiilor, folosită frecvent de companii și de autoritățile de aplicare a legii.
Sistemul funcționează astfel: analiști specializați examinează materiale CSAM cunoscute, obținute din surse externe, precum sesizări de la poliție, din partea publicului sau din investigații vizând site-uri cunoscute pentru găzduirea de materiale cu abuzuri asupra copiilor.
Atunci când analiștii confirmă că un conținut este, în mod ilegal, abuz sexual asupra copiilor, generează o amprentă digitală unică – cunoscută sub denumirea de hash –, care identifică exact acea imagine. Listele cu aceste valori hash sunt apoi distribuite platformelor, care folosesc sisteme automate pentru a scana încărcările și a bloca instantaneu conținuturile care se potrivesc, fără a fi nevoie ca un om să le vizualizeze.
„Tehnologia nu identifică bebeluși în căzi și alte lucruri de acest gen. Dacă te gândești cum ar arăta o imagine de abuz comparativ cu un conținut consimțit, sunt două tipuri de material foarte diferite, iar tehnologia poate determina tiparele dintre ele”, spune Slifer.
În timp ce UE a blocat scanarea pentru depistarea abuzurilor asupra copiilor, a permis companiilor tech să scaneze voluntar mesajele pentru detectarea conținutului terorist, în baza unei legislații adoptate în 2021, mai spune ea.
„UE riscă, practic, să le deschidă ușile prădătorilor”, afirmă Swirsky. „Dacă UE își ia în serios angajamentul de a-i proteja pe copii online, atunci trebuie să convină asupra unui cadru legislativ permanent pentru protejarea copiilor și pentru a permite detecția”.