Un algoritm menit să protejeze victimele violenței domestice e pus sub semnul întrebării în Spania, după ce o femeie inclusă la categoria „risc mediu” a fost ucisă de fostul partener. Sistemul VioGén, bazat pe inteligență artificială, ar trebui să evalueze riscul de recidivă în cazurile de violență de gen și să ajute poliția să aloce resurse pentru protecția victimelor. Dar moartea Linei, mamă a patru copii, readuce în prim-plan limitele periculoase ale algoritmilor în gestionarea unor situații de viață și de moarte, scrie BBC.
În luna ianuarie, Lina a venit la poliție. Fostul ei partener devenise din ce în ce mai agresiv în locuința lor din Benalmádena, o stațiune de pe litoralul sudic al Spaniei. În acea zi, bărbatul ar fi ridicat mâna ca s-o lovească. „Fuseseră episoade violente – îi era frică”, își amintește vărul ei, Daniel.
Cazul ei a fost înregistrat în sistemul VioGén, o platformă digitală națională care evaluează riscul ca o femeie să fie agresată din nou. Algoritmul analizează 35 de întrebări legate de natura și intensitatea abuzului, accesul agresorului la arme, sănătatea mintală și dacă femeia a părăsit sau intenționează să părăsească relația. Riscul este apoi clasificat de la „neglijabil” la „extrem”.
Lina a fost încadrată la risc mediu. A solicitat un ordin de restricție împotriva fostului partener la un tribunal specializat din Malaga, dar cererea i-a fost respinsă. Voia să schimbe încuietorile și să-și protejeze copiii. Trei săptămâni mai târziu, Lina era moartă.
Fostul partener ar fi intrat în apartament folosindu-se de o cheie, iar curând locuința a fost cuprinsă de flăcări. Copiii Linei, mama sa și agresorul au reușit să iasă. Lina nu. Băiatul ei, în vârstă de 11 ani, le-ar fi spus polițiștilor că tatăl său a fost cel care și-a ucis mama.
Trupul Linei a fost recuperat din apartamentul carbonizat. Bărbatul a fost arestat. Moartea ei a declanșat o serie de întrebări despre eficiența reală a sistemului VioGén și despre cât de mult se bazează autoritățile pe acest algoritm.
Cum funcționează VioGén
Spre deosebire de alte țări europene sau nord-americane, Spania este singura care a integrat un astfel de algoritm în practica polițienească de prevenire a violenței de gen. VioGén a fost creat de poliție și cercetători spanioli și este folosit în toată țara, cu excepția Țării Bascilor și Cataloniei, care folosesc sisteme proprii.
Potrivit comisarei Isabel Espejo, șefa unității pentru familie și femei a Poliției Naționale din Malaga, „VioGén este super-important – ne ajută să urmărim foarte exact fiecare caz”. Ea spune că poliția din Malaga primește în medie zece plângeri pe zi pentru violență de gen, iar lunar, nouă sau zece femei sunt încadrate ca fiind în risc „extrem” și primesc protecție 24 din 7.
Femeile cu risc „înalt” pot primi însoțire permanentă din partea unui polițist. Însă pentru cele cu risc „mediu”, ca Lina, protocolul presupune o reevaluare după 30 de zile. În cazul unui risc „înalt”, reevaluarea are loc în decurs de o săptămână. Lina a fost ucisă înainte ca cineva să o mai contacteze.
Cine răspunde când algortimul greșește
Criticii sistemului spun că poliția se bazează prea mult pe verdictul algoritmului, în loc să ia decizii individuale bazate pe context. Chiar și comisara Espejo recunoaște că, deși cazul Linei nu se afla sub comanda ei, „ceva nu a funcționat”. Totuși, subliniază că singurul vinovat este criminalul și că „siguranța totală nu există”.
Rămâne întrebarea: a influențat evaluarea VioGén decizia judecătorului de a-i respinge Linei ordinul de protecție?
Reporterul BBC scrie că nu a putut vorbi cu judecătoarea care a emis decizia, dar o altă magistrată din Malaga, Maria del Carmen Gutiérrez, a declarat că astfel de hotărâri se bazează pe două elemente: existența unei infracțiuni și amenințarea reală cu un pericol serios. „VioGén este doar un element. Uneori dau ordin de restricție în cazuri cu risc ‘neglijabil’, alteori nu dau nici când riscul e ‘înalt’”, a spus ea.
Ce nu se știe despre VioGén
Juan José Medina, criminolog la Universitatea din Sevilla, atrage atenția că în Spania există o „loterie geografică” în acordarea ordinelor de protecție. Nu știm exact cum influențează VioGén deciziile poliției și instanțelor, pentru că nu au fost făcute suficiente studii.
Ministerul de Interne spaniol nu a permis cercetătorilor acces real la datele VioGén și nu a autorizat niciun audit independent. În 2018, organizația Eticas, specializată în etica tehnologiei, a cerut să realizeze un audit intern confidențial – fără succes. În lipsa permisiunii, au decis să facă o analiză externă, bazată pe interviuri cu victime și date publice din sistemul judiciar.
Aceștia au descoperit că între 2003 și 2021, 71 de femei ucise de parteneri sau foști parteneri făcuseră plângere anterior la poliție. Cele înregistrate în VioGén fuseseră clasificate drept risc „neglijabil” sau „mediu”.
„Vrem să știm: sunt aceste erori inevitabile sau putem îmbunătăți algoritmul pentru a proteja mai bine aceste femei?” întreabă Gemma Galdon, fondatoarea Eticas.
„Dacă nu ai acces la datele reale, cum poți trage concluzii?”
Juan José López-Ossorio, responsabil pentru cercetarea în domeniul violenței de gen din cadrul Ministerului de Interne, respinge auditul Eticas: „Dacă nu ai acces la datele reale, cum poți trage concluzii?”. El consideră că o analiză externă ar putea pune în pericol atât siguranța femeilor cât și integritatea sistemului.
„Știm sigur că atunci când o femeie face plângere și este protejată de poliție, riscul de violență scade semnificativ”, susține el.
Totuși, sistemul VioGén este în continuă schimbare: chestionarul a fost ajustat, iar categoria „neglijabil” va fi eliminată. Până și criticii recunosc că un sistem standardizat este util. Problema rămâne însă una de eficiență – și de viață și de moarte.
În Benalmádena, casa Linei a devenit un loc de comemorare. Flori, lumânări și icoane au fost așezate la intrare, iar un afiș spune: „Benalmádena spune NU violenței de gen”. Comunitatea a strâns fonduri pentru copiii Linei.
„Familia e distrusă – mai ales mama ei”, spune Daniel. „Are 82 de ani. Nu cred că există ceva mai sfâșietor decât să-ți vezi fiica ucisă într-un mod care ar fi putut fi evitat. Copiii sunt încă în șoc. Vor avea nevoie de mult ajutor psihologic.”