Poliția a arestat un bărbat pentru o spargere comisă într-un oraș pe care acesta nu îl vizitase niciodată, după ce un software de scanare facială utilizat în Marea Britanie l-a confundat cu o altă persoană de origine sud-asiatică, scrie The Guardian.
Alvi Choudhury, 26 de ani, inginer software, lucra în ianuarie de acasă, în locuința pe care o împarte cu părinții săi în Southampton, când polițiștii i-au bătut la ușă, l-au încătușat și l-au ținut în arest aproape 10 ore, înainte de a-l elibera la ora 2 dimineața.
Poliția Thames Valley a folosit un software automat de recunoaștere facială care l-a asociat cu imaginile unui suspect într-o spargere de 3.000 de lire sterline, comisă la aproximativ 160 de kilometri distanță, în Milton Keynes, potrivit documentelor puse la dispoziția publicației The Guardian de către Liberty Investigates.
Însă imaginile de pe camerele CCTV arătau un bărbat vizibil mai tânăr, cu trăsături diferite, în afară de părul creț asemănător, a spus Choudhury, care a rămas nedumerit cu privire la motivul arestării sale.
„Am fost foarte furios, pentru că acel puști părea cu aproximativ 10 ani mai tânăr decât mine”, a declarat Choudhury, care poartă barbă. „Totul era diferit. Pielea era mai deschisă la culoare. Suspectul părea să aibă 18 ani. Nasul era mai mare. Nu avea păr facial. Ochii erau diferiți. Buzele erau mai mici decât ale mele. Am presupus pur și simplu că ofițerul de caz a văzut că sunt o persoană de culoare cu păr creț și a decis să mă aresteze”.
Forțele de poliție din Marea Britanie folosesc un algoritm achiziționat de Ministerul de Interne de la compania germană Cognitec. Sistemul efectuează aproximativ 25.000 de căutări lunar, comparând imaginile cu aproximativ 19 milioane de fotografii judiciare stocate în baza națională de date a poliției.
Potrivit Consiliului Național al Șefilor de Poliție, potrivirile faciale ar trebui tratate drept informații orientative, nu ca dovezi certe. Poliția Thames Valley a afirmat că decizia de arestare a lui Choudhury a fost luată și în urma unei evaluări vizuale umane.
Totuși, în decembrie s-a dezvăluit că tehnologia produce o rată mult mai mare de rezultate fals pozitive pentru fețele persoanelor de culoare (5,5%) și asiatice (4,0%) decât pentru cele ale persoanelor albe (0,04%), în anumite setări, potrivit unei cercetări comandate de Ministerul de Interne.
Comisarii pentru poliție și criminalitate au avertizat asupra unei „părtiniri îngrijorătoare încorporate” și au afirmat că, deși „nu există dovezi ale unui impact negativ într-un caz individual, acest lucru ține mai mult de noroc decât de design”.
Din decembrie, poliția Thames Valley a început să utilizeze și tehnologia de recunoaștere facială în timp real pentru a scana populația în locații din Oxford, Slough, Reading, Wycombe și Milton Keynes. Au fost capturate aproximativ 100.000 de fețe, ceea ce a dus la șase arestări.
Având în vedere diferențele evidente dintre bărbatul din imaginile CCTV și propria sa înfățișare, Choudhury a presupus că va fi eliberat rapid. A oferit dovezi privind întâlniri de serviciu în Southampton în ziua comiterii faptei, însă a fost totuși reținut.
Choudhury solicită despăgubiri împotriva poliției Thames Valley și a poliției Hampshire, care a pus în aplicare arestarea. Vecinii l-au văzut când a fost scos încătușat, tatăl său a fost extrem de îngrijorat, iar el nu a putut lucra în ziua următoare, a declarat acesta. De asemenea, solicită mai multă transparență privind numărul arestărilor eronate care implică tehnologia de recunoaștere facială.
Fotografia sa judiciară se afla în sistemul poliției doar pentru că fusese arestat pe nedrept în 2021, după ce fusese agresat într-o noapte petrecută în oraș, pe vremea când era student la universitatea din Portsmouth. Poliția l-a eliberat fără a lua alte măsuri. Acum, după ce i-a fost făcută o a doua fotografie judiciară, se teme că sistemul automat ar putea declanșa alte arestări greșite.
„În mintea mea, dacă o persoană de culoare din Scoția jefuiește o bancă, vor veni să mă aresteze pe mine?”, a spus el.
Uneori are nevoie de autorizație de securitate pentru a lucra pentru clienți guvernamentali și este întrebat despre eventuale arestări. „Asta mă face să par tot mai dubios”, a afirmat el.
Poliția Thames Valley i-a recunoscut lui Choudhury că arestarea „ar fi putut fi rezultatul unei părtiniri a tehnologiei de recunoaștere facială”. Totuși, un ofițer i-a spus că, „întrucât utilizarea recunoașterii faciale este deja supusă unei evaluări la nivel strategic, nu consider necesar să ridic această problemă în cadrul învățării organizaționale mai ample”.
Un purtător de cuvânt al poliției Thames Valley a negat că arestarea ar fi fost ilegală și a declarat: „Deși ne cerem scuze pentru suferința cauzată reclamantului în acest caz, arestarea sa s-a bazat pe evaluarea vizuală proprie a ofițerilor de caz, care au considerat că persoana corespundea suspectului din imaginile CCTV, în urma unei potriviri retrospective prin recunoaștere facială, și nu a fost influențată de profilare rasială”.
Choudhury a spus însă că polițiștii de la secția din Hampshire au râs când a întrebat: „Vi se pare că seamănă cu mine?”
De asemenea, a afirmat că polițiștii din Thames Valley care au venit să-l audieze i-au spus că „știau că nu sunt suspectul după ce au văzut imaginile și fotografia mea”.
Avertismente privind utilizarea tehnologiei automate de recunoaștere facială au fost formulate în repetate rânduri. În decembrie 2024, comisarul britanic pentru biometrie și camere de supraveghere, William Webster, și-a exprimat îngrijorarea că poliția continuă să păstreze și să utilizeze imagini ale unor persoane care, deși au fost arestate, nu au fost ulterior acuzate sau citate în instanță.
Luna trecută, poliția din South Wales a plătit despăgubiri unui bărbat de culoare care a fost arestat pe nedrept și reținut timp de 13 ore în urma utilizării tehnologiei de recunoaștere facială.
Avocatul lui Choudhury, Iain Gould, partener la DPP Law, a declarat că poliția „trebuie să se asigure că inteligența artificială nu înlocuiește inteligența umană și diligența necesară, ci este utilizată în parteneriat atent cu acestea”.
Ministerul de Interne a transmis că ghidurile și instruirea pentru a reduce erorile și a menține încrederea publicului în recunoașterea facială retrospectivă sunt în curs de revizuire de către Inspectoratul Poliției. De asemenea, a precizat că un nou sistem național de potrivire facială este în curs de dezvoltare, cu un algoritm îmbunătățit, testat independent.
Ştiri video recomandate
