Cum a greșit Inteligența Artificială și a trimis la închisoare o femeie nevinovată. Poliția a recunoscut că au fost „câteva erori”

O femeie din Tennessee, SUA, a stat mai bine de cinci luni la închisoare după ce poliția a folosit un instrument de recunoaștere facială bazat pe inteligență artificială pentru a o lega de infracțiuni comise în Dakota de Nord, stat în care ea spune că nu a fost niciodată.

Poliția din Fargo, Dakota de Nord, a recunoscut „câteva erori” în acest caz și a promis schimbări în modul de operare, dar nu a prezentat scuze pentru ce s-a întâmplat.

Angela Lipps, de 50 de ani, a fost arestată prima dată în Tennessee pe 14 iulie, potrivit unui comunicat al Departamentului de Poliție din Fargo și a unei campanii GoFundMe, potrivit CNN.

Fără ca Lipps să știe, fusese emis un mandat de arestare pe numele ei cu câteva săptămâni înainte, în Fargo, la peste 1.600 de kilometri de casa ei din Tennessee. Cu luni înainte, fuseseră înregistrate mai multe cazuri de fraudă bancară în și în apropierea orașului Fargo, potrivit poliției.

În căutarea unui suspect în aceste cazuri, anchetatorii au folosit „tehnologia de recunoaștere facială a agenției partenere”, precum și „pași suplimentari de investigație independenți de AI pentru a ajuta la identificare”, după care a trimis raportul către biroul procurorului din comitatul Cass, a declarat pentru CNN șeful poliției din Fargo, Dave Zibolski.

Însă Zibolski a spus, într-o conferință de presă de săptămâna trecută, că dependența departamentului său de unele informații provenite din sistemul AI al unei agenții vecine este „parte din problemă”, referindu-se la erorile din cazul lui Lipps.

„La un moment dat, agenția noastră parteneră din West Fargo a achiziționat propriul sistem de recunoaștere facială bazat pe AI, lucru de care nu eram conștienți la nivel executiv și nu am fi permis utilizarea lui, iar între timp a fost interzis”, a spus el.

Departamentul de Poliție din West Fargo a declarat pentru CNN că utilizează Clearview AI, un startup cu o bază de date de miliarde de fotografii colectate de pe internet, inclusiv din rețele sociale. Clearview „a identificat un potențial suspect cu trăsături similare cu Angela Lipps”, iar poliția din West Fargo a transmis acel raport către poliția din Fargo, potrivit unui comunicat. Comunicatul menționează că poliția din West Fargo nu a formulat acuzații și nu avea suficiente dovezi pentru a inculpa pe cineva în cazul de fraudă din West Fargo.

CNN a solicitat un punct de vedere de la Clearview AI. Nu se știe ce alte dovezi au fost folosite în anchetă pentru a o lega pe Lipps de infracțiuni.

Cazul lui Lipps apare într-un context în care departamentele de poliție de pe întreg teritoriul SUA au integrat rapid tehnologii noi, inclusiv AI. Însă utilizarea acestor tehnologii de către poliție a atras critici și a fost asociată cu alte cazuri de identificare greșită.

„Îngrozită, epuizată și umilită”

Pe 1 iulie, un judecător din Dakota de Nord a semnat un mandat de arestare pentru Lipps, cu extrădare la nivel național. Ea a fost arestată pe 14 iulie și a petrecut peste trei luni într-o închisoare din Tennessee înainte de a fi extrădată, potrivit poliției din Fargo și avocaților săi.

Abia în octombrie autoritățile din Tennessee au informat biroul șerifului din comitatul Cass, Dakota de Nord, că Lipps acceptase extrădarea. Ea se confrunta cu mai multe acuzații, inclusiv furt calificat și utilizare neautorizată a datelor personale, potrivit avocaților săi.

Nu este clar de ce a durat atât de mult ca autoritățile din Tennessee să-și informeze omologii din Dakota de Nord despre arestarea lui Lipps. Avocații acesteia au declarat pentru CNN că „au văzut un e-mail din 14 iulie 2025 care notifica diverși membri ai forțelor de ordine din Dakota de Nord că Angela fusese arestată în Tennessee”.

Pe de altă parte, poliția din Fargo a declarat pentru CNN: „Nu am reușit să stabilim, pe baza informațiilor disponibile, dacă durata în care doamna Lipps a fost încarcerată în Tennessee înainte de a fi transportată în Dakota de Nord s-a datorat executării unei pedepse pentru încălcarea unei perioade de probă sau faptului că a contestat extrădarea”.

Lipps a descris extrădarea sa în Dakota de Nord ca fiind terifiantă, într-un mesaj postat pe GoFundMe: „A fost prima dată când am zburat cu avionul”, a scris ea. „Eram îngrozită, epuizată și umilită”.

În Fargo, i-a fost atribuit un avocat care a găsit înregistrări bancare ce arătau că se afla în Tennessee în perioada comiterii infracțiunilor, potrivit paginii GoFundMe. Poliția din Fargo spune că, pe 12 decembrie, biroul procurorului a informat detectivul că apărarea a prezentat „posibile dovezi exculpatorii”.

Pe 23 decembrie, detectivul din Fargo, procurorul și judecătorul „au convenit de comun acord să renunțe la acuzații fără prejudiciu, pentru a permite investigații suplimentare”, potrivit poliției. Lipps a fost eliberată în ajunul Crăciunului.

Pentru Lipps, lunile petrecute în detenție au fost devastatoare.

„Trauma, pierderea libertății și prejudiciul adus reputației nu pot fi reparate ușor”, au declarat avocații ei pentru CNN. Aceștia au spus că Lipps nu era disponibilă pentru un interviu.

Lipps, mamă a trei copii și bunică a cinci, nu fusese niciodată în Dakota de Nord înainte de extrădare, potrivit CNN.

Iar după această experiență, spune că nu intenționează să se mai întoarcă vreodată acolo: „Mă bucur doar că s-a terminat”, a declarat ea. „Nu mă voi mai întoarce niciodată în Dakota de Nord”.

Echipa ei juridică investighează de ce Lipps a fost ținută în detenție atât de mult timp, când „se pare că înregistrările bancare exculpatorii erau ușor disponibile”.

„Credem că detenția prelungită a Angelei a fost inutilă și ar fi trebuit evitată printr-o investigație corespunzătoare din partea forțelor de ordine”, au spus aceștia.

Avocații ei analizează posibile acțiuni privind încălcarea drepturilor civile, dar nu au depus încă o plângere în instanță.

Poliția din Fargo spune că a identificat „câteva erori” în proces

Zibolski a declarat că autoritățile au identificat „câteva erori” în procesul de investigare care au dus la identificarea lui Lipps ca posibil suspect în cazurile de fraudă.

Într-o conferință de presă, poliția a spus că departamentul din Fargo nu deține propriile instrumente de recunoaștere facială bazate pe AI, însă orașul vecin West Fargo are, iar sistemul lor a identificat-o pe Lipps drept „posibil suspect” pe baza imaginii de pe un act de identitate fals folosit într-un caz de fraudă din West Fargo.

„Au transmis acea informație detectivilor noștri, care au presupus în mod greșit că au trimis și fotografiile de supraveghere împreună cu acea fotografie de pe actul de identitate”, a spus Zibolski.

Șeful poliției a spus că departamentul din Fargo nu va mai „transmite sau utiliza informații” din sistemul AI al West Fargo, întrucât „este sistemul lor, nu știm cum este operat sau supravegheat”.

În schimb, poliția din Fargo va colabora cu autorități statale și federale, inclusiv Centrul de Informații Statale și Locale din Dakota de Nord. De asemenea, toate identificările prin recunoaștere facială vor fi prezentate lunar comandantului Diviziei de Investigații, „pentru a putea monitoriza mai atent această tehnologie în evoluție”, a spus el.

Potrivit lui Zibolski, poliția din Fargo a greșit și prin faptul că nu a trimis fotografiile de supraveghere asociate cazurilor de fraudă către centrul de informații din Dakota de Nord, care este certificat și instruit în recunoaștere facială. Poliția „a început imediat măsuri pentru a remedia acest lucru”, iar centrul a furnizat ulterior alți suspecți potențiali pe baza imaginilor, a spus el.

El a abordat și perioada de luni dintre extrădarea lui Lipps și primele interviuri cu autoritățile din Fargo.

„În discuțiile cu comitatul Cass și biroul procurorului, nu există un mecanism simplu prin care să fim notificați dacă o persoană arestată în baza unui mandat pentru infracțiune gravă emis de noi este în custodie”, a spus el. Departamentul analizează îmbunătățiri, inclusiv o revizuire zilnică a registrelor de arestări.

Întrebat dacă departamentul intenționează să își ceară scuze lui Lipps, șeful a spus: „În acest moment, încă nu știm cine este implicat și cine nu este implicat” în cazurile de fraudă.

„Va trebui să analizăm întreaga rețea extinsă de persoane și implicarea lor”, a spus el.

Zibolski a adăugat că poliția analizează în continuare eventuale măsuri disciplinare pentru ofițerii implicați în anchetă.

„Ce pot spune, din ceea ce știu acum, este că persoanele implicate sunt și ele foarte afectate de această situație, pentru că se mândresc cu rigurozitatea lor”, a spus el. „Nimeni nu vrea să vadă pe cineva reținut sau arestat inutil”.

Biroul procurorului este, de asemenea, „foarte interesat” să participe la instruiri privind recunoașterea facială împreună cu centrul de informații din Dakota de Nord, „pentru a avea o perspectivă mai bună și din punct de vedere al acuzării”, a spus șeful.

Poliția din Fargo a declarat anterior pentru CNN că acest caz este încă „deschis și activ” și că „acuzațiile ar putea fi reintroduse dacă investigațiile suplimentare vor justifica acest lucru”.

Avocații lui Lipps au spus că apreciază eforturile departamentului de poliție de a corecta problemele legate de AI pe viitor, dar au criticat ceea ce au numit lipsa unor „eforturi investigative de bază” înainte de emiterea mandatului.

„Ofițerii știau că Angela este rezidentă în Tennessee și nu am văzut nicio investigație pentru a determina dacă a călătorit sau s-a aflat în Dakota de Nord în momentul furturilor bancare”, au spus aceștia. „În schimb, un ofițer a folosit recunoașterea facială AI ca o scurtătură pentru o investigație de bază, rezultând în reținerea unei femei nevinovate și transportarea ei jumătate din țără pentru a răspunde unor acuzații cu care nu avea nicio legătură”.

Utilizarea AI în poliție a atras atenția criticilor

Nu este prima dată când utilizarea AI în activitatea poliției atrage controverse.

Anul trecut, polițiști înarmați au încătușat și percheziționat un elev de liceu din comitatul Baltimore după ce un sistem de securitate bazat pe AI a semnalat punga goală de Doritos a adolescentului ca posibilă armă de foc.

Incidentul a stârnit critici la adresa protocoalelor de siguranță ale școlii și apeluri la responsabilitate.

Ian Adams, profesor asistent în departamentul de Criminologie și Justiție Penală de la Universitatea din Carolina de Sud, a declarat pentru CNN că poliția adoptă rapid tehnologii noi, inclusiv AI, cu puține dovezi privind eficiența lor.

„Facem asta atât de repede încât agențiile se bazează practic doar pe promisiunile furnizorilor”, a spus el.

El a adăugat că majoritatea greșelilor care implică AI în activitatea poliției implică și erori umane.

„În majoritatea covârșitoare a cazurilor, nu este doar o problemă de tehnologie, ci de tehnologie și oameni”, a spus Adams. „Apar scenarii de coșmar atunci când oamenii nu fac ceea ce ar trebui, folosind tehnologii în mod necorespunzător”.

Pentru că instrumentele AI sunt atât de puternice, „este foarte ușor să cazi într-un sentiment de complacere”, a spus el. Dar „detectivii trebuie să fie extrem de atenți și să verifice personal rezultatele generate de algoritmi”.