În fiecare zi, milioane de oameni își expun chipul algoritmilor de recunoaștere facială, de la deblocarea telefonului și controalele de securitate din aeroporturi până la camerele de supraveghere de pe străzi. Însă tehnologia care astăzi analizează trăsăturile feței în mai puțin de o secundă își are originile într-un experiment militar american din anii ’90, bazat pe fotografiile a mii de angajați ai guvernului SUA. Ei au fost, în cuvintele artistului american Trevor Paglen, intervievat de CNN, „Adam și Eva ai tehnologiei de recunoaștere facială”.
În urmă cu aproape un deceniu, Trevor Paglen, un artist și geograf american cunoscut pentru lucrările sale despre supraveghere, tehnologie și infrastructuri guvernamentale ascunse, cerceta baze de date guvernamentale aflate în domeniul public. Atunci a descoperit una care conținea fotografiile a mii de angajați ai guvernului american și care fusese folosită de DARPA, agenția pentru proiecte de cercetare avansată a Departamentului american al Apărării. Imaginile erau utilizate pentru dezvoltarea și antrenarea tehnologiei de recunoaștere facială aflate la început.
Chipuri transformate în date
Artistul a transformat imaginile într-o serie intitulată „A început ca un experiment militar”, pe care o va expune din nou în cadrul unei retrospective dedicate celor 20 de ani de activitate ai săi. Lucrările sale explorează teme precum supravegherea, tehnologia și lucrurile ascunse sau invizibile care influențează viața de zi cu zi, de la obiecte neidentificate aflate pe orbita Pământului până la instalații militare fotografiate de la distanță.
Pentru seria de portrete, Paglen a trecut fiecare imagine printr-un algoritm pentru a identifica punctele de pe față măsurate și analizate de programele de recunoaștere facială. Rezultatul este reprezentat prin mici litere albe care plutesc deasupra colțurilor ochilor, arcului lui Cupidon și marginilor nărilor, transformând chipurile oamenilor în date.
Pentru privitorul de astăzi, seria de portrete uniforme, realizate de aproape, ale unor persoane diferite poate aminti de imaginile generate de inteligența artificială care, la început, au șocat prin realismul lor. Astăzi, fiecare imagine prezentată public trebuie privită cu o doză de neîncredere, în căutarea unor indicii tot mai subtile că ar putea să nu fie reală.
În același timp, dezvoltarea explozivă a inteligenței artificiale a impus o adaptare rapidă și inconfortabilă la ideea că oamenii au devenit, la rândul lor, parte din seturile de date folosite pentru antrenarea algoritmilor, în timp ce aceștia continuă să colecteze imagini și producție culturală pentru a-și îmbunătăți performanțele.
Această evoluție a alimentat și temerile legate de direcția în care se îndreaptă inteligența artificială. Cercetătorul de la Anthropic Jacob Coxon anunțase public, pe X, că demisionase din funcție și avertizase că principalele laboratoare care dezvoltă inteligență artificială „cred cu toată seriozitatea că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului”. În săptămânile care au urmat, discursul public despre inteligența artificială a devenit rapid tot mai pesimist. Pentru Paglen, însă, această combinație de uimire, frumusețe și groază în fața unei lumi care depășește capacitatea oamenilor de a o înțelege este tocmai ceea ce încearcă să surprindă prin lucrările sale și ceea ce consideră cea mai autentică definiție a sublimului.
„Întreaga noastră relație cu tehnologia mi se pare foarte supranaturală, ca și cum am fi în această lume a groazei cosmice”, a spus el. „Și așa simt și politica noastră. Este acest sentiment de tipul «YOLO, hai să invocăm fiecare demon pe care ni-l putem imagina și să vedem ce se întâmplă».”
Când a creat seria „A început ca un experiment militar”, însă, discuțiile despre algoritmii pe care îi cream și seturile de date cu care îi alimentam erau foarte diferite de cele de astăzi. La mijlocul și spre sfârșitul anilor 2010, atenția se concentra în principal asupra prejudecăților încorporate în aceste tehnologii. Algoritmii utilizați de poliție erau predispuși la profilare? Se baza o parte prea mare din tehnologia noastră pe perspectiva bărbaților privilegiați?
De la prejudecățile algoritmilor la temerile legate de AI
Paglen consideră că, deși acestea erau discuții importante, este o eroare să se creadă că problema ar putea fi rezolvată prin simpla proiectare diferită a sistemelor. În opinia sa, aceste tehnologii sunt, în cele din urmă, instrumente ale capitalismului și ale exploatării, cărora nu le va păsa niciodată să fie corecte.
„Discuția despre prejudecăți te pune într-o situație în care aproape că ajungi să crezi că problema poate fi rezolvată și că este posibil să existe sisteme de inteligență artificială echitabile, iar mie asta mi s-a părut întotdeauna greșit, pentru că, odată ce introduci aceste lucruri într-o logică de piață, ele vor discrimina”, a explicat el. „Asta fac ele, iar tu vei discrimina pentru a-ți da seama cum să extragi capital de la oameni diferiți, în moduri diferite.”
Privind acum în urmă la aceste portrete timpurii realizate pentru tehnologia de recunoaștere facială, Paglen spune că ceea ce îl frapează mai presus de toate este vulnerabilitatea persoanelor fotografiate. Acestea au fost fotografiate exclusiv pentru că erau angajați ai guvernului și se întreabă cât de mult înțelegeau, la acea vreme, despre tehnologia pentru care erau folosite imaginile lor și despre implicațiile acesteia.
„Dacă ți se spune să faci asta ca parte a serviciului tău, consimți cu adevărat?”, a întrebat el. „Acesta este un aspect.”
Celălalt aspect este că acei oameni nu aveau cum să anticipeze modul în care datele lor biometrice urmau să stea la baza atât de multor sisteme invizibile pe care oamenii le folosesc astăzi. Imaginile lor, colectate într-un context pe care nu îl puteau anticipa în întregime, au ajuns să facă parte din dezvoltarea unei tehnologii care avea să se extindă mult dincolo de scopurile pentru care fuseseră inițial colectate.
„Este posibil să consimți ca ceva ce ai făcut astăzi să fie folosit în viitorul îndepărtat în moduri pe care nu ți le-ai fi putut imagina?”, a întrebat el. „Ajungem retrospectiv să facem parte din sisteme care nu existau.” Ieri erau ei, astăzi suntem noi toți.
