O dronă rusească a ucis trei civili în orașul Zaporojie, din sud-estul Ucrainei – și, pentru prima dată documentat, nu un pilot uman apăsase pe „trăgaci”, ci inteligența artificială. Aparatul fusese trimis spre o benzinărie, dar și-a ales singur ținta exactă, pe baza a ceea ce învățase să recunoască. În „inima” lui se afla un cip Nvidia, de doar câteva sute de dolari, care poate fi cumpărat de oricine. Este semnul unui viitor în care mașinile decid singure pe cine lovesc. Și este un scenariu pe care comandanții ucraineni îl compară deja, fără să glumească, cu filmul „Terminator”, scrie The New York Times.
Tânăra a fugit ca să-și salveze viața, dar era prea târziu.
Luna trecută, o mică dronă rusească semănând cu un avion de jucărie a coborât în picaj din cer, în orașul Zaporojie, din sud-estul Ucrainei. În timp ce încerca să ajungă la o benzinărie, s-a izbit de un zid și a explodat într-o ploaie de schije, ucigând-o pe Tetiana Bubîneț, studentă de 19 ani, și pe alte două persoane.
Cei trei erau printre miile de civili ucraineni care au murit în atacurile aeriene rusești, însă moartea lor a venit cu un detaliu tulburător. Drona care i-a ucis era ghidată de un sistem experimental de inteligență artificială, nu de un pilot uman – spun experți în drone, comandanți militari ucraineni și echipa criminalistică ce a examinat resturile acestui atac și ale altora din oraș.
Drona fusese programată de operatori umani să se îndrepte spre o anumită benzinărie, dar, odată ajunsă în apropiere, și-a ales singură ținta exactă – cel mai probabil niște butelii de propan –, pe baza antrenamentului prin care învățase să recunoască astfel de rezervoare și să le lovească, au precizat experții și oficialii militari.
Este o evoluție așteptată de mult în războiul din Ucraina, care anunță un viitor distopic în care roboți ucigași colindă cerul, luând decizii de viață și de moarte care reduc țintele la simple date.
„Este un risc pentru întreaga lume”, a spus colonelul Serhii Minaiev, comandantul apărării antiaeriene din Zaporojie „Peste câțiva ani, vom trăi într-un film «Terminator». Nu e o glumă. Mașinile iau decizii de a lovi”.
Analiza resturilor din acest atac și din altele produse în Zaporojie a arătat că dronele aveau la bord minicomputere, vândute comercial de Nvidia, care luau deciziile de țintire, au declarat experții și oficialii militari. Nvidia produce majoritatea cipurilor care alimentează cele mai avansate sisteme de inteligență artificială din lume.
Prezența modulelor Nvidia și lipsa antenelor de pe drone i-au făcut pe comandanții apărării antiaeriene ucrainene să deducă faptul că armele erau ghidate de un sistem autonom bazat pe inteligență artificială – lucru confirmat ulterior de investigații.
Sistemele autonome de inteligență artificială pot fi antrenate pe mii de imagini ca să recunoască categorii precum „râu”, „camion militar” sau „persoană”. Dronele care își aleg singure ținta își folosesc camerele ca să vâneze aceste obiecte cu o precizie mai mare decât ar putea oferi un pilot uman.
Însă cei care se opun unor asemenea arme susțin că, fără intervenția omului, dronele pot fi mai predispuse la greșeli sau la încălcări ale legilor războiului – de pildă, nereușind să facă distincția între civilii nevinovați și combatanți.
Folosirea inteligenței artificiale cu auto-țintire în atacul de la benzinărie, produs pe 6 iulie, ar fi primul caz documentat în care moartea unor civili a fost provocată de o dronă rusească dotată cu un asemenea sistem, a spus Katerina Bondar, cercetătoare la Wadhwani AI Center, din cadrul Center for Strategic and International Studies din Washington. Ea a adăugat că modulul Nvidia „este cea mai bună dovadă” că Rusia experimenta inteligența artificială autonomă.
Deși un consilier al președintelui Volodimir Zelenski scrisese pe rețelele sociale că Rusia testa sisteme de inteligență artificială cu auto-țintire, decesele nu fuseseră relatate până acum, așa cum n-au fost făcute publice nici detaliile despre modulul de calcul Nvidia Jetson Orin folosit.
Atât Rusia, cât și Ucraina foloseau deja inteligența artificială în mai multe modele de drone înainte să apară dronele complet autonome. În acele modele mai vechi, inteligența artificială era folosită doar pentru ceea ce se numește „ultima milă” – etapa finală a atacului, după ce un pilot uman aflat la distanță selectase ținta. Inteligența artificială complet autonomă scoate omul din alegerea finală a țintei.
Cipul Nvidia din atacul de la Zaporojie nu era criptat, au spus oficialii ucraineni, așa că aceștia au putut vedea imaginile terenului încărcate în modul, care permiteau dronei să urmărească repere vizuale și să rămână pe traiectorie. Au putut examina și codul, spun ei, care a scos la iveală ce tipuri de ținte fusese antrenată drona să recunoască și să atace, precum buteliile de propan.
Modelele mai vechi de drone sunt în general fie pilotate de operatori umani – prin unde radio sau prin cabluri de fibră optică –, fie preprogramate cu coordonate. Pe măsură ce dronele au preluat controlul câmpului de luptă din Ucraina, piloții lor au devenit ținte principale.
O dronă autonomă, ghidată de inteligență artificială, nu are nevoie, în schimb, de piloți umani și poate fi mai precisă decât o muniție programată să lovească niște coordonate.
Oficialii locali ai apărării antiaeriene spun că, testând drone autonome în Zaporojie, Rusia a vizat obiective civile precum pompele sau buteliile de propan de la benzinării, dar și centre militare de recrutare. Nu este clar de ce au fost alese aceste ținte pentru teste.
Vadim Kușnikov, expert în drone la Institutul de Aviație din Harkiv, în Ucraina, a spus că drona care i-a ucis pe cei trei civili era „un instrument preprogramat, antrenat în realitate virtuală să urmărească anumite obiecte”.
În timp ce software-ul tradițional urmează reguli pas cu pas scrise de un om, un sistem de inteligență artificială își deduce singur regulile, găsind tipare într-un volum uriaș de date – un proces numit învățare automată. Asta îi permite să gestioneze situații neprevăzute. Dar înseamnă și că nimeni nu poate anticipa pe deplin ce ar putea face.
Organizațiile pentru drepturile omului și Crucea Roșie Internațională se opun vehement folosirii armelor cu inteligență artificială fără ca omul să fie implicat în decizie. Aceste grupuri spun că sistemele autonome lasă, practic, în seama roboților interpretarea dreptului internațional în stabilirea țintelor legitime în război.
Alți experți susțin însă că, în viitor, armele ar trebui chiar să fie obligate să aibă sisteme de inteligență artificială. Argumentul este că aceste arme sunt mai sigure, pentru că sunt capabile să ia decizii înainte de a lovi – chiar dacă nu întotdeauna perfect –, spre deosebire de bombele aeriene neghidate sau de obișnuitele obuze de artilerie, care pur și simplu cad fără să „vadă” ce vor lovi.
Arma din atacul mortal zbura într-un grup de vreo șase drone, potrivit guvernatorului militar al regiunii, comandantului apărării antiaeriene a orașului și unei echipe de apărare antiaeriană aflate în serviciu în acea zi.
Niciuna nu emitea semnale radio și aveau și alte caracteristici asociate testelor rusești de inteligență artificială autonomă, printre care lansarea în valuri, au spus oficialii.
Deși unele dintre dronele ghidate de inteligență artificială testate de Rusia au explodat la impact, altele nu au făcut-o și au rămas intacte, au declarat oficialii ucraineni. Aceștia au arătat reporterilor de la The New York Times resturi provenite de la două astfel de drone. Publicația a fotografiat modulul de calcul Nvidia din interiorul dronelor și a trimis imaginile companiei.
Nvidia a confirmat că în fotografii apare un minicomputer Jetson Orin. Astfel de module, care costă doar câteva sute de dolari, au fost găsite la mai multe tipuri de arme rusești.
Într-un comunicat, compania a spus că minicomputerul este un produs destinat consumatorilor obișnuiți, „vândut studenților, dezvoltatorilor și start-up-urilor pentru o gamă largă de aplicații utile”.
Nvidia vinde acest computer în multe țări, dar nu în Rusia. El este însă disponibil pe scară largă prin revânzători, se arată în comunicat.
Și Ucraina a testat sisteme de inteligență artificială cu auto-țintire. Mihailo Fedorov, ministrul apărării demis recent, a declarat într-un interviu acordat The Times la finalul lunii trecute că Ucraina a testat, în ultimele luni, un sistem de inteligență artificială complet autonom în Crimeea ocupată de ruși. Fedorov a afirmat că aparatele au vizat depozite de combustibil și echipamente militare și că niciun civil nu a fost ucis.
Deși dronele din atacul de la Zaporojie nu aveau antene prin care să transmită date despre teste, forțele rusești zboară adesea drone de recunoaștere care pot înregistra loviturile. Se crede, de asemenea, că orașul adăpostește spioni ruși care raportează evaluări ale pagubelor de pe câmpul de luptă.
Absența unei antene nu ar dovedi, în sine, că o dronă își alegea singură ținta. Ar putea fi preprogramată să urmeze o rută, cu algoritmi asemănători celor folosiți de decenii în sistemele de pilotare automată a avioanelor. Numai că o astfel de dronă n-ar avea nevoie de un cip Nvidia.
Rusia a început, în mai, zborurile de test cu drone Molniya ghidate de inteligență artificială – un model cu aripă fixă, produs în masă –, iar testarea sistemelor de auto-țintire pe drona V2U, tot cu aripă fixă, începuse cu câteva luni înainte, au spus experții ucraineni în apărare antiaeriană. Unele dintre testele cu V2U vizau doar țintirea pe „ultima milă”.
În interviuri, unii locuitori din Zaporojie – oraș aflat la doar 14 kilometri de linia frontului – au povestit că gândul unor aparate care bâzâie deasupra orașului, luând singure decizia de a ucide, le dă fiori. Dar orașele ucrainene au fost bombardate atât de intens, ani la rând, încât viața fusese deja schimbată din temelii de drone mai puțin sofisticate.
Dronele interceptoare, pilotate (deocamdată) de bărbați și femei care sunt eroi locali, sunt una dintre soluțiile la amenințarea dronelor. Plasele antidronă sunt o alta, acoperind aproape 385 de kilometri de drumuri în Zaporijjia și în împrejurimi.
O altă măsură de apărare este camuflajul. Folii de plastic, de exemplu, sunt fixate în unghiuri ciudate în jurul buteliilor de propan de la benzinării, în încercarea de a păcăli sistemele de recunoaștere a imaginilor bazate pe inteligență artificială.
Cu câteva clipe înainte ca drona să se năpustească spre benzinărie, pe 6 iulie, un grup de oameni se ghemuise lângă zidul unui bloc din apropiere, pentru siguranță, după ce auziseră deja explozii, pe măsură ce dronele veneau în valuri.
Oksana Ișenko, angajată a benzinăriei, stătea lângă Tetiana Bubîneț. „Plângea de frică”, își amintește Ișenko.
Apoi, câțiva din grup au început să strige: „Un avion! Un avion!”, povestește Ișenko. O dronă venea spre ei. Tetiana Bubîneț și alți câțiva au încercat să fugă. După ce nu a reușit să ocolească blocul, drona a explodat înainte să-și atingă ținta.
Tetiana Bubîneț, care studia contabilitatea la Universitatea Națională din Zaporijjia, zăcea pe asfalt, nemișcată, cu sânge curgându-i din nas. A fost declarată moartă la spital, a spus Tetiana Melihova, una dintre profesoarele ei. Ceilalți doi morți, Oleksii Svirin, de 41 de ani, și Roman Karpii, de 48 de ani, au murit ulterior din cauza rănilor.
„Antrenează tehnologia”, a spus colonelul Minaiev, comandantul apărării antiaeriene a orașului, referindu-se la ruși. Inteligența artificială e bună, dar încă nu perfectă, a adăugat el. „Caută greșeli și le vor corecta”.