Google se confruntă cu nemulțumirea unor angajați care demisionează din cauza utilizării inteligenței artificiale în scopuri militare și a temerilor că tehnologia este implementată pe câmpul de luptă fără suficiente garanții de siguranță și supraveghere umană. Compania se numără printre firmele de tehnologie care au încheiat contracte cu Pentagonul pentru folosirea AI în operațiuni militare clasificate, potrivit BBC.
Jurnaliștii britanici au discutat cu mai mulți angajați din industria tehnologiei care fie au demisionat recent de la Google DeepMind, compania de inteligență artificială a Google, fie sunt în curs de a pleca, din cauza îngrijorărilor legate de contractele militare ale firmei.
Sofia Liguori, inginer de cercetare cu sediul la Londra, este una dintre aceste persoane. Ea și-a dat demisia de la Google DeepMind în această săptămână.
„Să-mi dau seama că firma mea insistă tot mai mult asupra utilizării sistemelor de inteligență artificială în operațiuni militare mă face să-mi fie rușine că lucrez la Google”, a declarat Liguori, precizând că vorbește în nume personal.
Contractul Google încheiat cu Pentagonul
Google este una dintre mai multe companii de tehnologie care au semnat, la începutul acestui an, contracte cu armata SUA pentru a implementa inteligența artificială în diverse medii militare clasificate. Secretarul american al Apărării, Pete Hegseth, a făcut din integrarea inteligenței artificiale în forțele armate o prioritate esențială, afirmând că administrația Trump va transforma armata într-o „forță de luptă care pune inteligența artificială pe primul loc”.
Însă tehnologia inteligenței artificiale evoluează rapid, iar criticii se întreabă dacă aceasta este suficient de fiabilă pentru a fi folosită în război fără testări suplimentare, garanții mai stricte și supraveghere umană.
După ce a lucrat timp de trei ani la companie, Liguori a declarat că a decis să demisioneze din cauza intensificării colaborării Google cu armatele SUA și Israelului. „Nu sunt de acord cu această direcție, iar acest lucru m-a făcut să-mi pierd încrederea că firma mea respectă cu adevărat valorile etice pe care le declară”, a spus ea.
Potrivit Principiilor Google privind inteligența artificială, aceste valori includ implementarea AI cu „supraveghere umană” și alinierea tehnologiei la „dreptul internațional și drepturile omului”. Cu toate acestea, foști și actuali angajați ai companiei, precum și experți cu care BBC a discutat, au declarat că sunt îngrijorați de nivelul supravegherii umane în momentele critice.
Secretarul american al Apărării, Pete Hegseth, a declarat în ianuarie că SUA „vor deveni o forță de luptă care pune inteligența artificială pe primul loc”.
Angajații din industria tehnologiei au spus că sunt deosebit de îngrijorați de acordurile militare privind inteligența artificială semnate în acest an, deoarece acestea extind considerabil gama de utilizări pe care Pentagonul le poate da acestei tehnologii.
Andreas Kirsch, cercetător în domeniul inteligenței artificiale, a demisionat, de asemenea, de la Google DeepMind la începutul acestei luni, din cauza îngrijorărilor sale.
Kirsch a declarat pentru BBC că este de părere că „mecanismele de guvernanță și supraveghere ale Google nu sunt suficient de adecvate sau de eficiente pentru a permite utilizarea sigură și responsabilă a inteligenței artificiale în medii militare și clasificate” și nici „pentru a dezvolta în siguranță o superinteligență artificială în viitor”.
„Google pare să nu aibă dreptul de a controla sau de a se opune utilizării inteligenței sale artificiale de către Pentagon și pare, de asemenea, să aibă o vizibilitate limitată asupra modului în care aceasta este implementată”, a adăugat el.
Fostul angajat al Google, Andreas Kirsch, consideră că modelele actuale de inteligență artificială nu sunt „suficient de robuste” pentru utilizarea militară.
În ultimii ani, armata SUA a implementat mai multe tehnologii bazate pe inteligența artificială pentru a-și îmbunătăți capacitățile de luptă.
Cel mai cunoscut exemplu este Maven Smart Systems, principala platformă software a Pentagonului pentru organizarea informațiilor și a datelor.
Dezvoltată de compania americană de apărare Palantir, aceasta folosește inteligența artificială pentru a ajuta personalul militar să selecteze și să identifice țintele care urmează să fie atacate. Palantir a integrat în Maven tehnologia mai multor companii importante din domeniul inteligenței artificiale, ceea ce a permis accelerarea semnificativă a unor procese.
„Să implementăm AI cât mai repede posibil și la o scară cât mai largă”
Generalul-locotenent în rezervă Jack Shanahan, fost director al proiectului Maven, a declarat că „filozofia” pare să fie următoarea: „Să implementăm [tehnologia inteligenței artificiale] cât mai repede posibil și la o scară cât mai largă, eventual în detrimentul rigurozității și disciplinei proceselor de testare și evaluare”.
Cu toate acestea, Pentagonul a susținut că adoptarea tehnologiilor de inteligență artificială este esențială pentru câștigarea războaielor. „Viteza definește victoria în era inteligenței artificiale”, a declarat la începutul acestui an Emil Michael, un subsecretar din cadrul Departamentului Apărării al SUA.
Contractul Google cu Pentagonul, semnat la începutul acestui an, permite utilizarea tehnologiei sale de inteligență artificială în activități militare clasificate. Acordul prevede că modelele de inteligență artificială ale Google pot fi utilizate pentru „orice scop guvernamental legal” și că „nu ar trebui folosite pentru supravegherea în masă a populației pe teritoriul SUA sau pentru arme autonome (inclusiv selectarea țintelor), fără o supraveghere și un control uman adecvate”.
Angajații Google spun că se tem să vorbească public despre siguranța AI
Angajați ai Google au declarat pentru BBC că personalului îi este teamă să vorbească public despre siguranța inteligenței artificiale și utilizarea acesteia în război, deoarece contractele de muncă le interzic să critice public compania.
„În principiu, nu am voie să critic Google pe tot parcursul vieții mele”, i-a declarat Sofia Liguori postului BBC. Cu toate acestea, ea a decis să vorbească „pentru că eu cred că este important ca aceste lucruri să fie cunoscute și cred, de asemenea, că a vorbi despre fapte nu înseamnă a critica”.
Liguori a adăugat că, la Google, „oamenilor le este teamă de represalii și de faptul că își pun cariera în pericol. Ai senzația că ești supravegheat, nu poți vorbi”.
Un angajat actual al Google DeepMind, care a refuzat să-și dezvăluie identitatea de teamă că ar putea fi supus unor represalii, a declarat pentru BBC că „mulți angajați motivați, care s-au alăturat companiei atrași de misiunea sa inițială, ar putea pleca, dar există și un flux de oameni aflați la începutul carierei care ar putea ocupa aceste posturi. Ar putea avea loc o schimbare de generație”.
Un alt angajat al Google DeepMind, care a dorit, de asemenea, să rămână anonim, a declarat pentru BBC: „Mulți oameni au părăsit compania pentru că au convingeri puternice în această privință [modul în care Google DeepMind și-a schimbat poziția în materie de etică]”.
„Unii se luptă să schimbe lucrurile, în timp ce alții se gândesc: «Este o companie mare. La ce te aștepți să se schimbe?»”, a spus angajatul.