Un raport de informații distribuit în această primăvară în armata americană, în plin război cu Iranul, a declanșat imediat alarma: o navă chineză aflată în Orientul Mijlociu ar fi transportat componente pentru un program de arme nucleare. Armata SUA a început rapid să pregătească o operațiune de interceptare a navei, potrivit a patru surse familiarizate cu incidentul. Două dintre ele spun că militari americani înarmați se pregăteau să urce la bord. Avioane militare se aflau deja în aer, au spus una dintre aceste surse și o altă persoană care cunoaște situația, pentru CNN. Abia cu puțin timp înainte de operațiunea planificată, oficialii au verificat mai atent raportul, întocmit de un analist al comandamentului pentru operațiuni speciale, și au descoperit că acesta fusese realizat cu ajutorul inteligenței artificiale. Chatbotul folosit de analist identificase greșit materialele transportate de navă.
CNN nu a putut afla ce marfă fusese, de fapt, identificată eronat.
Greșeala care „aproape a pornit un război”
Raportul era „complet fals”, potrivit uneia dintre surse. Dar, spune aceeași persoană, „aproape a pornit un război”.
Orice operațiune americană împotriva unei nave chineze ar fi putut escalada rapid într-un conflict armat între Statele Unite și China.
În armata americană și în serviciile de informații, oficialii încearcă să introducă inteligența artificială în aproape toate domeniile de activitate: de la analizarea cantităților uriașe de informații brute colectate de SUA și alegerea țintelor pentru atacuri, până la sarcini mai obișnuite, precum gestionarea bugetelor, logisticii și lanțurilor de aprovizionare.
Incidentul arată însă cât de mari pot fi riscurile folosirii unei tehnologii atât de puternice, încă relativ puțin înțelese, în procesul de alegere a țintelor în timpul unui război.
Cum s-a putut întâmpla asta
Analiștii avertizează de mult timp că inteligența artificială ar putea duce la erori de calcul catastrofale dacă statele se bazează pe date greșite sau compromise - exact genul de situație în care Statele Unite ar putea ajunge să tragă asupra unei nave chineze pe baza unor informații false.
În acest caz, analistul a cerut unui chatbot să interpreteze informații despre manifestul de marfă al navei, informații provenite de la Comandamentul pentru Operațiuni Speciale al SUA din Pacific, cu sediul în Hawaii.
Nu este clar dacă chatbotul folosit era un produs comercial sau un instrument dezvoltat de guvernul american.
„Instrumentele interne sunt, în mare parte, doar copii ale celor comerciale, dar cosmetizate”, a declarat pentru CNN un fost oficial american de rang înalt familiarizat cu sistemele de inteligență artificială folosite de analiștii militari și de informații.
Chatbotul a combinat informații din surse deschise cu informații secrete provenite din interceptări și aflate în bazele de date ale guvernului american și a ajuns la concluzia greșită despre materialele transportate de navă.
Analistul a folosit apoi din nou inteligența artificială pentru a pune concluziile într-un format standard de raport de informații - tipul de document în care oficialii militari au încredere - și l-a distribuit mai departe.
Comandamentul pentru Operațiuni Speciale al SUA din Pacific și Pentagonul nu au răspuns solicitărilor CNN pentru comentarii.
De ce folosește armata inteligența artificială
Unul dintre principalele argumente pentru introducerea rapidă a inteligenței artificiale în armată este că aceasta poate ajuta la luarea mai rapidă a deciziilor pe câmpul de luptă, de exemplu în alegerea țintelor sau în stabilirea locului în care trebuie mutate anumite resurse militare.
Oficialii americani spun că SUA nu își permit să rămână în urmă în integrarea AI, mai ales în perspectiva unui posibil conflict viitor cu China sau cu un alt adversar care ar putea folosi tehnologia pentru a obține un avantaj.
În ianuarie, secretarul american al Apărării, Pete Hegseth, a prezentat „Strategia de accelerare a inteligenței artificiale”, prin care Pentagonul vrea să grăbească folosirea AI în armată.
„Vom da drumul experimentării, vom elimina barierele birocratice, ne vom concentra investițiile și vom demonstra modul de lucru necesar pentru a ne asigura că suntem lideri în domeniul inteligenței artificiale militare”, a spus Hegseth într-un discurs în care a anunțat strategia.
Planul prevede și o extindere amplă a utilizării AI în întreaga armată. Departamentul Apărării vrea să pună instrumentele de inteligență artificială la dispoziția personalului prin mai multe programe, cu scopul de a „democratiza experimentarea și transformarea prin AI în întregul Departament, punând cele mai performante modele de inteligență artificială americane direct în mâinile celor trei milioane de angajați civili și militari, la toate nivelurile de clasificare”, potrivit unui memorandum care anunță strategia.
Problema este însă că acest proces este descentralizat, au declarat mai mulți oficiali americani familiarizați cu situația. Diferite structuri ale guvernului folosesc instrumente diferite, după reguli și standarde de siguranță diferite. Nu există un singur set de reguli privind modul în care trebuie verificate informațiile generate de aceste sisteme. În plus, numărul mare de sisteme AI folosite în diferite structuri ale armatei și comunității de informații face ca nivelul de fiabilitate și modul de funcționare să varieze foarte mult.
În ultimele săptămâni, la Washington au existat dezbateri intense privind inteligența artificială, după o serie de avertismente dure venite din Silicon Valley, unde ingineri și directori ai marilor companii de tehnologie au vorbit despre riscul ca AI să scape de sub controlul oamenilor, cu posibile consecințe catastrofale pentru civilizație.
Cazul navei chineze arată însă un risc diferit și mult mai imediat: oamenii pot lua decizii dezastruoase bazându-se pe informații false sau înșelătoare generate de inteligența artificială ori de alte sisteme automate.
Armata SUA ar folosit AI pentru alegerea țintelor
Sursele citate de CNN spun că armata americană folosește tot mai mult AI pentru alegerea țintelor, un domeniu în care greșelile pot avea consecințe fatale.
„AI în procesul de alegere a țintelor este clar într-o fază de extindere și nu există, de fapt, reguli clare despre cum va preveni prezența unui om în proces victimele civile sau focul fratricid”, a declarat o altă sursă familiarizată cu politicile actuale ale armatei.
Tipul de „halucinație” produs de instrumentul folosit în acest caz nu este un incident izolat în comunitatea de informații, de când aceste sisteme au început să fie folosite pe scară largă în instituțiile guvernamentale, potrivit uneia dintre surse.
Pentru unii oficiali mai în vârstă din serviciile de informații - inclusiv pentru cei care susțin, în principiu, folosirea AI în armată - tehnologia a pus o presiune suplimentară asupra analiștilor să producă și să distribuie informații tot mai repede, ceea ce lasă mai mult loc pentru greșeli.
Mai multe surse spun că, în special, analiștii tineri sunt foarte obișnuiți cu aceste instrumente și tind să aibă mai multă încredere în ele, fără să le verifice suficient.
„Inteligența artificială te ajută să ajungi mai repede la o idee proastă”, a spus una dintre surse.
