Conflictul dintre compania de inteligență artificială Anthropic și Pentagon s-a intensificat, după ce cele două părți au oferit versiuni diferite despre o discuție privind utilizarea sistemului AI Claude într-un scenariu ipotetic de atac nuclear asupra SUA.
Pentagonul a dat companiei Anthropic un termen-limită până vineri, ora 17:01, pentru a renunța la obiecțiile privind folosirea sistemului AI Claude în legătură cu armele autonome și supravegherea cetățenilor. Dacă firma nu se conformează, guvernul american ar putea forța predarea tehnologiei și să o includă pe lista neagră pentru viitoare contracte militare, scrie The Washington Post.
Disputa a degenerat într-o confruntare deschisă privind folosirea inteligenței artificiale în arme autonome și supraveghere, Pentagonul cerând companiei să renunțe la obiecții, iar Anthropic avertizând că tehnologia nu este suficient de sigură pentru decizii de viață și de moarte. Miza este una majoră: controlul asupra modului în care armata americană va integra inteligența artificială în operațiunile sale viitoare.
Purtătorul de cuvânt Sean Parnell a clarificat însă că Pentagonul nu urmărește supravegherea internă în masă și nici arme autonome complet autonome, ci vrea să folosească AI în „toate scopurile legale”, pentru a proteja operațiunile militare și siguranța militarilor.
Un oficial al apărării a declarat că șeful tehnologiei Pentagonului a redus dezbaterea la un scenariu nuclear pe viață și pe moarte, la o întâlnire de luna trecută: Dacă o rachetă balistică intercontinentală ar fi lansată asupra Statelor Unite, ar putea armata să folosească sistemul de inteligență artificială Claude al Anthropic pentru a ajuta la doborârea ei?
Este genul de situație în care puterea tehnologică și viteza ar putea fi critice pentru detectare și contraatac, timpul necesar pentru a lua o decizie fiind măsurat în minute și secunde. Răspunsul directorului executiv al Anthropic, Dario Amodei, a iritat Pentagonul, potrivit oficialului, care a caracterizat răspunsul directorului general ca fiind: “Ne puteți suna și vom rezolva problema”.
Un purtător de cuvânt al Anthropic a negat că Amodei a dat acest răspuns, numind relatarea „evident falsă” și spunând că firma a fost de acord să permită ca Claude să fie folosită pentru apărarea antirachetă. Însă oficialii au citat acest incident și un alt episod care a implicat utilizarea lui Claude în capturarea liderului venezuelean Nicolás Maduro ca puncte de izbucnire într-o confruntare spiralată dintre companie și Pentagon în ultimele zile.
O întâlnire față în față de marți între Amodei și secretarul Apărării, Pete Hegseth, a escaladat tensiunile, a relatat The Washington Post. Cele două părți se îndreaptă acum spre o luptă decisivă pentru putere cu privire la dreptul guvernului american de a spiona sau ucide oameni folosind noua tehnologie puternică, bazată parțial pe ipoteze extreme și jocuri telefonice.
Anthropic ezită să extindă folosirea militară a inteligenței artificiale
Amodei a declarat într-un comunicat joi seară că firma sa este gata să continue colaborarea cu Pentagonul, dar nu își va schimba poziția. Sistemele actuale de inteligență artificială nu sunt suficient de fiabile pentru a alimenta armamentul robotic fără a pune în pericol atât trupele, cât și civilii, a spus el, iar legile existente privind supravegherea internă nu țin cont de potențialul extins al instrumentelor de spionaj bazate pe inteligență artificială.
„Într-un set restrâns de cazuri, credem că inteligența artificială poate submina, mai degrabă decât să apere, valorile democratice”, a spus Amodei în primele sale comentarii publice despre bătălie. „Două astfel de cazuri de utilizare nu au fost niciodată incluse în contractele noastre cu Departamentul de Război și credem că nu ar trebui incluse acum.”
Anthropic nu se aștepta să ajungă într-o luptă cu liderii Pentagonului când a devenit primul laborator major de inteligență artificială care a încheiat un acord pentru a lucra la rețele militare americane clasificate la sfârșitul anului 2024.
Experții spun că rezultatul ciocnirii ar putea modela traiectoria relației înfloritoare dintre industria inteligenței artificiale și armata americană, semnalând potențial altor firme de top că costul afacerilor cu Pentagonul ar putea fi pierderea controlului asupra inovațiilor lor.
Spre deosebire de o armă sau un motor cu reacție, utilizările pe care inteligența artificială le-ar putea găsi pe câmpurile de luptă ale viitorului continuă să se schimbe. SUA impune deja autonomia în armele sale, iar sistemele bazate pe inteligență artificială fac parte din aproape fiecare dronă, navă sau aeronavă aflată în producție sau prevăzută în viitoarea forță. Administrația Trump se angajează într-o vastă extindere a utilizării inteligenței artificiale de către armată.
Însă figurile importante din dezvoltarea tehnologiei au avut mult timp preocupări etice și juridice cu privire la acordarea inteligenței artificiale a puterii de a lua decizii de viață și de moarte sau de a supraalimenta supravegherea.