Modul în care inteligența artificială va fi utilizată pe câmpurile de luptă ale viitorului a devenit o problemă tot mai politizată și ar putea pune compania Anthropic într-o situație delicată. De luni de zile, Departamentul Apărării al SUA și compania de inteligență artificială Anthropic negociază un contract privind utilizarea AI pe sisteme clasificate ale Pentagonului, scrie The New York Times.
În această săptămână, discuțiile au degenerat într-un schimb dur de replici.
Luni, o persoană apropiată secretarului Apărării, Pete Hegseth, a declarat pentru Axios că Pentagonul este „aproape” să declare start-up-ul drept „risc pentru lanțul de aprovizionare”, o măsură care ar rupe legăturile dintre companie și armata americană.
Anthropic a fost luată prin surprindere și a încercat intern, în grabă, să identifice ce a declanșat reacția departamentului, au dezvăluit două persoane familiarizate cu situația companiei.
În centrul conflictului se află modul în care AI va fi utilizată pe viitoarele câmpuri de luptă. Anthropic le-a transmis oficialilor din domeniul apărării că nu dorește ca inteligența sa artificială să fie folosită pentru supravegherea în masă a americanilor sau în arme autonome care nu implică deloc intervenție umană, au declarat două persoane implicate în discuții.
Însă Hegseth și alți oficiali din Pentagon s-au arătat furioși că Anthropic ar rezista folosirii AI de către armată după propriile sale criterii, au spus actuali și foști oficiali informați despre negocieri. Pe măsură ce tensiunile au crescut, Departamentul Apărării a acuzat compania cu sediul la San Francisco că răspunde intereselor unei forțe de muncă elitiste și liberale, cerând protecții suplimentare.
Dezacordul evidențiază cât de politizată a devenit problema inteligenței artificiale în administrația Trump. Președintele Trump și consilierii săi doresc extinderea utilizării tehnologiei, reducerea restricțiilor la export pentru cipurile AI și critică reglementările statale care ar putea fi percepute drept obstacole în dezvoltarea inteligenței artificiale.
În schimb, directorul executiv al Anthropic, Dario Amodei, a susținut de mult timp că AI are nevoie de limite stricte pentru a preveni riscul de a produce efecte devastatoare la nivel global.
Emelia Probasco, cercetător senior la Center for Security and Emerging Technology din cadrul Universității Georgetown, a declarat că este important ca relația dintre Pentagon și Anthropic să nu fie compromisă.
„Există combatanți care folosesc Anthropic în scopuri bune și legitime, iar retragerea acestei tehnologii din mâinile lor ar fi un deserviciu total”, a precizat ea. „Ceea ce are nevoie națiunea este ca ambele părți să stea la masă și să discute ce putem face cu această tehnologie pentru a fi mai în siguranță.”
Într-o declarație, purtătorul de cuvânt al Pentagonului, Sean Parnell, a spus că relația departamentului cu Anthropic „este în curs de revizuire”.
„Națiunea noastră are nevoie ca partenerii să fie dispuși să îi ajute pe militarii noștri să câștige orice luptă”, a spus el. „În cele din urmă, este vorba despre trupele noastre și despre siguranța poporului american”.
Anthropic a declarat că este angajată să folosească AI pentru a sprijini securitatea națională a SUA și că poartă „discuții productive, de bună-credință, cu Departamentul de Război despre cum să continue această activitate și să gestioneze corect aceste probleme complexe”.
Un oficial al Pentagonului a lăudat alte companii de inteligență artificială care au lucrat pe sistemele neclasificate ale instituției. Acesta a spus că departamentul are deja un acord cu una dintre firme pentru a începe lucrul pe sistemul clasificat, înlocuind Anthropic.
Departamentul Apărării utilizează tehnologia Anthropic de mai bine de un an, în cadrul unui program pilot de AI în valoare de 200 de milioane de dolari, destinat analizării imaginilor, altor date de informații și activităților de cercetare. Google, OpenAI și xAI, compania lui Elon Musk, fac, de asemenea, parte din program.
Însă chatbotul AI al Anthropic, Claude, a fost cel mai utilizat de agenție – și singurul prezent pe sisteme clasificate – datorită integrării cu tehnologia companiei de analiză a datelor Palantir, care lucrează cu guvernul federal, potrivit oficialilor din domeniul apărării familiarizați cu tehnologia.
În data de 9 ianuarie, Hegseth a emis un memorandum prin care a cerut companiilor de AI să elimine restricțiile asupra tehnologiei lor. Documentul a determinat companii de inteligență artificială, inclusiv Anthropic, să își renegocieze contractele. Anthropic a solicitat limitări privind modul în care instrumentele sale AI pot fi utilizate.
Anthropic a fost, de mult timp, mai vocală decât alte companii de AI în privința siguranței. Într-un interviu podcast din 2023, Amodei a spus că există o probabilitate de 10% până la 25% ca inteligența artificială să poată distruge omenirea. La nivel intern, compania are reguli stricte care interzic utilizarea tehnologiei sale pentru facilitarea violenței.
În ianuarie, Amodei a scris într-un eseu publicat pe site-ul său personal că „utilizarea AI pentru supraveghere internă în masă și propagandă în masă” i se pare „complet ilegitimă”. El a adăugat că armele automatizate de AI ar putea crește semnificativ riscurile „ca guvernele democratice să le întoarcă împotriva propriilor cetățeni pentru a acapara puterea”.
În negocierile contractuale, Departamentul Apărării a respins poziția Anthropic, afirmând că va utiliza AI în conformitate cu legea, potrivit unor persoane familiarizate cu discuțiile.
Duminică, The Wall Street Journal a relatat că tehnologia Anthropic a fost utilizată în ianuarie în operațiunea militară americană de capturare a președintelui Venezuelei, Nicolas Maduro, și că angajați ai companiei și-au exprimat îngrijorările față de Palantir cu privire la rolul jucat de tehnologia lor. Hegseth și alți oficiali din Pentagon s-au arătat iritați de ceea ce au perceput drept rezistența Anthropic, au spus actuali și foști oficiali informați asupra situației.
Un oficial al Pentagonului a declarat că un „director executiv senior” de la Anthropic l-a întrebat pe un oficial senior de la Palantir dacă modelul AI al companiei a fost folosit în raidul împotriva lui Maduro. Oficialul Pentagonului a spus că acest schimb a alarmat Palantir, deoarece sugera că Anthropic ar putea dezaproba utilizarea modelului său în operațiune. Ca urmare, un executiv Palantir a contactat Pentagonul, potrivit aceleiași surse.
Două persoane apropiate de Anthropic au spus că doar un singur angajat a ridicat întrebări despre operațiunea Maduro într-o întâlnire de rutină cu un angajat Palantir. Anthropic a declarat că „nu a discutat acest subiect și nu și-a exprimat îngrijorări față de niciun partener din industrie, în afara discuțiilor obișnuite, strict tehnice”.
Palantir nu a răspuns solicitărilor de comentarii.
Dacă Anthropic va fi clasificată drept risc pentru lanțul de aprovizionare de către Departamentul Apărării, se va regăsi într-o categorie rară. Această desemnare este, de regulă, utilizată doar pentru firme care fac afaceri cu China sau care se aprovizionează din China.
Având în vedere că Claude și alte produse Anthropic sunt integrate pe scară largă în cadrul departamentului, înlocuirea tehnologiei ar fi dificilă, au spus doi ofițeri care au utilizat sistemul. Contractele de AI ale Google și OpenAI cu Pentagonul vizează, în prezent, sisteme neclasificate.
La 9 februarie, OpenAI a anunțat într-o postare pe blog că își extinde colaborarea cu Pentagonul.
„Este important ca Statele Unite și alte țări democratice să înțeleagă cum, cu garanțiile adecvate, AI poate ajuta la protejarea oamenilor, la descurajarea adversarilor și la prevenirea conflictelor viitoare”, a transmis compania.
Google și xAI nu au răspuns solicitărilor de comentarii.
În ciuda conflictului public, negocierile dintre Departamentul Apărării și Anthropic au continuat în această săptămână, au declarat doi oficiali din domeniul apărării.
Ştiri video recomandate
