Cercetători din domeniul militar din China au folosit răspunsuri generate de modele americane de inteligență artificială dezvoltate de OpenAI și Anthropic pentru a antrena sisteme locale menite să consolideze capacitățile de apărare ale țării, potrivit unei analize Reuters asupra a peste 80 de lucrări academice și brevete chineze.
Informațiile, care nu au mai fost prezentate până acum, oferă o imagine rară asupra modului în care instituții chineze legate de armată și securitate folosesc modele americane de ultimă generație pentru a-și dezvolta mai rapid propriile sisteme specializate. Acest lucru se întâmplă în ciuda eforturilor Washingtonului de a limita accesul Beijingului la cipuri avansate și la alte tehnologii strategice.
Documentele arată că este folosită pe scară largă o tehnică numită "distilarea modelelor". Prin această metodă, răspunsurile unui sistem AI foarte puternic sunt utilizate pentru antrenarea unor modele mai mici și specializate, care pot funcționa local, fără resursele uriașe de calcul necesare construirii de la zero a unor sisteme de ultimă generație.
Analiza Reuters, care a inclus cercetări adunate de Jamestown Foundation din Washington și oferite în exclusivitate agenției, arată că distilarea este folosită frecvent de cercetători cu legături cu Armata Populară de Eliberare și cu alte instituții militare chineze.
Lucrările sugerează că instituțiile de apărare din China consideră modelele americane de top atât o sursă de cunoștințe tehnice, cât și o modalitate de a reduce decalajul față de rivalii din Statele Unite.
Disputa nu privește distilarea în sine, o practică răspândită în industria inteligenței artificiale, ci extragerea neautorizată a capacităților unor modele.
Subiectul a devenit un important punct de tensiune înaintea discuțiilor dintre SUA și China privind reglementarea și siguranța inteligenței artificiale. Oficiali americani au acuzat unele entități chineze că folosesc distilarea pentru a prelua capacități ale modelelor americane, o practică ce ar putea slăbi efectele restricțiilor la export și ar putea încălca drepturile de proprietate intelectuală.
China a respins acuzațiile și a susținut că Washingtonul urmărește instaurarea unei "hegemonii" în domeniul inteligenței artificiale. Beijingul afirmă, de asemenea, că și companiile americane au folosit practici asemănătoare.
Dezvoltatorii chinezi au contestat și afirmațiile potrivit cărora progresele lor în domeniul AI depind de modele străine. Compania Moonshot AI a negat săptămâna trecută acuzațiile administrației Trump potrivit cărora modelul său Kimi K3 ar fi fost construit prin distilare și a susținut că acesta se bazează pe tehnologii proprii.
Sunny Cheung, cercetător al Jamestown Foundation, care a analizat peste 60 dintre lucrări, a declarat că oamenii de știință chinezi cu legături militare colectează în mod sistematic etapele de raționament ale modelelor occidentale pentru a le adapta la supraveghere, război cibernetic și luarea deciziilor tactice.
"Să înveți un model răspunsul corect este un lucru, dar să îl înveți raționamentul din spatele răspunsului este mult mai dificil. Aceste lucrări arată că cercetătorii chinezi cu legături militare încearcă să transfere acel raționament costisitor și protejat al modelelor occidentale în sisteme mai mici, pe care le pot controla și utiliza local", a explicat Cheung.
Reuters a identificat alte aproximativ 24 de studii de caz care aveau legături cu sectorul militar.
O lucrare publicată anul trecut de cercetători din Unitatea 96941 a Armatei Populare de Eliberare, o unitate de informații militare și război cibernetic din Beijing, descria folosirea modelului GPT-3.5 al OpenAI pentru procesarea unui cod-sursă militar sensibil.
Cercetătorii au afirmat că modelele externe nu erau potrivite pentru gestionarea informațiilor clasificate. Pentru a depăși această problemă, ei au folosit GPT-3.5 pentru a rezuma codul software, iar apoi au antrenat un model chinezesc pe baza acestor rezumate, astfel încât acesta să poată funcționa exclusiv în rețelele militare chineze.
Casa Albă, Pentagonul, Ministerul chinez de Externe, Armata Populară de Eliberare și OpenAI nu au răspuns solicitărilor de comentarii.
Utilizări diverse, de la monitorizare la operațiuni militare
Cercetătorii chinezi au folosit distilarea pentru activități care variază de la monitorizarea conținutului până la utilizări militare, potrivit analizei realizate de Reuters și Jamestown Foundation.
La Universitatea de Nord a Chinei, care are legături strânse cu industria de armament, cercetătorii au folosit modelul Claude 3 Haiku al Anthropic pentru a genera date sintetice necesare antrenării unui sistem de clasificare a textelor destinat monitorizării rețelelor sociale și moderării conținutului.
Anthropic a transmis că nu oferă acces comercial la Claude în China sau companiilor controlate de Beijing și că folosește sisteme de monitorizare pentru a detecta încălcarea regulilor sale.
Compania a avertizat că modelele obținute prin distilare pot pierde mecanismele de siguranță ale sistemelor originale, ceea ce ar permite transferarea unor capacități sensibile către modele aflate în afara controlului său.
O lucrare din 2024, realizată de Universitatea Națională de Tehnologie a Apărării din cadrul armatei chineze, descria folosirea distilării pentru micșorarea unui model de procesare a imaginilor, astfel încât acesta să poată fi instalat pe drone. Sistemul permitea analizarea imaginilor video în direct și sprijinea navigația și alegerea țintelor în timp real, chiar și atunci când comunicațiile erau întrerupte.
În mod asemănător, cercetători de la Academia de Științe Militare a Chinei au folosit distilarea pentru a instala un model de recunoaștere a țintelor pe echipamente tactice, în timpul unor operațiuni maritime simulate care implicau drone, nave și submarine fără echipaj, potrivit unui studiu publicat în acest an.
Avantaje și limite
China a adoptat pe scară largă tehnica distilării în încercarea de a concura cu Statele Unite în domeniul inteligenței artificiale avansate, în condițiile în care accesul său la resurse puternice de calcul este limitat de restricțiile americane asupra exporturilor de cipuri performante.
Autoritățile centrale și locale au promovat reducerea dimensiunii modelelor și folosirea tehnologiei "edge computing", direcționând subvenții și fonduri pentru cercetare către sisteme AI care pot funcționa pe drone, sateliți și alte dispozitive cu putere de procesare limitată.
Experții avertizează însă că distilarea are limite importante.
Pe măsură ce modelele chinezești se apropie de performanțele celor americane, cercetătorii militari analizează distilarea și ca pe un posibil risc de securitate.
În ianuarie, cercetători de la Universitatea de Inginerie a Armatei au publicat o lucrare privind amenințarea reprezentată de "distilarea fără date", o metodă prin care capacitățile unui model pot fi reconstruite fără acces direct la parametrii săi interni.
Pentru reducerea acestei vulnerabilități, cercetătorii au propus mecanisme de apărare care să ascundă informațiile logice interne dezvăluite prin răspunsurile publice ale unui model.
Modelele distilate preiau doar anumite capacități și nu pot reproduce în întregime inteligența generală și performanțele sistemelor AI de ultimă generație.
Trevor Koverko, cofondator al companiei de date pentru inteligență artificială Sapien, a declarat că modelele distilate rămân mai puțin performante decât modelele de la care au învățat. "Tehnica trebuie înțeleasă ca un transfer al unor capacități selectate către un sistem mai ieftin și controlat local, nu ca obținerea independenței față de modelele AI de ultimă generație."