I ricercatori militari cinesi starebbero utilizzando gli output dei principali modelli di intelligenza artificiale statunitensi, sviluppati da OpenAI e Anthropic, per addestrare sistemi domestici destinati a potenziare le capacità di difesa di Pechino. Un’inchiesta condotta da Reuters, che analizza oltre ottanta tra articoli accademici e brevetti cinesi, offre un prezioso sguardo sul modo in cui le istituzioni militari e di sicurezza cinesi sfruttano i modelli di IA più avanzati come scorciatoia per costruire sistemi specializzati propri, nonostante gli sforzi di Washington di limitare l’accesso di Pechino a chip e altre tecnologie strategiche. I documenti mostrano un impiego diffuso della cosiddetta “distillazione dei modelli”, tecnica con cui gli output di un sistema di IA potente vengono usati per addestrare modelli più piccoli e specializzati, dispiegabili localmente senza gli enormi requisiti di calcolo necessari a costruire da zero sistemi di frontiera. L’inchiesta, che ha incluso ricerche compilate dalla Jamestown Foundation di Washington e condivise in via esclusiva con l’agenzia di stampa, ha evidenziato come la distillazione sia largamente utilizzata da ricercatori legati alla People’s Liberation Army (Pla) e ad altre istituzioni militari.

La questione ha assunto ancora più rilevanza in vista dei colloqui tra Stati Uniti e Cina sulla governance e la sicurezza dell’IA, soprattutto dopo che alcuni funzionari statunitensi hanno accusato alcune entità cinesi di usare la distillazione per estrarre capacità dai modelli americani, minando potenzialmente i controlli sulle esportazioni e violando i diritti di proprietà intellettuale (la disputa riguarda l’estrazione non autorizzata, non la distillazione in sé, che resta una pratica industriale diffusa). Pechino ha respinto le accuse, sostenendo che Washington persegue un “egemonismo” dell’IA e che le stesse imprese americane hanno adottato pratiche analoghe. La stessa startup cinese Moonshot, una di quelle coinvotle nell’inchiesta, ha negato la settimana scorsa le accuse dell’amministrazione Trump secondo cui il suo modello Kimi K3 sarebbe stato costruito tramite distillazione, rivendicando innovazioni proprietarie.

Un articolo pubblicato lo scorso anno da ricercatori dell’Unità 96941 del Pla, reparto di intelligence militare e guerra cibernetica con sede a Pechino, ha descritto l’uso del GPT-3.5 di OpenAI per elaborare codice sorgente militare sensibile, impiegando il modello per riassumere il codice e addestrando un sistema domestico su quei riassunti, così da farlo operare interamente all’interno delle reti militari cinesi. Gli utilizzi documentati spaziano dal monitoraggio dei contenuti al dispiegamento militare.  Un articolo del 2024 della National University of Defense Technology del Pla ha descritto l’uso della distillazione per ridurre un modello di elaborazione delle immagini da dispiegare sui droni, consentendo ai velivoli senza pilota di analizzare video in tempo reale e supportare decisioni di navigazione e targeting anche in caso di interruzione delle comunicazioni. Analogamente, i ricercatori dell’Accademia delle scienze militari cinese hanno impiegato la distillazione per far girare un modello di riconoscimento dei bersagli su hardware tattico durante operazioni marittime simulate con droni, navi e sottomarini senza pilota.

Sunny Cheung, fellow di Jamestown che ha analizzato oltre sessanta dei documenti, ha spiegato che gli scienziati militari cinesi stanno catturando sistematicamente i passaggi di ragionamento dei modelli occidentali per adattarli a sorveglianza, guerra cibernetica e processi decisionali tattici. “Insegnare a un modello la risposta giusta è una cosa, ma insegnargli il ragionamento dietro la risposta è molto più difficile”, ha osservato Cheung, aggiungendo che i ricercatori legati all’apparato militare cinese cercano di trasferire quel costoso ragionamento proprietario in sistemi più piccoli, controllabili e dispiegabili localmente.

Gli esperti avvertono però che la tecnica ha limiti significativi. A gennaio, l’Army Engineering University ha pubblicato un articolo sulla minaccia della «distillazione senza dati» (data-free distillation), metodo per fare reverse-engineering delle capacità di un modello senza accesso diretto ai suoi parametri, proponendo meccanismi di difesa per mascherare le informazioni logiche esposte negli output pubblici. I modelli distillati, inoltre, ereditano solo capacità selezionate e non replicano l’intelligenza ampia dei sistemi di frontiera. Come ha osservato Trevor Koverko, cofondatore della società Sapien, i modelli distillati restano meno capaci dei modelli “insegnante”, ed è meglio guardare a questo fenomeno “come il trasferimento di capacità selezionate in un sistema più economico e controllato localmente, non come il raggiungimento dell’indipendenza dall’IA di frontiera”.