L’intelligenza artificiale può essere usata per destabilizzare il sistema politico cinese, attaccare infrastrutture critiche, sottrarre informazioni sensibili e modificare gli equilibri sul campo di battaglia. Può anche rendere più difficile governare una società attraversata da tecnologie la cui evoluzione procede più rapidamente delle regole pensate per disciplinarle. È la valutazione che emerge da un articolo di Chen Yixin, ministro cinese della Sicurezza dello Stato, pubblicato nell’ultimo numero di China Cybersecurity Magazine. Chen individua sei categorie di rischio. Prese insieme, offrono un’indicazione abbastanza precisa di come l’apparato di sicurezza cinese stia cercando di leggere l’accelerazione dell’AI e, soprattutto, di ciò che teme possa sfuggire al controllo del Partito.

La prima preoccupazione è la sicurezza del regime. Chen sostiene che “forze ostili” e individui con secondi fini possano utilizzare deepfake, testi e immagini generati dall’AI e account automatizzati per produrre a basso costo grandi quantità di contenuti politici, diffondere informazioni considerate dannose e alimentare divisioni sociali. Gli strumenti sono nuovi, ma la minaccia viene descritta attraverso un lessico familiare alla sicurezza cinese: “guerre dell’opinione pubblica” e “guerra cognitiva” dirette contro la sicurezza politica, istituzionale e ideologica del Paese.

Che Chen cominci da qui è significativo. La preoccupazione immediata non riguarda la possibilità che la Cina rimanga indietro nella corsa all’AI, bensì gli effetti che la diffusione di strumenti sempre più potenti e accessibili potrebbe avere sulla capacità dello Stato di governare la circolazione dell’informazione. Generare contenuti, manipolarli e distribuirli su larga scala diventa più semplice e meno costoso. Per un sistema che attribuisce alla gestione dello spazio informativo una funzione di sicurezza totale, quasi esistenziale, questo cambiamento ha conseguenze politiche prima ancora che tecnologiche.

Una logica simile emerge nel cyberspazio. Secondo Chen, l’AI permette a governi e organizzazioni di individuare vulnerabilità più rapidamente, costruire automaticamente catene di attacco e condurre operazioni informatiche sofisticate con risorse inferiori rispetto al passato. L’abbassamento delle barriere tecniche aumenta di conseguenza l’esposizione delle infrastrutture informative critiche cinesi.

I dati costituiscono un’altra area di vulnerabilità. Chen descrive la possibilità che agenzie di intelligence straniere utilizzino crawler, data mining e strumenti di profilazione per raccogliere dati nazionali critici, segreti commerciali e informazioni personali. Il rischio, nella sua lettura, non arriva necessariamente dall’esterno: utenti cinesi che affidano materiale sensibile a prodotti AI stranieri o trasferiscono dati oltre confine possono aprire ulteriori canali attraverso cui informazioni rilevanti lasciano il Paese.

È su questo terreno che sicurezza interna e competizione internazionale cominciano a sovrapporsi. Chen teme che gli Stati che dispongono di un vantaggio nella teoria dell’AI, nelle architetture dei modelli e nella capacità di calcolo (leggasi gli Stati Uniti, che dominano tutti questi settori) possano utilizzare la sicurezza nazionale per giustificare controlli tecnologici ed entity list, imporre i propri standard e consolidare ecosistemi closed-source. La conseguenza sarebbe un accesso più difficile alle tecnologie avanzate e una progressiva frammentazione delle supply chain dell’intelligenza artificiale.

Questa preoccupazione rivela una tensione destinata ad accompagnare la politica cinese sull’AI. Pechino ha interesse a evitare un sistema tecnologico internazionale nel quale l’accesso alle capacità più avanzate possa essere ristretto da altri Paesi. All’interno dei propri confini, tuttavia, l’impostazione delineata da Chen assegna allo Stato un ruolo sempre più esteso nella supervisione dei dati e dell’ambiente informativo.

Le difficoltà non riguardano soltanto la sicurezza nazionale. Chen include tra i rischi anche problemi più ordinari di governo dell’AI: opacità degli algoritmi, data poisoning, amplificazione dei pregiudizi esistenti, uso improprio delle informazioni personali e difficoltà nell’attribuire responsabilità quando una decisione viene automatizzata. Dietro questi problemi ne individua uno più generale: la tecnologia si sta sviluppando a una velocità che leggi, norme etiche e sistemi di regolamentazione faticano a seguire.

Questo è un punto comune a molte posizioni, con il dibattito avviato nei giorni scorsi dalle stesse società hi-tech che invitano a una riflessione profonda, quasi un freno allo sviluppo, e l’amministrazione Trump che critica questa linea – con il presidente Donald Trump che la chiama “malata cospirazione” – incrociando una linea simile tenuta dal ministero degli Esteri cinese, che reagendo alle profonde perplessità espresse dalle società AI statunitensi le ha attaccate: “Allarmismo e preoccupazione non fanno altro che ostacolare il processo di governance globale dell’intelligenza artificiale”, ha detto la portavoce in conferenza stampa. Per Pechino, quell’allarmismo serve a quelle aziende per frenare lo sviluppo e impedire ai competitori cinesi di colmare il gap attuale.

Nessun rallentamento per il Partito/Stato è possibile, ed è lo stesso ministro nella sua analisi a spiegare il perché: alla Repubblica Popolare serve controllare il processo mentre avviene, sia sul piano civile (risvolto sociale), sia economico-commerciale, sia su quello politico e infine militare. Le implicazioni diventano direttamente strategiche. Chen descrive il passaggio verso un’era di “intelligentizzazione” nella quale gli algoritmi avranno un peso crescente nella capacità di raccogliere informazioni, formulare valutazioni e identificare gli obiettivi delle forze armate. L’AI, nella sua descrizione, sta già andando oltre una funzione di supporto e assume un ruolo più centrale nella fusione dell’intelligence, nei processi decisionali, nell’identificazione dei target, nelle operazioni militari e nella guerra cognitiva.

Letti nel loro insieme, i sei rischi suggeriscono che Pechino non considera l’AI come un settore tecnologico separato dalle altre dimensioni della sicurezza nazionale. Informazione politica, infrastrutture digitali, dati, dipendenze tecnologiche, ordine sociale e capacità militari appartengono alla stessa valutazione strategica perché dipendono, in misura crescente, dalla possibilità di controllare sistemi algoritmici e le risorse che li alimentano.

La risposta indicata da Chen segue questa impostazione. Il ministro chiede di rafforzare il “controllo del Partito su internet” e il “controllo del Partito sui dati” e di trasformare i vantaggi della leadership del Partito nell’efficacia della governance dell’AI. Tutt’altro che accettare di rallentare lo sviluppo della tecnologia, cerca piuttosto di stabilire le condizioni politiche entro le quali quello sviluppo possa avvenire.

La rivalità con gli Stati Uniti è presente soprattutto nella preoccupazione per controlli tecnologici, standard, capacità di calcolo ed ecosistemi chiusi. Ma l’articolo di Chen suggerisce una questione precedente alla competizione tra le due potenze. Per Pechino, acquisire capacità avanzate nell’intelligenza artificiale avrà un valore limitato se comporterà una perdita di controllo sui dati, sull’informazione, sul processo da cui quelle capacità dipendono.

È qui che la politica dell’AI incontra la logica della sicurezza del Partito. La Cina vuole sviluppare una tecnologia destinata ad avere un peso crescente nell’economia, nell’intelligence e nella guerra, mentre cerca contemporaneamente di definire chi possa utilizzarla, quali dati possa processare e quali informazioni possa produrre e distribuire. Nell’impostazione di Chen, il successo nella corsa all’AI dipenderà anche dalla capacità di mantenere quel confine.