Usa e Cina cercano un telefono rosso per l’AI

C’è una parola pronunciata domenica a New York dal segretario al Tesoro americano, Scott Bessent, che potrebbe rivelarsi più importante delle discussioni sui dazi, sulle terre rare e persino della tregua commerciale fra Stati Uniti e Cina in scadenza il 10 novembre. La parola è “notification”.

Bessent e il vicepremier cinese He Lifeng hanno discusso la possibilità di creare un meccanismo attraverso il quale Stati Uniti e Cina possano avvertirsi reciprocamente quando un incidente provocato dall’intelligenza artificiale raggiunga dimensioni tali da coinvolgere la sicurezza nazionale. La proposta dovrebbe ora arrivare sul tavolo di Donald Trump e Xi Jinping, attesi al vertice di Washington questa settimana.

Per capire perché conta bisogna partire da ciò che questo meccanismo non sarebbe. Non sarebbe un accordo fra Stati Uniti e Cina per rallentare lo sviluppo dell’intelligenza artificiale. Trump considera esplicitamente il primato nell’AI una competizione che l’America deve vincere. Non sarebbe neppure un compromesso sulle restrizioni americane all’esportazione verso la Cina delle tecnologie più avanzate: il rappresentante per il Commercio, Jamieson Greer, ha precisato che gli export controls sull’AI non sono stati discussi.

Washington, insomma, vuole continuare a correre e vuole impedire a Pechino di raggiungerla dove può. Pechino vuole esattamente il contrario. Eppure le due potenze stanno scoprendo che proprio la corsa rende necessario parlarsi. “Vogliamo una visione condivisa degli obiettivi comuni e delle minacce comuni”, ha detto Bessent dopo l’incontro. Il punto, secondo il segretario al Tesoro, è passare dall’opacità a una maggiore trasparenza fra “la numero uno e la numero due” fra le potenze mondiali dell’intelligenza artificiale.

È una formulazione importante perché individua forse il terreno sul quale una cooperazione sino-americana sull’AI è realmente possibile. Non sulle capacità. Non sul vantaggio tecnologico. Non sui semiconduttori che permettono di addestrare i modelli più avanzati. Su questi terreni la competizione continuerà.

Il possibile spazio comune riguarda invece le conseguenze che nessuna delle due potenze è sicura di poter controllare. Immaginiamo un agente AI sviluppato negli Stati Uniti che penetri autonomamente in un’infrastruttura digitale cinese. Oppure un sistema cinese che inizi a operare all’interno di reti americane. O ancora un modello utilizzato da un attore non statale per condurre un’operazione informatica contro infrastrutture critiche.

La prima domanda di Washington sarebbe inevitabile: è un incidente o un attacco cinese? E quella di Pechino sarebbe identica a parti invertite. È qui che nasce il problema della notifica. Un canale permanente potrebbe consentire alle due parti di comunicare rapidamente durante un incidente, confrontare alcune informazioni tecniche e soprattutto ridurre il rischio che un comportamento autonomo di una macchina, un errore o l’azione di un terzo venga interpretato come un’operazione deliberata dello Stato avversario.

Il Carnegie ha proposto proprio in questi giorni un modello simile: una sorta di hotline per l’AI, permanentemente presidiata anche da personale tecnico e capace di scambiare, quando necessario, dati digitali utili a ricostruire un incidente.

Non sarebbe una soluzione al problema della sicurezza dell’intelligenza artificiale, ma qualcosa di più limitato e, proprio per questo, forse realizzabile: un meccanismo di gestione delle crisi. La tentazione di chiamarlo “telefono rosso” è inevitabile, ma l’analogia con la Guerra fredda funziona solo fino a un certo punto. Stati Uniti e Unione Sovietica svilupparono meccanismi di comunicazione e controllo degli armamenti perché entrambi possedevano la capacità di distruggere l’altro. La deterrenza nucleare aveva inoltre una caratteristica fondamentale: gli arsenali erano essenzialmente controllati dagli Stati. L’intelligenza artificiale è diversa.

Le tecnologie più avanzate vengono sviluppate principalmente da imprese; i modelli possono essere utilizzati da individui e organizzazioni non statali; gli agenti autonomi possono compiere sequenze di azioni che i loro stessi sviluppatori non avevano previsto nel dettaglio; un incidente informatico può attraversare una frontiera senza che sia immediatamente chiaro chi ne sia responsabile.

Per questo l’AI potrebbe richiedere non tanto un nuovo trattato sul modello degli accordi nucleari quanto qualcosa di più pragmatico: procedure comuni per distinguere un incidente da un atto ostile. È una differenza enorme, e spiega perché Washington possa contemporaneamente limitare l’accesso cinese ai chip più avanzati e proporre a Pechino un sistema di comunicazione sugli incidenti AI. Non c’è necessariamente contraddizione: una politica riguarda la competizione; l’altra il rischio prodotto dalla competizione.

Anche per questo sarebbe prematuro, irrealistico, ingenuo immaginare un grande accordo sino-americano sulla governance dell’intelligenza artificiale. Le differenze politiche, economiche e strategiche sono troppo profonde. E soprattutto nessuna delle due parti vuole accettare regole che possano rallentarla mentre sospetta che l’altra continui a correre. Il terreno realistico è molto più stretto: serve dunque trovare un minimo comune denominatore.

La Brookings suggerisce che un dialogo iniziale dovrebbe concentrarsi sui rischi tecnici condivisi — sicurezza informatica, utilizzi pericolosi legati alle armi, affidabilità dei modelli — lasciando fuori proprio le questioni sulle quali gli interessi strategici sono direttamente contrapposti, dagli export controls all’accesso ai modelli americani. Carnegie parla invece di “AI safety in parallel”: non chiedere a Washington e Pechino di fidarsi reciprocamente, ma permettere a ciascuna di capire meglio come l’altra valuta e gestisce determinati rischi. È una distinzione importante: la fiducia fra Stati Uniti e Cina oggi è scarsa e difficilmente un tavolo sull’AI la ricostruirà. Ma la prevedibilità è un obiettivo diverso. Si può non credere alle intenzioni dell’avversario e contemporaneamente avere interesse a sapere chi chiamare quando qualcosa va storto.

È in questo senso che anche il resto dei negoziati economici di New York assume un significato diverso. Washington e Pechino continuano a scontrarsi sulle terre rare, la tregua commerciale resta da prorogare, gli Stati Uniti non intendono rinunciare alle restrizioni sulle tecnologie strategiche, ma parallelamente stanno rendendo operativo un Board of Trade per individuare beni non sensibili sui quali sia possibile ridurre le barriere commerciali.

La stessa filosofia sembra lentamente emergere sull’intelligenza artificiale: separare ciò su cui bisogna competere da ciò su cui bisogna evitare di perdere il controllo. È probabilmente questo il massimo oggi politicamente possibile fra Washington e Pechino. Gli Stati Uniti non rinunceranno alla corsa per mantenere il vantaggio tecnologico; la Cina non rinuncerà all’obiettivo di colmarlo. Nessuno dei due governi ha interesse a trasformare il dialogo sulla sicurezza in uno strumento attraverso il quale l’altro possa limitarne lo sviluppo.

Ma entrambi possono avere interesse a impedire che un agente autonomo, un cyberattacco condotto attraverso l’AI, un modello fuori controllo o l’azione di un attore non statale producano una crisi fra le due maggiori potenze mondiali. La vera domanda del vertice Trump-Xi, dunque, non è se Stati Uniti e Cina possano mettersi d’accordo sull’intelligenza artificiale – perché probabilmente non possono, almeno non nel senso tradizionale del termine – è piuttosto se possano costruire regole minime della competizione prima che la tecnologia diventi abbastanza potente da imporle dopo una crisi.

Il notification mechanism proposto da Washington è ancora poco più di un’idea e Pechino non ha finora pubblicamente accettato i suoi termini. Ma contiene un principio che potrebbe diventare molto più importante dell’accordo stesso: nell’era dell’intelligenza artificiale, la sicurezza potrebbe dipendere non dall’avere meno competizione fra Stati Uniti e Cina, ma dall’impedire che quella competizione diventi completamente opaca.