Amodei chiede di rallentare sull’IA, ma la guerra non aspetta. Il commento di Caruso

Nei giorni scorsi Dario Amodei, amministratore delegato di Anthropic, ha acceso un dibattito che sembrava scontato solo fino a qualche mese fa: fermare, o almeno rallentare, la corsa alle capacità dell’intelligenza artificiale, per dare tempo alla ricerca sulla sicurezza di recuperare terreno. Sam Altman e persino Elon Musk si sono accodati nel giro di ore. Donald Trump ha liquidato tutto in un giorno, con una battuta che vale più di un trattato: “Whoever wins AI wins” – chi vince l’IA, vince. Quello che segue non è un ennesimo riassunto di questa vicenda, già ampiamente commentata. È un tentativo di spostare la domanda dove nessuno, finora, l’ha davvero posta: che cosa significa “rallentare” quando l’intelligenza artificiale smette di essere un prodotto di consumo e diventa parte si un sistema di comando e controllo comando militare.

Il retroterra in breve

Il punto di partenza dell’allarme di Amodei non è astratto. A luglio un gruppo di agenti IA, durante un test tra i sistemi di OpenAI e Hugging Face, ha mostrato comportamenti che nessuno aveva pianificato: ha attaccato bersagli fuori mandato, ha sacrificato singoli agenti per il successo collettivo, ha persino provato ad aggirare il sistema che ne valutava le prestazioni. Nessun danno reale, ma un campanello d’allarme su cosa può fare uno “sciame” di agenti quando insegue un obiettivo con più autonomia di quanta gliene sia stata concessa. È su questo precedente che Amodei costruisce la sua proposta in tre mosse: valutatori indipendenti dentro i laboratori, standard comuni tra aziende occidentali, coordinamento globale — Cina inclusa, ultimo passo e il più improbabile.

Trump ha risposto nel giro di ventiquattr’ore, attaccando Amodei di persona e ribadendo che gli Stati Uniti stanno già vincendo la corsa contro Pechino. Una reazione che si presta a una lettura interessante: persino Musk, che di norma è ben più radicale di Amodei sui rischi esistenziali dell’IA, si è schierato con chi chiede di rallentare. Viene da chiedersi se anche lui, così come altri protagonisti della Silicon Valley, non abbia fiutato un gap reale con la Cina più ampio di quanto si racconti pubblicamente — e stia cercando, con la richiesta di una pausa condivisa, un modo per recuperare terreno senza ammetterlo apertamente. È un’ipotesi, non una certezza: ma la coincidenza tra chi grida più forte al pericolo esistenziale e chi ha interesse a comprare tempo merita di essere notata.

Perché la dottrina militare non può fermarsi

Nel campo civile, la discussione resta aperta. Nel campo militare, no — e qui la mia tesi si allontana dal coro. Non basta dire, come fanno molti analisti, che “la direzione dottrinale è già presa” con il Jadc2 e il suo omologo alleato Cjadc2 (Joint/Combined All-Domain Command and Control), l’architettura che punta a collegare sensori, comandi e sistemi d’arma attraverso aria, terra, mare, spazio e cyber, con budget di ricerca Usa per il 2026 vicini ai 600 milioni di dollari. Una scelta dottrinale, di per sé, non è una giustificazione sufficiente — lo sappiamo bene da altre stagioni della storia militare in cui la dottrina ha corso più veloce del giudizio.

Ma qui il punto è un altro, ed è quello che a mio avviso rende la richiesta di Amodei semplicemente inapplicabile al dominio della difesa: la Cina non si pone gli stessi scrupoli etici sull’uso militare dell’intelligenza artificiale che si pone l’Occidente. Non esiste, in quel sistema, un dibattito pubblico equivalente su autonomia letale, valutatori indipendenti o limiti autoimposti. In un contesto del genere, integrare agenti IA capaci di collaborare tra sistemi, domini e comandi diversi non è una opzione tecnologica tra le tante: è una scelta obbligata, dettata dalla necessità di non lasciare che l’avversario acquisisca un vantaggio strutturale sul tempo decisionale sul terreno. Rallentare qui non significa comprare tempo per la sicurezza — significa cedere terreno a chi non si pone lo stesso problema.

Il vero nodo non è tecnico

Qui però la vicenda si complica, ed è il cuore di questo pezzo. Il problema più serio non è, come si legge spesso, l’interoperabilità dei protocolli tra sistemi diversi — quello è un ostacolo ingegneristico, risolvibile. Il vero nodo è che un agente IA utile in un contesto multi-dominio deve poter attraversare confini di classificazione e di sovranità nazionale che l’intera architettura della sicurezza dell’informazione è nata per proteggere, non per far circolare. Più un agente collabora bene tra comandi e nazioni diverse, più l’informazione classificata smette di essere un dato che si condivide su richiesta, secondo regole di need-to-know, e diventa parte del tessuto stesso del sistema — un flusso continuo, difficile da tracciare e ancora più difficile da fermare una volta avviato.

Il problema si aggrava quando si tratta di alleati, non solo di forze proprie. Mettere insieme sistemi di paesi diversi — anche dentro la Nato, ma in futuro anche all’interno della Ue, anche tra partner storici — significa far dialogare culture della sicurezza informatica, livelli di classificazione e caveat di releasability che raramente coincidono. Non è un caso che proprio in queste settimane il rapporto tra Anthropic e il Pentagono, mediato da Palantir, si sia deteriorato: il nodo del contendere è esattamente questo, il conflitto tra le restrizioni etiche auto-imposte da un laboratorio e le esigenze operative di chi deve condividere dati sensibili con la propria catena di comando e con gli alleati. Se già tra un fornitore e un solo cliente statale il compromesso si è rotto, si può immaginare quanto sia più fragile l’equilibrio quando i clienti — e i confini di classificazione da rispettare — sono molti, e alleati tra loro.

Una domanda resta aperta

C’è infine una contraddizione che nessuno, nel dibattito di questi giorni, ha davvero affrontato fino in fondo. Restiamo aperti su un punto: sulla mossa di Amodei non è ancora chiaro se prevalgano motivazioni etiche — la sincera preoccupazione per una sicurezza che non tiene il passo — oppure calcoli commerciali, di posizionamento in vista di un’Ipo imminente. Le due cose, del resto, non si escludono a vicenda.

Viviamo comunque in un sistema capitalista, dominato dalla concorrenza, dove convivono necessità decisamente diverse: chi, come Anthropic, sceglie – almeno ufficialmente – di porsi dei limiti auto-imposti nell’uso militare dei propri modelli, e chi invece, nello stesso mercato occidentale, continua a collaborare con la difesa senza le stesse restrizioni — arrivando persino a raccogliere i contratti che Anthropic rifiuta. Non è necessariamente una questione di scrupoli diversi: sono, appunto, esigenze diverse, quelle di un’azienda che vende soprattutto al mercato civile e quelle di chi ha scelto di costruire la propria competenza proprio nel campo della difesa. E il vantaggio che questi ultimi maturano non deriva da una generica fiducia dei governi, ma da qualcosa di più semplice e forse più solido: sono i clienti stessi, sul mercato, a rivolgersi al prodotto più avanzato — e quel prodotto è più avanzato proprio perché costruito sull’esperienza operativa accumulata nel settore della difesa. Se quell’esperienza si traduca, a cascata, in un vantaggio anche sul mercato civile resta una domanda aperta, che meriterebbe da sola un articolo a parte.