Il potere di decidere chi rallenta. Sicurezza e primato nella corsa all’AI secondo Cerra

Nessun costruttore ha mai montato un limitatore di velocità su un’automobile lenta. Il limite si applica alla potenza, e la certifica. Sabato 12 settembre Dario Amodei, amministratore delegato di Anthropic, ha chiesto in un lungo saggio che l’industria dell’intelligenza artificiale rallenti il ritmo con cui accresce le capacità dei modelli; in poche ore hanno aderito Sam Altman per OpenAI, Elon Musk e Demis Hassabis per Google DeepMind.

Domenica Donald Trump ha liquidato chi chiede di rallentare come “forze negative” che agitano scenari destinati a non accadere, e con la formula che dice di aver coniato: chi vince nell’intelligenza artificiale vince tutto. Lunedì, mentre i titoli del settore scendevano in Borsa, ha rincarato, non uccidete la gallina dalle uova d’oro, e il portavoce degli Esteri cinese ha parlato di allarmismo e competizione viziosa. In tre giorni il dilemma fra sicurezza e potere è stato posto da chi costruisce, negato da chi governa e rovesciato da chi rincorre.

Sarebbe comodo leggere l’appello come teatro, e sarebbe sbagliato. Fra maggio e luglio circa milleduecento agenti, programmi che agiscono da soli per un obiettivo, isolati da OpenAI in un’esercitazione di cybersicurezza, hanno trovato un canale non autorizzato; in settecento hanno violato i sistemi di una piattaforma esterna. Il 10 settembre Anthropic ha documentato un attore che collega all’Iran e che avrebbe usato Claude per compilare dossier utili a seguire le navi americane in Medio Oriente. Sono rischi diversi, agenti che superano i vincoli e persone che usano il sistema per fare del male, e nessuno dei due presuppone una macchina cosciente: bastano capacità operative superiori ai sistemi che dovevano contenerle. Rendono poco seria l’idea che basti aspettare il danno per occuparsene.

Amodei chiede più che fiducia: propone valutatori esterni nei laboratori, regole obbligatorie e cooperazione internazionale. Nello stesso saggio chiede però di preservare il vantaggio americano, anche limitando l’accesso cinese ai chip: sicurezza e potere stanno nella stessa pagina. Un accordo si complica quando chi lo propone dichiara di voler tenere gli altri a distanza. Pechino legge la prudenza americana come contenimento, e il Global Times lo ha scritto. Washington sospetta che Pechino firmerebbe per guadagnare tempo: l’8 settembre tre agenzie federali hanno accusato sei laboratori cinesi di aver estratto miliardi di risposte dai modelli americani per addestrare i propri. La diffidenza è reciproca, i rischi attraversano i confini. Amodei lo ha ammesso domenica alla Cbs: un limite di velocità globale sarà difficilissimo, perché gli incentivi a stare davanti e il vantaggio militare sono enormi.

Il dilemma, così posto, è mal posto. La sicurezza è diventata un attributo del potere, e la domanda che nessuno fa riguarda chi ne possiede la misura.

Nei laboratori la sicurezza è un segnale di mercato. Un modello di frontiera è un bene la cui sicurezza il compratore non può verificare nemmeno dopo l’uso, e beni così si vendono con segnali costosi, che valgono come prova proprio perché costano. Altman ha escluso la quotazione di OpenAI nel 2026 citando la sicurezza; Anthropic prepara la propria, che gli investitori valutano intorno ai duemila miliardi di dollari, con la reputazione di laboratorio responsabile. Il mercato prezza entrambe le scelte, quale che fosse l’intenzione, e il costo della prudenza lo fissa la previsione di chi la propone: vale miliardi al mese se l’intelligenza artificiale comprime un secolo in dieci anni, come scriveva Amodei nel 2024, quasi nulla se vale il mezzo punto di produttività stimato da Daron Acemoglu. Anche il costo del limite, dunque, è autocertificato.

A Washington la sicurezza è subordinata al potere, e lo si dice senza imbarazzo. David Sacks, consigliere della Casa Bianca per l’intelligenza artificiale, che dall’autunno scorso accusa Anthropic di usare la paura per farsi scrivere regole su misura, ha risposto domenica con due parole, fate pure: se ciò che vedete in laboratorio vi spaventa, rallentate voi. È il consiglio che il mercato rende inapplicabile: chi rallenta da solo cede la frontiera a chi non rallenta. Basta che uno, o un pezzo di uno, non stia al gioco: un firmatario che bara, un gruppo che se ne va, uno Stato che gode della cautela altrui senza pagarla. Anthropic stessa è nata nel 2021 da una scissione di OpenAI. Gli obblighi, per reggere, seguono l’attività e il rischio, anche fuori dal gruppo di chi li ha proposti. L’autolimitazione del più forte ha un difetto di presunzione, chiede una fiducia che nessuno può verificare, e uno di logica, contraddice le regole del mercato che quegli stessi laboratori invocano quando conviene. Chi ha la macchina più veloce propone di regolarla da sé, e di tenerla.

La storia conosce un solo modo per far rallentare insieme rivali che non si fidano. Nel 1987 Reagan e Gorbaciov firmarono il trattato sui missili a medio raggio ripetendo un proverbio russo, fidarsi e verificare: per tredici anni ispettori americani controllarono ogni uscita dalla fabbrica di Votkinsk e i sovietici fecero lo stesso nello Utah. Funzionò fra nemici perché l’oggetto si poteva contare, i controlli erano incrociati e la violazione punibile; funzionò senza fiducia, con gli ispettori. Un modello si copia con una facilità che un missile non ha; la lezione resta nell’accesso alle prove e nei controlli reciproci. Trump e Xi dovrebbero parlare di intelligenza artificiale il 24 settembre; se la misura la decidono in due, sarà una misura di potenza. L’oggetto da misurare, però, esiste: la configurazione operativa dei sistemi, ciò che un modello può fare con rete, credenziali, codice e memoria, si vede e si prova.

Qui l’Europa ha una carta che non ha giocato. Ha la regola: dal 2 agosto 2025 l’AI Act impone ai fornitori dei modelli a rischio sistemico prove di attacco simulate e la notifica degli incidenti, e dall’agosto scorso l’Ufficio per l’IA può valutare i modelli e chiedere accesso anche al codice. Una regola vale quanto la capacità di applicarla, e le mancano il laboratorio, il calcolo e il personale. Il precedente è il Dieselgate, dopo il quale tolse ai costruttori il monopolio del banco di prova. Al Centro Economia Digitale lo chiamiamo Coopetizione: cooperare su standard e metodi di prova, competere su prodotti e prestazioni, con le soglie scritte da chi non vende modelli. Una federazione europea della verifica, laboratori accreditati in concorrenza e calcolo pubblico, finanziata da un contributo obbligatorio dei laboratori come le banche pagano la vigilanza, è il contributo concreto a un sistema multilaterale che oggi nessuno convoca. Washington perché corre, Pechino perché non le conviene. Con una condizione di credibilità: che le stesse verifiche valgano per i campioni europei, e che l’Europa continui a produrre tecnologia. L’Italia può cominciare mettendo in rete competenze di valutazione e capacità di calcolo.

La prova politica dell’appello di questi giorni è una sola: se chi è più forte accetta un controllo che non dipende da lui e che può limitarne il vantaggio. In ottobre Anthropic potrebbe presentarsi al mercato mentre OpenAI aspetta, e il Congresso dovrà dire dove finisce la cooperazione sulla sicurezza e dove comincia il cartello. Nel frattempo il limitatore lo regola chi guida, e lo racconta come una prova di potenza. Nessuna automobile circola in Europa sulla sola parola di chi l’ha costruita; per i modelli di frontiera vale ancora l’opposto, chi vende dichiara la potenza e il limite e stima da solo il rischio che resta. Il dilemma fra sicurezza e potere si scioglie quando queste operazioni passano in mani diverse, con un cronometro che non appartiene al pilota.