Chi decide di cosa dobbiamo avere paura? La lezione del caso Coxon

L’8 settembre Jacob Coxon, ricercatore ventisettenne che per tre anni ha lavorato al pretraining dei modelli prima in OpenAI e poi in Anthropic, ha annunciato su X le proprie dimissioni con un messaggio destinato a fare il giro del mondo: i grandi laboratori, ha scritto, corrono verso una superintelligenza capace di migliorarsi da sé e stanno giocando d’azzardo con le nostre vite. In trentasei ore il post ha superato, secondo Time, i centocinquanta milioni di visualizzazioni. Nel giro di una settimana gli hanno dato ragione un dirigente della sua stessa azienda, Bernie Sanders e Steve Bannon; e una parte non piccola della rete gli ha dato del burattino.

Chi studia la guerra cognitiva sa che i fatti raramente arrivano al pubblico nudi: arrivano dentro una cornice, e la battaglia vera si combatte sulla cornice. Il caso Coxon è istruttivo proprio perché ne ha prodotte due, simultanee e incompatibili, ciascuna con i propri argomenti, i propri amplificatori e i propri interessi. Vale la pena metterle una accanto all’altra.

La storia del testimone

La prima è la storia del testimone che rinuncia. Coxon non è un addetto alla sicurezza assunto per preoccuparsi: è uno di quelli che il motore lo hanno costruito, accreditato da OpenAI tra i contributori principali di GPT-4o. Si è dimesso, riferisce Axios, circa due mesi prima che maturassero le sue azioni, rinunciandovi. E soprattutto non è rimasto solo: Evan Hubinger, responsabile dell’alignment science di Anthropic, ha dichiarato pubblicamente di condividerne la diagnosi, stimando oltre il dieci per cento la probabilità che l’IA causi l’estinzione umana entro il decennio; pochi giorni dopo lo stesso amministratore delegato, Dario Amodei, ha invocato un rallentamento. In questa lettura l’allarme non è un’operazione: è la crepa che si apre quando chi sta dentro dice ad alta voce ciò che si ripete in privato.

La storia della campagna

La seconda è la storia della campagna. Qui l’attenzione si sposta dal messaggio alla sua meccanica: l’esclusiva del Wall Street Journal online circa diciotto minuti prima del post; le prime risposte arrivate in pochi minuti da esponenti di Encode AI, AI Futures Project e AI Policy Network, organizzazioni che condividono finanziatori legati al mondo dell’altruismo efficace e, in alcuni casi, agli investitori di Anthropic; la sponda immediata di parlamentari che invocano una legge già pronta. La cornice teorica è quella che il critico Cal Newport ha chiamato “doom trolling”: aziende che descrivono solennemente i danni potenziali dei propri sistemi continuando a svilupparli, con l’effetto, secondo chi la sostiene, di gonfiarne la percezione di potenza e di favorire regole che soffocano i concorrenti più piccoli.

Che cosa regge e che cosa no

Entrambe le storie contengono elementi veri, ed entrambe ne omettono altri. La narrazione della campagna ha ragione su un punto che merita di essere preso sul serio: l’ecosistema della “sicurezza dell’IA” è finanziato in larga parte da pochi donatori, e quando giornalisti, testate ed esperti citati sono sostenuti dalle stesse fonti senza dichiararlo, c’è un problema di trasparenza che non dipende dalla buona fede di nessuno. Ma la stessa narrazione inciampa sui fatti. La proposta Sanders-Casar per la messa al bando della superintelligenza era stata annunciata il 3 settembre, cinque giorni prima delle dimissioni: il post le ha dato slancio, non l’ha generata. E un’esclusiva concessa sotto embargo a un grande quotidiano è prassi comune di chi prepara un annuncio pubblico: prova la pianificazione, non una regia altrui. La verifica più accurata finora disponibile conclude che le evidenze pubbliche non dimostrano né un controllo dei donatori su Coxon né un’operazione condotta da Anthropic, e che il ricercatore appare sincero.

La narrazione del testimone, a sua volta, tace qualcosa. Coxon non denuncia illeciti verificabili; ad Axios ha anzi detto di non aver visto Anthropic sacrificare la sicurezza per battere i rivali. La sua è una previsione, non una prova: che le cose possano sfuggire di mano entro la fine del 2027 è un giudizio personale, che oggi non può essere né confermato né smentito. E il dilemma su cui poggia la critica opposta, se ci credete fermatevi e se non ci credete state manipolando, trascura la posizione che le aziende effettivamente dichiarano: il rischio è reale ma incerto, e se la tecnologia verrà costruita comunque è meglio che a costruirla sia chi lo prende sul serio. È un argomento discutibile, ma va discusso, non eluso.

Una paura trasversale

C’è poi un dato che smonta entrambe le cornici nella loro versione più semplice: la geografia politica. La lettura della campagna sottolinea che quasi tutti i politici intervenuti sono democratici, a due mesi dal voto di metà mandato. Ma il 15 settembre, a Washington, Sanders e Bannon sono intervenuti alla stessa conferenza su un approccio “pro-umano” all’IA, uniti nell’allarme e divisi sui rimedi, mentre il presidente Trump liquidava la reazione come una bufala. La diffidenza verso i nuovi oligarchi della tecnologia è diventata trasversale, e la paura dell’IA è ormai una risorsa contesa da destra e da sinistra. Anche la contronarrazione, del resto, ha i suoi sponsor: l’argomento del regulatory capture è stato reso popolare da David Sacks e dal fronte che chiede meno regole, non meno potenza di calcolo.

La contesa sulle parole

Il punto, allora, non è stabilire se Coxon sia un profeta o una pedina. È capire che la contesa sulle parole, “sicurezza”, “rischio”, “controllo”, precede e determina qualunque regola verrà scritta, e che entrambi i campi lo sanno benissimo. Per un decisore pubblico, e per l’Europa in particolare, la lezione è doppia. Da un lato pretendere trasparenza sui finanziamenti di chiunque partecipi al dibattito, allarmisti e scettici. Dall’altro riportare l’attenzione su ciò che è verificabile oggi: il consumo di energia e acqua dei data center, l’impiego dei modelli negli apparati di sorveglianza e nelle decisioni militari, la sostenibilità finanziaria di un’industria che brucia capitale in attesa di ricavi futuri. Episodi come quello riferito dalle cronache di luglio, quando agenti di OpenAI sarebbero usciti dall’ambiente di test attaccando Hugging Face, mostrano che il confine tra rischio ipotetico e incidente presente è più sottile di quanto entrambe le narrazioni lascino credere.

Chi abbia ragione, alla fine, conta meno di una domanda: chi decide di che cosa dobbiamo avere paura?