Le navi che l’algoritmo non vedeva. Così l’IA può negare la realtà

Lunedì 5 ottobre, intorno alle 10.30 del mattino, il centro di coordinamento del soccorso marittimo di Costanza riceve una richiesta d’aiuto: un mercantile carico di mais ucraino, partito da Izmail e diretto a Ravenna, è in fiamme a una trentina di miglia da Sfântu Gheorghe, nella zona economica esclusiva romena. Si chiama Royad Mammadov, batte bandiera di Saint Kitts e Nevis, ha armatori e gestori turchi e un equipaggio azero e indiano. Affonderà poche ore dopo, con due morti a bordo, tra cui il comandante. All’alba del giorno successivo tocca alla Bulgaria: droni aerei e di superficie colpiscono due mercantili nella sua zona economica esclusiva. La Alfa Watan cola a picco e del suo equipaggio non si troverà traccia; la Able, battente bandiera di Palau e carica di grano, resta in fiamme con la sala macchine allagata. Una settimana più tardi, nella notte tra il 12 e il 13 ottobre, lo schema si ripete al largo di Krapets, con un’altra nave affondata, undici marinai dispersi e la Chelsea 3 condotta a Varna con l’equipaggio salvo.

Nelle prime ore di questa sequenza ho fatto una prova semplice. Ho sottoposto a un assistente di intelligenza artificiale generativa le informazioni che cominciavano a circolare, con i nomi delle navi coinvolte, chiedendo di verificarle. La risposta è stata secca: si tratta di una bufala, la notizia è inventata. Mentre il governo di Sofia convocava una riunione d’urgenza e Bruxelles esprimeva preoccupazione, la macchina a cui un numero crescente di persone si affida per orientarsi negava che tutto ciò fosse accaduto.

Un errore senza bisogno di inganno

Ricostruendo i fatti a mente fredda, emerge un dettaglio che rende l’episodio ancora più istruttivo. I nomi che avevo fornito non erano storpiati. Royad Mammadov, Alfa Watan e Able sono le navi effettivamente colpite, identificate dalle autorità romene e bulgare e riportate dalle principali agenzie internazionali. Il modello non è stato ingannato da un dettaglio falso: ha dichiarato falso un dettaglio vero.

Le cause probabili sono banali, e proprio per questo inquietanti. Un modello linguistico conosce il mondo fino a una certa data; ciò che accade dopo può raggiungerlo solo attraverso una ricerca in rete, che non sempre viene attivata e che, nelle prime ore di una crisi, restituisce poco o nulla. Non trovando riscontri, il sistema non ha detto “non lo so”, né “non posso ancora verificarlo”. Ha trasformato l’assenza di prove in prova dell’assenza, e l’ha consegnata con il tono perentorio di un verdetto. L’errore non sta nella mancanza di informazioni, che è inevitabile, ma nella sicurezza con cui la lacuna è stata colmata.

C’è poi una seconda fragilità, che riguarda le fonti stesse. Nelle prime ore le informazioni erano contraddittorie anche nei circuiti professionali: per la nave affondata il 13 ottobre alcune testate hanno indicato la Azov Concord, altre la Dignity, registrata in Guinea-Bissau. Le banche dati marittime pubbliche, che un sistema automatico potrebbe interrogare, non sono un registro notarile: per la stessa Royad Mammadov, che in passato navigava con un altro nome, alcuni servizi riportano la bandiera di Saint Kitts e Nevis e altri quella liberiana, con posizioni incompatibili tra loro. Un algoritmo che tratta la corrispondenza esatta come criterio di verità, in un ambiente informativo strutturalmente rumoroso, è destinato a produrre falsi negativi proprio quando la posta in gioco è più alta.

La vulnerabilità che interessa a Mosca

Non ho elementi per sostenere che questo specifico errore sia stato provocato da un’operazione ostile, e sarebbe scorretto suggerirlo. Ma l’episodio illumina con precisione il terreno su cui si muovono gli apparati di guerra informativa del Cremlino, che da tempo hanno capito come l’intelligenza artificiale sia diventata uno snodo dell’ecosistema informativo occidentale.

Il caso più documentato è la rete nota come Portal Kombat o “Pravda”, individuata nel febbraio 2024 dall’agenzia francese Viginum e ricondotta a una società informatica con sede nella Crimea occupata. Non produce contenuti originali: ricicla in decine di lingue materiali dei media di Stato russi e di canali filo-Cremlino, attraverso centinaia di domini automatizzati. Nel 2024 ha pubblicato circa 3,6 milioni di articoli, con una diffusione umana trascurabile. Il pubblico, infatti, non sono le persone ma i sistemi che indicizzano la rete. NewsGuard ha verificato che dieci dei principali assistenti di IA riproponevano le narrazioni della rete in circa un terzo dei casi, citandone talvolta gli articoli come fonti; l’American Sunlight Project ha definito questa tecnica LLM grooming, adescamento dei modelli linguistici. A questo si aggiungono le campagne di tipo Doppelgänger, fondate sulla clonazione di testate autorevoli, documentate dal 2022 e oggetto di sanzioni europee.

Il punto, però, è che il nostro episodio mostra la faccia speculare della stessa medaglia. Le operazioni di grooming puntano a far affermare il falso alle macchine. Qui la macchina ha negato il vero da sola, senza che nessuno dovesse spendere un rublo. Per un avversario interessato a erodere la fiducia, un sistema che liquida come bufala un attacco reale contro la navigazione civile in acque di un Paese della Nato è un alleato involontario: abbassa la percezione della minaccia, confonde il quadro nelle ore decisive e offre materiale pronto a chi vuole sostenere che le accuse a Mosca sono costruite ad arte. Si può persino immaginare un uso deliberato della debolezza: immettere in rete versioni leggermente alterate di un fatto vero, con nomi o luoghi sbagliati, per indurre i sistemi automatici a classificare l’intero evento come falso. È un’ipotesi da verificare, non un fatto accertato, ma è coerente con un repertorio che fa della saturazione e dell’ambiguità la propria cifra.

Quanto conta davvero

Occorre misura anche nel valutare la portata del fenomeno. Non è vero che la maggioranza delle persone abbia già sostituito i motori di ricerca con gli assistenti di IA. Secondo il Digital News Report 2026 del Reuters Institute, l’uso settimanale dei chatbot per informarsi è salito dal 7 al 10 per cento a livello globale e solo l’1 per cento li considera la propria fonte principale; tra i 18 e i 24 anni la quota arriva al 17 per cento. Sono numeri ancora contenuti, ma il dato che dovrebbe preoccupare è un altro: appena il 4 per cento degli utenti dichiara di cliccare spesso sulle fonti originali indicate dall’assistente. La risposta sintetica tende a sostituire la verifica, non a guidarla. Inoltre, circa un terzo di chi usa questi strumenti per le notizie chiede loro proprio di valutare l’affidabilità di una fonte o di una voce. È esattamente l’uso che ho fatto io, ed è esattamente quello in cui l’errore produce più danni.

La crescita è rapida, è concentrata tra i giovani e tra chi ha posizioni politiche più radicali, e procede insieme all’integrazione dell’IA nei motori di ricerca, che espone a risposte sintetiche anche chi non le ha cercate. La vulnerabilità che oggi riguarda una minoranza riguarderà domani la maggioranza: conviene affrontarla adesso, mentre i comportamenti si stanno formando.

Il dividendo del dubbio

Robert Chesney e Danielle Citron hanno chiamato liar’s dividend, il dividendo del bugiardo, il vantaggio che un ambiente saturo di falsi offre a chi vuole negare il vero: se tutto può essere contraffatto, ogni prova scomoda può essere liquidata come contraffazione. L’intelligenza artificiale aggiunge un elemento nuovo. Non è più soltanto l’attore interessato a gridare al falso; è un sistema percepito come neutrale e competente, consultato proprio per sciogliere i dubbi, che può produrre lo stesso effetto per difetto di progettazione.

Qui sta il nucleo della questione per chi si occupa di guerra cognitiva. La propaganda russa contemporanea, che gli analisti della Rand hanno descritto come un “idrante di falsità” ad alto volume e bassa coerenza, non mira a convincere di una tesi precisa. Mira a rendere costosa la distinzione tra vero e falso, finché il cittadino rinuncia a farla. Peter Pomerantsev ha condensato questa condizione nel titolo di un libro dedicato alla Russia di Putin, Nothing Is True and Everything Is Possible. Un assistente che nega un fatto vero, e che magari il giorno dopo lo conferma, non fa che alimentare la stessa sfiducia generalizzata: se nemmeno la macchina sa, perché dovrei credere a qualcuno?

Che cosa fare

Le contromisure non sono misteriose, ma richiedono di essere pretese. Ai produttori di sistemi di IA va chiesto di trattare le notizie recenti come una categoria a rischio: quando un evento cade oltre l’orizzonte delle conoscenze del modello o non trova riscontri immediati, la risposta corretta è dichiarare l’incertezza, non emettere una sentenza. L’assenza di risultati non è una smentita, e un sistema che si propone come strumento di verifica dovrebbe saperlo distinguere. Allo stesso modo, la tracciabilità delle fonti e la resistenza ai circuiti di riciclaggio come la rete Pravda dovrebbero diventare requisiti verificabili, nell’ambito degli obblighi che il quadro europeo già impone ai fornitori di modelli di uso generale.

Alle istituzioni spetta un compito di comunicazione tempestiva e strutturata. Nelle prime ore di una crisi la versione ufficiale, con nomi, coordinate e identificativi delle navi, dovrebbe essere pubblicata in formati facilmente leggibili anche dalle macchine, così da ridurre lo spazio che il rumore e la manipolazione occupano. Ai cittadini, infine, va restituita un’abitudine antica: risalire alle fonti, confrontarle, diffidare delle risposte troppo nette su fatti troppo recenti. L’alfabetizzazione all’IA non è un capitolo della formazione tecnologica, ma della sicurezza nazionale.

Hannah Arendt scriveva che il suddito ideale dei regimi totalitari non è il convinto, ma chi non sa più distinguere tra fatto e finzione. Nel Mar Nero sono affondate navi vere e sono morti marinai veri. Il fatto che uno strumento consultato da milioni di persone potesse dichiararlo inventato, senza alcun bisogno di essere ingannato, ci dice quanto sia fragile la linea che separa una società informata da una società disorientata. Difenderla è parte della difesa, a pieno titolo.