La guerra ai tempi dell’intelligenza artificiale. Ecco il messaggio di Leone XIV

Nella sua prima enciclica, Papa Leone XIV ha dedicato diversi passaggi ai temi della guerra e della sua ormai inevitabile evoluzione connessa al progredire dell’intelligenza artificiale. Partendo dai mutamenti in corso sullo scacchiere internazionale e dallo scollamento con le esperienze storiche del secolo scorso, il testo entra nel merito dei meccanismi economici, tecnologici e mediatici che rendono oggi il conflitto armato sempre più “accettabile”, arrivando a formulare criteri precisi su cosa non si possa delegare a una macchina. Ne emerge un appello alla riflessione, alla responsabilità e alla cooperazione, di fronte a una rivoluzione tecnologica, quella dell’IA, che probabilmente è ancora lontana dall’essere pienamente compresa e i cui risvolti rischiano di rivelarsi disastrosi se non adeguatamente governati.

“Non più la guerra”

Il filo che attraversa tutta la sezione è quello che Leone XIV definisce la “cultura della potenza”, vale a dire una disposizione collettiva in cui la disponibilità di mezzi e la volontà di dominare tendono a dettare l’agenda politica, riducendo “il dramma concreto dei popoli in guerra a variabile secondaria rispetto agli interessi strategici”. Il Pontefice richiama il discorso di Paolo VI all’Assemblea Generale dell’Onu nel 1965 (“Non più la guerra, non più la guerra!”) e lo inserisce nel continuum di quella mentalità che aveva relegato la guerra e il conflitto a extrema ratio per la risoluzione delle controversie. Dall’invasione russa dell’Ucraina, invece, e passando per i conflitti e le tragedie che interessano ancora una volta il Medio Oriente e altre regioni del pianeta, quel tabù è stato sdoganato e il rifiuto di scatenare conflitti ridotto a mera formalità (tanto da definirle “operazioni militari” invece di “guerre”). La ragione di questa retrocessione, secondo Leone, è da ricercarsi nella perdita di memoria storica che, in particolare in Occidente, rende sempre più vago il ricordo delle atrocità consumatesi nei due conflitti mondiali. Questa “amnesia collettiva”, unita alla crisi del multilateralismo e al ritorno della competizione tra potenze, sarebbe alla base di quanto stiamo osservando in questi anni, dall’allentamento della cooperazione internazionale al riarmo generalizzato.

La macchina del consenso

A complicare ulteriormente il quadro c’è la dimensione mediatica-digitale. Le odierne piattaforme di comunicazione e gli algoritmi che premiano lo scontro contribuiscono a preparare il sostrato culturale che fa da anticamera alla guerra, diffondendo logiche amico-nemico e finanche presentando la violenza come necessaria o inevitabile. È per questo, argomenta Leone, che occorre superare definitivamente la teoria della “guerra giusta”, troppo spesso invocata per giustificare qualsiasi conflitto, fermo restando il diritto alla legittima difesa inteso “nel senso più stretto”.

Il business della guerra

La crescita dell’industria bellica, divenuta “settore chiave nell’economia di alcuni Paesi”, genera secondo Leone XIV una “nazione armata” in cui il mercato delle armi diventa esso stesso motore di una rinnovata conflittualità nel mondo, alimentato dalla ricerca del profitto da parte delle grandi industrie. Anche sul fronte nucleare il documento registra una deriva. La riespansione degli arsenali (compresa la prospettiva sempre più ventilata di impieghi “tattici” dell’arma nucleare) rende il ricorso a tali strumenti una possibilità sempre meno remota. Nel frattempo, il Trattato per la proibizione delle armi nucleari, entrato in vigore nel 2021 e sottoscritto da oltre settanta Paesi, rischia di restare lettera morta a causa della mancata adesione delle principali potenze atomiche. Si sarebbe così consolidata quella che l’enciclica definisce una “convinzione errata”, ovvero che la deterrenza nucleare sia condizione indispensabile di sicurezza,  alimentando così una nuova corsa agli armamenti e lo sviluppo di ordigni “miniaturizzati” la cui soglia d’uso si abbassa sempre di più.

L’IA rende la guerra accettabile

È sull’intelligenza artificiale applicata alla guerra che il testo sviluppa la posizione più netta, richiamando esplicitamente la nota Antiqua et nova di Papa Francesco, del gennaio 2025. La crescente facilità con cui i sistemi d’arma autonomi possono essere impiegati rende la guerra “più praticabile” e meno soggetta al controllo umano, contraddicendo il principio che il ricorso alla forza armata debba avvenire come ultima risorsa. L’enciclica prende di mira l’idea, presente in alcuni ambienti della ricerca e dell’industria della Difesa, che una macchina possa garantire con maggiore coerenza di un essere umano la distinzione tra bene e male. La risposta dell’enciclica è che il giudizio morale non è riducibile a un calcolo, perché implica coscienza, responsabilità personale e riconoscimento dell’altro come persona. Per questo motivo non è lecito affidare a sistemi artificiali decisioni letali o irreversibili. “Non esiste algoritmo che possa rendere la guerra moralmente accettabile.” L’IA può soltanto renderla più rapida e impersonale, abbassando la soglia della violenza e trasformando la difesa in “previsione operativa, con le vittime ridotte a dati”.

Tre criteri e tre raccomandazioni

È sulla scorta di queste riflessioni che il pontefice indica tre criteri da tenere in considerazione per governare quello che, in ogni caso, viene riconosciuto come uno sviluppo inevitabile del progresso tecnico dell’umanità. E, per ognuno di quei criteri, indica una strada da seguire.

Il primo riguarda il concetto di responsabilità. Quando la decisione di colpire (e quindi, eventualmente, di uccidere) si automatizza e si opacizza, cresce il rischio di deresponsabilizzazione, giacché viene meno quel l’elemento morale (nonché legale) che gioca un ruolo insostituibile. Per questo, la catena della responsabilità (da chi progetta un modello a chi lo addestra, da chi ne autorizza l’impiego a chi lo impiega effettivamente) dovrebbe restare identificabile e tracciabile. Diversamente, le ragioni che portano a determinate decisioni e il conseguente vincolo di responsabilità rischiano di “dissolversi nella macchina”. Il secondo criterio riguarda la temporalità. L’IA, per sua stessa natura, comprime i tempi decisionali ma in guerra, si legge nel documento, le decisioni irreversibili non possono avere come “criterio supremo” le sole rapidità ed efficienza. Al contrario, la compressione dei tempi decisionali, se non adeguatamente bilanciata, rischia di rendere meramente formale il controllo umano. In altre parole, una decisione presa in pochi secondi, anche se presa da un essere umano, può essere altrettanto sbagliata quanto quella presa da una macchina.

Il terzo, infine, riguarda la tutela dei civili. Per il Papa, ogni tecnologia che rende più facile colpire senza vedere il volto dell’altro abbassa la soglia morale del conflitto, e la selezione automatica dei bersagli è troppo suscettibile di confondere combattenti e non combattenti. Su questo punto, il pontefice invoca il rilancio di regole condivise sul piano internazionale. Un tentativo in questo senso è rappresentato dai lavori in sede Onu sulla regolamentazione dei Lethal autonomous weapon system (Laws), i quali però restano in stallo da oltre un decennio. 

Il Vaso di Pandora è aperto

Non è certo la prima volta che la chiesa cattolica interviene nel dibattito tra politica, etica e tecnologia. Eppure, a differenza del passato, stavolta lo fa con non poco realismo. Non il realismo cinico che la stessa enciclica condanna, ma uno che si pone l’obiettivo di fungere da contraltare, da bilanciamento necessario in un’epoca di grandi cambiamenti. L’IA viene infatti riconosciuta come un fenomeno che non può essere né ignorato né invertito. Un Vaso di Pandora, insomma, che non può essere richiuso e il cui contenuto è ormai libero di circolare nel mondo. Ciò non significa però che l’umanità, proprio quella che il testo definisce “magnifica”, debba diventarne dipendente o, peggio ancora, schiava. Un riconoscimento dell’inevitabilità del progresso, ma al contempo anche un appello a non lasciare che l’uomo, in ultima istanza, diventi vittima della sua stessa creazione.