Dalla civiltà delle macchine all’era dell’IA. Leone XIV presenta l’enciclica Magnifica Humanitas

In fin dei conti, c’è poca differenza tra un motore a scoppio e un umanoide dotato di Intelligenza Artificiale. Sempre di rivoluzione si tratta. 135 anni fa, quando Leone XIII, quarto pontefice più duraturo al soglio di Pietro, scrisse la Rerum novarum, il mondo correva veloce verso l’automobile, la meccanizzazione dell’industria ma anche verso nuove e terribili innovazioni belliche. E proprio quando prendeva forma la civiltà delle macchine, fu tempo di nuovo umanesimo, in un fine Ottocento avvolto dalla seconda rivoluzione industriale. Oggi, invece, la corsa è verso nuove forme di intelligenza. Ma la sostanza cambia poco. Leone XIV ha davanti a sé una sfida se possibile ancora più difficile e insidiosa: difendere l’umanità dall’Intelligenza Artificiale. Ancora una volta, l’uomo al centro, mentre tutto intorno corre veloce. Certo, non si ferma il vento con le mani e un’enciclica non può arrestare il corso della storia. Eppure vale la pena tentare.

E il primo passo, ammonisce papa Prevost nella sua Magnifica Humanitas, pubblicata questa mattina, poche ore prima di venire presentata nella sala del Sinodo della Santa Sede, alla presenza dello stesso pontefice e dopo la presentazione del segretario di Stato, Pietro Parolin, è mettere l’Intelligenza Artificiale al servizio dell’uomo, e non contro. Dopo la riproducibilità tecnica dei corpi, con la clonazione, si è passati velocemente alla riproducibilità tecnica della mente. Tanto basta a farsi una domanda: è possibile ancora restare umani? E magari immaginare un’economia che risponda a logiche di benessere invece che seguire ossessivamente il mito del Pil?

Al servizio dell’uomo (e dell’ambiente)

“Nell’impiego dell’IA nelle nostre società, constatiamo che essa è ormai presente nei processi decisionali in tutti gli ambiti e a diversi livelli: nella comunicazione, nella gestione, nel controllo. I vantaggi in termini di efficienza e le potenzialità di miglioramento di alcuni servizi sono evidenti, tuttavia, un’adozione rapida e acritica ci espone a diversi rischi, tra cui quello di sottovalutarne l’impatto ambientale”, recita uno dei passi dell’enciclica. “Con l’aumento di complessità, soprattutto nei grandi modelli linguistici, crescono anche i bisogni di potenza di calcolo e capacita di archiviazione, che si appoggiano su un insieme di macchine, cavi, centri dati e infrastrutture energivore. Per questo è essenziale sviluppare soluzioni tecnologiche più sostenibili per ridurre l’impatto sull’ambiente e custodire la nostra casa comune”.

Il pontefice ricorda, in particolare, che gli attuali sistemi di IA “richiedono grandi quantità di energia e acqua, incidono in modo significativo sulle emissioni di anidride carbonica e consumano risorse in maniera intensiva”. Più nel merito, è “essenziale che siano chiare le responsabilità in tutti i passaggi, da chi progetta e addestra i sistemi fino a chi li utilizza e a chi decide di affidare ad essi le scelte concrete”. Una richiesta suffragata dal fatto che “in molti casi, i processi interni che conducono a un risultato possono essere poco trasparenti, e ciò rende più difficile attribuire responsabilità e correggere gli errori”. In questo senso viene definito “decisivo ciò che chiamiamo accountability: la possibilità di identificare chi deve rendere conto delle decisioni, motivarle, controllarle e, quando necessario, contestarle e rimediare ai danni che ne derivano”.

Con l’avanzare inesorabile dell’IA occorre, quindi, “chiedere prudenza, verifiche rigorose, e talvolta anche un rallentamento nell’adozione dell’IA” che “non significa essere contro il progresso, ma esercitare una cura responsabile verso la famiglia umana. Questa esigenza e ancora più urgente perché esiste spesso uno squilibrio tra la velocità dello sviluppo tecnologico e il ritmo con cui maturano consapevolezza, norme, controlli e istituzioni capaci di governarne gli effetti”. Per questo il papa ha chiesto “quadri giuridici adeguati, vigilanza indipendente, educazione degli utenti, una politica che non abdichi al proprio compito”. Altrimenti, ha concluso, “il cambiamento sarà governato solo da logiche tecnocratiche e presentato come necessario e inevitabile, finendo per imporre regole dettate da chi possiede dati, infrastrutture e capacita di calcolo: non possiamo limitarci a invocare la moralizzazione della macchina, il cosiddetto allineamento dell’IA a valori umani, senza avere il coraggio di porre una ulteriore condizione: la possibilità di discutere il codice etico da usare, sottoponendolo a criteri di giustizia sociale condivisa”.

IA alleata del mondo e non arma

L’altro caposaldo, l’IA applicata alla guerra. Come oltre un secolo fa, la tecnologia al servizio della paura. “La rivoluzione digitale sta modificando la grammatica dei conflitti. Alla guerra visibile si affiancano forme ibride: attacchi cibernetici, manipolazione dell’informazione, campagne di influenza, automazione di decisioni strategiche. L’IA entra in questi processi come fattore di accelerazione, in un quadro in cui molte tecnologie sono intrinsecamente ambivalenti: ciò che nasce per difendere può essere rapidamente convertito all’offesa, e il confine tra protezione e aggressione tende a sfumare”. Per questo l’IA “può potenziare la difesa e la protezione dei civili, ma può anche abbassare la soglia dell’uso della forza, rendere opache le responsabilità, alimentare una cultura in cui il nemico è ridotto a dato e la vittima a danno collaterale”.

Ma ecco la via d’uscita. Occorre “disarmare l’IA per sottrarla alla logica della competizione armata, che oggi non è più solo militare ma economica e cognitiva. Disarmare vuol dire rompere questa equivalenza tra potenza tecnica e diritto di governare. Disarmare non significa rinunciare alla tecnologia, ma impedirle di dominare l’umano. Significa sottrarla ai monopoli, renderla discutibile, contestabile, e quindi abitabile, restituendola alla pluralità delle culture umane e delle forme di vita. Il compito, oggi, non è solo etico o tecnico: è ecologico nel senso più radicale, perché chiama in causa una nuova dimensione della nostra casa comune. L’IA  è già ambiente in cui siamo immersi, è potere con cui dobbiamo fare i conti. Per questo, non basta regolarla: va disarmata e resa ospitale”.

Di qui il passaggio sulla “guerra giusta”: un concetto da superare. “Oggi è più che mai importante ribadire il superamento della teoria della guerra giusta, troppo spesso invocata a giustificare qualsiasi guerra, fermo restando il diritto alla legittima difesa intesa nel senso più stretto”. Proprio di fronte a queste trasformazioni, scrive papa Prevost, “dobbiamo richiamare i principi della Dottrina sociale, dignità della persona, bene comune, destinazione universale dei beni, sussidiarietà, solidarietà, giustizia – come criteri per giudicare se le tecnologie servano realmente l’umanità oppure finiscano per assoggettarla, e considerarli come orientamenti per le nostre scelte”.

Basta con il mito del Pil

Valicando i confini dell’Intelligenza Artificiale, per papa Leone è tempo di una nuova economia, a misura di uomo e benessere, e non più schiava dei numeri. “Si rileva la necessità di superare gli attuali parametri di misurazione del grado di sviluppo, da oltre ottant’anni ancorati al concetto di Prodotto interno lordo, che tralasciano quasi sistematicamente profili essenziali per il benessere complessivo delle persone e dell’ambiente”. Questo perché, spiega il pontefice, “essi valorizzano attività che impattano nel breve o nel lungo termine sulla vita del nostro pianeta. La messa a punto di parametri e metriche complementari al Pil è decisiva per migliorare i dati di base utilizzati per effettuare analisi, assumere decisioni politiche e di politica economica e selezionare le priorità regionali, nazionali e internazionali”.

“L’introduzione di nuovi parametri consentirà di valutare, con uno sguardo ampio e adeguato ai tempi, gli effetti delle deliberazioni legislative e regolamentari su dignità del lavoro, prosperità condivisa, riduzione delle disuguaglianze, salvaguardia dell’ambiente. Essa inciderà sul concetto stesso di sviluppo, sui processi formativi, sulla mentalità e le opinioni pubbliche, e anche sulla pace, che è vera solo se fondata sulla giustizia”.

Dati, ricchezza delle nazioni

Non è finita. Ancora un concetto che emerge, forte, dall’enciclica. I dati, oggi, sono la nuova forma di ricchezza delle Nazioni. E sono, problema nel problema, appannaggio di poche persone. In troppi casi “nel contesto digitale, il controllo delle piattaforme, delle infrastrutture è nelle mani di pochi magnati o gruppi. E di fronte a questa concentrazione di potere nel mondo digitale, i grandi principi della Dottrina sociale diventano criteri per giudicare e discernere il nuovo scenario: la dignità inalienabile della persona, il bene comune, la destinazione universale dei beni, la sussidiarietà, la solidarietà e la giustizia sociale, debbono costituire le linee-guida da percorrere”. Proprio questi criteri universali, scrive papa Leone, “chiedono di verificare se il potere delle infrastrutture digitali e degli algoritmi favorisca davvero partecipazione e responsabilità, protegga i più fragili, assicuri un accesso equo alle opportunità e resti ordinato al bene di tutti”.

E dunque, ecco il neo-colonialismo messo sotto accusa da Leone. “Il colonialismo ai nostri giorni mostra un volto inedito. Non domina solo i corpi, ma si appropria dei dati, trasformando le vite personali in informazioni sfruttabili. Interi territori, soprattutto quelli con minore rilevanza geopolitica e maggiore fragilità strutturale, vengono al presente attraversati da una nuova logica di estrazione: quella di flussi sanitari, profili epidemiologici, mappe genetiche e dati demografici”.

“Sono queste le nuove terre rare del potere: informazioni vitali che, una volta correlate, possono essere usate per addestrare modelli predittivi, guidare strategie di investimento, anticipare le crisi e soprattutto selezionare chi e che cosa conta. Chi possiede i dati sanitari di intere popolazioni, oggi raccolti spesso sotto il segno dell’aiuto, della ricerca o dell’innovazione, possiede in realtà una leva strutturale sul futuro: può modellare i bisogni e i mercati. E può decidere, prima degli altri, a chi destinare farmaci, investimenti, protezioni. E qui che si gioca una delle questioni morali più urgenti del nostro tempo: trasformare la conoscenza condivisa in bene comune, non in leva di dominio. Ovvero restituire ai popoli non solo i dati che li descrivono, ma anche la possibilità di decidere come verranno usati, da chi e per chi. Altrimenti, l’era digitale non sarà postcoloniale, ma coloniale sotto altra forma”.