Custodire la persona umana nel tempo dell’IA. La prima enciclica di Leone

135 anni fa Leone XIII con la sua enciclica Rerum Novarum, pose queste “cose nuove”, “il conflitto tra capitale e lavoro, la questione operaia, le trasformazioni economiche e sociali”, al centro della missione pastorale della Chiesa. Magnifica Humanitas, la prima enciclica di Leone XIV, presenta le nuove “cose nuove” al tempo dell’Intelligenza Artificiale e le nuove sfide che si pongono.

Come allora l’approccio non è di ostilità, ma di discernimento. Leggendo si può dire che si parta da questo dato: “Un tempo erano soprattutto gli Stati a guidare e indirizzare l’innovazione. Oggi, invece, i principali motori dello sviluppo sono attori privati, spesso transnazionali, dotati di risorse e capacità di intervento superiori a quelle di molti governi. Il potere tecnologico assume così un volto inedito, prevalentemente ‘privato’, e per questo ancora più difficile da discernere, governare e orientare al bene comune”.

Dunque il primo problema è quello dell’uso di questi strumenti: “Possono esserci usi evidentemente antiumani, come la manipolazione dell’informazione o la violazione della privacy, ma può anche esserci un’insidia meno palese, quando i sistemi di IA, presentandosi come neutrali e oggettivi, rispecchiano e rafforzano stereotipi o posizioni ideologiche di chi li ha progettati e addestrati”.

Questo implica considerazioni sulla verità, non solo per via delle famose fakenews: le macchine operano come pensa chi le plasma. Per di più i risultati sono immediati, l’efficienza è istantanea, il prodotto non produce discussione. Siamo nel paradigma tecnocratico? Il discorso va preso dalla testa, non dalla coda. Alla fine del suo pontificato, l’autore della felice espressione “paradigma tecnocratico”, papa Francesco, affermò che al tempo dell’Intelligenza Artificiale abbiamo bisogno della poesia e dell’amore.

A mio avviso questo punto cruciale è assunto e spiegato da Leone, che dell’Intelligenza Artificiale scrive: “E tuttavia, questa potenza resta legata esclusivamente al trattamento dei dati: le cosiddette intelligenze artificiali non vivono una esperienza, non possiedono un corpo, non attraversano la gioia e il dolore, non maturano nella relazione, non conoscono dall’interno ciò che significa amore, lavoro, amicizia, responsabilità. Non hanno neppure una coscienza morale: non giudicano il bene e il male, non colgono il senso ultimo delle situazioni, non assumono su di sé il peso delle conseguenze. Possono imitare linguaggi, comportamenti, valutazioni, possono simulare empatia o comprensione, ma non capiscono ciò che producono, perché non abitano l’orizzonte affettivo, relazionale e spirituale in cui l’umano diventa sapiente. Anche quando tali strumenti vengono presentati come capaci di ‘apprendere’, il loro modo di farlo è diverso da quello della persona umana. Non è l’esperienza di chi si lascia plasmare dalla vita e cresce nel tempo attraverso scelte, errori, perdono, fedeltà; è piuttosto un adattamento statistico a partire da dati e riscontri, che può essere molto efficace, ma non implica una crescita interiore”.

Leone XIV porta al cuore della riflessione ecclesiale l’Intelligenza Artificiale, che non è in sé una minaccia, è una possibilità se sottratta al paradigma tecnocratico, che definisce così: “La tendenza a lasciare che la logica dell’efficienza, del controllo e del profitto governi da sola le scelte personali, sociali ed economiche”. Il contrasto tra efficienza e ricerca, pensiero critico, confronto, è evidente: “Le cose più profonde e importanti si imparano solo dopo molto tempo e molta fatica, impegnandosi nella discussione con gli altri a ‘sfregare’ i concetti e le esperienze come se fossero pietre focaie, finché in noi non scocchi la scintilla della comprensione. Dobbiamo educarci a digiunare dall’IA e proteggere i nostri giovani dalla promessa della macchina perfetta, da quella seduzione sottile che fa sembrare inutile il pensiero umano proprio quando è più necessario”.

È uno dei passaggi più profondi e importanti dell’enciclica di Leone XIV sull’Intelligenza Artificiale, esposto poco dopo aver indicato che “chi controlla le piattaforme digitali e i mezzi di comunicazione possiede una notevole capacità di incidere sull’immaginario collettivo e di proporre come desiderabile una certa visione della realtà. È un potere che chiede di essere continuamente illuminato dalla ricerca della verità e dal rispetto della dignità umana, perché la cultura che si genera nella rete non diventi strumento di eccessiva distrazione, di omologazione e di dominio, ma spazio in cui possano maturare libertà interiore e pensiero critico”.

Connesso a tutto questo c’è il tema della verità. Trattato estesamente, emerge in molti passaggi, dei quali questo è ineludibile: San Giovanni Paolo II ha riflettuto sulle conseguenze della “crisi intorno alla verità”, giungendo ad affermare che, “persa l’idea di una verità universale sul bene, conoscibile dalla ragione umana, è inevitabilmente cambiata anche la concezione della coscienza”. Così, viene meno il riconoscimento di verità universalmente valide che ci precedono, e che la coscienza deve accettare. Questo ha portato Papa Francesco a chiedersi realisticamente: “Che cos’è la legge senza la convinzione, raggiunta attraverso un lungo cammino di riflessione e di sapienza, che ogni essere umano è sacro e inviolabile?” e a concludere: “Affinché una società abbia futuro, è necessario che abbia maturato un sentito rispetto verso la verità della dignità umana, alla quale ci sottomettiamo. Allora non ci si asterrà dall’uccidere qualcuno solo per evitare il disprezzo sociale e il peso della legge, bensì per convinzione. È una verità irrinunciabile che riconosciamo con la ragione e accettiamo con la coscienza. Una società è nobile e rispettabile anche perché coltiva la ricerca della verità e per il suo attaccamento alle verità fondamentali”.

La ricerca della verità è un elemento essenziale per la democrazia, che è essa stessa uno strumento di partecipazione al bene comune. Quando la domanda su ciò che è vero perde di interesse e prende piede un pragmatismo che si accontenta di ciò che appare utile o efficace, la vita democratica si indebolisce. Essa, infatti, non vive soltanto di regole e procedure, ma anzitutto di un rapporto leale con i fatti e di un reale orientamento al bene delle persone e del corpo sociale.

Il disinteresse per la verità porta lentamente ma inesorabilmente a scivolare verso il totalitarismo, per il quale, come ha scritto la filosofa Hannah Arendt, i sudditi ideali non sono tanto quelli ideologicamente convinti, ma “la gente per la quale la distinzione tra fatto e finzione (cioè, la realtà dell’esperienza) e la distinzione tra vero e falso (cioè, i canoni del pensiero) non esistono più”. Può essere considerato decisivo. Le piattaforme plasmano l’immaginario collettivo, quindi la nostra percezione della realtà. Ecco la richiesta di un’ecologia della comunicazione. “Il primo compito che abbiamo è quello di non demonizzare né idolatrare gli strumenti, ma di governarli a partire da un punto fermo: la verità è un bene comune e non una proprietà di chi ha potere o visibilità. Occorre quindi promuovere un’ecologia della comunicazione: sul versante delle regole pubbliche, ciò significa stabilire norme che rendano più trasparenti le logiche con cui i contenuti vengono selezionati e amplificati e che tutelino i dati personali; sul versante sociale e culturale, invece, implica il rafforzamento dei corpi intermedi, un giornalismo serio e luoghi di confronto in cui contino l’argomentazione e la verifica più che la reazione immediata”…

A tutto questo si aggiunge il problema del lavoro. Davvero si tolgono carichi pesanti, si crea un ambiente più agevole per il lavoratore? «Oggi, l’intreccio tra automazione, robotica e IA sta trasformando rapidamente la struttura stessa del lavoro. Questo porterà, si dice, grandi miglioramenti per tutti. In realtà, i “nuovi modi” di lavorare non sono necessariamente migliori, perché “mentre l’IA promette di dare impulso alla produttività facendosi carico delle mansioni ordinarie, i lavoratori sono spesso costretti ad adattarsi alla velocità e alle richieste delle macchine, piuttosto che siano queste ultime a essere progettate per aiutare chi lavora.[…] Proprio per evitare questa deriva, occorre progettare sistemi centrati sulla persona e non soltanto sulla prestazione». La tecnologia può salvare l’uomo da lavori gravosi, ma può anche causare la perdita di occupazione. La logica del maggiore profitto va in questa direzione, mentre al centro per Leone deve restare l’uomo, fine e non mezzo. Inoltre il cambiamento è discontinuo, chi è più avanti si automatizza creando disoccupazione, chi è più indietro si ritrova in economie ibride, con lavoro sottopagato e tecnologie parziali. Soprattutto nel mondo avanzato è necessario ripensare il lavoro e il suo rapporto con la cittadinanza.

“Le organizzazioni sindacali, che la Chiesa ha sempre sostenuto, sono chiamate ad aprirsi alle nuove forme di lavoro e ai nuovi lavoratori, per rappresentarli e difenderli in uno scenario in cui, senza scelte coraggiose, si profilano più povertà e più disuguaglianze, con una moltitudine di esclusi circondati da macchine e sistemi automatizzati che hanno preso il loro posto”. Impossibile che non si ricordasse il monito profetico di papa Francesco sulla libertà economica proclamata solo a parole. Investire sugli svantaggiati non è utile, “quasi che il loro destino dovesse dipendere esclusivamente dalla capacità di stare al passo con i vincenti”. Qui Leone arriva a proporre di superare l’unicità del Pil come unico parametro di giudizio e valutazione. Cos’altro? “Dignità del lavoro, prosperità condivisa, riduzione delle disuguaglianze, salvaguardia dell’ambiente”. Un sistema diverso da quello che si vede e che accresce solo la rendita da capitale che rischia di sostituirsi al reddito da lavoro, spesso confinato ai margini dei principali interessi del sistema economico.

Siamo all’ultimo capitolo, relativo alle guerre, e alla cultura della potenza, oggi così evidente e inquietante. “La rivoluzione digitale sta modificando la grammatica dei conflitti. Alla guerra visibile si affiancano forme ibride: attacchi cibernetici, manipolazione dell’informazione, campagne di influenza, automazione di decisioni strategiche. L’IA entra in questi processi come fattore di accelerazione, in un quadro in cui molte tecnologie sono intrinsecamente ambivalenti: ciò che nasce per difendere può essere rapidamente convertito all’offesa, e il confine tra protezione e aggressione tende a sfumare”. Nel mondo interconnesso l’IA è già a un bivio: da una parte la potenza, dall’altra la famiglia umana universale, con diritti e doveri condivisi, dove la prossimità digitale diventa occasione reale di incontro e di cura reciproca.