Occorre investire nel suo sviluppo e governarne le applicazioni con attenzione, considerando le limitazioni alla luce di tutti i rischi e benefici, sempre in un’ottica di loro adattamento all’evoluzione tecnologica. E tra i rischi va considerato, tra l’altro, quello che la moltitudine di esseri umani faccia troppo affidamento sulle risposte dell’algoritmo, disimparando le conoscenze ancora fondamentali del passato e finendo col divenire dipendente da questa tecnologia
Il dibattito sulle conseguenze dell’adozione della tecnologia dell’Intelligenza Artificiale (IA) è da tempo molto vivo, particolarmente in Europa, e si è arricchito da ultimo dei moniti contenuti nell’enciclica papale “Magnifica Humanitas”, nonché dei numerosi commenti che ne sono seguiti. L’enciclica non affronta soltanto il tema della nuova tecnologia per sé, ma lo guarda tra l’altro nell’incrocio con il funzionamento del sistema economico, il lavoro e la guerra. Al centro dell’attenzione pone la difesa della dignità dell’essere umano e i valori etici che dovrebbero governare la società e l’economia, richiamandosi ai rischi a cui sono esposti per effetto dell’uso senza freni dell’IA nel sistema produttivo e in altri ambiti cruciali per l’umanità. Data questa impostazione, è inevitabile che l’impressione prevalente nei destinatari sia di un atteggiamento se non proprio negativo almeno circospetto e di allarme verso l’applicazione incontrollata di questo strumento. L’impressione è temperata dall’inquadramento del tema nel contesto della “dottrina sociale” della Chiesa, che è stata propugnata da oltre un secolo e di cui si richiamano i capisaldi.
I maggiori punti critici sono individuati nella governance del suo impiego, nelle norme che dovrebbero disciplinarlo, nei costi per i lavoratori e nella possibilità di applicazioni in contrasto della giustizia sociale. L’assunto di fondo è il rischio che si affermi una tecnocrazia di pochi a spese di molti e poco sensibile ai valori umani. E la tecnologia, si sostiene, non è mai neutrale, ma si conforma ai valori e alle esigenze di chi la progetta, impiega e controlla.
Su ciascuno di questi punti sorgono interrogativi di difficile soluzione a meno che non si risolvano nell’ambito di un credo religioso fondato sulla fede e sui suoi dettami. Il primo interrogativo tocca l’asserita non neutralità della tecnologia. Questa caratteristica implicherebbe che di per sé l’IA nella sua versione LLM o di tipo foundational o nelle forme in fieri più avanzate sia una struttura o un algoritmo che propende per determinate risposte perché concepito con questa finalità. In realtà, l’algoritmo di uso generalizzato è uno strumento che si può adattare a diversi scopi e di conseguenza nelle reti neurali che ne sono fondamento si devono fissare i criteri secondo cui opera il procedimento di calcolo per giungere alla risposta richiesta. In sostanza, la tecnica è in principio uno strumento neutro o imparziale. È l’essere umano che poi lo piega all’obiettivo che intende raggiungere.
Ad esempio, l’automobile è in via generale un mezzo di auto-locomozione per gli spostamenti. L’utente usa questa tecnica per adattarla per esempio a mezzo di trasporto di persone nella forma di autobus, o per movimentare le merci, come con i camion, o per finalità belliche, come con i tank. Lo stesso può dirsi per la scoperta della fissione nucleare, che nasceva da una ricerca sulla fisica delle particelle e precedette l’impiego come bomba atomica. È infatti usata anche per la generazione di energia elettrica. Sono gli impieghi a fare la differenza e questi possono o devono essere governati. A maggior ragione questa precisazione vale per l’IA che è di fatto una tecnologia polivalente, ovvero una general purpose technology.
L’interrogativo è quindi: chi dovrebbe governarla stabilendo norme e regolamenti sui criteri alla base della sua progettazione ed uso? Se questa prerogativa va tolta al singolo che controlla mezzi, informazione e capacità computazionale, la risposta inevitabile è che il governarla è compito del potere pubblico, ovvero il governo e la politica, come interprete della volontà e dell’etica collettiva. Per la Chiesa, invece, la risposta sta nella sua etica e dottrina sociale, che dovrebbero permeare la formulazione dei criteri di progettazione ed impiego dell’IA. Naturalmente il riferimento è alla civiltà cristiana e agli Stati che si richiamano ai suoi valori. Applicare la stessa logica ad altre fedi o a Stati teocratici condurrebbe a esiti inaccettabili per i paesi “occidentali”.
Ma anche per gli Stati giudicati democratici, l’etica e la volontà della maggioranza della collettività espresse nel potere pubblico può condurre a risultati differenti e pur sempre opinabili. Negli Usa il Presidente Trump eletto a stragrande maggioranza e sostenuto da maggioranze al Congresso non ha avvertito il bisogno di emettere norme e regole, fidando nella autoregolazione delle corporations che la controllano. Molte di esse ma non tutte solo recentemente avvertono il bisogno di norme pubbliche per disciplinare il settore. Altri Stati democratici non hanno ancora una disciplina e quanti l’hanno introdotta non sempre riflettono i valori e l’etica degli abitanti.
L’Ue è stata tra i primi a dotarsi con l’AI Act di una disciplina normativa improntata a difesa dei diritti fondamentali dell’uomo, trasparenza e responsabilizzazione, fungendo anche come riferimento per altri paesi. La Cina è uno di questi, ma l’esito è differente perché riflette i valori e l’etica di una società e un mondo diversi da quelli “occidentali”. Ad esempio, il governo cinese applica l’IA per controllare da vicino tutti gli abitanti, le informazioni che possono ricevere e per indirizzare l’opinione pubblica. Lo stesso avviene nella Russia di Putin, malgrado la presenza della Chiesa cristiana ortodossa, con la differenza che le regole riflettono l’etica e i valori reali dell’uomo al comando e non del gruppo dirigente, né della popolazione.
In ogni Paese, inclusi gli “occidentali”, i vincoli normativi non si applicano al soggetto pubblico quando opera in campi fondamentali per la sicurezza interna, la lotta all’illegalità e la difesa esterna. Attraverso questa via, le forze politiche al governo possono accedere a informazioni ed elaborazioni con l’IA, che le pongono in posizione di vantaggio sugli altri. L’accesso ai dati è un nodo cruciale che condiziona i risultati dell’uso dell’IA, perché l’esito dipende da chi li possiede e quali di questi impiega per addestrare il modello algoritmico. Le compagnie proprietarie delle grandi piattaforme digitali raccolgono tutti i dati derivanti da quanti si avvalgono di esse per qualsiasi scopo, li elaborano e li applicano a modelli di IA per profilare i comportamenti e derivare strategie di mercato, o semplicemente ricostruire le preferenze della popolazione. Ne discende una posizione di vantaggio rispetto alla concorrenza.
La soluzione non è semplice, neanche stabilendo la proprietà pubblica di quei dati e l’accessibilità a tutti i soggetti, in quanto si violano i meccanismi della concorrenza e le libertà fondamentali. Molto meno arduo è ridistribuire parte dei guadagni che le grandi società ne ricavano per sostenere i “perdenti” nel mercato. Ma il vantaggio sui concorrenti non sta soltanto nell’accesso ai dati, in quanto la capacità di calcolo e quella dell’algoritmo nei suoi meccanismi cognitivi fanno anche la differenza. Chi riesce a sfruttare meglio le potenzialità dell’IA tende ad acquisire una posizione preminente sul mercato. Le analisi finora condotte dimostrano che ne risulta una tendenza alla concentrazione del mercato in poche compagnie che sono in grado di spiazzare i concorrenti confinandoli ai margini del mercato stesso. Parimenti, possono scoraggiare i nuovi concorrenti, pertanto ponendo ai governanti il difficile problema di come preservare una concorrenza ad armi non-impari.
L’IA incide anche nella competizione tra Stati, in quanto applicando lo stesso meccanismo alcuni possono raggiungere una predominanza su altri, che non si preparino per tempo con una pari arma. Qui non bastano i principi etici e la fede, invece occorre investire nel suo sviluppo senza astenersi dal prepararsi per i peggiori scenari. Incorporare tecniche di IA Agentic in sistemi di combattimento ripugna sul piano morale, ma purtroppo è una realtà dell’equilibrio tra potenze militari finalizzato a prevenire attacchi e guerre attraverso la deterrenza. Questo principio ha funzionato storicamente per assicurare la pace in Europa e nel confronto con l’Urss. Laddove l’equilibrio si rompe, come si vede attualmente in Medio Oriente, ne seguono conflitti armati e prolungate tensioni ed instabilità. D’altronde, la rapidità degli attacchi facendo leva sulle nuove tecnologie, inclusa l’IA, richiede risposte immediate, che non lasciano tempo per ponderazioni. Analogamente, se l’uso di armi guidato da sistemi di IA indipendenti dall’esame umano può apparire disumano, di fatto serve anche a salvare vite umane per la parte che vi ricorre. In ogni caso, è un problema di coscienza incorporare nei modelli di AI criteri su quando questa autonomia dell’arma sia giustificata e quando non sia permessa.
L’enciclica affronta altresì le implicazioni dell’IA e dell’automazione ad essa collegata nei processi decisionali riguardanti l’occupazione per riaffermare che “la regola generale deve restare la tutela dei posti di lavoro e del ruolo insostituibile della persona” (par. 152). In altri termini, riflette correnti di pensiero che dominano tra i lavoratori, secondo cui i posti vanno difesi a ogni costo. Purtroppo, nella realtà economica, questo principio si è dimostrato come la premessa del fallimento o chiusura dell’impresa. La storia delle partecipazioni statali ne sono esempio illuminante: le imprese rimaste troppo a lungo attaccate a questa regola hanno chiuso, mentre quelle passate a gestioni manageriali con attenzione preminente all’interesse dell’impresa o del privato co-azionista si sono sviluppate. Ne è esempio la politica economica di successo, seguita in diversi Stati del Nord Europa, che è stata orientata a tutelare il lavoratore e non il posto. Quest’ultimo deve seguire le esigenze dell’impresa impegnata a sfruttare l’evoluzione tecnologica per rimanere competitiva. Il lavoratore deve, invece, poter contare sul sostegno pubblico o del sistema delle imprese per riconvertirsi ad altri compiti e spostarsi in aree con deficit di competenze e di forze di lavoro.
Man mano che le applicazioni di IA si diffonderanno, saranno probabili conseguenze per l’occupazione. Discendono dalla ricerca di efficienza dell’impresa, che non va vista come un disvalore, ma come un contributo positivo a non sprecare le risorse. Le esperienze sul campo testimoniano al tempo stesso dismissioni di lavoratori insieme a incrementi di occupazione e produttività, perché l’IA serve anche a migliorare la prestazione del lavoratore agendo in collaborazione. Quelli che ne hanno fatto esperienza diretta, hanno espresso giudizi favorevoli. Nell’enciclica si menziona soltanto una dimensione ristretta dell’utilità dell’IA come sostituto del lavoratore per svolgere compiti ripetitivi, gravosi o pericolosi. Un giudizio negativo è anche espresso verso l’applicazione dell’IA Agentic nei processi di selezione dei lavoratori da assumere. In questo caso è difficile dissentire perché allo stato attuale non è possibile incorporare negli algoritmi quei tratti umani che si percepiscono nell’interazione diretta tra reclutatore e potenziale reclutato. Il monitoraggio umano nella selezione del personale è sempre necessario. Eppure, sono stati condotti confronti analitici tra le scelte fatte dal selezionatore IA Agentic e quelle effettuate autonomamente dal reclutatore umano e si è visto che le due coincidevano per il 90%.
L’Enciclica non lascia abbastanza spazio al riconoscimento dei benefici che si possono trarre in ogni campo con l’applicazione dell’IA e dei suoi più recenti sviluppi. Si concentra bensì sui rischi per la dignità umana e sulle ricadute in termini di disuguaglianze. La realtà economica e sociale mostra in contrasto un panorama frastagliato di effetti. Secondo gli studi effettuati, in alcune economie ha già prodotto crescita ed incrementi di produttività senza abbassare i livelli di occupazione, in altre i benefici non sono evidenti.
Non poteva essere altrimenti in quanto si è ancora agli albori di questa tecnologia rivoluzionaria e pervasiva, che è in una fase evolutiva verso forme più avanzate. È evidente che la sua diffusione porterà a trasformazioni radicali a vasto raggio e contrastarle porterebbe al sottosviluppo della società e del benessere economico. Occorre investire nel suo sviluppo e governarne le applicazioni con attenzione, considerando le limitazioni alla luce di tutti i rischi e benefici, sempre in un’ottica di loro adattamento all’evoluzione tecnologica. E tra i rischi va considerato, tra l’altro, quello che la moltitudine di esseri umani faccia troppo affidamento sulle risposte dell’algoritmo dell’IA, disimparando le conoscenze ancora fondamentali del passato e finendo quindi col divenire dipendente da questa tecnologia.
