L’intelligenza artificiale può imitare il miracolo della vita umana, ma non sostituirlo: è attorno a questa convinzione che Papa Leone XIV ha costruito l’enciclica “Magnifica Humanitas”. A leggerla e commentarla per Formiche.net è Brian Patrick Green, direttore del programma di etica della tecnologia al Markkula Center for Applied Ethics della Santa Clara University, dove insegna etica dell’IA e etica dello spazio alla Graduate School of Engineering.

Lei fa parte del gruppo di ricerca sull’IA del Vaticano. Quali ritiene siano stati gli obiettivi di fondo e le questioni sensibili che hanno spinto il Papa a pubblicare l’enciclica “Magnifica Humanitas”?

Papa Leone ha riconosciuto che l’IA è una delle grandi questioni del nostro tempo, perché ha il potere di cambiare moltissime cose, senza che si rifletta abbastanza su cosa dovremmo effettivamente cambiare. Senza una guida, l’IA potrebbe causare problemi enormi. Papa Leone spera dunque di offrire parte di quella guida, affinché il nostro futuro sia migliore.

Il nome stesso suggerisce una “superiorità” dell’uomo sull’IA, intesa come creazione umana. C’è il rischio che questa distinzione vada persa?

Gli esseri umani e le macchine non sono equivalenti, e il fatto che una cosa sia magnifica non significa che un’altra non possa esserlo. Gli esseri umani e l’IA possono essere entrambi magnifici, ma in modi molto diversi. E mentre gli esseri umani si lasciano facilmente impressionare dalla tecnologia potente, sembriamo essere colpiti in modo opposto da coloro che ci circondano e che sono vulnerabili, soli e bisognosi di aiuto. Dobbiamo riconoscere che ogni singola vita umana è magnifica. È facile perderlo di vista, perché vediamo persone continuamente, eppure ogni singola vita è un miracolo. L’IA può imitare quel miracolo, ma non può sostituirlo. Questa distinzione rischia di andare perduta perché l’IA viene progettata per imitare l’umanità in modo sempre più fedele, pur non essendo mai — naturalmente — davvero noi.

Nello spettro che separa un potente strumento da un agente morale, dove si colloca l’IA?

L’IA può compiere azioni in modo autonomo, ma la responsabilità morale dietro l’IA è umana. L’IA è uno strumento potente, ma nonostante la sua potenza e la sua autonomia, l’IA lavora per qualcuno, e quel qualcuno ne è responsabile.

Dove si scontrano la dottrina cattolica e i princìpi seguiti dalle grandi aziende tecnologiche? E dove, invece, sono compatibili?

La grande industria tecnologica è orientata al profitto. La Chiesa cattolica è orientata alla dignità e al bene comune. Sono cose molto diverse, ma possono essere compatibili se il desiderio di profitto è subordinato al rispetto della dignità e del bene comune. La maggior parte delle aziende tecnologiche è almeno consapevole del fatto che, se si comporta in modo troppo riprovevole, ne pagherà il prezzo in termini di perdita di fatturato, e quindi cerca di rispettare alcuni obblighi morali fondamentali — nella maggior parte dei casi. Alcune aziende sono molto più attente all’etica di altre. Ma come ha osservato Christopher Olah nel suo intervento, non possiamo lasciare tutto nelle mani delle aziende tecnologiche: tutti noi dobbiamo impegnarci affinché la tecnologia sia necessariamente etica, altrimenti non lo sarà.

Trump ha scelto di rinviare un ordine esecutivo per regolamentare l’IA, spinto proprio dalle grandi aziende tecnologiche. Come interpreta questa decisione? Ritiene che sia un approccio migliore rispetto alla cosiddetta “iper-regolamentazione” europea?

Se tutti fossero etici, ci sarebbe poco bisogno di leggi. Ma non tutti lo sono, e quindi dobbiamo avere delle leggi. Il modo in cui quelle leggi si manifestano nelle singole culture varierà. Attualmente il governo federale statunitense vuole che le aziende tecnologiche siano libere da regolamentazioni, in modo da avere un maggiore margine di manovra nella società. Al tempo stesso, molti Stati americani e l’opinione pubblica statunitense chiedono che le aziende tecnologiche siano regolamentate. Questa tensione non può durare per sempre. La regolamentazione europea è un percorso rischioso nella direzione opposta: mentre gli Stati Uniti rischiano danni sociali causati dalle grandi aziende tecnologiche, l’Europa rischia danni economici per l’assenza di grandi aziende tecnologiche proprie.

L’enciclica parla di “disarmare l’IA” e di sottrarla alla corsa agli armamenti. È un obiettivo realistico in un contesto di competizione strategica tra le grandi potenze?

A causa dei limiti della nostra immaginazione, ogni volta che l’uomo inventa qualcosa di nuovo, pensiamo immediatamente a come potremmo usarlo per distruggere e danneggiare gli altri. Il Papa ci chiede di ampliare la nostra immaginazione. Non siamo costretti a rimanere prigionieri dell’incapacità di vedere usi benefici, e non siamo nemmeno obbligati a competere come se fossimo in una corsa agli armamenti. In termini realistici, se non cresciamo sul piano etico più rapidamente di quanto cresciamo in potere distruttivo, allora — indipendentemente dalla competizione strategica — prima o poi ci autodistruggeremo.

Ha senso distinguere tra IA militare difensiva e offensiva?

L’IA può essere distinta in base ai suoi usi, e certamente in ambito militare ciò è possibile, come nel caso dei sistemi d’arma difensivi automatizzati. Le armi offensive vengono spesso giustificate perché scoraggiano lo scoppio di guerre, come avviene con le armi nucleari. Un giorno l’IA potrebbe essere simile. Ma il fatto che sia possibile non significa che sia giusto. Fare affidamento sulla paura della morte e della distruzione non è un modo per promuovere un autentico futuro comune. Dobbiamo immaginare qualcosa di meglio per poter vivere in un mondo migliore.