“Nella relazione homo + machina sapiens dobbiamo chiederci qual è la specificità dell’uomo e il posto della specificità della macchina. Abbiamo bisogno di una risposta etica per capire quali decisione umane possiamo fare surrogare alla macchina e qual è il ruolo della macchina all’interno di questa decisione. Il modo di dire alla macchina quali sono le norme importanti per l’uomo l’ho chiamato “algoretica”. Il bene deve diventare un valore numerico che la macchina può computare”. Ne è certo il terziario francescano Paolo Benanti, Docente di teologia morale e bioetica all’Università Gregoriana, intervenuto al Meeting di Rimini per parlare di creatività umana e di intelligenza artificiale, di coscienza e di algoritmi.

“Abbiamo nuove realtà alle quali ci associamo in modo realmente religioso nel chiedere risposte, che sono degli oracoli che parlano della nostra vita. L’oracolo che è in Delfi, diceva Eraclito, non parla e significa. L’oracolo che è nel vostro motore di ricerca non parla e non tace, ma significa la correlazione che c’è tra i dati. L’approccio data driven believe è perciò di tipo religioso, e fa della macchina un oracolo che dà delle verità sulla mia vita. Se poi pensiamo che una delle maggiori ditte di database si chiama Oracle…”. La tesi, per chi conosce i testi del filosofo e religioso, è chiara, ma per chi vi entra in contatto per la prima volta è dirompente. Arrivando subito dopo due interventi particolarmente tecnici, come quelli del presidente e amministratore delegato di IBM Italia Enrico Cereda e del direttore scientifico Osservatori Digital Innovation Alessandro Perego, l’intervento conquista il pubblico del Meeting, che intercetta subito quanto l’argomento tocchi da vicino la sostanza delle trasformazioni che l’umanità sta vivendo in questo periodo storico.

L’Ad di IBM Italia Cereda ha spiegato che “l’intelligenza artificiale ha sicuramente degli impatti dal punto di vista del lavoro e dal punto di vista etico e morale”, ma che va usata come “intelligenza aumentata, cioè a supporto dell’uomo e della sua attività in tutti i processi”. Che “le tecnologie esponenziali devono supportare l’attività dell’essere umano in tutte le attività”, e che “il quantum computing rivoluzionerà il nostro modo di collaborare con le macchine”, oltre al fatto che “l’IA sostituirà sicuramente alcuni posti di lavoro ma impatterà il 100 per cento dei lavori”. Anche se da questo punto di vista, per Cereda, “il piano industria 4.0 ha dato molti contributi”. “La supply chain sta sempre più cementandosi”, afferma Cereda. “Abbiamo dimezzato i costi burocratici del trasporto navale e questo progetto lo stiamo portando in Italia. Siamo all’interno della quarta rivoluzione industriale dove i tempi di questa trasformazione digitale sono molto veloci, e quindi l’impatto nel mondo del lavoro bisogna condividerlo”.

Nelle sue diverse pubblicazioni padre Benanti ha invece parlato di homo faber. Un dato che sembra inaspettato, se si pensa che oggi sono sempre più le macchine a prendere il controllo di tutto ciò che prima era relegato alla manualità, alla conoscenza, alla paziente opera artigiana che ha fatto crescere l’uomo nei secoli, insieme alle economie delle società che ha attraversato. Ma il tema, di fatto, è ancora più ampio, e inerisce a ciò che oggi viene visto come un vero e proprio cambiamento d’epoca. O meglio, un’epoca di cambiamento, per citare le parole di Papa Francesco.

“Quando si parla di homo faber si parla della consapevolezza che abbiamo come specie. La nostra mediazione con la realtà è data da un artefatto tecnologico: noi trasmettiamo conoscenze e competenza non con il Dna ma con artefatti”, ha specificato Benanti nel vivo del suo intervento. “Più noi abbiamo tecniche che hanno grandissima capacità di predizione, meno siamo in grado di spiegare il perché di quella previsione. Sembra un’incoscienza artificiale, e chi produce tutto questo si pone la domanda sul disagio che abbiamo. Sappiamo fare ma stiamo perdendo il perché”.

Benanti ha spiegato cioè che gli algoritmi di predizione, che per intendersi sono quelli che provengono dagli strumenti di IA, quando diventano profilazione, e vengono quindi applicati alle scelte dei consumatori, non solo predicono un comportamento ma anche lo producono, come sa ogni esperto di marketing nel momento in cui cerca di vendere un prodotto. Dietro quello che sembra un gioco di parole, c’è un mondo di relazioni sociali e di interscambi che riflette in pieno l’umanità che siamo e quello che saremo sempre di più. “Applicati agli oggetti questi algoritmi ci dicono quando si romperanno, applicati alle persone generano comportamenti”. Un punto centrale del discorso del religioso è che “nella realtà sociale non esiste più la persona fisica o giuridica ma c’è un nuovo attore sociale, che è la persona algoritmica, che ha una capacità di muoversi in contesti sociali ma che non regolata da nessun dispositivo di legge”. Per cui “quello che penseremo dipenderà anche da come vorremo normare l’interazione sociale di questi algoritmi”.

Si parla cioè di epoca di disagio perché i cambiamenti che stiamo producendo modificandola nostra concezione di noi stessi, della realtà e delle nostre correlazioni sociali. “La premessa è che la realtà non è più fondata da criteri assoluti, come una volta quando si guardava il fine, o nelle cause fisiche che stanno dietro alle questioni, ma è il prodotto di alcune credenze prodotte dai dati”. Sono perciò i dati stessi a spiegare la realtà, e non viceversa. Qui la pagina che il religioso apre, e si limita a questo perché il tema è tanto ampio quanto trascurato in gran parte della letteratura contemporanea, è quella della differenza tra dato e informazione. Non tutti i dati sono informazioni e non tutte le informazioni equivalgono a dati.

“Abbiamo prodotto una capacità tecnica così forte, quello che potremmo chiamare l’albero della IT, che ha delle radici filosofiche piccolissime. Perché non abbiamo indagato il potere dell’informazione di modificare la nostra concezione della realtà, che è totale. Un oggetto esiste perché c’è, e un file mp3 esiste nel vostro telefonino. Allora cosa significa esistere nell’epoca dell’informazione? E cos’è che fa un’informazione?”, ha continuato Benanti.

Ma se “questo modo di spiegare la realtà è molto poco filosofico”, di conseguenza “quando crolla la filosofia si torna al mito, e all’approccio religioso. Alcune domande più importanti della mia esistenza saranno guidate così da questo approccio religioso dato ai sistemi informativi”. Una condizione che si potrebbe sintetizzare con una frase molto ad effetto: “Alla domanda conosci te stesso oggi dovremmo rispondere conosci i tuoi dati, e sarà conoscere i tuoi dati che dirà la verità su te stesso”. “Stiamo cambiando il perché, e abbiamo bisogno di una riflessione che non sia solo tecnica, per dire di quel perché necessario alla nostra condizione umana”, ha aggiunto ancora il religioso.

Al punto che, affondando la spada nel pensiero razionalista di un novecento che, visto da questa prospettiva, appare sempre più lontano, “psicologi evoluzionisti dicono che l’oracolo dell’intelligenza artificiale ci svela la verità sull’uomo, e  che allora anche le emozione potrebbero essere soltanto algoritmi biologici”, chiosa il religioso. “Se la macchina si umanizza l’uomo si macchinizza e diventa sempre più un processo semi-deterministico, l’equivalente di un codice genetico che non lascio lo spazio per distinguere un atto umano da un atto macchinico”, è la conclusione del francescano. “Quello che vogliamo fare andrà capito dal punto di vista filosofico e antropologico, c’è una sfida antropologica ma anche una nuova e inedita sfida etica perché quel bene che capiamo possa essere realizzato dagli uomini e da questi nuovi attori sociali che sono gli algoritmi. Abbiamo di nuovo bisogno di un perché”.