IA, sia sempre l’uomo a decidere. Il messaggio di Francesco al G7

I tempi del processo a Galileo Galilei sono proprio lontani. Infatti per illustrare la differenza tra umano e vivente non umano Francesco è ricorso allo stesso identico termine scelto anni fa dal più grande teorico del liberalismo, Isaiah Berlin: utensili. Sì, da sempre l’uomo per soddisfare i suoi bisogni crea utensili, e questa capacità creativa, ha sottolineato, gli viene da Dio. Quindi ha indicato che anche la tecnologia può essere amica del bene comune.

Così, grosso modo, ha preso l’avvio il grande discorso con cui papa Francesco ha detto ai 7 grandi, più numerosi altri invitati per questa sessione speciale dalla presidenza italiana, che quella posta dall’Intelligenza Artificiale è una sfida affascinante e tremenda. Tutt’altro che oscurantismo nelle sue parole, ma solo, come chiara alla fine, la richiesta che sia la politica e non il paradigma tecnocratico a decidere. “Decidere”, dopo “utensili”, è il secondo vocabolo decisivo usato da Francesco. Decidere vuol dire proprio decidere. Ecco tra cosa: “Non possiamo dubitare che l’avvento dell’intelligenza artificiale rappresenti una vera e propria rivoluzione cognitivo-industriale, che contribuirà alla creazione di un nuovo sistema sociale caratterizzato da complesse trasformazioni epocali. Ad esempio, l’intelligenza artificiale potrebbe permettere una democratizzazione dell’accesso al sapere, il progresso esponenziale della ricerca scientifica, la possibilità di delegare alle macchine i lavori usuranti; ma, al tempo stesso, essa potrebbe portare con sé una più grande ingiustizia fra nazioni avanzate e nazioni in via di sviluppo, fra ceti sociali dominanti e ceti sociali oppressi, mettendo così in pericolo la possibilità di una ‘cultura dell’incontro’ a vantaggio di una “cultura dello scarto”.

Per questo ha chiamato in ballo la politica, la “buona politica”, la forma più alta dell’amore. Infatti davanti all’Intelligenza Artificiale non si pone certo il problema del rifiuto. Ma senza un governo politico si potrebbe arrivare a immaginare – oltre a quanto detto esplicitamente da Francesco – un aggravarsi del conflitto tra interessi statali e interessi delle grandi aziende. Un altro tassello del paradigma tecnocratico che è il vero assillo che deve stare al cuore della riflessione della politica, oggi. La velocità con cui si sviluppa l’Intelligenza Artificiale può rendere ingovernabile il bivio tra opportunità e condanna. E in cosa consiste la scelta da compiere? Riassumendo la proposta di Francesco, la risposta che la politica può dare da subito per instradare verso il bene lo sviluppo dell’Intelligenza Artificiale è che sia sempre l’uomo a decidere, mai la macchina a decidere per l’uomo. E proprio in questo rischia di trovarsi l’essenza del paradigma tecnocratico e quindi del pensiero unico che potrebbe impossessarsi del mondo, anche di un mondo diviso.

Per capire bene il punto può valere l’esplicazione di un esempio fatto dal papa: “Permettetemi di insistere: in un dramma come quello dei conflitti armati è urgente ripensare lo sviluppo e l’utilizzo di dispositivi come le cosiddette ‘armi letali autonome’ per bandirne l’uso, cominciando già da un impegno fattivo e concreto per introdurre un sempre maggiore e significativo controllo umano. Nessuna macchina dovrebbe mai scegliere se togliere la vita ad un essere umano”.

Se non si procedesse così i grandi contendenti le svilupperanno entrambi e il paradigma tecnocratico troverà la sua subordinata bellica. “C’è da aggiungere, inoltre, che il buon uso, almeno delle forme avanzate di intelligenza artificiale, non sarà pienamente sotto il controllo né degli utilizzatori né dei programmatori che ne hanno definito gli scopi originari al momento dell’ideazione. E questo è tanto più vero quanto è altamente probabile che, in un futuro non lontano, i programmi di intelligenze artificiali potranno comunicare direttamente gli uni con gli altri, per migliorare le loro performance. E, se in passato, gli esseri umani che hanno modellato utensili semplici hanno visto la loro esistenza modellata da questi ultimi – il coltello ha permesso loro di sopravvivere al freddo ma anche di sviluppare l’arte della guerra – adesso che gli esseri umani hanno modellato uno strumento complesso vedranno quest’ultimo modellare ancora di più la loro esistenza”.

Conservare il potere di decisione da parte dell’uomo in ogni frangente, in ogni applicazione, consentirebbe di far prevalere l’uomo, il suo dovere decisionale, rispetto alla delega. Per scegliere la strada affascinante e scartare quella tremenda dunque il tempo è limitato, la rapidità dello sviluppo potrebbe rendere il processo irreversibile. Dunque occorre decidersi adesso e la strada richiesta è indicata dall’etica, dal rispetto dell’umano. “Dimenticare che l’intelligenza artificiale non è un altro essere umano e che essa non può proporre principi generali, è spesso un grave errore che trae origine o dalla profonda necessità degli esseri umani di trovare una forma stabile di compagnia o da un loro presupposto subcosciente, ossia dal presupposto che le osservazioni ottenute mediante un meccanismo di calcolo siano dotate delle qualità di certezza indiscutibile e di universalità indubbia”.

Dunque l’enorme pericolo che il papa ha posto all’attenzione di tutti i potenti è che sia l’Intelligenza Artificiale non governata a condurci nell’epoca del vero pensiero unico. La verità sarebbe proprietà di una macchina, indiscutibile. Il governo della tecnologia da parte dell’uomo è l’unico che può consentire un primato dell’etica: “La stagione di innovazione tecnologica che stiamo attraversando, infatti, si accompagna a una particolare e inedita congiuntura sociale: sui grandi temi del vivere sociale si riesce con sempre minore facilità a trovare intese. Anche in comunità caratterizzate da una certa continuità culturale, si creano spesso accesi dibattiti e confronti che rendono difficile produrre riflessioni e soluzioni politiche condivise, volte a cercare ciò che è bene e giusto. Oltre la complessità di legittime visioni che caratterizzano la famiglia umana, emerge un fattore che sembra accomunare queste diverse istanze. Si registra come uno smarrimento o quantomeno un’eclissi del senso dell’umano e un’apparente insignificanza del concetto di dignità umana. Sembra che si stia perdendo il valore e il profondo significato di una delle categorie fondamentali dell’Occidente: la categoria di persona umana. Ed è così che in questa stagione in cui i programmi di intelligenza artificiale interrogano l’essere umano e il suo agire, proprio la debolezza dell’ethos connesso alla percezione del valore e della dignità della persona umana rischia di essere il più grande vulnus nell’implementazione e nello sviluppo di questi sistemi. Non dobbiamo dimenticare infatti che nessuna innovazione è neutrale. La tecnologia nasce per uno scopo e, nel suo impatto con la società umana, rappresenta sempre una forma di ordine nelle relazioni sociali e una disposizione di potere, che abilita qualcuno a compiere azioni e impedisce ad altri di compierne altre. Questa costitutiva dimensione di potere della tecnologia include sempre, in una maniera più o meno esplicita, la visione del mondo di chi l’ha realizzata e sviluppata. Questo vale anche per i programmi di intelligenza artificiale. Affinché questi ultimi siano strumenti per la costruzione del bene e di un domani migliore, debbono essere sempre ordinati al bene di ogni essere umano. Devono avere un’ispirazione etica”.

Ma come definire un’etica condivisa? Il papa non ha negato la forza dell’interrogativo, fondendo però una risposta: “Se facciamo fatica a definire un solo insieme di valori globali, possiamo però trovare dei principi condivisi con cui affrontare e sciogliere eventuali dilemmi o conflitti del vivere”. È uno dei cardini del pluralismo, che non è relativismo.