Riccardo Cristiano legge per Formiche.net “Scusi, ma perché lei è qui? Storie di intelligenze umane e artificiali”, (Terre di mezzo editore), firmato da don Andrea Ciucci, coordinatore della segreteria della Pontifica Accademia per la Vita, guidata da monsignor Vincenzo Paglia. Un viaggio verso sfide non esclusivamente e strettamente dell’intelligenza artificiale, ma che vanno dalla vita in analogico a quella in digitale, dal locale al globale
Quando mi sono trovato davanti al distributore di sigarette e ho sentito la voce di Tobi, l’assistente virtuale che ormai ci accompagna in un ufficio postale o mentre cerchiamo di parlare con un operatore della società di cui ci serviamo per la fornitura di gas sono scappato: Tobi pure per comprare le sigarette non lo voglio vedere né sentire! Ma sebbene spesso e volentieri la nostra vita con Tobi funzioni male, come non prendere atto che l’intelligenza artificiale è arrivata anche in tabaccheria. Ma cosa sia questa intelligenza artificiale resistiamo in molti a volerlo sapere, a volerlo capire. È un passaggio enorme dialogare con Tobi, che ci dimostra quanto tutti, anche chi nega di esserlo, siamo conservatori, ma che poi, riflettendoci un po’, ci conferma anche che l’unico modo proficuo per conservare è innovare. E con Tobi e l’intelligenza artificiale occorre fare i conti, per forza.
Ma pur sapendo che il discorso è molto più ampio, che siamo inseguiti da algoritmi che modellano a nostra immagine e somiglianza il nostro telefonino, quello che ci fa vedere e quello che non ci fa vedere, quello che gli algoritmi decidono che sia di nostro gusto o non sia di nostro gusto, e che quindi ci sia offerto o negato, arrivare intorno a pagina 77 di un libro che non volevo leggere mi ha fatto capire l’enormità della questione, e della questione etica che questa intelligenza ci pone.
Ecco qui il racconto al quale mi riferisco, riportato per brevità nel solo passaggio finale di una visita negli Stati Uniti dove l’intelligenza artificiale viene “creata”: “Inebriato da tanta meraviglia tecnologica (la giornata per me a quel punto era già guadagnata) ci fanno accomodare in un igloo posto sull’altro lato della stanza. L’interno, completamente buio, ospita alcuni piccoli seggiolini dove ci accomodiamo. Neanche il tempo di prendere posto e abituarsi all’oscurità ed ecco che i pannelli che ricoprono interamente la superficie interna dell’igloo iniziano a illuminarsi. ‘Benvenuti nella sala controllo delle emergenze della municipalità di New York. Quello che vedrete tra poco è una simulazione, molto verosimile, di un disastro a Manhattan’. In un susseguirsi frenetico di mappe, immagini, squilli di telefono, schemi con dati che scorrono continuamente, ci troviamo vicini al responsabile della gestione delle emergenze di una delle più grandi metropoli del mondo. Con lui, quasi fianco a fianco, iniziamo a raccogliere i dati e le informazioni di quanto sta accadendo. Arrivano i primi report tecnici, poi, su altri schermi che si aprono uno dopo l’altro, le registrazioni delle chiamate al 911. Man mano la situazione si fa più chiara. È necessario mandare al più presto alcune squadre di pompieri in un posto preciso della città. Si tratta di trovare il percorso più veloce e per questo si consultano le telecamere delle strade ancora attive, le mappe interattive della città, i diagrammi dei flussi di traffico nel medesimo orario dei giorni precedenti. Il percorso è disegnato e inviato alle squadre che partono subito, la polizia è allertata. Poi però qualcuno pone attenzione ai tweet postati in diretta dalla zona del disastro: qualcuno sta scrivendo che si trova bloccato nel traffico impazzito di una strada che dovrà percorrere a breve la squadra dei pompieri. Il dato è verificato e il percorso viene così ricalcolato: l’intoppo evitato prontamente.
Riemergo dall’igloo come un ragazzino che esce dalla migliore attrazione del parco dei divertimenti dei suoi sogni, ma mentre mi avvio all’ascensore la mente focalizza la chiave del successo della missione che abbiamo (noi e la protezione civile di New York!) appena risolto brillantemente: la polizia legge continuamente i nostri tweet, e i nostri post su Facebook e su Instagram. In tempo reale. Sempre. Meno male, altrimenti i pompieri erano ancora bloccati tra il reti- colo di strade di Manhattan! Ma chi altri fa lo stesso? A quanti altri permettiamo di accedere ai milioni di dati generati dalla nostra vita quotidiana? Cosa se ne fa della registrazione minuziosa delle nostre esistenze il supermercato sotto casa o Facebook? E se lo stesso facessero alcuni malintenzionati?
‘Se il servizio è gratis, il prodotto sei tu!’ L’affermazione resa celebre dal famoso docufilm The Social Dilemma riemerge varie volte in questo turbinio continuo di domande. Il tour americano non ci ha insegnato nulla di nuovo (erano tutte cose che tecnicamente sapevamo già), ma ci ha offerto una consapevolezza diversa. A tutti è ormai evidente che la questione dell’etica dell’intelligenza artificiale è cruciale per i prossimi decenni.
Matura definitivamente la scelta di proporre un manifesto etico e di chiedere a chi produce e lavora con questi sistemi di esporsi, di firmarlo, di accettare la sfida di una tecnologia che metta al centro l’uomo e i suoi diritti. In terra americana prende forma quella che sarà la Rome Call for AI Ethics: cinque pagine, tre temi (etica, diritto, educazione) e sei principi (trasparenza, inclusione, responsabilità, imparzialità, affidabilità, sicurezza e privacy).
Microsoft, Ibm, venite a Roma a firmare questo documento davanti al papa?”.
Chi scrive è don Andrea Ciucci, coordinatore della segreteria della Pontifica Accademia per la Vita, guidata da monsignor Vincenzo Paglia e che io pensavo alle prese con tutt’altro. E invece la frontiera dalla quale si difende la vita, la nostra vita, è questa qui. Quando ho visto il volume “Scusi, ma perché lei è qui? Storie di intelligenze umane e artificiali”, (Terre di mezzo editore), ho provato il desiderio di allontanarmi, poi l’ho tenuto per giorni intonso, lontano, senza toccarlo. Pregiudizio? Paura? Forse era questo il problema, paura. Ma vincere le paure, come dimostra la pagina citata è sempre importante, alle volte è decisivo per sapere non solo dove siamo ma anche chi siamo. Non c’è una sola soglia nella nostra vita, sono tante, avere paura di riconoscere e varcare quella dell’intelligenza artificiale è un rischio da evitare, per evitare di restare in un mondo che non c’è più.
L’intelligenza artificiale ci accompagna nelle sfide che l’autore, senza mai cedere ai temuti tecnicismi, affronta ricostruendo i suoi giorni di lavoro nella Pontifica Accademia per la Vita. Quella alimentare è la prima citata. Se l’impossibilità di non nutrirsi ci dimostra che non possiamo essere autosufficienti, sfamare in modo adeguato una popolazione di numerosi miliardi di persone sarà certamente una bella sfida. Ma che fosse d’attualità la produzione di bistecche sintetiche per continuare a dare a tutti proteine senza finire le risorse naturali del pianeta lascia basiti. Eccoci ai laboratori dove replicare cellule di carne di manzo. Dà sollievo allora sapere che due donne illustrino un altro progetto, quello di aggiornare le tecniche tradizionali di coltivazione adattandole al XXI secolo. Ma quanto tempo c’è per riuscirci? Il tempo è importante, visto che ogni minuto muoiono di fame 13 persone. Moltiplicare per sapere a che cifra si arrivi per ora, giorno, settimana, è semplice, ma anche terrificante.
Gli spunti che offre il volume e in particolare la sezione sulle sfide sono tantissimi e di diversa natura: non riguardano esclusivamente e strettamente l’intelligenza artificiale, vanno dalla vita in analogico a quella in digitale, dal locale al globale. Pensare in termini globali è ormai indispensabile, ma vivere in modalità digitale non è sempre possibile. Questo sistema ci abitua a pensare che c’è sempre un’uscita di sicurezza, sbagliare non è mai una via senza ritorno nel digitale. Ma la vita non è sempre così e rendersi conto della dimensione globale di quel che risulta locale, o addirittura individuale, è complesso. Ma la resistenza al definitivo, all’irreversibile, può derivare anche dalla vita in un mondo sempre più digitalizzato? È un tema posto indirettamente, con delicatezza e acume, come quella della irreversibilità del fatto globalizzato. Ma è l’etica dell’intelligenza artificiale a restare al centro del libro. Non ha senso fare come me, preferire illudersi che non ci sia per paura, ma tentare di dargliela noi, l’etica.
È quello che il papa ha voluto che si facesse e che è arrivato a un primo traguardo poco raccontato in una grande cerimonia romana incentrata sullo slogan prescelto, RenAIssance, il rinascimento dell’intelligenza artificiale, quando in un grande incontro romano ci si è impegnato tra manager e fedi proprio per questo: “Il discorso di monsignor Paglia poi, che ricorda il cammino compiuto e invoca un’etica dell’intelligenza artificiale (un’algoretica, come il papa scriverà poi nel suo discorso coniando l’ennesimo neologismo), l’ho letto e riletto anche nella notte per tagliarlo di quindici righe e così rimanere nei tempi strettissimi che abbiamo concertato. Il ministro italiano per l’Innovazione tecnologica e la transizione digitale non tiene un discorso, ma Paola Pisano ha voluto esserci e firmare, prima rappresentante di un governo del G8, la call. Tra le parole che sento in cuffia e che costituiscono la colonna sonora di quella mattina ce n’è però una che mi colpisce e mi blocca per un momento. Sul palco, in quel momento, interviene John Kelly III, vicepresidente di Ibm, uno dei più grandi scienziati di questo campo, il padre di Watson (il sistema con cui Ibm ha battuto gli uomini a Jeopardy). Sta parlando di sé: del suo essere convinto cattolico e della sua vita spesa nella ricerca, e di come queste due cose oggi, per lui, trovano un punto di sintesi simbolica sorprendente e vera: è in Vaticano a spiegare perché il frutto della sua ricerca può e deve custodire la centralità dell’uomo. In quel momento capisco che anche i mostri sacri della scienza, anche John Kelly III, alla fine, desiderano una vita unificata, cercano un punto di autenticità personale. E comprendo perché la sua segreteria ha verificato più volte che durante la programmata (e cancellata!) udienza con il papa ci sia il posto anche per sua moglie. Chi altri vorresti avere di fianco in un momento simile?”.
Etica e intelligenza artificiale sono il cuore di questo racconto che comprende anche altri racconti e altri incontri, altre storie che hanno a che fare con la vita in questo XXI secolo. È materia da sottrarre agli specialisti non per farne una materia senza sostanza, ma un argomento di discussione e confronto per tutti, anche per me che ho paura dell’intelligenza artificiale, ma devo capire di più come le sue scelte, i suoi comportamenti, siano decisivi anche in me e per me. Questo è davvero un libro da leggere. Il confronto su etica e XXI secolo ci riguarda, direttamente.
