Non lasciamo cadere nel vuoto l’appello del papa sull’IA generativa. Scrive Mayer

Nel suo intervento al G7, papa Francesco ha esaminato in modo estremamente lucido i rischi dell’intelligenza artificiale generativa nei processi educativi. Ecco alcuni passaggi.

Molti di noi sono rimasti colpiti dalle applicazioni facilmente disponibili on-line per comporre un testo o produrre un’immagine su qualsiasi tema o soggetto. Particolarmente attratti da questa prospettiva sono gli studenti che, quando devono preparare degli elaborati, ne fanno un uso sproporzionato.

Questi alunni, che spesso sono molto più preparati e abituati all’uso dell’intelligenza artificiale dei loro professori, dimenticano, tuttavia, che la cosiddetta intelligenza artificiale generativa, in senso stretto, non è propriamente “generativa”. Quest’ultima, in verità, cerca nei big data delle informazioni e le confeziona nello stile che le è stato richiesto. Non sviluppa concetti o analisi nuove. Ripete quelle che trova, dando loro una forma accattivante. E più trova ripetuta una nozione o una ipotesi, più la considera legittima e valida. Più che “generativa”, essa è quindi “rafforzativa”, nel senso che riordina i contenuti esistenti, contribuendo a consolidarli, spesso senza controllare se contengano errori o preconcetti.

In questo modo, non solo si corre il rischio di legittimare delle fake news e di irrobustire il vantaggio di una cultura dominante, ma di minare altresì il processo educativo in nuce. L’educazione che dovrebbe fornire agli studenti la possibilità di una riflessione autentica rischia di ridursi a una ripetizione di nozioni, che verranno sempre di più valutate come inoppugnabili, semplicemente in ragione della loro continua riproposizione

È importantissimo che il Papa abbia affrontato un tema cruciale per il futuro delle nuove generazioni ma trascurato dalla politica e dai media mainstream. L’avvento dell’intelligenza artificiale generativa impone, infatti, una rivoluzione pedagogica nei sistemi educativi, oggi spaesati e spiazzati da questa grande novità tecnologica. Il Papa non si rivolge ovviamente soltanto al ruolo educativo della Chiesa Cattolica, ma parla a tutti, a tutte le confessioni religiose così come alle comunità dei non credenti.

La Chiesa fa benissimo a lanciare l’allarme affinché si eviti che le opportunità offerte dall’intelligenza artificiale si trasformino in un boomerang negativo nel campo dell’istruzione. Le nuove tecnologie di intelligenza artificiale pongono peraltro alla stessa Chiesa dilemmi etico-politici che coinvolgono le gerarchie, le diocesi, i sacerdoti, gli ordini monastici e la vastissima rete di movimenti politici e sociali di ispirazione cattolica. L’intelligenza artificiale generativa può essere utilizzata in tutti i campi: dalla predicazione alla divulgazione del catechismo nelle parrocchie sino alle più sofisticate istituzioni universitarie di alta formazione e di ricerca teologica. Ma come?

Un primo dilemma etico-politico non vale solo per la Chiesa Cattolica, ma per tutti. Come evitare una strisciante, ma profonda riduzione della libertà di insegnamento? L’utilizzo acritico dell’intelligenza artificiale può, infatti, generare conformismo e omologazione verso il basso sia delle prestazioni didattiche che dei risultati in termini di apprendimento. Nel mondo cattolico la ricerca e l’interpretazione testuale e filologica delle sacre scritture si svolge all’insegna di una grande libertà intellettuale, con un alto livello di apertura e creatività. Per i sacerdoti la lettura dei Vangeli è la solida piattaforma da cui trarre ispirazioni e spunti espressione della contemporaneità. Pensiamo, per fare un solo esempio, alle molteplici e variegate modalità con cui si può leggere una figura controversa come Ponzio Pilato. Ma cosa accadrà se un testo prodotto dall’intelligenza artificiale su Ponzio Pilato dovesse diventare mainstream o peggio la versione dominante?

Molti si dimenticano che la logica che presiede le applicazioni dell’intelligenza artificiale generativa si muove nella direzione opposta a quella a cui facciamo ricorso quando utilizziamo i motori di ricerca. Il rischio dell’intelligenza artificiale è di accontentarsi di una ricetta preconfezionata (una sorta di Bignami) abbandonando la sequenza di domande stimolate anche dalla più banale ricerca su Google quando gli studenti possono spaziare liberamente in un vasto universo di materiali, fonti ed immaginare potenziali interpretazioni. Sarebbe molto grave se nei percorsi didattici gli ostacoli cognitivi, lo spirito critico e la dimensione della “libera associazione di idee” fossero sostituiti dal ricorso acritico ai “cibi precotti” sfornati dall’intelligenza artificiale.

Una seconda dimensione cruciale di cui tener conto è l’etica della conoscenza; essa, come è noto, è fondata su un permanente processo di falsificazione su cui si basa il metodo scientifico. Su questo piano le grandi lezioni eretiche di Galileo e di Machiavelli diventano nuovamente di attualità per scongiurare una nuova ortodossia tecnologica ovvero il conformismo indotto dalla convergenza di dati quantitativi che rischia di essere prodotto dall’intelligenza artificiale generativa” o, per usare le parole di papa Francesco, rafforzativa. A proposito del pericolo di ortodossia tecnologica è opportuno riflettere ancora su quanto ha dichiarato il Pontefice al G7 con riferimento all’intelligenza artificiale: “E più trova ripetuta una nozione o una ipotesi, più la considera legittima e valida. Più che ‘generativa’, essa è quindi ‘rafforzativa’, nel senso che riordina i contenuti esistenti, contribuendo a consolidarli, spesso senza controllare se contengano errori o preconcetti”.

Che fare? In alcune università c’è chi ha pensato di abolire gli esami scritti per il timore che gli studenti “copino” i testi sfornati dall’intelligenza artificiale. Non mi sembra la strada giusta da seguire. Almeno nell’istruzione superiore serve muoversi nella direzione opposta anche perché come sempre il proibizionismo non paga. Occorre, viceversa, abituare gli studenti a “sfidare” i testi prodotti dall’intelligenza artificiale con la consapevolezza che per farlo serve essere molto preparati e studiare di più di prima. Lancio questo primo spunto nella speranza che anche tra i lettori di Formiche si apra la più ampia discussione su quali siano le migliori soluzioni da adottare.

Quello che è certo è che i docenti di ogni ordine e grado devono essere profondamente grati a papa Francesco per aver sollevato di fronte ai Grandi del mondo un tema di assoluta rilevanza per le nuove generazioni. Le radicali e rapidissime innovazioni tecnologiche che caratterizzano la società contemporanea rendono imperativa una profonda riforma della didattica nonché una radicale riorganizzazione del sistema educativo nel suo complesso.