Se l’America rallenta e la Cina no. Può la tecnica limitare sé stessa?

Può un sistema limitare sé stesso? Può stabilire da sé i confini della propria potenza senza disporre di un criterio che, in qualche modo, lo trascenda?

Il problema è antico. Il barone di Münchhausen pretendeva di uscire dalla palude tirandosi per i propri capelli. Molti secoli prima, il paradosso di Epimenide aveva già posto il problema dell’autoreferenzialità: se un cretese afferma che tutti i Cretesi mentono, quale valore ha un’affermazione che comprende anche colui che la formula?

Più di duemila anni dopo, Kurt Gödel avrebbe portato il problema nel cuore della logica matematica. I suoi teoremi di incompletezza mostrano che un sistema formale sufficientemente potente incontra dall’interno limiti che non può cancellare aumentando la propria potenza.

Oggi il problema è diventato maledettamente concreto: può l’intelligenza artificiale essere governata utilizzando gli stessi strumenti che ne accrescono continuamente la potenza?

Dario Amodei mette da tempo in guardia dai rischi di un’accelerazione incontrollata. Sam Altman ed Elon Musk, da posizioni differenti, hanno riconosciuto la necessità di limiti e controlli. Governi e istituzioni internazionali discutono di regole.

Ma l’obiezione di Trump non può essere liquidata come rozzo tecnonazionalismo: che cosa accade se gli Stati Uniti rallentano e la Cina non lo fa? E la domanda vale ormai anche in senso inverso. L’apparato di sicurezza cinese considera l’intelligenza artificiale una minaccia alla sicurezza e alla stabilità.

Il paradosso diventa così reciproco. Ciascuna potenza trova nell’accelerazione dell’altra una ragione per non rallentare. E ciascuna, per controllare la potenza tecnica dell’avversario e i rischi dell’IA, deve accrescere la propria.

Per limitare la crescita della potenza tecnica dobbiamo dunque aumentare la nostra potenza tecnica. Gli strumenti necessari a contenerla contribuiscono essi stessi ad accrescerla.

La questione dell’IA è per questo più complessa del tradizionale dilemma della sicurezza. Nella competizione nucleare gli arsenali erano relativamente identificabili e gli attori principali erano Stati. Nell’intelligenza artificiale agiscono Stati, imprese, laboratori, infrastrutture distribuite e tecnologie dual use capaci di modificare rapidamente i rapporti di forza.

Per questo formule come «rimettiamo l’uomo al centro» o «governiamo la tecnica» rischiano di essere insufficienti. Presuppongono ciò che dovrebbero dimostrare: che esista ancora un uomo collocato fuori dal processo tecnico, capace di stabilire dall’esterno che cosa la tecnica possa o non possa fare.

Il problema diventa particolarmente serio nell’università. È qui che la domanda si traduce in scelte concrete: che cosa insegniamo, quali competenze formiamo, quali ricerche finanziamo?

Prendiamo l’offerta formativa. I corsi di laurea vengono progettati secondo tempi più lenti dell’innovazione tecnologica. Inserire oggi un insegnamento per rispondere a una competenza richiesta dal mercato può significare formare, tra tre o cinque anni, uno specialista di attività che l’intelligenza artificiale avrà automatizzato.

L’università che rincorre la tecnica è condannata ad arrivare dopo la tecnica.

Il problema non è insegnare meno tecnologia, ma insegnare a comprenderla. Un giurista deve saper utilizzare l’IA, ma anche interrogare la concezione della decisione giuridica incorporata nel sistema. Un analista geopolitico deve saper lavorare su grandi quantità di dati, ma anche comprendere come il modello li trasformi in previsione. Un economista deve usare strumenti predittivi senza confondere le correlazioni individuate dal modello con la comprensione dei processi che le hanno prodotte.

Lo stesso vale per la ricerca. Un progetto sull’intelligenza artificiale non dovrebbe chiamare il giurista o il filosofo alla fine, quando la tecnologia è già stata costruita, per aggiungervi un capitolo sull’etica o sulla regolazione. Le domande giuridiche, filosofiche e sociali dovrebbero entrare nella costruzione del problema insieme a quelle matematiche e tecnologiche.

L’interdisciplinarità non basta più. Presuppone discipline che osservano da prospettive differenti un oggetto già dato. La trasformazione tecnologica ci pone invece davanti a problemi che nessuna disciplina è in grado, da sola, neppure di definire. Occorrono percorsi formativi e progetti di ricerca nei quali matematici, informatici, giuristi, filosofi e scienziati sociali concorrano fin dall’inizio non soltanto alla ricerca delle risposte, ma alla costruzione delle domande.

È significativo che questa esigenza emerga proprio dalla matematica. Venticinque matematici insigniti della medaglia Fields, tra cui Terence Tao, Peter Scholze, Maryna Viazovska e Alessio Figalli, hanno richiamato l’attenzione sull’ingresso dell’intelligenza artificiale nella ricerca matematica.

La loro posizione non è anti-tecnologica. Riconosce le capacità raggiunte dai sistemi artificiali, ma introduce una distinzione decisiva: ottenere una soluzione non equivale a comprendere. Nella matematica contano anche la costruzione dei concetti, la scoperta dei metodi, la comprensione dei passaggi e la trasmissione della conoscenza. Una soluzione non coincide con il sapere che consente di attribuirle un significato.

Qui che il problema della matematica diventa un problema epistemico generale. Quanto più una macchina diventa capace di produrre soluzioni, tanto più diventa decisiva la capacità umana di comprenderne i presupposti, stabilire connessioni e interrogarne il significato.

La questione va dunque oltre la matematica. Ci obbliga a distinguere ciò che l’ideologia tecnologica tende a sovrapporre: potenza e intelligibilità. Possiamo accrescere enormemente la potenza con cui produciamo soluzioni senza accrescere nella stessa misura la nostra capacità di comprenderle.

La domanda, allora, non è come rassicurare l’uomo davanti all’intelligenza artificiale, ma quale sapere possa renderlo ancora capace di comprendere la potenza che sta costruendo e, forse, di governarla.