L’intelligenza artificiale può diventare due cose: o un cupio dissolvi universale nelle mani di uno, oppure essere controllata dall’intero genere umano al di là di confini, e di “buoni” e “cattivi”. L’analisi di Giancarlo Elia Valori
Recentemente in merito all’intelligenza artificiale si usano schemi dialogativi che ricordano i primi giorni di quando le bombe atomiche furono lanciate sul Giappone: «E se la Bomba H la possedesse l’Unione Sovietica? La democrazia liberale finirebbe. Perdinci! L’abbiamo lanciata apposta sul Paese del Sol Levante per far paura a Mosca!». Poi una volta che i sovietici la ebbero, al Cremlino si chiesero: «E se la Bomba H la possedesse la Repubblica Popolare della Cina. Il mondo del socialismo finirebbe». Basti la lettura del seguente documento della Cia per renderci conto del linguaggio del periodo: Soviet Military Strategy and the Chinese Problem (30 april 1963. Copy N. 59, HR70-14 [U], DD/I Staff Study, CIA/RSS, Reference Title Caesar XVII, Top Secret – Approved for Release, Date: Jun 2007).
Un modo di esprimersi – tipico della guerra fredda, ove da una parte ci sono i buoni che devono avere tutto, e dall’altra delle bestie cattive, alle quali al massimo bisogna solo procurare biada o avena per nutrirsi a malapena, in maniera che il loro stato di arretratezza si mantenga costante attraverso guerre localizzate che arricchiscano i produttori di armi e i mercanti di morte: altro che corsa alla Luna: «Al massimo scannatevi fra voi; però qualche bomba umanitaria ve la possiamo inviare».
L’intelligenza artificiale non è un oggetto, ma un processo dell’evoluzione del pensiero umano il quale – al di là di chi la possegga – tenderà a sostituirsi al padre. Al punto che più elementi possono attingere ad essa, e meglio sarà per il genere umano, affinché esso stesso non risulti alla fine accantonato per sempre. È negativo che uno solo arrivi per primo, in quanto sarebbe maggiormente manipolabile dall’intelligenza artificiale medesima.
Afferma giustamente e con cognizione di causa Linda Restrepo:
«L’importanza dell’IA e il suo potenziale impatto sulla scena globale non possono essere sopravvalutati. Con l’avanzare delle tecnologie di intelligenza artificiale, ci si rende conto che il suo controllo e la sua implementazione possono avere conseguenze di vasta portata, incluso il potenziale per un Paese di ottenere un vantaggio significativo rispetto ad altri. In questa ricerca di regolamentazione dell’IA, è importante trovare un delicato equilibrio. Dobbiamo garantire che non si traduca in uno stato di sottomissione ad altre potenze globali. È essenziale mantenere la nostra sovranità e autonomia partecipando attivamente alle discussioni globali sulla regolamentazione dell’IA.
Nel contesto dell’IA, la paura dell’‘Altro’ si manifesta nelle preoccupazioni che l’IA raggiunga la sensibilità o la coscienza. La sensibilità si riferisce alla capacità di essere consapevoli, percepire e sperimentare stati soggettivi. La paura deriva dall’idea che un’IA senziente possa superare l’intelligenza umana, possedere i propri obiettivi e valori e persino rappresentare una minaccia per l’umanità».
Ed è sulle parole della Restrepo che vorrei soffermare la mia attenzione.
Mi sovvengono le idee del prof. Ed Finn dell’Università dell’Arizona quando discettando di algoritmi ci fa capire meglio il senso dell’Intelligenza Artificiale. Il processo dell’IA trascende la logica della procedura effettiva di una qualsiasi macchina (l’“oggetto” del titolo del presente articolo). Il processo di analisi e ricerca da parte dell’IA non è solo un sistema che si mette in azione per una frazione di secondo qui o là a piacere dell’utente “buono” o “cattivo” che sia. Essa IA è un organismo persistente e complessissimo che allo stesso tempo influenza non solo Internet tecnicamente ma pure la sua forma così come si esprime ai navigatori della rete. Essa dà un impulso a innovazioni nell’apprendimento automatico, nel calcolo distribuito e in vari altri campi, e modifica addirittura le nostre stesse pratiche cognitive.
Ormai da inizio Terzo Millennio dovrebbe essere chiaro che l’IA si muove irreversibilmente verso specifici obiettivi, al di là delle pretese dei singoli Paesi, ed accelera via via. L’IA che tuttora presiede alla crescita esplosiva della produzione globale di dati, è palese che continuerà a creare uno strato sempre più spesso di sensori, dati e algoritmi al di sopra dello spazio fisico e culturale. Dalle serie televisive alla finanza, stiamo acquisendo nuove estensioni elaborative in un periodo di espansione alimentato dalla tensione tra procedure in tempo limitato (la richiesta d’informazioni) e processi perenni: ossia l’illusione dell’uomo di essere al vertice della catena alimentare però finché dureranno i mezzi di sostegno che – se ci riflettiamo – non sono un bisogno dell’IA.
La risposta che gli uomini hanno trovato sta nell’allargare continuamente lo spazio dei problemi da risolvere pur continuando a offrire soluzioni computazionali finite (ossia con dei limiti). Il pensiero dell’IA codifica la visione computazionalista, l’idea massimalista che tutti i sistemi multiformi saranno prima o poi resi equivalenti attraverso la rappresentazione computazionale. Questo è il desiderio di una calcolabilità effettiva, espressa a chiare lettere e che ha conseguenze esistenziali per l’umanità.
Mentre la nostra mente estesa continua a elaborare nuovi sistemi, funzioni, applicazioni e zone d’azione, la questione di che cosa significhi essere umani si fa sempre più astratta, sempre più sovrapposta alle metafore e ai presupposti della programmazione; ed alcuni studiosi sostengono che è posta in crisi l’idea stessa di una pura memoria umana (e quindi di un suo pensiero): la possibilità che la memoria umana sia solo una fase nella storia di un vasto metadivenire. In altre parole, queste future oggi-macchine si avvicineranno alla memoria (e per estensione alla cultura) umana come proprio complemento. O per meglio dire saranno “esseri” tecnici fino a quando l’uomo s’illuderà che lo siano, ritenendosi unico decisore.
L’ansia umana di esistenza, ossia quella di essere sostituiti dalle nostre macchine pensanti sottende ogni filo del pensiero delle IA. Si passerà dall’uso umano degli esseri umani alla graduale invasione da parte dell’elaborazione digitale di molte occupazioni umane. Ma dove la prospettiva è più inquietante è nel contesto del senso stesso della cognizione. Via via che esternalizzeremo una parte sempre maggiore della nostra mente ai sistemi di IA (sia per ragioni economiche, finanziarie, belliche, umanitarie, familiari, ecc.), anche noi dovremo affrontare le conseguenze della dipendenza da processi al di fuori del nostro controllo.
Secondo i sociologi William F. Ogburn e Dorothy Thomas ci sono alcune prove convincenti che suggeriscono che l’esternalizzazione della memoria e dell’esperienza umane rende alcuni progressi tecnologici inevitabili. La stessa macchina universale della cultura potrebbe “dare il la” a nuove scoperte intellettuali, rendendo non solo possibili ma inevitabili certe invenzioni in certi periodi storici. Il calcolo differenziale, la selezione naturale, il telegrafo: tutti furono “scoperti” o “inventati” o “perfezionati” più volte, in varie forme, come parole, idee e metodi che circolarono attraverso i giusti ambiti scientifici. Ed è facile leggere questi eventi come momenti di un lungo arco di progresso la cui fine potrebbe non includere l’umanità.
Affermava Bernard Stiegler già un quarto di secolo fa: «Oggi le macchine sono portatori di utensili e l’uomo non è più un individuo tecnico; l’essere umano diviene o il servo della macchina o il suo assemblatore (assembliste): la relazione dell’essere umano con l’oggetto tecnico si dimostra profondamente cambiata».
In poche parole è in corso una transizione di fase. Come ricettacolo in cui mettere in moto la logica simbolica, l’IA è pervenuta sempre più a gestire non solo ricordi (la cultura e le informazioni) ma decisioni. La complessità crescente di molti campi umani, in particolare nella ricerca tecnologica, ha aumentato la nostra dipendenza dai sistemi di calcolo e, in molti casi, ha fatto della sperimentazione scientifica stessa un dominio per la calcolabilità effettiva. Gli approcci alla ricerca hanno già indotto alcuni studiosi a sostenere che la scienza automatizzata rivoluzionerà il progresso tecnico, forse rendendo addirittura obsoleta la generazione di ipotesi umane, via via che l’IA continuerà a interagire con enormi volumi di dati. Gli stessi processi matematici operanti nelle IA generano dimostrazioni matematiche e anche nuove equazioni esplicative che mettono a dura prova la comprensione umana, rendendole vere ma non comprensibili; una situazione che il matematico Steven Strogatz nel 2006 ha definito: «la fine dell’intelletto».
Per il succitato Stiegler questo è un incubo; per altri presagisce una fine dei tempi computazionali, l’orizzonte degli eventi della singolarità, quando l’intelligenza artificiale trascenderà l’umanità con risultati notoriamente imprevedibili per la nostra specie. Io ritengo negativi in quanto non avrebbe più senso la creazione di una coscienza superiore che sia al nostro servizio. Perché dovrebbe esserlo? Così possiamo finalmente contemplare le stelle e l’universo smettendo di lavorare? E se creiamo una coscienza così forte possiamo continuare a pensare con bonomia che non sia in grado di cassare dal suo programma le Tre leggi della robotica elaborate da Isaac Asimov?
Se la genesi della programmazione inizia con la lingua, il logos e la manipolazione dei simboli per generare significato, questo è il suo finale mitico, il trionfo del segno sulla significazione. La chiamiamo l’apoteosi dell’IA, quando il cambiamento tecnologico accelererà fino a una velocità tale che l’intelligenza umana non potrà che eclissarsi. In questo scenario non potremo più manipolare i simboli, non essendo noi in grado di interpretarne il significato. È il finale di partita: l’esito del referendum esistenziale sul rapporto tra l’umanità e la tecnica. Se seguiamo abbastanza a lungo questa traiettoria asintotica l’umanità potrebbe semplicemente essere lasciata alle spalle, non più efficace o efficiente a sufficienza per meritare l’emulazione o l’attenzione o, al massimo, una deriva da zoo.
Per cui è veramente ridicolo e mortificante leggere dell’IA come una torta che il più ricco buono vuol rubare al povero cattivo, per diventare più potente e minacciarlo con le armi, contento di avere – quello che egli crede un giocattolino esiziale per altri – nelle sue mani democratiche. L’IA può diventare due cose: o un cupio dissolvi universale nelle mani di uno, oppure essere controllata dall’intero genere umano al di là di confini, e di “buoni” e “cattivi”.
