L’intelligenza artificiale potrebbe essere l’ultima grande invenzione del genere umano? A chiederselo provocatoriamente (ma non troppo) è James Barrat, documentarista e saggista americano che segue il tema dell’apprendimento delle macchine sin dal 2000, quando ha avuto modo di conoscere e dialogare con personalità come l’inventore Ray Kurzweil, il robotista Rodney Brooks e la leggenda della fantascienza Arthur C. Clarke.
Our Final Invention è il titolo del suo ultimo libro che si concentra su che cosa può andare storto con lo sviluppo e l’applicazione dell’IA avanzata. Qual è e quale sarà il ruolo dell’intelligenza artificiale nelle nostre vite? Quale influenza avrà nei nostri comportamenti? L’avvento dell’intelligenza artificiale può essere definito il protagonista dell’inizio del terzo millennio. C’è chi prevede che entro pochi anni darà inizio a una nuova età dell’oro. Ma c’è anche chi, come Barrat è convinto che l’IA segnerà la fine dell’età dell’Uomo, se non si sarà in grado di costruire una ‘scienza’ in grado di gestirla. Formiche.net ne ha parlato con lui a margine di un convegno organizzato da Maker Faire Rome, Università degli Studi Roma Tre, Ambasciata degli Stati Uniti d’America in Italia e Punto Impresa Digitale della Camera di Commercio di Roma.
Barrat, il suo ultimo libro ha un titolo provocatorio. Perché l’intelligenza artificiale potrebbe essere l’ultima invenzione del genere umano?
Come ha detto lo scienziato Stephen Hawking, il problema dell’intelligenza artificiale nel breve periodo è che può essere controllata, mentre nel lungo periodo è che potrebbe non essere più controllabile.
Crede che si vada verso una cosiddetta ‘singolarità’ tecnologica, ovvero un punto, congetturato nello sviluppo di una civiltà, in cui il progresso tecnologico accelera oltre la capacità di comprendere e prevedere degli esseri umani?
Ci sono diversi attori malevoli che nel breve periodo hanno utilizzato (o stanno utilizzando) l’intelligenza artificiale irresponsabilmente. Nel lungo periodo dobbiamo chiederci fino a che punto riusciremo a mantenere il controllo di una tecnologia che potrebbe diventare migliaia di volte più intelligente di un umano. È un grande problema, specialmente perché ci sono persone che stanno investendo miliardi di dollari nello sviluppo di questa nuova tecnologia. Queste macchine potrebbero superare il nostro livello di intelligenza e in pochi anni essere in grado di lavorare con più efficienza di noi, rendendoci inutili.
Gli esseri umani, d’altro canto, hanno affinato le loro capacità intellettive per sopravvivere ai secoli, e una creatura più intelligente di noi potrebbe alla lunga porre fine alla necessità di una specie umana. In sostanza il problema del lungo periodo è quello del controllo. Quindi ci sono problemi sul breve periodo, ovvero attori malevoli con in mano l’Ia, e problemi nel lungo periodo, ovvero l’incontrollabilità della tecnologia.
Come sta evolvendo la ricerca in questo campo?
La tecnologia avanza, ma porta con sé rischi e problematiche. Ci sono diverse nazioni che stanno sviluppando robot e droni da guerra, la maggior parte dei quali programmati per essere autonomi, e quindi per uccidere esseri umani. Queste macchine verranno sviluppate a breve da Stati Uniti, Russia, Cina, Israele. Quest’ultima, ad esempio, possiede e utilizza già un drone totalmente autonomo che può colpire senza il coinvolgimento di un umano. Un ulteriore problema è il bias (pregiudizio) sui dati raccolti nel corso degli ultimi decenni, che penalizzano le minoranze e le donne. Questi dati sono utilizzati per costruire algoritmi i quali operano per prendere decisioni importanti, come chi può accedere ad un determinato college o chi è il più adatto ad essere assunto per un determinato lavoro. Questo è un problema significativo del momento. Facebook, ad esempio, ha venduto i dati di 80 milioni di americani a Cambridge Analytica, dati che si è scoperto essere stati inviati ai russi e successivamente impiegati per influenzare l’esito delle elezioni americane.
Che tipo di soluzione immagina per evitare che queste problematiche prendano il sopravvento sulle opportunità?
Ogni anno l’intelligenza artificiale cresce diventando più veloce e più potente. Ma prima che l’intelligenza delle macchine corrisponda alla nostra abbiamo una possibilità. Dobbiamo sviluppare una scienza per comprendere e coesistere con macchine intelligenti, persino superintelligenti. Se falliamo, saremo bloccati in un dilemma impossibile da vincere. Dovremo fare affidamento sulla gentilezza delle macchine per sopravvivere. Siamo sicuri che lo saranno? E sarebbe sensato scommettere sulla nostra esistenza?
In futuro assisteremo a un lungo conflitto per stabilire chi dovrà ottenere la supremazia tecnologica?
In parte vi stiamo già assistendo. Dal 5G, all’IA passando per una miriade di altri fronti c’è una corsa allo sviluppo di nuove tecnologie che si sta perpetrando tra colossi come Apple, Facebook, Google e rivali cinesi come Alibaba, Baidu e Tencent. La stessa contesa avviene nella ricerca messa in campo direttamente dai rispettivi Paesi, Stati Uniti e Cina.
Chi vincerà questa corsa? Occidente o Cina?
La Cina sta mostrando di esser molto brava a copiare le invenzioni nordamericane – come nel caso dei social network – e alcune di queste copie sono migliori dell’originale. Hanno una penetrazione dell’85% dell’IA nel business, mentre negli Stati Uniti solo il 50%. Non sarà però una vera gara finché saranno loro a copiare noi. Per adesso le pietre miliari dello sviluppo tecnologico appartengono all’Occidente: Stati Uniti, Canada, Regno Unito e non solo. Quando la Cina inizierà a creare innovazioni rivoluzionarie, inizierà la vera corsa.
