L’IA stravolgerà la geopolitica come la conosciamo. Intervista a Ian Bremmer

Era il 2021 quando il politologo statunitense Ian Bremmer, fondatore e presidente di GZero Media ed Eurasia Group, introdusse il concetto di mondo tecno-polare. La risposta più potente all’insurrezione del sei gennaio (quando un gruppo radicalizzato di seguaci di Donald Trump tentò l’assalto al Congresso) non era arrivata dalle istituzioni o dalle forze dell’ordine, ma dalle aziende tecnologiche che sospesero il profilo del presidente uscente e i forum online dove malcontento e cospirazioni si tramutavano in pensiero violento. La dinamica di potere era cambiata più di quanto non ci fossimo accorti. E oggi, con l’evoluzione dell’intelligenza artificiale, questo trend sta accelerando al punto da rivoluzionare le relazioni internazionali. Così Formiche.net ha raggiunto Bremmer per una conversazione sul futuro (molto) prossimo.

Può riassumere brevemente che volto ha un mondo tecno-polare?

Nel corso della nostra vita, quando si pensava all’ordine mondiale, si pensava agli Stati nazionali e ai governi che comandano. Questo era certamente valido durante la Guerra Fredda e dopo il crollo dell’Urss. Tutt’oggi pensiamo che il mondo stia andando in quella direzione: che diventerà bipolare o unipolare, che sarà determinato dagli equilibri di Stati Uniti e Cina, eccetera. Ma in un mondo tecno-polare, dove prevale la sfera digitale, le aziende tecnologiche sono sovrane e agiscono in qualità di attori principali: quelli che esercitano il potere di determinare i risultati.

Siamo già a quello stadio?

Solo parzialmente negli ultimi due decenni, perché le aziende digitali non avevano molto potere. Ora, con l’IA, vediamo che il ruolo della sfera digitale nell’economia è destinato a diventare molto più grande. Impatterà la sicurezza nazionale, le società, il sistemi politici e persino chi siamo come persone. Questa componente del potere geopolitico è dominata dalle aziende tech, ed è sempre più determinante per gli esiti geopolitici in senso più ampio – che si parli di elezioni, di guerra, della natura del potere nel mondo. Questo intendo quando parlo di mondo tecno-polare.

E che succede alla competizione tra superpotenze?

La prossima superpotenza non è quella che pensereste perché non ci saranno più superpotenze come le abbiamo conosciute finora – una potenza in grado di proiettare il suo potere a livello globale in ogni ambito e manifestazione, che sia sicurezza, diplomazia, ovunque. Questa definizione non si applica più agli Stati Uniti, certamente nemmeno a nessun altro Paese. Nella misura in cui si può applicare, nei prossimi anni, potrebbe descrivere le aziende tech, che non hanno contratti sociali con i cittadini. Di conseguenza, saranno loro a poter proiettare il potere in qualsiasi sua manifestazione, potenzialmente. È un periodo tanto emozionante quanto spaventoso da vivere.

Cosa è cambiato nel rapporto tra le aziende tecnologiche statunitensi e la politica da quando la loro rilevanza geopolitica è diventata evidente – attraverso casi come lo scandalo Cambridge Analytica, l’interferenza russa nelle elezioni del 2016 e il deplatforming di Donald Trump?

È solo l’inizio, ma in termini di governance è stato interessante vedere l’incontro alla Casa Bianca tra il Presidente statunitense Joe Biden e gli amministratori delegati del settore tecnologico. Questi hanno concordato una serie di regole volontarie su come l’IA sarà governata in termini di test indipendenti, algoritmi, “etichettare” le immagini e materiali prodotti dall’IA. È un inizio, soprattutto perché mostra un livello di governance ibrida: il governo degli Usa sa di non poter gestire questa sfera da solo.

E non si rischia di concedere troppo potere alle aziende già in partenza?

La regolamentazione a volte è efficace, a volte no, a volte può essere catturata da interessi privati. In questo caso, la capacità delle aziende di IA di creare regole e algoritmi e disporre di risorse e competenze aumenta molto velocemente. È vero che storicamente molte aziende tech hanno usato il loro potere, il loro accesso, il loro denaro per poter scrivere le leggi a loro misura. Quindi non è che non mi preoccupi del potere del settore privato – molti statunitensi sono arrabbiati, credono che il governo non sia più democratico, che il loro voto non valga più per colpa di un gruppo ristretto di persone al potere. Dico che le aziende tech dovranno essere parte della soluzione, responsabilizzate, messe in condizione di dover rendere conto alla società.

In che modo?

Pensate a cosa ha scritto Ronan Farrow su Elon Musk e il ruolo che SpaceX e Starlink hanno svolto in Ucraina. I suoi satelliti sono stati molto utili al governo ucraino per respingere le forze russe, ma che succede se Elon decide di rimuovere l’accesso – o scoppia un conflitto attorno a Taiwan? Questo non è nemmeno lontanamente accettabile per gli Stati Uniti, ma al momento una decisione del genere è presa arbitrariamente dalla persona a capo di SpaceX. Il mio suggerimento è che queste aziende debbano diventare essenzialmente firmatarie di un trattato, parte dell’architettura dell’IA, affinché abbiano la responsabilità e l’obbligo di governarla.

Come si può immaginare un trattato del genere?

Rispondo con due analogie. La prima: abbiamo beneficiato tutti della prima ondata di globalizzazione, siamo diventati più ricchi, più sani, abbiamo costruito una forte classe media, ma abbiamo anche prodotto esternalità negative con il cambiamento climatico e i danni alle generazioni future – e non abbiamo fatto nulla al riguardo. Parte della soluzione, oggi, è rendere le aziende più responsabili nel governare le esternalità. Anche la diffusione dell’IA porterà grandi vantaggi e genererà enormi quantità di denaro, e parimenti porterà enormi esternalità. La differenza col riscaldamento globale è che quelle dell’IA si verificheranno quasi immediatamente. Non possiamo permettere che l’IA sia governata come lo è stata la prima ondata di globalizzazione, né che le aziende siano free riders (“scroccone”, ndr): devono essere parte dell’architettura.

E la seconda analogia?

Pensiamo al potenziale di instabilità sistemica che deriva dall’IA: l’analogia è il sistema finanziario con la sua regolamentazione macro, internazionale. Come ho sostenuto su Foreign Affairs, abbiamo bisogno di una macro-regolamentazione tecnologica per cui le aziende e i governi, insieme, devono ridurre i rischi dei sistemi IA ed essere pronti a rispondere a livello globale quando c’è una crisi, esattamente come rispondiamo a una crisi finanziaria. Questo aspetto è al di sopra della geopolitica: tutti hanno la responsabilità di garantire il funzionamento della finanza, anche la Cina e gli Stati Uniti. Dobbiamo assicurarci che l’IA funzioni per la società e non contro di essa.

Le piattaforme tech tendono ad adattarsi al loro ambiente: X/Twitter che si adegua alla maggior parte delle richieste di censura in luoghi come la Turchia è solo uno degli esempi più recenti. Cosa è più probabile nel breve termine, che una grande azienda tech si frammenti in unità nazionali o che si coalizzi intorno alla sua filosofia politica originaria, rischiando di essere bandita altrove?

In questo momento, credo sia più probabile che le aziende tech si allineino maggiormente ai governi. Penso al disaccoppiamento tra Stati Uniti e Cina che vediamo in istanze come i controlli sulle esportazioni di semiconduttori avanzati e la riduzione degli investimenti transfrontalieri, ma anche il crollo della cooperazione e della ricerca nel campo della tecnologia avanzata. L’IA generativa e i large language model (LLM) sono dual-use, possono essere impiegati in campo civile come in campo militare. Da qui la necessità di rafforzare i legami tra le aziende e le loro nazioni d’origine. Però non penso che questa tendenza possa durare a lungo: sospetto che in tempi brevi assisteremo a una proliferazione di nuovi LLM in luoghi molto diversi.

Può spiegarci meglio?

Credo che l’IA diventerà un fenomeno molto più decentralizzato tra gli operatori del settore privato, soprattutto se si considera la proliferazione di modelli open source come LLaMA (sviluppato da Meta, ndr). Se così fosse, non si assisterà affatto a un allineamento con i governi, ma a una continua ibridazione della governance. In altre parole, gli Stati nazionali diventeranno meno rilevanti, meno potenti, meno in grado di fornire il benessere di base e la sicurezza dei loro cittadini. Sempre più spesso saranno le aziende a poterlo fare: se trascorriamo gran parte del nostro tempo intermediati da algoritmi, controllati dalle aziende, e i dati determinano chi siamo, come interagiamo, cosa facciamo e se siamo sicuri. La conseguenza è l’erosione del concetto di Stato nazionale. Potremmo assistere all’inizio di un mondo post-westfaliano (il riferimento è al Trattato di Westfalia del 1648, che ha concluso la Guerra dei Trent’anni, consolidato il concetto di Stato-nazione e creato la cornice delle relazioni internazionali moderne, ndr). Mi chiedo: è drammatico?

Nel periodo di transizione, le aziende o gli Stati potrebbero finire per limitare l’accesso ai modelli open source per provare a preservare il loro vantaggio tecnologico?

Spero di no. Capisco che i controlli sulle esportazioni degli Stati Uniti siano destinati a mantenere questo vantaggio, il che crea anche un pericolo intorno a Taiwan perché renderebbe Tsmc (il più grande produttore al mondo di chip avanzati, ndr) meno importante: se la Cina non fosse più in grado di acquistare chip avanzati, investirebbe per produrne di propri. E comunque i controlli servono a contenere la Cina sul fronte dello sviluppo dell’IA per un decennio: non avrà molta importanza se entro sei mesi sarà possibile scaricare questi LLM, senza le regole imposte dal settore privato, e farli funzionare su un mainframe a noleggio e, presto, su un portatile o uno smartphone. La proliferazione dell’IA si muove molto più velocemente della geopolitica.

Una traiettoria inevitabile, insomma.

Vediamola così: pensare in termini di Guerra fredda non è più utile. Molto più utile immaginare una versione high tech del mercato finanziario. L’IA genera valore, abbiamo bisogno di accedervi per far progredire la società, e ci si può ritorcere contro. Dunque abbiamo bisogno di un approccio tecnologico alla governance in cui l’IA si colloca al di sopra della geopolitica, in cui Cina e Stati Uniti non lottino per disaccoppiarsi ma ricordino di avere interesse comune a preservare il sistema. Non parliamo di paria o Stati terroristi, né di l’Iran né di la Russia: sia Pechino che Washington sanno perfettamente di trarre grandi benefici dall’esistenza e dal buon funzionamento dell’economia globale. Per loro è molto importante e non vogliono romperla.

A proposito: in Cina le piattaforme occidentali tendono a essere bandite e sostituite da alternative locali. Al contrario, però, le app cinesi possono proliferare al di fuori dei confini nazionali, come nel caso di TikTok. Dato che questi servizi oggi possono agire come estensioni del potere di uno Stato, pensa che i Paesi occidentali finiranno per opporvisi?

Non ne sono così sicuro. Penso che sarebbe un errore vietare TikTok per motivi di sicurezza nazionale. Anzitutto è difficile da fare, non c’è un concorrente valido e ai giovani piace, alcuni di loro ci guadagnano anche, e potrebbero arrabbiarsi e votare di conseguenza: ecco perché non si vedono politici che prendono provvedimenti in tal senso. Dopodiché il governo cinese non permette alle aziende statunitensi di partecipare all’economia digitale cinese, e certamente la parità di condizioni è un punto di partenza ragionevole per la politica. Al contrario della manifestazione di TikTok in termini di sicurezza nazionale.

Nonostante le (parziali) aperture emerse in occasione della visita della segretaria al Commercio Gina Raimondo in Cina, il rapporto tra Pechino e Washington rimane estremamente teso.

Sono d’accordo sul fatto che le relazioni tra Cina e Stati Uniti stiano peggiorando, ma c’è un “pavimento” e un’interdipendenza economica. Inoltre, il governo cinese è preoccupato per le prospettive economiche molto negative nel breve termine, il che significa che non vorrà inasprire significativamente le tensioni con l’Occidente e creare altri venti contrari a livello economico. Nei prossimi 6-12 mesi dovremmo assistere a uno sforzo per calmare un po’ le acque, e mi aspetto che l’incontro tra Biden e il presidente cinese Xi Jinping al forum Apec di novembre (non ancora confermato, ma dovrebbe avvenire) contribuisca a facilitare la situazione.

Nel mentre l’Ue sta optando per la strada regolatoria. Il Digital Services Act, che sta entrando in vigore, è uno dei piani più ambiziosi per rendere i servizi digitali più trasparenti e limitare la loro portata in modi in cui le normali dinamiche di mercato non potrebbero fare. Nel mentre si lavora sull’AI Act. È una strada percorribile per gestire i rischi?

Dubito. In questo momento le risorse e la velocità di sviluppo di questa tecnologia stanno crescendo esponenzialmente. C’è un enorme sforzo da parte dei fondatori e degli amministratori delegati che competono nel campo dell’IA per non rimanere indietro, e tutto accade molto più velocemente di qualsiasi azione di governance. Quello che stiamo vedendo, ossia la popolarità di GPT-4 (il LLM più avanzato di OpenAI, ndr) e il numero esiguo di aziende che si stanno affermando, non si avvicina neanche lontanamente a quello che sarà il futuro tra tre anni. Tutti stanno prestando attenzione ora, ma non abbiamo la minima idea di come sarà l’architettura. Bisogna capire che i LLM crescono secondo un fattore di dieci ogni anno, molto più della legge di Moore (per cui il numero di transistor su un microchip raddoppia ogni due anni circa, aumentando le prestazioni, ndr). Vuol dire migliaia di miliardi di dollari distribuiti in ogni settore dell’economia a una velocità mai vista prima. Non si tratta del prossimo Bitcoin o Nft, ma di un vero e proprio game changer.