Deepfake, armi autonome e controllo sulle opposizioni: “Molte delle applicazioni dell’intelligenza artificiale da parte di Russia e Cina sono in netto contrasto con i valori dell’Europa e degli Stati Uniti, e sollevano seri interrogativi riguardo alle norme internazionali, ai diritti umani e alla conservazione di un ordine internazionale libero e aperto”. Non usa mezzi termini il generale John “Jack” Shanahan, direttore del Centro per l’intelligenza artificiale del Pentagono (Jaic), impegnato in questi giorni in un tour europeo per incontrare gli alleati della Nato. Nel corso di una conferenza stampa telefonica, il generale ha spiegato l’obiettivo della sua missione: tracciare con i partner del Vecchio continente la strada da seguire per integrare le tecnologie di Ia al campo militare e della sicurezza. È una chiamata alla collaborazione a fronte dell’attivismo dimostrato da Mosca e Pechino.

GLI OBIETTIVI

Il Jaic è operativo dal 2018 con l’obiettivo di accelerare l’integrazione delle tecnologia di Ia nelle Forze armate statunitensi. Segue le indicazioni della “Artificial intelligence strategy”, rilasciata a febbraio 2018 dal dipartimento della Difesa e aggiornata l’anno dopo. Discende dalla più ampia National Defense Strategy dell’anno prima, e soprattutto dalla constatazione che Russia e Cina (riconosciuti quali competitor su scala globale) hanno realizzato imponenti investimenti nella modernizzazione delle Forze armate, compreso il campo dell’intelligenza artificiale. A fronte di tale competizione, L’obiettivo è scritto a chiare lettere nella strategia del Pentagono: “Gli Stati Uniti, insieme ad alleati e partner, devono adottare l’Ia per mantenere la propria posizione strategia, per prevalere sui futuri campi di battaglia e per salvaguardare un ordine internazionale aperto e libero”. Gli obiettivi del Jaic sono estremamente operativi. Punta a velocizzare la fornitura e l’adozione di capacità Ia da parte delle Forze armate americane, chiamando a raccolta la comunità nazionale (industria ed esperti) al fine di ridurre i tempi tra ricerca, sviluppo e impiego capacitivo.

LE PREOCCUPAZIONI

“Russia e Cina stanno cooperando nel campo dell’Ia in modi che minacciano i nostri valori condivisi e rischiano di accelerare l’autoritarismo digitale”. Pechino, ha aggiunto il generale, “sta utilizzando tecnologie Ia per rafforzare la censura sul popolo e soffocare la libertà d’espressione”. Di più: “Le aziende tecnologiche cinesi, inclusa Huawei, sono obbligate a cooperare con i servizi di intelligence e di sicurezza del Partito comunista, a prescindere da dove operino”. Tali preoccupazioni si intrecciano con i noti timori circa le comunicazioni quinta generazione. “Il 5G e l’intelligenza artificiale – ha detto Shanahan – avranno un futuro estremamente legato; in qualunque modo appaia l’Ia, avanzerà ancora più velocemente man mano che il 5G viene diffuso in tutto il mondo”. Perché? Perché i modelli di intelligenza artificiale si basano sui dati, e il 5G ha la capacità di raccoglierne in quantità enormi.

DISINFORMAZIONE E DEEPFAKE

Anche Mosca non sembra farsi problemi, almeno secondo il Jaic del Pentagono. “L’uso dell’Ia per la sicurezza nazionale da parte della Russia è stato caratterizzato non tanto da una superiorità tecnologica, quanto da una maggiore volontà di ignorare le norme etiche internazionali e di sviluppare sistemi che comportano rischi destabilizzanti per la sicurezza mondiale”. Inoltre, “la Russia sta perseguendo un maggiore utilizzo del machine learning e dell’automazione per le sue campagne di disinformazione globale e per sistemi d’arma autonomi e letali”. In tal senso, c’è “profonda preoccupazione” per il crescente fenomeno del deepfake, la tecnologia che, ricorrendo all’intelligenza artificiale, permette di far dire a persone riprese in video praticamente qualunque cosa (qui un approfondimento). “È una cosa a cui penso molto – ha ammesso Shanahan – perché il livello di realismo e fedeltà è notevolmente aumentato rispetto a un anno fa”. I rischi sono concreti: “Abbiamo già visto l’influenza corrosiva di alcune di queste campagne di disinformazione sui cicli elettorali”.

IL MERCATO NERO DEL DIGITALE

Un’altra preoccupazione riguarda la possibilità, anche per attori non-statuali, di acquisire capacità d’arma dotate di sistemi d’intelligenza artificiale. Pechino, ha spiegato Shanahan starebbe “facilitando la vendita di armi autonome dotate di intelligenza artificiale sul mercato globale, abbassando le barriere d’entrata di potenziali avversari”. I timori del Pentagono sono “seri” su questo punto. “È un’area a cui stiamo iniziando a dedicare molta più attenzione”, ha detto il direttore del Jaic. “Gli algoritmi – ha aggiunto Nand Mulchandani, arrivato come chief technology officer al Centro dopo 25 anni nella Silicon Valley – stanno diventando ampiamente più disponibili in un modello open-source”, un fenomeno “molto difficile da controllare”. Per questo, ha aggiuntp, la prima forma di protezione è mettere in sicurezza i dati che ogni organizzazione possiede: “Sono l’ingrediente-chiave per costruire efficaci modelli di intelligenza artificiale”.

ROBOT KILLER?

Da un punto di vista strettamente militare, “stiamo lavorando su sistemi autonomi e sistemi abilitati all’intelligenza artificiale”, ha detto Shanahan. Robot killer? No: “l’idea di sistemi senza supervisione, indipendenti e con auto-targeting rappresenta un futuro a cui nessun comandante con cui abbia mai lavorato è interessato”. Per evitare che lo diventi, “abbiamo processi e politiche tesi al rispetto di leggi di guerra, del diritto internazionale umanitario, delle regole di ingaggio, dei principi di proporzionalità e discriminazione; l’intelligenza artificiale non cambia tutto questo”. L’obiettivo, ha detto concludendo Shanahan, è “prevenire” forme di “futuro distopico”.