La Cina e le necessità dell’IA nel campo della sicurezza

Nel pomeriggio dell’11 dicembre 2020, l’Ufficio Politico del Comitato Centrale del Partito Comunista Cinese ha tenuto la XXVI Sessione di studio collettivo dedicata al lavoro in materia di sicurezza nazionale. In tale occasione, il segretario generale del Comitato Centrale del PCC Xi Jinping ha sottolineato che il lavoro riguardante la sicurezza nazionale è molto importante nella gestione degli affari statali da parte del Partito, nonché per garantire che il Paese sia prospero e la gente viva in un clima di pace.

In vista del rafforzamento della sicurezza nazionale, è necessario per la Cina aderire al concetto generale di sicurezza nazionale; cogliere e fare buon uso di un periodo importante e propizio a livello strategico per lo sviluppo del Paese; integrare la sicurezza nazionale in tutti gli aspetti del lavoro del PCC e dello Stato e considerarla nella pianificazione dello sviluppo economico e sociale. Ossia costruire un modello di sicurezza, al fine di promuovere la sicurezza internazionale e la pace nel mondo e offrire forti garanzie ai fini della costruzione di un moderno Paese socialista.

A questo proposito  un nuovo ciclo di rivoluzione tecnologica e trasformazione industriale guidate dall’IA è in ascesa nell’Impero di Mezzo. Guidata da nuove teorie e tecnologie quali internet, la telefonia mobile, big data, supercalcolo, reti di sensori e scienze del cervello, l’IA presenta nuove funzionalità come l’integrazione intersettoriale, la collaborazione uomo-macchina, l’intelligenza aperta e il controllo autonomo. Lo sviluppo economico, il progresso sociale, la governance globale e altri aspetti hanno un impatto importante e di vasta portata.

Negli ultimi anni, lo Stato cinese ha approfondito l’importanza e le prospettive di sviluppo dell’IA in molti importanti campi. Accelerare lo sviluppo di una nuova generazione di IA è un importante punto di partenza strategico per essere all’altezza nella competizione tecnologica globale.

Oggi in Cina a che punto è lo sviluppo dell’IA? Come si posiziona l’attuale trend di sviluppo? Come sarà diretto lo sviluppo sicuro, ordinato e sano del settore in futuro?

L’attuale divario tra lo sviluppo dell’’IA e il livello internazionale avanzato non è molto ampio, ma la qualità delle imprese deve essere “abbinata” al loro numero, per cui si stanno compiendo sforzi per ampliare gli scenari applicativi, rafforzando i dati e la sicurezza degli algoritmi.

Già avanza il concetto di IA di terza generazione e vi sono speranze di risolvere il problema della sicurezza attraverso mezzi tecnici diversi dalle politiche e dai regolamenti: ossia dalle chiacchiere.

L’IA è una forza trainante per le nuove tappe di rivoluzione tecnologica e trasformazione industriale. Accelerare lo sviluppo di una nuova generazione di IA è una questione strategica che riguarda la Cina, che è in grado di cogliere nuove opportunità nell’organizzazione della trasformazione industriale.

Comunemente si sostiene che l’IA abbia attraversato finora due generazioni. La IA1 è basata sulla conoscenza, nota anche come “simbolismo”, la IA2 è basata sui dati, i big data, e su loro “profondo apprendimento”.

L’IA ha iniziato ad essere sviluppata dal 1950 con il celeberrimo Test di Alan Turing (1912-54), e dal 1978 hanno preso il via in Cina i primi studi in merito. Tuttavia nella IA1, i suoi progressi furono relativamente piccoli. Il vero progresso è stato compiuto principalmente negli ultimi 20 anni, da qui la IA2.

L’IA è nota per l’industria dell’informazione tradizionale, tipicamente delle società per internet. Questa ha accumulato un gran numero di utenti nel processo di sviluppo, e quindi ha stabilito modelli o profili corrispondenti basati sui tali acquisizioni, ossia il cosiddetto “grafico della conoscenza dei gusti” degli utenti. Prendendo come esempio la consegna di determinati prodotti, decine o addirittura centinaia di milioni di dati composti da posizioni di utenti, commercianti e informazioni sulla posizione di potenziali acquirenti sono incorporati in un database e quindi abbinati e ottimizzati tramite algoritmi di IA: naturalmente tutto questo ravviva l’efficacia del commercio e la rapidità della consegna.

Aggiornando le industrie tradizionali in tal modo, sono stati ottenuti grandi vantaggi. A questo proposito, la Cina è all’avanguardia. Riconoscimento facciale, altoparlanti intelligenti, servizio clienti intelligente, ecc. Negli ultimi anni, non solo sempre più aziende hanno iniziato ad applicare l’IA, ma l’IA stessa è diventata anche una delle direzioni professionali che preoccupano maggiormente i candidati negli esami di ammissione universitaria.

Secondo le statistiche, ci sono 40 società di IA nel mondo con un fatturato di oltre un miliardo di dollari, di cui 20 negli Usa e ben 15 in Cina. In termini di quantità, la Cina è saldamente al secondo posto. Tuttavia, va notato che sebbene queste società abbiano valutazioni elevate, la loro redditività è ancora limitata e la maggior parte di esse potrebbe anche essere in perdita.

Il settore principale dell’IA dovrebbe essere indipendente dall’industria dell’informazione; ma aprirsi maggiormente ai trasporti, alla medicina, al sostrato urbano e a industrie dirette autonomamente dalla tecnologia dell’IA. In Cina si stanno già sviluppando questi settori.

La Cina rappresenta più di un terzo delle start up mondiali nel campo dell’IA. E sebbene la quantità sia elevata, la qualità deve ancora essere migliorata. Prima di tutto, gli scenari applicativi sono limitati. Oltre al riconoscimento facciale, alla sicurezza, ecc., altri campi non sono facili da adoperare e si prestano a rischi quali 1) l’insicurezza dei dati e 2) l’insicurezza degli algoritmi. Questi due aspetti attualmente sono i principali fattori che limitano lo sviluppo della industria dell’IA, che corre il pericolo di essere succhiata da hacker di nota provenienza.

Riguardo all’insicurezza dei dati, sappiamo che l’effetto delle applicazioni di IA dipende in gran parte dalla qualità dei dati, Eciò comporta problemi di sicurezza come la perdita della privacy (leggi: sicurezza statale). Se il problema della protezione della privacy non è risolto, l’industria dell’IA non può svilupparsi in modo sano, in quanto lavorerebbe per conto terzi “sconosciuti”.

Quando ci colleghiamo su una pagina-web e ci dicono che per essi la cosa che importa maggiormente è la privacy di chi naviga, noi leggiamo una balla: in quanto anche hacker teenager, conoscono programmi per violarla: perlomeno i cinesi ci dicono della risibilità di codeste affermazioni politicamente corrette.

La seconda questione importante è l’insicurezza dell’algoritmo. Il cosiddetto algoritmo non sicuro, ed è un modello adoperato in determinate condizioni e non funzionerà se le condizioni sono diverse. Il termine è detto anche vulnerabilità dell’algoritmo all’ambiente di test (unrobustness).

Prendendo come esempio la guida senza conducente, è impossibile esaurire tutti gli scenari durante l’addestramento all’IA ed è impossibile affrontare nuove emergenze quando si incontrano imprevisti. Allo stesso tempo, questa vulnerabilità rende anche i sistemi di IA permeabili ad attacchi e inganni.

Il problema della sicurezza nell’IA, non giace nei discorsi e paroloni vuoti dei politici, ma occorre risolverlo da un punto di vista tecnico. È questo discrimine che fonda l’IA3.

Essa ha un percorso di sviluppo che combina l’IA di prima generazione basata sulla conoscenza e quella di seconda generazione fondata sui dati. Utilizza i quattro elementi –conoscenza, dati, algoritmi e potenza di calcolo – per stabilire una nuova teoria e metodi di interpretabili e robusti, per una tecnologia sicura, credibile e affidabile.

Al momento, l’IA2 caratterizzata dal deep learning è ancora in una fase ascendente, per cui ci si chiede se l’industria può accettare il concetto di sviluppo di IA3.

Come abbiamo visto l’IA si è sviluppata per più di 70 anni e ora sembra che essa sia un “prologo”.

Ed attualmente la maggior parte delle persone non è in grado di accettare il concetto di IA3 perché tutti speravano in ulteriori passi in avanti della IA2. Sentivano che l’IA poteva continuare a svilupparsi facendo affidamento sull’apprendimento e non sull’elaborazione. I primi passi dell’IA3 in Cina si sono compiuti all’inizio del 2015 e nel 2018.

La IA3 deve risolvere i problemi relativi alla sicurezza da un punto di vista tecnico. Nello specifico, l’ approccio consiste nel combinare conoscenza e dati. Negli ultimi quattro o cinque anni in Cina si sono svolti alcuni lavori correlati e anche i risultati ottenuti sono stati industrializzati. La piattaforma di sicurezza dei dati RealSecure e la piattaforma di sicurezza degli algoritmi RealSafe sono le manifestazioni dirette di tali successi.

Ciò che occorre sottolineare è che queste attività possono risolvere solo alcuni problemi di sicurezza in materia di circostanze specifiche. In altre parole, il problema della sicurezza dell’IA non ha ancora trovato una soluzione fondamentale, ed è probabile che diventi un argomento di infinita durata e senza soluzione definitiva, poiché una volta trovato il lucchetto, c’è sempre un esperto scassinatore. Il campo della sicurezza dell’IA sarà in futuro in uno stato di costante confronto tra l’offesa esterna e la difesa interna, per cui gli algoritmi devono essere costantemente aggiornati senza pause.

Il progredire della IA3 sarà un naturale processo a lungo termine. Però fortunatamente esiste una caratteristica dell’IA, ossia che ogni risultato messo sul tappeto ha sempre un grande valore applicativo. Questo è anche uno dei motivi importanti per cui tutti i Paesi attribuiscono grande importanza allo sviluppo dell’IA, in quanto ne va del loro interesse nazionale e dell’indipendenza reale.

Con i cambiamenti in atto in tutto il mondo ed un’economia globale in profonda recessione a causa del Covid-19, il prossimo XIV Piano Quinquennale (2021-25) della Repubblica Popolare Cinese sarà la roadmap per raggiungere gli obiettivi di sviluppo del Paese nel bel mezzo delle turbolenze mondiali.

Poiché l’IA è inserita nel predetto piano, il suo sviluppo dovrà affrontare anche molti “colli di bottiglia della sicurezza”. Prima di tutto, c’è un grande divario nell’innovazione e nell’applicazione dell’IA nel campo della sicurezza di rete e molti scenari sono ancora nella fase di esplorazione e ricerca accademica.

In secondo luogo, la stessa IA manca di una valutazione sistematica della sicurezza e ci sono seri rischi in tutti gli aspetti del software e dell’hardware. Inoltre, l’ambiente di ricerca e innovazione sulla sicurezza dell’IA non è ancora al massimo e la relativa industria nazionale cinese non ancora in posizione di massimo vertice, cercando esperienza maggiore.

Sin dal 2017, in risposta al Piano di sviluppo dell’IA3, emesso dal Consiglio di Stato, 15 ministeri e commissioni tra cui il Ministero della Scienza e della Tecnologia, la Commissione per lo sviluppo e le riforme, ecc. hanno istituito congiuntamente una piattaforma di innovazione. Tale piattaforma è costituita costruite da aziende leader del settore, concentrandosi sull’innovazione aperta nel segmento dell’IA.

Allo stato attuale, affidandosi a questa piattaforma, si sono ottenuti molti risultati nel campo della sicurezza. In qualità di primo team al mondo a condurre ricerche sull’infrastruttura di IA dal punto di vista dell’implementazione del sistema, si sono rilevate in Cina più di 100 vulnerabilità nei principali framework di machine learning e componenti dipendenti.

Il numero di vulnerabilità pone i ricercatori cinesi al primo posto al mondo. Allo stesso tempo è allo studio un futuro piano di innovazione, formulato e rilasciato per aprire decine di miliardi di big data di sicurezza onde promuovere la soluzione a quei predetti problemi che abbisognano di continui aggiornamenti.

Il rapporto di lavoro del governo promuove la cooperazione accademica e spinge l’industria e le università a condurre ricerche innovative in tre aspetti: a) confronto sulla sicurezza dell’algoritmo di IA, 2) rilevamento della sicurezza dell’infrastruttura di IA e 3) applicazione dell’IA in scenari chiave della sicurezza del cyberspazio.

Attraverso una ricerca teorica e di base all’avanguardia, pure occorre fornire riserve tecniche per la costruzione di piattaforme di base hardware e software open source di IA (ossia programmi non protetti da copyright e liberamente modificabili dagli utenti) e piattaforme di rilevamento della sicurezza dell’IA, in modo da ridurre i rischi insiti nella tecnologia di sicurezza di IA e garantire il sano sviluppo dell’IA medesima.

In tema di sicurezza, è del 23 marzo scorso, la notizia che i ministri degli Esteri della Repubblica Popolare Cinese e della Federazione Russa hanno firmato una dichiarazione congiunta su diversi temi attuali della governance globale.

La dichiarazione sottolinea che la continua diffusione dell’epidemia di Covid-19 ha accelerato l’evoluzione del panorama internazionale, ha causato un ulteriore sbilanciamento del sistema di governance globale, ha influenzato il processo di sviluppo economico mentre nuove minacce e sfide globali sono emerse una dopo l’altra e il mondo è entrato in un periodo di cambiamenti turbolenti. Il documento lancia un appello alla comunità internazionale affinché vengano messe da parte le differenze, venga costruito un consenso, venga rafforzato il coordinamento, vengano mantenute la pace mondiale, la stabilità geostrategica e venga promossa l’edificazione di un ordine internazionale multipolare più equo, democratico e razionale.

È ovvio che per garantire tutto questo, non basta l’indipendenza sancita dal diritto internazionale, e nemmeno il possesso del deterrente nucleare, ma un assoluto controllo nel Paese della sicurezza informatica che a sua volta dirige i dispositivi d’arma, il cui controllo remoto è preda ghiotta dei soliti noti.