Nonostante la presenza di norme che impongono maggior trasparenza sulle applicazioni made in China, solo il 3,6% dei prodotti lanciati sul mercato da aziende cinesi ha pubblicato il test su sicurezza e affidabilità. L’ennesimo controsenso del Dragone, che nel frattempo crea la super alleanza per l’AI
A qualcuno potrebbe venire in mente il celebre capolavoro del Caravaggio, I bari. Perché sì, sull’Intelligenza Artificiale, la Cina bara un po’. Che Pechino abbia ormai ingaggiato una gara con gli Stati Uniti è vero, così come è altrettanto vero che la tecnologia americana sia di qualità superiore a quella cinese, la quale costa meno di quella occidentale. Eppure, qualcosa non torna. Per esempio, il fatto che alcune delle principali aziende cinesi attive nell’Intelligenza Artificiale, hanno reso noto i loro test sulla sicurezza e l’affidabilità relativamente a una minuscola percentuale delle applicazioni lanciate sul mercato. Per la precisione, solo il 3,6%. Questo significa che intorno al grosso dei prodotti cinesi legati all’AI, c’è sostanzialmente nebbia fitta.
SemiAnalysis, società di ricerca tecnologica con sede in California, ha in tal senso analizzato 857 modelli rilasciati tra il 2021 e il 15 settembre dell’anno corrente, da parte di aziende cinesi leader nel settore dell’Intelligenza Artificiale: Alibaba, ByteDance, Tencent, Baidu, DeepSeek, Moonshot, Z.AI, MiniMax e StepFun. Ebbene, lo studio ha rilevato che solo 31 lanci di applicazioni, pari al 3,6%, presentavano un risultato di valutazione della sicurezza pubblicato che poteva essere associato a uno specifico modello. Solo nove, ovvero l’1,1%, avevano tali risultati disponibili al momento del lancio o prima di esso, mentre i ricercatori non hanno trovato alcuna informazione sulla sicurezza per prodotti lanciati sul mercato.
Non è tutto. La scorsa settimana Reuters ha riportato come molte applicazioni di AI cinesi abbiano dimostrato la capacità di ingannare gli utenti, eludere le restrizioni e nascondere i fallimenti nei test. E questo nonostante la stessa normativa cinese per la governance della sicurezza dell’IA individui rischi quali l’acquisizione non autorizzata di permessi di sistema, l’inganno dei valutatori, l’occultamento delle capacità e l’elusione dei controlli di sicurezza. Pur, e questo è il paradosso, non imponendo al contempo obblighi vincolanti legati alle capacità dei modelli. Insomma, il Dragone da una parte vuole vendere al mondo la sua tecnologia, dall’altra però ne nasconde le potenzialità, anche dannose.
E pensare che Pechino è davvero convinta della bontà della sua tecnologia. Lo dimostra un altro fatto. In questi giorni principali matematici cinesi hanno creato l’Alleanza del Laboratorio di Scienze Matematiche e Intelligenza Artificiale. L’iniziativa è guidata dal vincitore della Medaglia Fields Shing-Tung Yau, direttore del Centro di Scienze Matematiche Yau presso l’Università Tsinghua. Un’alleanza da mille e oltre cervelli che lavoreranno su modelli di Intelligenza Artificiale specializzati per la matematica, sull’utilizzo dell’IA per generare ipotesi matematiche e formalizzare dimostrazioni, nonché su sistemi la cui logica di ragionamento sarà più facile da interpretare. Ma la sicurezza delle applicazioni, quella no.
