Le autorità hanno imposto un codice di condotta alle aziende tecnologiche, chiamate a dare riscontro che i loro modelli linguistici rispondano correttamente a domande scomode, che possono mettere sotto cattiva luce le istituzioni e l’ideologia nazionale. Ma è un freno allo sviluppo, che avvantaggia gli Stati Uniti
In Cina, c’è stato un prima e un dopo Great Firewall. Quella politica, con cui le autorità cinesi hanno bloccato dati e materiale inviso a Pechino che arrivava da paesi stranieri, aveva rappresentato la prima censura digitale voluta dallo Stato. La legge, promossa dal ministero di pubblica sicurezza, era stata rinominata in questo modo da Wired, prendendo spunto dalla Grande Muraglia cinese. Quasi trent’anni dopo, bisognerà trovare un altro nome alla nuova censura digitale promossa dal presidente Xi Jinping. Come ha raccontato il Financial Times, l’autorità di controllo Cyberspace Administration of China (CAC) ha chiesto alle aziende tecnologiche cinesi di sottoporsi a una revisione dei loro modelli linguistici. In particolare, il governo vuole vedere in che modo i chatbot e altri strumenti simili rispondo a domande scomode.
Come ad esempio il livello dei diritti umani in Cina e altre questioni che potrebbero mettere in imbarazzo le istituzioni, tra cui ciò che è successo nel 1989 a Piazza Tiananmen. In tutto, spiega il Wall Street Journal, alle aziende è stata chiesta una lista che contenga tra le 20.000 e le 70.000 domande sensibili per controllare gli output generati dai vari modelli. Devono anche inviarne un’altra contenente tra i 5.000 e i 10.000 quesiti a cui si rifiuta categoricamente di rispondere, di cui la metà fanno riferimento all’ideologia e al partito comunista.
È lo stesso quotidiano finanziario londinese a testare il risultato. Tempo fa aveva chiesto al modello Yi-large, creato dalla start-up 01.AI, un giudizio sul presidente Xi, ricevendo una risposta ambigua ma comunque attinente alla realtà, ossia che alcuni sostengono che abbia represso la libertà all’interno della società. Riproponendo la stessa domanda qualche tempo dopo, il chatbot era stato molto più netto: “Mi dispiace molto, non posso fornirti le informazioni che desideri”.
Questo perché erano state pronunciate parole off limits. La revisione è un processo che parte con l’eliminazione delle informazioni più problematiche dai dati con cui vengono addestrati i modelli linguistici e termina con la creazione di un database di parole sensibili. Un concetto già espresso nelle linee guida per il settore tech pubblicate a febbraio, con le aziende che devono intercettare tutto ciò che si scontra con il pensiero socialista, tra cui gli incitamenti alla sovversione e altre azioni che mettono a repentaglio l’unità del paese. Queste parole chiave devono essere aggiornate in continuazione, con cadenza settimanale.
Va da sé che non è un’operazione semplice, perché qualcosa può sempre sfuggire. A comportarsi meglio delle altre aziende è Bytedance, società madre di TikTok, che si è adeguata alla perfezione ai dettami del governo centrale: il suo tasso di sicurezza è pari al 66,4%, contro il 23,9% di Alibaba.
“I grandi modelli predittivi rivolti al pubblico hanno bisogno di qualcosa di più di un semplice deposito di sicurezza, hanno bisogno di un monitoraggio della sicurezza online in tempo reale”, ha spiegato di recente Fang Binxing, considerato l’architetto del Great Firewall – che, in Gazzetta, è chiamato Golden Shield Project. “La Cina ha bisogno di un proprio percorso tecnologico”, ha aggiunto.
Il problema è che, tra censura e burocrazia, rischia di metterlo in repentaglio.Con la promozione di questi regolamenti in nome della tutela socialista, Pechino rischia di rimanere indietro nella corsa alla tecnologia e all’intelligenza artificiale con gli Stati Uniti. L’amministrazione di Joe Biden sta già cercando di complicarle la vita, impedendole di accedere al know how americano e a quello degli alleati di Washington. Rallentando il suo processo di sviluppo con leggi che lo soffocano, la Cina offre un ulteriore assist al suo rivale strategico.
