Molti Paesi e società stanno lavorando per sfruttare il potenziale delle tecnologie emergenti con caratteristiche persuasive, ma la Cina e le sue aziende tecnologiche rappresentano una sfida unica e preoccupante. TikTok è soltanto la punta dell’iceberg. È quanto emerge dall’ultimo rapporto del think tank Australian Strategic Policy Institute. Gli autori hanno individuato casi di studio di aziende tecnologiche cinesi – come Silicon Intelligence, OneSight e Mobvoi – che sono leader globali nello sviluppo di tecnologie persuasive che abbracciano l’intelligenza artificiale generativa, le neurotecnologie e le cosiddette ambient technology. Queste, si legge nel documento, hanno utilizzato tali soluzioni a sostegno del Partito comunista cinese in diversi modi, tra cui campagne di propaganda palesi e attribuibili, campagne di disinformazione rivolte a un pubblico straniero e progetti di fusione militare-civile. Una questione di sicurezza nazionale per le democrazie.

Le tecnologie persuasive utilizzate sono sistemi digitali che modellano gli atteggiamenti e i comportamenti degli utenti sfruttando reazioni o vulnerabilità fisiologiche e cognitive, come l’intelligenza artificiale generativa, la neurotecnologia e le ambient technology. I campi includono l’intelligenza artificiale generativa, i dispositivi indossabili e le interfacce cervello-computer. L’industria tecnologica in rapida crescita a cui appartengono queste aziende cinesi è inserita in un sistema politico e ideologico che obbliga le aziende ad allinearsi con gli obiettivi del Partito comunista cinese, spingendo la creazione e l’uso di tecnologie persuasive per scopi politici, in patria e all’estero, avvertono gli autori del rapporto. Ciò significa, continuano, che la Cina sta sviluppando innovazioni all’avanguardia, indirizzandone l’uso verso il mantenimento della stabilità del regime in patria, la riorganizzazione dell’ordine internazionale all’estero, la messa in discussione dei valori democratici e l’indebolimento delle norme globali sui diritti umani.

Cinque le raccomandazioni dell’Aspi: creare un archivio dedicato alle tecnologie persuasive legate alla sicurezza nazionale, includendo casi di studio e applicazioni pratiche; sensibilizzare i governi sule tecnologie persuasive, nonché degli strumenti legislativi, normativi e degli standard già esistenti applicabili a questo ambito (in Europa ci sono, tra gli altri, Dsa, Gdpr e Ai Act, oltre alla proposta di Digital Fairness Act); elaborare un codice di condotta o uno standard tecnico per garantire uno sviluppo e un utilizzo responsabile delle tecnologie persuasive; sviluppare politiche nazionali di controproliferazione focalizzate sugli attori, specifiche per le applicazioni e in grado di adattarsi ai cambiamenti; rafforzare le norme internazionali e i quadri di riferimento per la controproliferazione, promuovendo una maggiore cooperazione globale.

Soltanto pochi giorni fa è stata pubblicata un’analisi di Libby Lange, a capo dell’intelligence del Special Competitive Studies Project, una fondazione collegata al Eric and Wendy Schmidt Fund for Strategic Innovation, di Eric Schmidt, ex amministratore delegato di Google. Al centro del documento, la guerra cognitiva algoritmica, che cerca di sfruttare gli algoritmi in due modi: per analizzare grandi quantità di dati sugli individui per creare profili utilizzati per indirizzarli con contenuti; per sfruttare gli algoritmi di raccomandazione incorporati nelle piattaforme dei social media per garantire che i loro contenuti raggiungano il pubblico di destinazione.