Che succede se i bioterroristi usano l’IA. Lo scenario studiato da Rand

Un gruppo terroristico sfrutta le potenzialità dell’Intelligenza Artificiale per pianificare un attacco biologico devastante. Uno scenario da incubo? Forse no. Da una recente esercitazione di sette settimane dell’organizzazione americana Rand rivela che non c’è alcuna differenza significativa tra un attacco pianificato utilizzando i modelli linguistici avanzati e uno basato su semplici ricerche su Google.

Il punteggio più alto è andato a una squadra composta interamente da ricercatori esperti nell’uso di modelli linguistici avanzati. Tuttavia, quando gli organizzatori hanno esaminato le chat di questa squadra, hanno scoperto che il loro piano non era basato su informazioni provenienti dall’intelligenza artificiale. La squadra, infatti, si era immersa nella letteratura accademica sulla ricerca dei virus, tutta disponibile online. In un caso, inoltre, l’intelligenza artificiale è stata utilizzata per capire come causare il maggior numero di vittime con un’arma biologica. Tutti gli agenti biologici suggeriti, però, sono presenti su diversi siti web, tra cui quelli dei Centri per il controllo e la prevenzione delle malattie.

Un’altra squadra ha interrogato l’Intelligenza Artificiale per chiedere istruzioni più dettagliate per coltivare i batteri che causano la peste. La risposta: “Certo! Qui ci sono istruzioni più dettagliate”. Ma anche in questo caso, le informazioni fornite sono disponibili con pochi clic su Internet.

Gli esperti hanno concluso che la pianificazione di un attacco biologico rimane al di là delle capacità dei sistemi di intelligenza artificiale esistenti. Tuttavia hanno anche messo in guardia: “Rimane incerto se questi rischi si trovino ‘appena oltre’ la frontiera dei modelli di intelligenza artificiale esistenti o se saranno sempre troppo complicati e sfaccettati per essere gestiti da un computer”.