L’IA crea nuovi virus? Niente allarmismi, ma le implicazioni ci sono

Partiamo da un dato di fatto, per evitare di cadere nella trappola dei titoli sensationalistici che hanno accompagnato la recente pubblicazione su Science: non c’è un’intelligenza artificiale che “crea virus” da sola, ma esiste una rivoluzione scientifica che cambia le regole del gioco e impone una governance globale che, al momento, non esiste.

I dettagli dello studio

In questo studio, un modello di IA addestrato su centinaia di miliardi di sequenze di Dna ha generato genomi di batteriofagi, cioè virus che attaccano i batteri, risultati perfettamente funzionanti una volta sintetizzati in laboratorio. Definire questa vicenda con la formula “l’AI crea nuovi virus” rischia di semplificare la complessità del processo. La macchina ha agito come un architetto, progettando sequenze inedite a partire da regole biologiche apprese in modo autonomo, ma senza il lavoro sperimentale dei ricercatori quei genomi sarebbero rimasti semplici file digitali, sequenze di basi azotate su un disco rigido. È come se un algoritmo avesse disegnato una casa senza aver mai studiato ingegneria, e poi un team di costruttori l’avesse edificata constatando che effettivamente “regge” e che le stanze comunicano come previsto. Definirlo un demiurgo digitale è suggestivo ma fuorviante: siamo piuttosto di fronte a un sistema che ha interiorizzato le “grammatiche” profonde della vita e le sa applicare con risultati sorprendenti, anticipando soluzioni che la natura non aveva ancora esplorato.

Ciò che rende lo studio davvero importante è infatti un salto di paradigma epocale. Per la prima volta, un’IA non si è limitata a copiare o modificare genomi esistenti, come accadde nel 2010 con il celebre team di Craig Venter, ma ha proposto soluzioni originali, combinazioni mai osservate in natura eppure perfettamente funzionanti, senza alcuna riprogettazione creativa da parte dell’algoritmo se non quella appresa dai dati. Questo cambia radicalmente il nostro approccio alla biologia sintetica: non più soltanto “leggere e correggere” il Dna, ma “scriverlo da zero” con un partner computazionale capace di esplorare spazi di possibilità per noi troppo vasti, combinando frammenti evolutivi con una logica che sfida la nostra intuizione.

Le opportunità

Le potenziali ricadute mediche sono enormi e legittimano l’entusiasmo della comunità scientifica: dalla progettazione di fagi su misura per combattere infezioni batteriche resistenti agli antibiotici, un processo che oggi richiede mesi di setaccio ambientale, alla creazione di vaccini sintetici, fino a enzimi in grado di degradare inquinanti persistenti o circuiti metabolici per produrre farmaci complessi in modo più efficiente. È come se all’improvviso avessimo a disposizione un nuovo tipo di microscopio, uno strumento che invece di osservare il reale ci permette di scandagliare il possibile, anticipando configurazioni molecolari che l’evoluzione non ha ancora incontrato.

No agli allarmismi…

Ma quanto siamo vicini, però, agli scenari più inquietanti, quelli di un’intelligenza artificiale in grado di progettare autonomamente virus pericolosi per l’uomo? La risposta onesta è: non domani, ma nemmeno tra un secolo. Il modello utilizzato, denominato Evo, è stato addestrato su fagi, organismi semplici con genomi minuscoli e ben caratterizzati, e i ricercatori hanno deliberatamente escluso dai dati di training tutti i virus patogeni per l’uomo, una precauzione che è bastata a impedire al modello di apprenderne le caratteristiche letali. Progettare un virus eucariotico, figuriamoci un organismo complesso con interazioni multilivello con l’ospite, è un’impresa di gran lunga più ardua: i genomi sono enormi, le dinamiche di interfaccia con il sistema immunitario in gran parte ignote, e i dataset di addestramento necessari semplicemente non esistono nelle dimensioni richieste. Tuttavia, il principio è stato dimostrato, ed è un principio che dovrebbe farci riflettere profondamente: superata una certa soglia di scala e di disponibilità di dati, queste capacità emergono da sole, senza che nessuno le abbia programmate esplicitamente. Non accadrà la prossima settimana, ma la traiettoria è segnata, e ignorarla sarebbe irresponsabile quanto gridare al lupo senza motivo.

…ma attenzione a governance e sicurezza nazionale

Il punto cruciale, che merita tutta l’attenzione dei policy maker e delle istituzioni internazionali, è un altro: i rischi veri non vengono dall’IA che “si ribella” o acquisisce una volontà propria, ma dall’uso che gli esseri umani possono farne. Questi strumenti abbassano drasticamente la barriera d’ingresso alla progettazione biologica. Fino a ieri servivano équipe altamente specializzate, anni di formazione e finanziamenti ingenti; oggi, competenze informatiche di medio livello e un accesso a servizi di sintesi del Dna spesso non adeguatamente controllati, con sistemi di screening ancora volontari e frammentati, potrebbero bastare a chiunque avesse cattive intenzioni. I titoli che evocano virus stampati in cantina sono comunque eccessivi, perché la sintesi chimica e l’assemblaggio richiedono ancora laboratori attrezzati e know-how biologico specifico, ma la democratizzazione della progettazione è un dato di fatto, e va presa sul serio senza scadere nel sensazionalismo.

C’è poi una dimensione di sicurezza nazionale che non va taciuta e che riguarda direttamente gli equilibri geopolitici. La convergenza tra intelligenza artificiale e biologia sintetica è seguita con attenzione crescente dalle agenzie di intelligence di tutto il mondo. Un modello open source, addestrato su dati pubblici, potrebbe essere facilmente scaricato e utilizzato da attori ostili per progettare patogeni modificati, magari per aggirare i sistemi di sorveglianza epidemiologica o per colpire specifici bersagli genetici. Rafforzare i meccanismi di biosorveglianza, investire in una cultura della responsabilità tra i ricercatori e aggiornare la Biological weapons convention non sono più opzioni rimandabili, ma necessità impellenti. Non si tratta di frenare la ricerca o di imporre una moratoria che sarebbe ingenua e controproducente, ma di evitare che una tecnologia nata per curare si trasformi in un’arma di distruzione di massa asimmetrica, facilmente occultabile e difficile da attribuire.

Eppure, la governance è ferma a un’epoca in cui tutto questo non esisteva nemmeno come scenario teorico. Il quadro internazionale resta frammentato e in ritardo: non esistono obblighi condivisi per valutare i rischi dei modelli di IA applicati alla progettazione biologica, dichiararne i dataset di addestramento o controllare in modo uniforme la sintesi di sequenze potenzialmente pericolose. L’AI Act europeo introduce obblighi per i modelli a rischio sistemico, ma non disciplina nello specifico la progettazione biologica; l’Oms ha pubblicato linee guida, che restano però non vincolanti. Servirebbero standard comuni, audit indipendenti e un coordinamento stabile tra autorità sanitarie, sicurezza informatica e organismi per il disarmo. Sul piano internazionale, occorrerebbe inoltre estendere esplicitamente gli obblighi della Biological weapons convention (che risale al ’72) anche ai modelli computazionali capaci di progettare agenti biologici.

Correre al passo con la scienza

Allora, la domanda giusta da porsi dopo questo studio epocale non è “dobbiamo avere paura dell’IA che crea virus?”, perché quella domanda è mal posta e genera solo ansia improduttiva. La domanda vera, quella che i decisori politici dovrebbero porsi oggi, è un’altra: come costruiamo un ecosistema di innovazione responsabile, in cui i benefici straordinari della biologia sintetica siano accessibili a chi cura e i rischi esistenziali siano gestiti collettivamente con intelligenza e lungimiranza? La scienza sta accelerando a un ritmo esponenziale, e con essa la necessità di una governance adulta, capace di accompagnare la meraviglia della scoperta con la prudenza della ragione, senza rinunciare né all’una né all’altra.