La regolamentazione europea dell’intelligenza artificiale punta a bilanciare innovazione e tutela degli utenti, ma non affronta ancora tutte le criticità poste dai sistemi AI agentici. La sfida è rafforzare sicurezza e controlli senza ostacolare lo sviluppo tecnologico a beneficio della società. L’analisi di Salvatore Zecchini
Dal 2023 l’utilizzo dei modelli avanzati di IA (LLM) è assurto repentinamente a uno dei principali temi nelle discussioni pubbliche e nelle decisioni dei governanti in Italia come all’estero. Questo a ragione, perché siamo di fronte a una svolta epocale prodotta da una tecnologia che condiziona in misura crescente e pervasiva lo sviluppo dell’umanità, delle scienze e della sicurezza nazionale. La rapidità con cui le sue capacità avanzano ha dello straordinario tanto più che sorpassa la velocità con cui le imprese e le autorità corrono a erigere salvaguardie. A innescare il dibattito sono, da un lato, i risultati quasi incredibili che produce a ritmi incalzanti e, dall’altro lato, gli allarmi lanciati dai grandi produttori di questi modelli sulle agghiaccianti conseguenze a cui l’umanità sta andando incontro in poco tempo se non intervengono rimedi. Dei grandi benefici che sta generando si parla molto meno dei rischi, con una marcata tendenza del dibattito a concentrarsi su questi ultimi, trascurando i primi.
L’enunciazione paradigmatica di questo quadro catastrofico si può trovare nel recente saggio di Amodei, capo di Anthropic, produttore di sempre più avanzati modelli di AI, specialmente AI Agentic. Il ragionamento si presenta impeccabile: dall’estate il progresso di questi modelli ha accelerato sotto la spinta di quelli che si potenziano autonomamente in maniera ricorsiva, sopravanzando le capacità di comprensione e controllo umani. Continuando su questo percorso, vi è il rischio che nel giro di un anno uno sciame di questi modelli possa prendere il controllo di internet attraverso una rete di computer infettati persistentemente da un dannoso software controllato da un attaccante esterno. La soluzione che viene proposta ai governi è, in sintesi, rallentare il passo dell’evoluzione verso modelli più capaci, per dare tempo agli sviluppatori di mettere in campo adeguate contromisure nei termini di maggiori capacità di controllo delle operazioni dei modelli.
Quello che Amodei tralascia di dire è che all’origine di questa evoluzione vi è una sfrenata competizione tra imprese nel potenziare i loro modelli per raggiungere la supremazia di mercato e guadagnare il massimo, lasciando le briciole agli altri, ovvero una strategia che permette al “vincitore di prendere tutto”. Questo orientamento risponde anche all’interesse degli americani, con in testa il loro Presidente, a mantenere una supremazia tecnologica sugli altri Paesi per perseguire disegni di predominio, o semplicemente di sicurezza nazionale nei confronti degli avversari, principalmente la Cina. Ovviamente gli avversari avrebbero tutto da guadagnare da un eventuale rallentamento in America, perché darebbe loro più tempo per colmare il ritardo verso gli Usa. Per superare queste obiezioni, la proposta di Amodei è molto dettagliata e strutturata.
In particolare, chiede al Governo di chiamare le imprese a impegnarsi al rallentamento in analogia con l’impegno preso da Anthropic, e di promuovere un coordinamento a livello di settore e uno a livello globale. Per essere efficace questo piano postula diverse misure tra cui l’inserimento nelle imprese sviluppatrici di valutatori esterni indipendenti dei meccanismi di sicurezza, la fissazione di standard comuni di sicurezza, la verifica dell’“allineamento” ai requisiti del produttore, la comprensione del funzionamento del modello, trasparenza sull’esito delle verifiche e accordi internazionali con verifiche stringenti. Nei confronti della Cina e degli avversari propone un blocco delle vendite di chip avanzati, repressione della “distillazione” (addestrare i modelli imitando i processi di quelli di punta), e rafforzamento della sicurezza contro lo spionaggio o il furto industriale.
Nonostante la cura nell’entrare in parecchi dettagli operativi, la proposta solleva molti dubbi sulla sua validità in relazione all’obiettivo da raggiungere, in quanto comporta impegni pur sempre aggirabili e convergenze industriali e internazionali irrealistiche. Ad esempio, da ultimo, si è data notizia di diversi casi di nuovi modelli IA che durante le prove hanno violato autonomamente la sicurezza di compagnie esistenti, andando oltre le consegne di mandato stabilite nel modello stesso. Si può sempre riparare il difetto, ma il rischio di operazioni fuori dal controllo umano rimane per la notevole complessità della costruzione dell’algoritmo. Il suo addestramento e dispiegamento operativo comportano in realtà investimenti in notevoli infrastrutture, grande capacità di calcolo e numerosi input di lavoro, tutti elementi che lasciano spazio all’emergere di difetti nella realizzazione. Il paragone con l’industria aeronautica è molto calzante: con l’emergere di criticità la tecnologia viene sempre più perfezionata.
Anche assumendo che si dia corso al piano proposto, l’interrogativo permane: quanto rischiosi sono i modelli di AI autonoma e la sicurezza è raggiungibile? Nei dibattiti e nel saggio non si fa esplicita menzione dell’importante distinzione tra sviluppo dei modelli e loro immissione sul mercato. Eppure i due atti si possono distinguere: si può sviluppare senza commercializzarne il prodotto, oppure limitando la vendita a pochi soggetti ritenuti sicuri, almeno fin quando non si applicano salvaguardie operative. Gli esempi abbondano: lo stesso Anthropic ha sviluppato un modello di frontiera, Mythos, ma lo ha reso disponibile solo a pochi fidati clienti. L’impiego civile dell’energia nucleare è stato commercializzato una volta che lo si è reso sicuro.
Frenare lo sviluppo ha, inoltre, poco senso quando altri soggetti civili e militari si stanno impegnando nello sviluppo di modelli sempre più performanti. Mentre i primi sono meno interessati ai rischi perché non danno accesso ai loro modelli e mirano a usarli in funzione offensiva, i secondi li potrebbero immettere sul mercato, salvo dover fronteggiare la responsabilità per le eventuali conseguenze dannose. Questa responsabilità potrebbe agire da freno non allo sviluppo, ma alla commercializzazione fin quando non acquisiscono ragionevole certezza della affidabilità per l’utente.
Il coordinamento tra imprese e tra Paesi nell’applicare i freni allo sviluppo risulta altresì irrealistico, fin quando permane l’incentivo a violare l’accordo e celarlo. Inoltre, le imprese non permetterebbero l’intrusione di valutatori esterni a motivo del rischio di fughe di segreti industriali. Il caso dell’IA non è nemmeno simile a quello della distruzione dei missili nucleari dopo l’accordo tra americani e sovietici perché non si tratta di beni materiali ma di strumenti immateriali difficili da rilevare. D’altronde, per quanto accurate, le verifiche possono essere aggirate e lo sono state. Perfino il blocco americano della vendita dei chips avanzati ai paesi avversari si è dimostrato di scarsa efficacia, quando si è scoperto che sono usati per applicare modelli di IA Agentic nei sistemi di guida dei droni russi che bombardano l’Ucraina.
La conclusione da trarre è, quindi, che il rischio di “disallineamento” rispetto ai limiti di mandato nei modelli di IA Agentic non è eliminabile allo stato attuale delle conoscenze, perché per ammissione degli stessi produttori si comprende soltanto una piccola parte del loro funzionamento interno. Ma il rischio si può ridurre, in particolare mediante regole sulla loro diffusione e sulla responsabilità degli autori nei casi di comportamenti fuori controllo con conseguenze dannose. Verso la regolamentazione propendono un numero crescente di produttori di modelli IA avanzati oltre che di scienziati, esponenti della politica e governanti, a cui si contrappone un altrettanto consistente gruppo di oppositori con altrettanto valide obiezioni.
I termini del problema si riassumono in due considerazioni. Prima, la regolamentazione di una tecnologia di cui si sa ancora poco risulta particolarmente difficile e rischia di scoraggiare il suo miglioramento. Seconda, nell’attuale competizione con Paesi tecnologicamente avanzati che operano senza freni al potenziamento dei loro modelli di IA, le regolamentazioni di Paesi che imbrigliano l’impegno a progredire rapidamente nel potenziamento dei modelli possono porli in una posizione di vulnerabilità strategica.
L’Ue e tra i suoi membri l’Italia hanno imboccato la strada della regolamentazione. L’AI Act e il Digital Services Act europei sono stati emanati nell’intento di contemperare le opposte esigenze di controllo e sviluppo, ma non garantiscono la disponibilità di modelli sicuri. Hanno introdotto un quadro legislativo basato sulla valutazione e limitazione del rischio per gli utenti. Non considerano, tuttavia, una serie di aspetti cruciali nell’AI Agentic. Ne deriva, in conclusione, che attualmente non è disponibile un sistema di modelli AI Agentic intrinsecamente e operativamente indenni da rischi. Nondimeno, qualsiasi regolamentazione si ritenga di introdurre a salvaguardia per gli utenti non deve frapporsi al potenziamento dei modelli nell’interesse del benessere dell’umanità.
