L’affidabilità dell’AI richiede controlli indipendenti e regole comuni. Parla Quattrociocchi

Il dibattito sull’intelligenza artificiale è tornato ad accendersi dopo le dichiarazioni di Dario Amodei, ceo di Anthropic, che ha messo in guardia dai rischi estremi legati allo sviluppo della tecnologia, arrivando a chiedere una maggiore cautela al settore. Ne abbiamo parlato con Walter Quattrociocchi, professore ordinario della Sapienza Università di Roma e direttore del Centro di Scienza dei Dati e Complessità per la Società (CDCS).

Professore, cosa ci dice l’appello di Amodei?

La parte interessante dell’appello di Amodei, per me, non sono le profezie sulla superintelligenza. Quelle restano scenari costruiti su molte ipotesi difficili da quantificare. La parte importante è un’altra: Amodei riconosce che non possiamo lasciare alle aziende il compito di certificare da sole l’affidabilità dei sistemi che costruiscono e propone valutatori indipendenti con accesso molto profondo ai modelli. Questo è un passo nella direzione giusta.

Come possiamo compierlo?

Il punto tecnico è semplice. Un LLM genera sulla base delle regolarità apprese e della compatibilità con il contesto. All’interno di quello stesso processo generativo non possiede un criterio generale che gli consenta di stabilire se ciò che sta producendo sia vero o affidabile. Può essere molto accurato, anche straordinariamente accurato, ma chiedergli di certificare la propria risposta significa ancora interrogare lo stesso tipo di generatore. La verifica deve quindi arrivare da fuori. Per questo, aprire ai ricercatori indipendenti è utile, ma non basta una semplice concessione da parte delle aziende. Servono protocolli comuni, accesso stabile, criteri condivisi e risultati riproducibili. Altrimenti il controllato sceglie anche come deve essere controllato.

Come valutare le risposte a supporto di Amodei dei vari Elon Musk e Sam Altman, con quella del presidente Trump?

Dire “vogliamo essere verificati” è la parte facile. La parte interessante comincia quando il verificatore può arrivare a conclusioni sgradite all’azienda, pubblicarle e continuare ad avere accesso. È lì che vedremo quanto questa apertura sia reale. Trump rappresenta invece perfettamente l’altro lato del problema: la logica della corsa. Se la domanda diventa “chi arriva prima, Stati Uniti o Cina?”, ogni forma di cautela viene immediatamente interpretata come perdita di vantaggio competitivo. Trump ha infatti minimizzato gli allarmi insistendo sulla necessità di mantenere il primato americano. Il guaio è che l’affidabilità non si produce accelerando. E non è una proprietà che possiamo semplicemente chiedere al modello di dichiarare. Va costruita attraverso verifiche, limiti operativi, accessi controllati e responsabilità esterne.

C’è chi è convinto che siamo finiti in una lotta di potere tra Big Tech, che giocano con la sicurezza per accrescere il loro status. È d’accordo?

Non serve una teoria del complotto. Basta guardare gli incentivi. Per un’azienda dire “abbiamo costruito un ottimo strumento statistico” è una buona pubblicità. Dire “stiamo costruendo qualcosa di così potente che potrebbe diventare incontrollabile” è una pubblicità ancora migliore. La retorica della potenza e quella del pericolo possono alimentarsi reciprocamente. Questo però non significa che i problemi di sicurezza siano inventati. Significa che proprio perché sono reali non possiamo lasciare alle aziende la definizione del rischio, la misura del rischio e la certificazione della soluzione. Sarebbe come chiedere al produttore di un farmaco di stabilire da solo efficacia, effetti collaterali e autorizzazione alla vendita. Il nodo è sempre lo stesso: se chi produce è anche chi verifica, non abbiamo una verifica indipendente. E c’è un secondo rischio.

Quale?

Regole costruite attorno alle capacità e alle infrastrutture dei grandi operatori possono diventare una barriera all’ingresso e consolidare ulteriormente il loro potere. Anche per questo i protocolli devono essere pubblici, coerenti e applicabili in modo trasparente.

La Cina ha bollato gli annunci a rallentare come un modo per frenare il suo sviluppo. È davvero così?

La reazione cinese non nasce dal nulla, perché Amodei nello stesso intervento chiede cooperazione sulla sicurezza ma anche restrizioni più forti sui chip e sulle tecnologie avanzate verso la Cina. Il Global Times ha infatti descritto la proposta come una versione della logica da Guerra fredda. Il problema è proprio questo: se la sicurezza diventa indistinguibile dalla politica industriale, nessuno si fiderà delle regole dell’altro. L’unica via sensata è costruire criteri di verifica che siano il più possibile indipendenti dalla bandiera del modello. Se un sistema può compiere un certo tipo di azione pericolosa, il test deve valere per un modello americano, cinese o europeo. Se richiede un limite operativo, quel limite deve essere tecnicamente verificabile. Altrimenti Stati Uniti e Cina continueranno a chiamare “sicurezza” ciò che limita l’avversario e “innovazione” ciò che favorisce sé stessi. Non è governance dell’intelligenza artificiale. È geopolitica.

L’Enciclica di Papa Leone XIV sembra cadere a pennello. Come far coincidere le sue richieste con le dinamiche commerciali globali?

Su questo l’Enciclica coglie un punto sorprendentemente concreto. Dice che non basta invocare genericamente l’etica: servono responsabilità identificabili, verifiche rigorose, vigilanza indipendente e sistemi contestabili. E osserva esplicitamente che esiste uno squilibrio tra la velocità dello sviluppo tecnologico e quella con cui maturano controlli e istituzioni. È esattamente il problema. Il mercato premia chi genera più velocemente, scala più velocemente e porta prima sul mercato nuove capacità. La verifica invece costa, rallenta e spesso non produce una demo spettacolare. Non possiamo quindi aspettarci che le due dinamiche coincidano spontaneamente. Servono regole che separino chi genera da chi certifica, limiti tecnici sulle azioni che possono produrre conseguenze reali, accesso indipendente ai modelli e responsabilità umane chiaramente attribuite. E soprattutto bisogna evitare un equivoco molto diffuso: “allineare” un modello insegnandogli quali comportamenti desideriamo non significa averne reso affidabile il comportamento. Una regola appresa è ancora parte del funzionamento probabilistico del sistema. Un limite operativo è un’altra cosa. Se non voglio che un sistema trasferisca dieci milioni di euro, non gli insegno semplicemente che sarebbe moralmente sbagliato farlo. Costruisco l’infrastruttura in modo che non possa farlo senza un’autorizzazione indipendente. L’etica è necessaria. Ma quando un sistema agisce nel mondo, prima o poi servono anche serrature.