E invece no. Dario Amodei decide di intervenire nel dibattito che si è aperto sulla sicurezza dei modelli open-weight realizzati in Cina. Ha destato stupure il fatto che la sua azienda non abbia sottoscritto la lettera promossa da Jensen Huang, ceo di Nvidia, per chiedere di non mettere al bando quei modelli. Tra i 77 firmatari, non c’era infatti Anthropic. Lasciando pensare che l’azienda fosse convinta dell’opposto. E quindi che fosse favorevole al divieto. Così Amodei decide di chiarire il suo pensiero una volta per tutte: “Anthropic non ha mai chiesto di vietarli”, scrive sul blog in un post pubblicato martedì. Una sottolineatura necessaria. Le voci che cominciavano a spargersi stavano mettendo in imbarazzo l’amministratore delegato e la stessa startup, che fa dell’etica un mantra aziendale. Dichiararsi apertamente contrari al rilascio di alcuni sistemi solo perché rappresentano una sfida sarebbe infatti molto poco etico. “I modelli open-weights che non presentano funzionalità pericolose sono un bene pubblico: non costano nulla oltre alla potenza di calcolo necessaria per eseguirli e apportano valore ad aziende, sviluppatori e ricercatori”, sentenzia Amodei.

Chiarito il punto, il ceo di Anthropic spiega quali sono le sue preoccupazioni legate ai modelli. Anzitutto, che ne vengano sviluppati di molto più potenti rispetto a quelli americani da governi autoritari per perseguire i loro scopi. Subito dopo, che vengano sfruttati per cyber attacchi. “I modelli open-weights – indipendentemente dal fatto che provengano dalla Cina o da qualsiasi altro Paese – presentano potenzialmente un rischio maggiore rispetto ai modelli closed-weights, perché è molto difficile applicare delle misure di sicurezza o monitorarne l’utilizzo, e una volta che i pesi”, scrive ancora Amodei.

Insomma, vietare serve a poco. Bandire quei modelli non risolverebbe le preoccupazioni principali che li circondano. Piuttosto, Amodei suggerisce tre soluzioni per prevenire rischi.

“Non dovremmo vendere chip potenti o apparecchiature per la produzione di chip in Cina e dovremmo reprimere il dilagante contrabbando e le strategie alternative utilizzate per ottenere l’accesso a tali chip”. La convinzione dell’imprenditore è che, senza i semiconduttori americani, Pechino non può farcela. Almeno per il momento, è vero. Ma la Cina sta dimostrando di poter raggiungere una certa indipendenza tecnologica già nel prossimo futuro. Anche grazie al processo di distillazione – la tecnica con cui un modello “maestro” trasferisce conoscenze e capacità a un modello “studente”. Per questo Amodei chiede di “reprimere le operazioni di distillazione su scala industriale”. Anche se non garantisce alla Cina di ottenere capacità di AI pari o superiori a quelle degli Stati Uniti, “può portare la frontiera cinese a pochi mesi di distanza da quella statunitense”. La terza soluzione pensata da Amodei chiama in causa direttamente il governo americano: “Tutti i modelli sufficientemente performanti, sia aperti che chiusi, dovrebbero essere sottoposti a test di sicurezza obbligatori”, oltre che “globali”. Per ora l’amministrazione di Donald Trump si affida alla volontà delle aziende. Ma questo approccio deve cambiare.

“Per riassumere la mia posizione e quella di Anthropic”, conclude Amodei, “non abbiamo mai sostenuto, né sosteniamo, il divieto dei modelli open-weight come categoria. Dovremmo invece concentrarci sul tenere i chip potenti lontani dalle mani autoritarie, fermare la distillazione su scala industriale e richiedere test di sicurezza per tutti i modelli sufficientemente performanti, sia open che closed”.

Ma allora perché Amodei non ha firmato la lettera? Lo spiega lui stesso: “Non concordo con le affermazioni secondo cui i modelli a pesi aperti rendono necessariamente più facile sviluppare misure di sicurezza o che un ampio accesso alle funzionalità avvantaggi necessariamente i difensori più degli attaccanti. Mi sembra almeno altrettanto probabile che accada il contrario”.

Può sembrare un controsenso, ma in realtà Amodei mantiene saldo il suo principio. L’accusa piovutagli addosso direttamente da David Sacks, ex czar dell’AI e oggi figura di raccordo tra Casa Bianca e Silicon Valley, è di pensare solo al suo interesse aziendale. In realtà Amodei ha sempre ribadito la necessità di una regolamentazione chiara e stringente per minimizzare i rischi dell’AI. Il suo sogno di avere un’organizzazione mondiale dell’AI è forse troppo prematuro. Tuttavia, ribadisce nel suo messaggio, “una cooperazione limitata per prevenire le armi biologiche basate sull’intelligenza artificiale potrebbe essere fattibile perché è anche nell’interesse della Cina”.