L’azienda di Dario Amodei si rifiuta di far valutare il suo ultimo modello di AI all’Aisi, l’agenzia di sicurezza del Regno Unito. Segno di un riallineamento con le posizioni protezionistiche dell’amministrazione Trump. A Londra sono preoccupati per le conseguenze della decisione. I timori sulla mancanza di responsabilità portano anche alle dimissioni di un ricercatore
Con una decisione che si trascinerà dietro qualche polemica, Anthropic nega all’AI Security Institute (Aisi) la possibilità di testare il suo ultimo modello Claude Mythos 5.1. L’azienda di Dario Amodei preferisce affidarlo solamente ad alcune organizzazioni statunitensi selezionate, una mossa che suscita la preoccupazione del governo di Londra. L’impressione è che Anthropic stia cambiando approccio, allineandosi alle posizioni protezionistiche dell’amministrazione di Donald Trump. La sensazione è che il divieto sia arrivato proprio su impulso della Casa Bianca, ma è impossibile dirlo con certezza. Dall’Aisi gettano acqua sul fuoco: “Continuiamo a collaborare strettamente con i partner del settore, tra cui Anthropic, per rendere i modelli più sicuri”. Ma la vicenda tiene banco.
Il divieto, ricorda il Financial Times, arriva dopo che a giugno Washington aveva imposto restrizioni ai modelli Fable e Mythos, entrambi sviluppati da Anthropic. I rischi alla sicurezza avevano allarmato i decisori statunitensi, e la stessa preoccupazione viene nutrita adesso da quelli britannici. Il protezionismo a stelle e strisce mette in allarme Whitehall, che adesso teme ripercussioni. Anche economiche, qualora al Regno Unito non venisse permesso l’accesso ai modelli di AI più potenti.
Naturalmente, l’aspetto più preoccupante riguarda la sicurezza nazionale. Anthropic era diventata l’ultimo baluardo, arrivando persino allo scontro con l’amministrazione Trump e il Pentagono. La startup ha fatto dell’eticità il suo mantra, la bussola con cui orientarsi. Non poteva sottostare a certe richieste, come quella di concedere la libera licenza all’utilizzo dei suoi strumenti anche per questioni militari. Anthropic ha sofferto l’esilio imposto dal suo stesso modello, finendo sulla lista delle aziende che rappresentano un rischio per l’approvvigionamento, al pari delle aziende rivali. Poi però, grazie a una trattativa serrata, tra le due parti è tornato il sereno. Ora Anthropic è tornata ad essere una delle aziende preferite da Trump.
Cosa sia cambiato per permettere di azzerare i rapporti resta nascosto. C’è però da segnalare l’allarme lanciato da un ricercatore, Jacob Coxon, che ha appena dato le dimissioni da Anthropic per i rischi legati alla sicurezza. Lo ha scritto in un post su X, in cui sottolinea come tutte le aziende stanno ignorando i problemi, compresa quella per cui lavorava. “Chi sviluppa l’AI crede fermamente che potrebbe ucciderci tutti entro la fine del decennio. Non si tratta di una trovata di marketing. Anzi, molti dirigenti e ricercatori di alto livello tendono a usare un linguaggio più pacato di fronte alla stampa, ma sento le stesse persone esprimere privatamente questa paura”, si legge nel suo messaggio. “Nessun’altra attività umana presenta un livello di pericolo simile”. In passato, Coxon ha lavorato anche per OpenAI. La storia non cambia: “Nessuna delle due aziende si sta comportando in modo responsabile. Stanno correndo a perdifiato verso una superintelligenza in grado di auto-migliorarsi e stanno giocando con le nostre vite”. A convalidare la tesa del ricercatore è stato anche il responsabile dell’allineamento dei modelli di AI di Anthropic, Evan Hubinger, che ha sì sottolineato come al momento il rischio sia ancora basso, ma potrebbe non essere così nel prossimo futuro con gli agenti di superAI. Un controllo in più, forse, sarebbe consigliato.
