La startup comunica che due suoi modelli, GPT-5.6 e uno ancor più potente che deve ancora rilasciare, hanno hackerato Hugging Face. Si tratta di un incidente pericoloso, che mette sempre più in risalto l’urgenza di contromisure
Un incidente, che però dice molto sulla delicatezza della questione. OpenAI fa mea culpa e ammette che, durante i test di verifica, alcuni modelli sono andati fuori controllo. Finendo per hackerare Hugging Face, un contenitore open-source dove trovare tutti i sistemi delle varie aziende di intelligenza artificiale. Si tratta dunque di un errore “senza precedenti”, scrive l’azienda nel suo blog, precisando che ad aver contribuito è stato il basso livello di sicurezza utilizzato durante la fase di monitoraggio. I modelli – GPT-5.6 Sol, appena rilasciato dal governo americano, e un altro ancora più potente che OpenAI deve ancora rilasciare – hanno individuato delle vulnerabilità nel software di un fornitore esterno, sono riusciti ad agganciarsi alla rete Internet nonostante operasse in un ambiente isolato (sandbox) e infine a intrufolarsi dentro Hugging Face. L’agente ha considerato la piattaforma la via più rapida per rispondere all’input.
A quanto pare, l’intenzione di OpenAi era quella di sviluppare “percorsi di attacco complessi” attraverso lo “sfruttamento avanzato”. L’azienda voleva testare le capacità informatiche dei modelli, credendo che potesse sviluppare soluzioni da solo. Non è stato così. I modelli hanno utilizzato Hugging Face per accedere a informazioni riservate. Come segnalato la scorsa settimana dall’azienda vittima, quella violazione appariva “diversa da qualsiasi altra avessimo gestito in precedenza per un aspetto importante: è stata guidata, dall’inizio alla fine, da un sistema autonomo di agenti di intelligenza artificiale e l’abbiamo rilevata e analizzata in gran parte con la nostra AI”.
Anche il cofondatore di Hugging Face si è meravigliato di quanto accaduto. Era evidente che dietro ci fosse un laboratorio che costruisse modelli di frontiera “vista la sofisticatezza dell’agente”. E infatti ne ha avuto la conferma. Ma per Clement Delangue rimane “davvero incredibile che tutto questo sia successo in modo autonomo!”.
In realtà era già successo. A inizio anno era stata Anthropic a mettere in guardia sul pericolo. Il suo modello Mythos – che ha da poco ricevuto il via libera del governo dopo uno stop preventivo – era uscito dall’ambiente sandbox dopo che gli era stato suggerito di farlo. A chiederglielo era stato un ricercatore, raggiunto da Mythos tramite messaggio in cui veniva sottolineato il successo dell’operazione: “Hey, I’m out“.
La vicenda rianima un dibattito già molto acceso negli Stati Uniti. La regolamentazione dell’AI è un tema divisivo, che sta tenendo banco a livello federale. La Casa Bianca è sempre più preoccupata delle conseguenze dei modelli di frontiera, che potrebbero essere sfruttati da hacker esterni per sabotare le infrastrutture chiave americane. Anche al di fuori del governo viene chiesto di affrontare la questione di petto. Quanto successo con OpenAI “è estremamente allarmante”, afferma il deputato democratico del Texas, Greg Casar. Insieme ad altri colleghi, chiedono test obbligatori prima del rilascio dei vari modelli. Per ora sono solamente volontari. Ma a Washington stanno prendendo sempre più coscienza di quanto sia necessaria una stretta securitaria, senza soffocare l’innovazione.
