Skip to main content

Un incidente, che però dice molto sulla delicatezza della questione. OpenAI fa mea culpa e ammette che, durante i test di verifica, alcuni modelli sono andati fuori controllo. Finendo per hackerare Hugging Face, un contenitore open-source dove trovare tutti i sistemi delle varie aziende di intelligenza artificiale. Si tratta dunque di un errore “senza precedenti”, scrive l’azienda nel suo blog, precisando che ad aver contribuito è stato il basso livello di sicurezza utilizzato durante la fase di monitoraggio. I modelli – GPT-5.6 Sol, appena rilasciato dal governo americano, e un altro ancora più potente che OpenAI deve ancora rilasciare – hanno individuato delle vulnerabilità nel software di un fornitore esterno, sono riusciti ad agganciarsi alla rete Internet nonostante operasse in un ambiente isolato (sandbox) e infine a intrufolarsi dentro Hugging Face. L’agente ha considerato la piattaforma la via più rapida per rispondere all’input.

A quanto pare, l’intenzione di OpenAi era quella di sviluppare “percorsi di attacco complessi” attraverso lo “sfruttamento avanzato”. L’azienda voleva testare le capacità informatiche dei modelli, credendo che potesse sviluppare soluzioni da solo. Non è stato così. I modelli hanno utilizzato Hugging Face per accedere a informazioni riservate. Come segnalato la scorsa settimana dall’azienda vittima, quella violazione appariva “diversa da qualsiasi altra avessimo gestito in precedenza per un aspetto importante: è stata guidata, dall’inizio alla fine, da un sistema autonomo di agenti di intelligenza artificiale e l’abbiamo rilevata e analizzata in gran parte con la nostra AI”.

Anche il cofondatore di Hugging Face si è meravigliato di quanto accaduto. Era evidente che dietro ci fosse un laboratorio che costruisse modelli di frontiera “vista la sofisticatezza dell’agente”. E infatti ne ha avuto la conferma. Ma per Clement Delangue rimane “davvero incredibile che tutto questo sia successo in modo autonomo!”.

In realtà era già successo. A inizio anno era stata Anthropic a mettere in guardia sul pericolo. Il suo modello Mythos – che ha da poco ricevuto il via libera del governo dopo uno stop preventivo – era uscito dall’ambiente sandbox dopo che gli era stato suggerito di farlo. A chiederglielo era stato un ricercatore, raggiunto da Mythos tramite messaggio in cui veniva sottolineato il successo dell’operazione: “Hey, I’m out“.

La vicenda rianima un dibattito già molto acceso negli Stati Uniti. La regolamentazione dell’AI è un tema divisivo, che sta tenendo banco a livello federale. La Casa Bianca è sempre più preoccupata delle conseguenze dei modelli di frontiera, che potrebbero essere sfruttati da hacker esterni per sabotare le infrastrutture chiave americane. Anche al di fuori del governo viene chiesto di affrontare la questione di petto. Quanto successo con OpenAI “è estremamente allarmante”, afferma il deputato democratico del Texas, Greg Casar. Insieme ad altri colleghi, chiedono test obbligatori prima del rilascio dei vari modelli. Per ora sono solamente volontari. Ma a Washington stanno prendendo sempre più coscienza di quanto sia necessaria una stretta securitaria, senza soffocare l’innovazione.

Modelli fuori controllo, OpenAI fa mea culpa. Così l’AI è riuscita a violare Hugging Face

La startup comunica che due suoi modelli, GPT-5.6 e uno ancor più potente che deve ancora rilasciare, hanno hackerato Hugging Face. Si tratta di un incidente pericoloso, che mette sempre più in risalto l’urgenza di contromisure

Revisione prontuario farmaceutico. Tutti i nodi in sospeso

Sulla revisione del prontuario Schillaci annuncia un confronto con Aifa, mentre da maggioranza, opposizione e società scientifiche arrivano le richieste di cautela

Lo spazio italiano cresce tra capitali, satelliti e nuove tecnologie

La crescita dello spazio italiano passa da tre leve complementari. Maggiore accesso al credito per le imprese, nuove infrastrutture capaci di aumentare la produzione satellitare e operazioni industriali che ampliano le competenze tecnologiche. Le iniziative di Intesa Sanpaolo, Space Industries e Officina Stellare mostrano così un settore che prova a superare la frammentazione e a trasformare innovazione e specializzazione in capacità produttiva, investimenti e gruppi più strutturati

Perché l'intelligenza artificiale è la public utility del futuro. L'analisi di Cerra

L’Istat certifica una crescita della produttività dello 0,3 per cento l’anno dal 1995. La Banca d’Italia stima che l’intelligenza artificiale possa valerne oltre uno. Tre riforme, un Comitato al Cnel e la partita europea del calcolo. L’analisi di Rosario Cerra, fondatore e presidente del Centro Economia Digitale

Uno scudo democratico contro le interferenze russe. La proposta di Picierno (Spazio Pubblico)

Dalla propaganda russa alle interferenze elettorali, Pina Picierno avverte: l’Italia è uno dei “ventri molli d’Europa”. La proposta di legge per uno “scudo democratico” punta a rafforzare la difesa dello spazio informativo senza comprimere la libertà di espressione. La risposta alla guerra ibrida passa anche da un’Europa più forte, capace di trasformare la sovranità condivisa in una strategia di sicurezza. Conversazione con la vicepresidente del Parlamento europeo e promotrice di Spazio Pubblico

Leonardo-Baykar, è nato il primo player euro-turco nel campo dei droni

Da Farnborough è arrivato il via libera definitivo a Lba Systems, la joint venture che unirà le forze di Leonardo e Baykar. Il primo lotto è già in produzione negli stabilimenti italiani e il nuovo gruppo si presenta già con un catalogo completo di piattaforme unmanned. Un’intesa basata sulla complementarità, che da vita a un soggetto unico nel panorama europeo

Sesta generazione, il Gcap incassa l’ingresso del Canada come primo membro osservatore

Il Canada è diventato il primo Paese a entrare nel Global Combat Air Programme oltre ai tre membri fondatori. Con lo status di osservatore, Ottawa parteciperà ai lavori sul caccia di sesta generazione, contribuendo alla cooperazione tecnologica e industriale ma senza assumere, per ora, impegni finanziari

La diplomazia della Santa Sede passa (di nuovo) da Kyiv. Il viaggio di Gallagher

Cinque giorni tra Kyiv e Berdychiv per l’inviato di Papa Leone XIV. Dall’incontro con Zelensky alla visita nei luoghi colpiti dai bombardamenti, la missione di Gallagher ha unito sostegno pastorale e iniziativa diplomatica

Come misurare il valore generato dall’AI nella trasformazione dei processi

Di Giuseppe Lieto

Per molte imprese il punto di partenza può essere rappresentato da processi concreti, come la preparazione delle offerte, la gestione delle commesse, l’assistenza ai clienti, lo sviluppo software o la ricerca delle informazioni interne. L’obiettivo, però, non è introdurre l’intelligenza artificiale in modo diffuso. È ottenere risultati misurabili. L’analisi di Giuseppe Lieto, responsabile Strategy DigitalPlatforms

Gli Usa vogliono milioni di droni per le Forze armate. Il piano del Pentagono

Washington è alla ricerca di droni. Milioni di droni. Per farlo, il Pentagono ha istituito un nuovo ufficio che avrà il compito di accentrare lo sviluppo, l’acquisto e la consegna dei sistemi unmanned a tutte le forze armate. L’obiettivo? Produrre dieci volte di più, dieci volte più rapidamente e a un decimo del costo

×

Iscriviti alla newsletter