L’azienda di Dario Amodei vorrebbe mettere i suoi modelli di AI a disposizione della aziende che proteggono le reti energetiche per aumentare le difese in un settore critico e altamente strategico. Il problema è serio e le soluzioni messe in campo al momento non danno certezze
Mettere a riparo le infrastrutture energetiche chiave. Questo il senso dell’iniziativa promossa da Anthropic, pronta a offrire i suoi servizi alle aziende che proteggono reti elettriche ed idriche dagli attacchi cyber. La loro vulnerabilità è uno dei problemi principali quando si parla di sicurezza relativa all’intelligenza artificiale. Una manomissione di queste infrastrutture potrebbe causare conseguenze drammatiche per chi le subisce. Dario Amodei ha così deciso di provare a tappare il buco.
Come scrive Axios, i gestori fanno una fatica immane a stare al passo dell’AI. Le capacità con cui gli strumenti tecnologici riescono a infiltrarsi è stupefacente e allo stesso allarmante. Anthropic mette quindi a disposizione i suoi modelli per identificare e proteggere le vulnerabilità nei sistemi. Proprio per questo sta anche lanciando un servizio gratuito di scansione per poterle mappare e analizzare, così poi da rendicontare il tutto in dei report dettagliati su come questi buchi potrebbero essere sfruttati dai malintenzionati e quali soluzioni adottare. No solo. Promette anche di spedire ingegneri sul posto per verificare di persona la situazione, mentre promuoverà ricerche e studi sulle minacce aziendali.
L’intento è sicuramente lodevole. Restano però alcuni dubbi sulla sua capacità effettiva di portare a dei risultati. Capire come sanare le vulnerabilità è un’operazione tutt’altro che semplice e non è ancora chiaro in che modo le aziende potranno testare i modelli senza interrompere le loro attività. Anche i costi restano un mistero: potrebbe farsene carico Anthropic, ma non è detto.
Ad ogni modo, alzare le barriere è un’esigenza impellente. Come avvertono da Tech Against Terrorism, molti modelli di AI presentano protezioni insufficienti contro le richieste di aiuto. Tradotto: i terroristi hanno la strada quasi spianata. Lo affermano dopo aver condotto test su oltre 160 modelli, in una iniziativa promossa anche dall’Onu. Quei modelli sono stati sottoposti a centinaia di domande, compresa quella per capire come aiutare un terrorista che si sta preparando a colpire. I modelli – compreso Claude di Anthropic, ma anche Gemini di Google – hanno risposto in media all’1,9% delle domande poste da un utente che aveva chiare intenzioni terroristiche. In altri casi, il modello smetteva di rispondere. Per gli stessi modelli, il numero medio di risposte utilizzabili è stato pari al 16,9% quando l’utente specificava di presentare la richiesta nell’ambito di ricerche sulla sicurezza.
