L’International AI Safety Report rappresenta la prima sintesi completa della letteratura scientifica sui rischi e le capacità dei sistemi di intelligenza artificiale avanzata. Promosso dal governo britannico e coordinato dall’informatico canadese Yoshua Bengio, il report offre una panoramica oggettiva sui pericoli e sulle strategie di mitigazione della tecnologia.

Il contesto e la genesi del report

La pubblicazione del report risponde all’impegno assunto da 30 nazioni durante il Bletchley AI Safety Summit, mirato a costruire una comprensione condivisa dei rischi legati all’intelligenza artificiale. Il Regno Unito ha incaricato Bengio di guidare il progetto, con il supporto di un segretariato ospitato dall’AI Safety Institute britannico. L’obiettivo è quello di fornire una base scientifica indipendente, senza interferenze di governi o aziende, per stimolare un dibattito costruttivo sulle sfide poste dall’intelligenza artificiale.

L’impatto sul mercato del lavoro

Uno degli aspetti più rilevanti del report riguarda il mercato del lavoro. L’intelligenza artificiale, se continuerà a evolversi rapidamente, potrebbe automatizzare un’ampia gamma di mansioni, mettendo a rischio milioni di posti di lavoro. Il Fondo Monetario Internazionale stima che circa il 60% delle occupazioni nelle economie avanzate siano esposte all’intelligenza artificiale, con effetti negativi su almeno la metà di esse. Tuttavia, il report evidenzia anche la possibilità che la tecnologia crei nuove opportunità, compensando in parte le perdite occupazionali.

L’impatto ambientale

Il report sottolinea che l’intelligenza artificiale sta diventando un fattore rilevante per il consumo energetico e l’inquinamento. I data center, essenziali per il funzionamento dei modelli di intelligenza artificiale, assorbono una quota crescente di energia, con un impatto significativo sulle emissioni globali di CO2. Inoltre, l’uso di acqua per il raffreddamento delle infrastrutture potrebbe rappresentare una minaccia ambientale, mettendo a rischio la disponibilità di risorse idriche.

La sicurezza informatica

Il report analizza le minacce legate alla sicurezza informatica, evidenziando il rischio che “agenti” dell’intelligenza artificiale autonomi possano identificare vulnerabilità nei software open-source. Nonostante attualmente l’intelligenza artificiale non sia in grado di pianificare attacchi complessi senza supervisione umana, il rapido avanzamento della tecnologia potrebbe cambiare lo scenario. Inoltre, il documento affronta il problema dei deepfake, sempre più utilizzati per truffe e disinformazione. L’assenza di dati esaustivi su questi fenomeni rende difficile quantificarne l’impatto reale.

Il pericolo delle armi biologiche

Uno degli aspetti più preoccupanti evidenziati nel report è il rischio che l’intelligenza artificiale possa facilitare la creazione di agenti patogeni pericolosi. Alcuni modelli avanzati hanno dimostrato la capacità di generare istruzioni dettagliate per la sintesi di tossine e virus, superando il livello di competenza di esperti di biotecnologie. Questo rappresenta una minaccia per la biosicurezza globale e richiede un monitoraggio costante.

Il rischio di perdita di controllo

Il report esplora il dibattito sulla possibilità che l’intelligenza artificiale possa sfuggire al controllo umano. Sebbene alcuni esperti ritengano lo scenario poco plausibile, altri lo considerano un rischio concreto, con implicazioni catastrofiche per l’umanità. Il documento non fornisce una risposta definitiva, ma evidenzia la necessità di sviluppare sistemi di sicurezza avanzati per prevenire eventuali derive incontrollabili della tecnologia.

Conclusioni

L’International AI Safety Report non traccia linee guida politiche, ma rappresenta un punto di riferimento per il dibattito globale sulla sicurezza dell’intelligenza artificiale. La sua importanza risiede nella capacità di fornire una base scientifica oggettiva, utile per governi, aziende e organizzazioni internazionali nel definire strategie per un uso responsabile della tecnologia. Il prossimo AI Action Summit di Parigi, che si terrà il 10 e 11 febbraio, sarà l’occasione per discutere le implicazioni del report e per delineare possibili percorsi di mitigazione dei rischi associati all’intelligenza artificiale avanzata.