“Valutare, sincronizzare e impiegare l’intelligenza artificiale generativa in tutto il Dipartimento”. Sono queste le parole di una bozza di annuncio stampa per la presentazione della nuova task force “Lima”, la cui creazione è stata annunciata giovedì 10 agosto dal Pentagono. Più in generale, la nuova task force dovrà occuparsi di capire come utilizzare in modo sicuro gli strumenti dell’intelligenza artificiale, di individuare le situazioni in cui non è sicuro per il dipartimento utilizzarli e di prevedere come Paesi come la Cina potrebbero utilizzare l’Ia generativa per danneggiare gli Stati Uniti.

A guidare il nuovo gruppo di lavoro sarà Craig Martell, direttore del reparto digitale del Dipartimento della Difesa. Lo stesso Martell ha dichiarato che, sul piano pratico, la sua task force si dedicherà ad individuare “una serie di casi d’uso, interni al dipartimento, in cui riteniamo che l’Ia generativa possa aiutarci a svolgere il nostro lavoro e in cui i pericoli e le difficoltà dell’Ia generativa possono essere mitigati”.

Principale causa dei rischi a cui fa riferimento Martell è la cosiddetta “Hallucination”, ovvero l’incapacità dell’Intelligenza Artificiale di discernere tra dati veritieri e dati fittizi all’interno del suo database. Proprio questa caratteristica, insieme alla conoscenza relativa dei meccanismi di calcolo, ha scoraggiato il Pentagono da utilizzare un modello di intelligenza artificiale generativa preesistente, come ChatGpto Bard, preferendo invece svilupparne uno ex-novo.

Ed anche in questo processo il ruolo della Task Force Lima sarà fondamentale, poiché dovrà contribuire ad individuare il materiale necessario per la creazione di questo modello. “Se decidiamo di costruire il nostro modello di base, dobbiamo obbligatoriamente aumentare progressivamente il calcolo, non c’è dubbio. Per costruire il proprio modello fondativo, è necessaria molta potenza di calcolo. Se vogliamo comprarla da qualcun altro, o se vogliamo prenderne una open source e raffinarla secondo i nostri bisogni, potrebbero essere necessari contratti diversi”, ha affermato al riguardo Martell.

Ma sarà prima necessario capire se il gioco può valere la candela. Anche se la costituzione di un sistema di intelligenza artificiale generativa ad hoc dovrebbe ridurre al minimo i rischi, permarrebbe comunque un minimo e fisiologico grado di “unrealiability”, dovuto alla massiccia quantità di dati presenti negli archivi del Dipartimento della Difesa, la cui (anche parziale) sovrapposizione potrebbe causare errori d’interpretazione a parte della macchina. “La mia ipotesi è che più dati in archivio ci sono, più è probabile che si verifichino allucinazioni. Si tratta quindi di un compromesso che dovremo esplorare. Non credo che la comunità scientifica conosca ancora la risposta a questa domanda”, dice ancora Martell in un’intervista a rilasciata a Defenseone.com

Il lavoro della task force non andrà però solamente a beneficio del Pentagono, ma anche del mondo privato: la speranza è che quanto prodotto dal gruppo di lavoro indichi il percorso e gli standard da seguire a tutte quelle aziende che intendono andare a fare affari nel settore, e specialmente a quelle intenzionate a collaborare con il Dipartimento della Difesa. Il rispetto di questi punti di riferimento potrebbe tradursi sia in una riduzione dei rischi intrinseci che in una maggiore facilità d’uso, portando così ad un’esperienza generale molto più efficiente. Una delle criticità per cui i programmi come ChatGpt non sono adatti al Dipartimento della Difesa, secondo Martell, è la quantità di domande necessarie per produrre risultati adeguati: le lunghe sequenze di domande vanno bene per gli utilizzatori amatoriali, ma un operatore che deve svolgere molti altri compiti complessi ha bisogno di un’interfaccia intuitiva e che funzioni meglio fin dall’inizio.