La proliferazione dei dati e la capillare diffusione dei dispositivi interconnessi e delle tecnologie digitali esponenziali rendono questo periodo storico carico di opportunità. Le potenzialità delle tecnologie potranno consentire una trasformazione non più per pochi, ma per tutti. Affinché ciò accada è necessaria però una consapevolezza condivisa e un approccio etico e trasparente nello sviluppo e nell’applicazione di tecnologie quali l’intelligenza artificiale (Ai), la blockchain o il cloud. La più dirompente di queste tecnologie è proprio l’Ai, una tecnologia ormai molto diffusa, quasi data per scontata, in alcune delle sue applicazioni comsumer, come per esempio gli assistenti vocali e molte altre.

Non tutti sanno che le aziende e le amministrazioni hanno esigenze diverse da quelle del mondo consumer, come il poter finalmente dar vita a un cambiamento radicale dei propri modelli di business, rispondendo così alle esigenze di consumatori e cittadini. E infatti guardano a questa tecnologia come mai in passato è stato fatto, perché le sue potenzialità sono molteplici e possono affiancare l’uomo in ogni attività, contribuendo ad aumentarne le capacità. Anche le istituzioni si stanno attivando per la promozione di questo sviluppo – esemplare l’istituzione dei gruppi di esperti AI e blockchain del Mise – e diverse forme di incentivazione per le imprese.

Questo mondo non consumer non solo non si accontenta di avere automatismi intelligenti in alcuni campi specifici, ma manifesta anche la necessità di garantirsi e garantire l’uso degli algoritmi all’insegna della correttezza e del rispetto, di spiegarne le scelte e di renderla e mantenerla resiliente a qualsiasi tentativo di manipolazione.

Dove siamo oggi con l’AI e dove vogliamo arrivare? Quella più in uso oggi è quella che chiamiamo Narrow AI, che è in grado di raggiungere risultati importanti in alcuni specifici e ben definiti domini e compiti, dove solitamente ci sono anche sufficienti dati per l’apprendimento. Uno di questi campi è per esempio il riconoscimento immagini, dove in alcuni ambiti la precisione di questi sistemi è superiore a quella degli esseri umani.

L’ambizione ultima è la cosiddetta General AI, cioè quell’intelligenza più simile a quella umana, in grado di ragionare, fornire indicazioni con pochi spunti, e guidata da princìpi. Tutti gli sforzi della ricerca sono in questa direzione, ma ci vorranno molti decenni e non è ancora chiarissima la strada che ci porterà a destinazione.

La prossima frontiera dell’intelligenza artificiale è invece la Broad AI, sistemi che non solo imparano da molti meno dati, ma che inoltre combinano conoscenza e ragionamento. La sfida della Broad AI è che deve essere responsabile e fidata, Trusted AI, e pertanto soddisfare i criteri di spiegabilità, robustezza, correttezza e tracciabilità.

LA SFIDA DELLA BROAD AI

La prossima frontiera della AI prevederà sistemi cognitivi sempre più evoluti e in grado di essere fidati, addestrabili con sempre meno dati e in maniera sempre più automatizzata. Si renderanno necessari nuovi approcci e strumenti per rilevare e ridurre la quantità di bias, cosicché qualsiasi algoritmo di intelligenza artificiale che successivamente imparerà da esso perpetui la minore iniquità possibile.

SPIEGARE PER CAPIRE

Poiché i sistemi di AI saranno sempre più utilizzati come supporto alle decisioni, è imperativo che siano equi e imparziali. Per garantire che ciò accada e per far sì che ciascuno di noi possa capire come questi sistemi sono stati addestrati, e quindi utilizzarli con fiducia e competenza, tutto dovrà essere spiegabile: su quali dati e con quali metodologia essi sono stati sviluppati, se e quali “rumori” possono aver di fatto distorto informazioni o processi di addestramento. In questo ambito IBM FactSheets for AI Services, aiuta a standardizzare e rendere disponibili le informazioni relative a un algoritmo, e ciò contribuisce ad accrescere fiducia nei sistemi cognitivi, un po’ come le etichette per i prodotti di consumo.

UN KIT PER ASSICURARE L’IMPARZIALITÀ

In risposta alle esigenze di imparzialità e correttezza, IBM ha pubblicato il primo toolkit open source, AI Fariness 360, che cura algoritmi avanzati per rilevare ed eliminare diversi tipi di pregiudizi che possono corrompere i sistemi di intelligenza artificiale. A questa si affianca un’altra tecnologia, Watson OpenScale, per aiutare aziende e amministrazioni al rilevamento, controllo e mitigazione di eventuali bias in fase di esecuzione.

MITIGARE LE MINACCE

Gestire la fragilità dei sistemi cognitivi è un’assoluta priorità. Per questo la robustezza della
AI è un altro importante requisito per renderla affidabile. L’anno scorso Ibm ha pubblicato un
progetto open source chiamato Adversarial robustness toolbox (Art) che raccoglie molti degli
attacchi e delle difese conosciuti, insieme alle loro implementazioni, per aiutare i professionisti
della AI a capire e mitigare le minacce.

A PROVA DI TRACCIABILITÀ

Ultimo elemento fondante della Trusted AIè quello della tracciabilità, cioè deve essere sempre possibile tornare indietro e ricostruire dove e come la decisione è stata presa, assicurandoci quindi che le decisioni sono state correttamente gestite. Ibm ha creato una serie di strumenti che sono in grado di far luce sul perché il sistema ha prodotto un determinato risultato. Un esempio è un algoritmo che può prendere una rete neurale, tipicamente una scatola nera, e produrre da essa un modello molto più interpretabile, come un albero decisionale.