Sicurezza cognitiva, come continuare a pensare nell’era dell’AI. Parla Dorigoni

Proteggere dati, reti e infrastrutture è una priorità per le aziende. Ma anche i processi attraverso cui le persone interpretano le informazioni e prendono decisioni richiedono attenzione. Nell’era dell’intelligenza artificiale, la sicurezza cognitiva pone una domanda essenziale: come utilizzare strumenti sempre più potenti conservando la capacità di comprendere, verificare e scegliere? Ne abbiamo parlato con Alessia Dorigoni, Chief Technology Officer di ConnectED Mind e docente di Behavioural Decision Making alla Leeds University Business School, Department of Analytics, Technology and Operations.

Che cos’è la sicurezza cognitiva?

Nel contesto delle aziende e delle istituzioni, possiamo definirla come la capacità di proteggere le condizioni che rendono possibile un giudizio informato, critico e autonomo. Riguarda il modo in cui selezioniamo le informazioni, ne valutiamo l’attendibilità, consideriamo le alternative e arriviamo a una decisione. Essere cognitivamente sicuri significa riuscire a riconoscere informazioni ingannevoli, pressioni persuasive e possibili distorsioni del ragionamento. Significa anche accorgersi di quando stiamo accettando una conclusione perché appare convincente, senza averne verificato le basi. Questa capacità dipende dalle competenze individuali e dall’ambiente nel quale lavoriamo. Per esercitare il giudizio servono tempo, accesso alle informazioni e possibilità di mettere in discussione una raccomandazione.

Perché è particolarmente importante oggi?

Perché aumenta la distanza tra la facilità con cui possiamo ottenere una risposta e l’impegno necessario per valutarla. L’intelligenza artificiale può produrre rapidamente analisi, sintesi e raccomandazioni formulate con grande chiarezza. Ma una risposta ben scritta può contenere errori, omettere elementi decisivi o partire da assunzioni inappropriate e biased. A questo si aggiungono il sovraccarico informativo, la disinformazione e la pressione a decidere velocemente. In queste condizioni, diventa facile utilizzare la plausibilità come scorciatoia: una spiegazione sembra ragionevole e smettiamo di cercare. La sicurezza cognitiva acquista quindi un valore concreto. Ci aiuta a preservare la capacità di distinguere ciò che è convincente da ciò che è sufficientemente sostenuto dalle evidenze.

Perché le aziende dovrebbero occuparsene?

Perché la qualità delle decisioni incide sulla loro capacità di operare, innovare e affrontare le crisi. Un’organizzazione può disporre di dati corretti e strumenti sofisticati, ma interpretarli male, trascurare un rischio o confrontare un insieme troppo ristretto di alternative. Pensiamo a una decisione di investimento, alla selezione di un fornitore o alla gestione di una crisi reputazionale. In ciascun caso conta quali informazioni vengono considerate, quali domande vengono poste e quanto spazio viene dato alle obiezioni. Occuparsi di sicurezza cognitiva significa esaminare questi passaggi e creare condizioni nelle quali gli errori possano emergere prima di trasformarsi in conseguenze operative.

Qual è il rischio specifico dell’intelligenza artificiale?

Delegare più di quanto ci rendiamo conto. Quando chiediamo all’AI un’analisi, possiamo affidarle anche la selezione delle informazioni, la definizione del problema e la scelta delle alternative da considerare. Immaginiamo un manager che chieda tre strategie per entrare in un nuovo mercato. Riceve proposte plausibili, le confronta e ne sceglie una. Ha esercitato il proprio giudizio, ma all’interno di uno spazio costruito dal sistema. Quali strategie sono rimaste fuori? Quali criteri hanno orientato la selezione? Quali informazioni mancavano? Il controllo umano deve cominciare anche da queste domande. Approvare la risposta finale non basta a dimostrare che abbiamo compreso il percorso che l’ha prodotta e non implica che l’uomo sia on the loop.

Continuare a ragionare con la propria testa significa fare tutto da soli?

Significa mantenere la capacità di valutare il contributo degli strumenti e delle persone con cui lavoriamo. Possiamo delegare attività impegnative, ottenere aiuto e risparmiare tempo, continuando a comprendere le ragioni di una scelta. La domanda è se sappiamo spiegare quali evidenze la sostengono, quali incertezze rimangono e che cosa potrebbe farci cambiare idea. L’autonomia di giudizio comprende anche la capacità di riconoscere i propri limiti e chiedere una verifica competente. Un manager non deve conoscere ogni dettaglio tecnico, ma deve sapere quando una decisione richiede ulteriori controlli.

Questa delega potrebbe influenzare le nostre capacità cognitive nel tempo?

È una possibilità che merita di essere studiata. Sappiamo che il cervello adulto conserva capacità di plasticità, cioè può modificarsi in relazione all’esperienza e all’apprendimento. Da questo, però, non possiamo dedurre automaticamente quali saranno gli effetti dell’utilizzo continuativo dell’AI. Un esempio noto riguarda i tassisti londinesi. In uno studio longitudinale, gli aspiranti tassisti che completarono con successo il lungo apprendimento della rete stradale mostrarono un aumento della materia grigia nell’ippocampo posteriore, una regione coinvolta nella memoria spaziale. È un esempio di come un apprendimento intenso possa accompagnarsi a cambiamenti cerebrali nell’adulto. Questo esempio ci invita a riflettere sulle capacità che esercitiamo e sulle occasioni che abbiamo per svilupparle. Non dimostra che utilizzare l’AI indebolisca il cervello e non consente di trasferire direttamente i risultati sulla navigazione spaziale al pensiero critico. Ovviamente dipende gli ambiti all’interno dei quali deleghiamo: delegare la nostra decisione su che cosa cucinare sulla base degli ingredienti presenti in frigo non va comparata ad una possibile decisione che deve prendere un manager considerando contemporaneamente numerose variabili. Possiamo però formulare un’ipotesi: se deleghiamo sistematicamente alcuni passaggi del ragionamento, potrebbero cambiare le opportunità di allenarli. Allo stesso tempo, un’AI progettata per stimolare il confronto tra ipotesi potrebbe offrire nuove occasioni di apprendimento. Sono possibilità da verificare, distinguendo la prestazione ottenuta con l’assistenza dello strumento dalle competenze che la persona conserva quando deve decidere autonomamente.

L’AI può quindi diventare un’alleata della sicurezza cognitiva?

Sì, se l’interazione viene progettata per mantenere la persona coinvolta nel ragionamento. Può aiutarci a cercare informazioni, organizzare dati e formulare scenari. Può anche agire come sparring partner: un interlocutore che mette alla prova le nostre conclusioni. Per esempio, può chiedere quali evidenze sostengano una proposta, suggerire un’interpretazione alternativa o invitarci a individuare le condizioni nelle quali una strategia fallirebbe. Anche le sue obiezioni devono essere valutate. Il contributo alla sicurezza cognitiva dipende dalla qualità dell’interazione e dal giudizio che la persona continua a esercitare.

È da questa idea che nasce ConnectED Mind?

Sì. ConnectED Mind si sviluppa dal percorso di SPES Academy, diretta da Valerio De Luca, proprio a partire dall’idea di sicurezza cognitiva: contribuire a proteggere e rafforzare la capacità delle persone e delle organizzazioni di comprendere, valutare e decidere. Il progetto nasce con una prospettiva di sistema Paese. La qualità delle decisioni nelle imprese e nelle istituzioni ha conseguenze sulla resilienza, sulla competitività e sulla capacità di affrontare situazioni complesse. Salvaguardare l’autonomia di giudizio e la responsabilità umana diventa quindi un interesse condiviso.

Che cosa esprime il nome ConnectED Mind?

Esprime l’idea di mettere in connessione menti, competenze e prospettive diverse. Il giudizio individuale si sviluppa anche attraverso il confronto: abbiamo bisogno di accedere a conoscenze differenti, discutere interpretazioni e riconoscere ciò che, da soli, potremmo trascurare. Questa visione orienta anche il rapporto con i partner. Formazione, ricerca, imprese e competenze tecnologiche possono contribuire a un progetto comune, nel quale l’innovazione si accompagni all’attenzione per la qualità del pensiero e delle decisioni.

Che cosa fa ConnectED Mind nello specifico?

Propone corsi di formazione su tematiche inerenti alla sicurezza cognitiva: pensiero critico, bias decisionali, valutazione delle informazioni, utilizzo consapevole dell’intelligenza artificiale e decisioni in condizioni di incertezza. A questi percorsi si affiancherà la piattaforma ConnectED Mind, powered by Rheinmetall, la cui disponibilità è prevista per il 2027, in modalità Software as a Service, SaaS, e nell’ambito di percorsi di consulenza e accompagnamento alle organizzazioni. La piattaforma è progettata per aiutare manager e decision maker ad allenare le capacità critiche attraverso esercizi, simulazioni e scenari decisionali. L’obiettivo è offrire occasioni continuative per applicare i concetti affrontati nella formazione e riflettere sul proprio modo di decidere.

Come potrebbe funzionare, concretamente?

Un manager potrebbe confrontarsi con una proposta di investimento accompagnata da dati e da una raccomandazione generata dall’AI. Prima di scegliere, dovrebbe individuare le informazioni mancanti, valutare le evidenze e rendere esplicite le proprie assunzioni. Il sistema potrebbe poi presentare un’obiezione o un nuovo elemento, chiedendo se e perché questo modifichi la valutazione iniziale. Il feedback riguarderebbe il processo: quali verifiche sono state effettuate, quali alternative considerate e come è stata gestita l’incertezza. Un aspetto da valutare sarà il trasferimento alle situazioni reali. Migliorare in un esercizio è utile, ma dobbiamo capire se ciò aiuti anche a prendere decisioni più solide nel lavoro quotidiano.

Quale ruolo ha lo strategic foresight?

Lo strategic foresight aiuta a esplorare futuri plausibili e a valutare come una strategia potrebbe comportarsi in condizioni differenti. Permette di mettere in discussione le aspettative sul futuro e riconoscere vulnerabilità che uno scenario unico potrebbe nascondere. L’AI può supportare la ricerca di segnali di cambiamento, l’organizzazione delle informazioni e la costruzione di scenari. Le persone devono continuare a valutarne la coerenza, la plausibilità e la rilevanza. Uno scenario molto dettagliato può sembrare credibile proprio per la ricchezza della narrazione. È quindi necessario chiedersi quali evidenze lo sostengano e quali sviluppi alternativi meritino attenzione.

E il debiasing?

Il debiasing comprende pratiche volte a ridurre specifiche distorsioni del giudizio. Possiamo, per esempio, cercare informazioni contrarie alla nostra ipotesi, confrontare spiegazioni alternative o definire i criteri di valutazione prima di conoscere le opzioni. L’AI può sostenere questi passaggi, ma può anche assecondare le nostre convinzioni o riprodurre distorsioni. Chiederle di eliminare i bias non garantisce un ragionamento migliore. Per questo la piattaforma mira a sostenere l’allenamento e il riconoscimento degli errori. L’efficacia dovrà essere valutata attraverso comportamenti osservabili, senza promettere un’immunità alle distorsioni cognitive. Mi piace sempre ricordare il termine che ho cconiato, Chief Cognitive Officer: una figura che proponiamo per attribuire una responsabilità riconoscibile alla qualità dei processi decisionali e alla sicurezza cognitiva nell’organizzazione. Dovrebbe individuare dove il giudizio è più vulnerabile: eccessiva fiducia negli automatismi, informazioni difficili da verificare, alternative trascurate, pressione a decidere o scarsa possibilità di esprimere dissenso. Lavorerebbe con le funzioni che si occupano di tecnologia, rischio, sicurezza, risorse umane e formazione. Potrebbe promuovere esercitazioni, introdurre momenti di verifica nelle decisioni rilevanti e valutare se il controllo umano sia effettivo.

Ogni azienda dovrebbe avere questa figura?

La soluzione dipende dalle dimensioni e dalle esigenze dell’organizzazione. In alcuni casi potrebbe essere utile una figura dedicata; in altri, questa responsabilità potrebbe essere affidata a una funzione esistente o a un gruppo trasversale. Conta che esistano un mandato chiaro, competenze e possibilità di intervenire. Un nuovo titolo avrebbe poco valore se le persone continuassero a non avere tempo per verificare o spazio per contestare una raccomandazione.

Qual è il messaggio che vorrebbe lasciare ai manager?

Utilizzate l’AI per ampliare le possibilità di comprensione, usatelo come sparring partner, ma conservate l’abitudine di chiedere ragioni, verificare le informazioni decisive e considerare le alternative. Prima di approvare una raccomandazione, domandatevi: “Saprei spiegare questa decisione senza limitarmi a ripetere la risposta del sistema?”. La sicurezza cognitiva riguarda questa capacità: continuare a comprendere ciò che facciamo e ad assumerci la responsabilità delle nostre scelte, mentre gli strumenti a nostra disposizione diventano sempre più potenti.