Le macchine non fingono di capire senza essere state informate ma gli esseri umani, invece, possono fingere, e spesso lo fanno in buona fede, convinti che la competenza stia compensando. Forse la sfida del XXI secolo non sarà rendere le macchine più intelligenti. Sarà rendere gli esseri umani meno opachi gli uni agli altri; e questa è, di tutte le sfide che questo secolo si è dato, la sola che non potrà essere risolta dall’ingegneria. L’analisi di Flavio Tonelli e Mario Caligiuri
Prendete un contesto decisionale di un’azienda strategica, settore manifattura avanzata o dual-use, in un pomeriggio di fine trimestre. Sul tavolo c’è una decisione che non può essere rimandata. Le persone nella stanza sono cinque, forse sei. Nessuna di loro dichiara il proprio stato interno.
Chi è reduce da sette giorni di due diligence senza interruzione reale ha la soglia cognitiva a zero, ma non lo dice perché il contesto non prevede che si dica. Chi ha ricevuto quella mattina un’informazione laterale che cambia il quadro di rischio non sa ancora come pesarla e tace, perché nominarla richiederebbe una catena di ragionamenti che il tempo non consente. Chi opera sotto pressione istituzionale non esplicitabile la gestisce internamente, traducendola in posizioni che sembrano tecniche ma non lo sono del tutto.
La decisione viene presa e non è necessariamente sbagliata nel merito; potrebbe anche rivelarsi corretta. Ma viene presa in un campo di opacità reciproca totale, in cui nessuno dei presenti disponeva di un modello accurato dello stato interno degli altri, e in cui ciascuno ha inferito il contesto altrui a partire da segnali di superficie, posture, toni, silenzi. Il risultato non è un errore clamoroso e attribuibile ma qualcosa di più sottile e, in certi sensi, più insidioso: una decisione che nessuno dei presenti, a mente lucida e con piena consapevolezza del contesto cognitivo di ciascuno, avrebbe preso esattamente in quel modo, con quella velocità, con quella distribuzione di pesi tra le variabili in gioco.
Ciò che intendiamo esaminare non è la qualità dei processi decisionali aziendali né la psicologia della leadership sotto stress, bensì l’architettura del malinteso che rende possibile quella scena: il problema fondamentale della coordinazione umana contemporanea, nelle organizzazioni come nelle istituzioni, è che non c’è malevolenza ma cecità reciproca agli stati interni. Chi ha taciuto non voleva sabotare la decisione così come chi ha inferito il contesto dell’altro senza verificarlo non stava agendo in malafede. Ognuno operava con i modelli disponibili, modelli incompleti, calibrati su aspettative di ruolo più che su realtà cognitive.
Questa è la fenomenologia del conflitto organizzativo nella maggior parte dei casi: non aggressione, ma asimmetria di modelli.
Bateson avrebbe forse detto che il problema è di livello logico: le persone nella stanza operavano in sistemi di riferimento radicalmente diversi senza saperlo, e questa invisibilità non era frutto di indifferenza ma di struttura. Maturana e Varela, con il loro concetto di autopoiesi, ci direbbero qualcosa di analogo: i sistemi viventi sono strutturalmente determinati, vale a dire che la risposta all’ambiente dipende dalla struttura interna del sistema, non dall’ambiente in sé. Cinque persone che vivono la stessa riunione la vivono sempre in modo radicalmente diverso; il management, la cultura organizzativa e gran parte dell’etica professionale continuano a comportarsi come se non fosse così.
Il mito professionale della razionalità decisionale è uno dei più tenaci e dei più costosi che la modernità organizzativa abbia prodotto. L’idea che in una sala decisionale gli individui operino come attori razionali capaci di scindere il proprio stato interno dalla propria funzione, che la competenza neutralizzi la saturazione cognitiva, che il ruolo produca automaticamente la lucidità che il contesto richiederebbe: queste assunzioni attraversano silenziosamente quasi ogni processo decisionale disfunzionale, quasi ogni errore strategico, quasi ogni opportunità mancata che si lascia precipitare invece di essere nominata.
Il corpo e la mente sono i grandi opachi anche nelle organizzazioni e l’esaurimento da carico decisionale accumulato non è visibile dall’esterno con sufficiente risoluzione. La saturazione cognitiva che segue settimane di pressione istituzionale non produce ‘temperatura misurabile’. La soglia ridotta di tolleranza al rischio che si accumula in un periodo di alta intensità operativa non lascia tracce che si possano mostrare in una slide. Esiste una zona di esperienza interna che è sempre già privata, non per scelta ma per struttura; e le organizzazioni si scontrano continuamente con questa zona senza mai del tutto riconoscerla, perché riconoscerla richiederebbe un vocabolario che la cultura professionale dominante non ha ancora costruito.
Sappiamo misurare i KPI ma non sappiamo descrivere con precisione sufficiente la texture della saturazione da pressione istituzionale, la differenza tra una stanchezza che chiede sospensione e una che chiede ridefinizione del frame, tra un rischio che va nominato e uno che può essere gestito in silenzio. Questa povertà di linguaggio non è innocua ma ciò che rende inevitabili certi errori strategici, perché un’asimmetria di contesto che non ha parole non può essere corretta prima di produrre conseguenze.
L’intelligence come epistemologia dell’opacità e il vuoto pedagogico
Esiste una disciplina che ha fatto dell’inferenza sugli stati interni non dichiarati il proprio oggetto istituzionale: l’intelligence. Da secoli, i sistemi di intelligence più evoluti hanno costruito metodologie rigorose per leggere intenzioni opache e ricostruire lo stato interno di un attore a partire da segnali parziali e contraddittori. Ciò che stupisce è che tutta quella raffinatezza metodologica si ferma alle porte della vita ordinaria. Le tecniche di analisi che uno Stato applica per comprendere le intenzioni di un avversario non entrano mai nella formazione del manager o del decisore pubblico che opera in contesti di intelligence politica, economica e industriale. Ogni sala riunioni è, in miniatura, un ambiente in cui gli stati interni non sono mai completamente accessibili e le inferenze incomplete sono la regola. L’intelligence lo sa da sempre. Il resto delle organizzazioni fa finta di no.
Proprio qui emerge qualcosa di paradossale e, a tratti, inquietante. Negli ultimi anni, le architetture di coordinazione tra esseri umani e sistemi artificiali hanno cominciato a sviluppare un vocabolario che non esiste nella coordinazione tra esseri umani. Sistemi ben progettati iniziano a esplicitare: contesto, stato, soglia, ruolo, intenzione, diritto di veto, necessità di chiarimento. L’idea che un sistema intelligente debba sapere in quale stato si trova il suo interlocutore umano, quale è il livello di fatica cognitiva, quale è la pressione temporale, se la decisione è reversibile, se è necessaria presenza umana diretta: tutto questo sta diventando, in certi contesti avanzati, ingegneria normale, non filosofia ma architettura.
Le organizzazioni umane, invece, continuano a gestire i propri processi decisionali come se la trasparenza cognitiva fosse il default e l’opacità l’eccezione. Il paradosso è che potremmo stare costruendo sistemi di coordinazione più sofisticati per le macchine che per le relazioni tra persone.
Le nuove ecologie cognitive relazionali, se mai emergeranno anche nelle organizzazioni, non chiederanno più sola prestazione ma presenza che, a differenza della prestazione, richiede che lo stato interno venga reso accessibile invece di essere gestito.
La scena con cui si è aperto questo testo non è un fallimento morale. C’è un’asimmetria di contesto che non era stata resa accessibile, perché non esiste nella nostra cultura organizzativa né il vocabolario né il rituale per farlo. Nel mentre, la mente continua a produrre stati, continua a richiedere condizioni che, se non vengono nominate, rimangono invisibili agli altri fino a quando non producono un effetto abbastanza forte da essere impossibile da ignorare, il che di solito significa che è già troppo tardi per gestirlo bene.
Stiamo quindi imparando a progettare sistemi ibridi umano-macchina in cui contesto, stato, soglia e intenzione devono essere esplicitati come condizione di funzionamento, mentre continuiamo a credere che nei sistemi umano-umano, anche nei più critici, tutto questo possa rimanere implicito?
Le macchine non fingono di capire senza essere state informate ma gli esseri umani, invece, possono fingere, e spesso lo fanno in buona fede, convinti che la competenza stia compensando.
Forse la sfida del XXI secolo non sarà rendere le macchine più intelligenti. Sarà rendere gli esseri umani meno opachi gli uni agli altri; e questa è, di tutte le sfide che questo secolo si è dato, la sola che non potrà essere risolta dall’ingegneria.
