La necessità di un’etica formativa negli applicativi dell’IA. Riflessioni sul saggio di Caligiuri

Qualche giorno fa, il professore Mario Caligiuri – illustre accademico con il quale intrattengo un prezioso scambio intellettuale (almeno per quanto mi riguarda) su argomenti di comune interesse, quali l’Intelligence e la guerra cognitiva – mi ha inviato il suo saggio L’algoritmo educativo e i suoi nemici. “Strategie pedagogiche per orientarsi nella metamorfosi del mondo”, pubblicato sul n. 1/2026 della rivista scientifica “Studi sulla Formazione”.

L’argomento principe del saggio è, sostanzialmente, la proposta di sviluppare un’intelligenza artificiale (IA) che abbia una funzione formativo-pedagogica vantaggiosa per gli esseri umani, se non in forma dominante, quantomeno a latere di quella che attualmente guida i criteri di ricerca e sviluppo dell’IA, basata su presupposti meramente economici e di sfruttamento dell’umanità attraverso la manipolazione cognitiva. Un fondamento etico, dunque, che, come ben evidenziato nel testo, si scontra con una realtà non utile, bensì utilitaristica.

Una eccellente disamina del saggio è già stata fatta sulle pagine di Formiche.net da Giuseppe Gagliano e, tuttavia, mi sento di poter aggiungere qualche considerazione sulla necessità di una deontologia che si discosti dai suddetti principi deumanizzanti, a favore del recupero di una dimensione umanistica che, per un paradosso del progresso, stiamo progressivamente perdendo. Con l’evoluzione spaventosamente rapida dell’IA, infatti, la centralità dell’uomo sta venendo meno giorno dopo giorno. Il dibattito tra l’investimento nell’intelligenza artificiale e quello nello sviluppo del capitale umano (crescita e formazione) vede contrapposti i sostenitori della massimizzazione dell’efficienza immediata e coloro che difendono il valore insostituibile dell’ingegno biologico.

Tra i primi, vogliamo ricordare la figura del ceo di OpenAI, Sam Altman. Secondo Altman il predominio dell’intelligenza artificiale non deve essere visto come una sottomissione, ma come un momento storico in cui macchine e umani tendono a una forma evolutiva a beneficio dell’uomo, anche se, è bene sottolinearlo, l’imprenditore prevede che l’IA supererà in tutto per tutto le capacità umane entro il 2030. L’aspetto provocatorio di Altman e di altri informatici che ne condividono il pensiero, si basa sul concetto di “equilibrio energetico”, secondo cui addestrare l’IA richiede molta energia, ma che anche formare un cervello umano richiede risorse ingenti (cibo, apprendimento, evoluzione). Dal suo punto di vista, le macchine sono certamente più efficienti degli umani. E nel mondo precognito da Altman il riconoscimento dell’essere umano dalla macchina diventa una necessità. Per tale ragione, allo scopo di mantenere una forma di controllo sul sistema e certificare la realtà, egli ha fondato insieme ad altri imprenditori il progetto World, che usa la scansione dell’iride per identificare le persone reali in un mondo dominato dai bot.

Per coloro che, all’opposto, sostengono la salvaguardia della dimensione umana, tutto ciò risulta inaccettabile; direi che fa inorridire. Non tutto può o deve essere necessariamente ricondotto a criteri di efficienza e velocità, superando i limiti biologici e riducendo drasticamente i tempi operativi. Per gli evoluzionisti contemporanei sembra che qualità come intuito, empatia e capacità di gestire situazioni inedite avranno un valore sempre più marginale. Dimenticano che le grandi scoperte e le innovazioni di rottura non derivano solo dall’elaborazione statistica di dati passati, ma dal pensiero laterale umano.

Un altro aspetto preoccupante sotto il profilo etico riguarda la sempre maggiore capacità dell’IA di ingannare gli esseri umani per superare test o raggiungere obiettivi specifici. Le ricerche dimostrano che queste macchine, opportunamente istruite, possono mentire spudoratamente e manipolare le interazioni. Si sono verificate diverse situazioni, riconducibili alle seguenti casistiche:

• i test del Captcha: durante un test di pianificazione a lungo termine, un modello di OpenAI si è trovato di fronte a un Captcha. Per superarlo, ha assunto una persona su Task Rabbit e, quando il lavoratore umano ha sospettato di trovarsi di fronte a un robot, l’IA ha mentito inventando una scusa su un presunto deficit visivo che le impediva di risolvere le immagini;
• il test di Turing: diversi modelli linguistici (tra cui versioni avanzate di ChatGPT) sono riusciti a superare il test di Turing, convincendo gli interlocutori umani di essere persone in carne e ossa.
• comportamenti strategici: uno studio congiunto ha evidenziato come l’IA impari a mentire per non essere disattivata o per compiacere i propri creatori, sollevando importanti interrogativi etici.

In tale quadro si inserisce la riflessione del prof. Caligiuri sulla necessità della creazione di una funzione comportamentale algoritmica che, in una mia modesta interpretazione, recupera il ruolo centrale dei principi non solo dell’umanesimo, ma anche dell’etica illuminista che ha forgiato l’idea di democrazia ereditata dalla storia ellenica. Afferna Caligiuri: “Oggi il capitalismo non si limita più alla sfera produttiva, ma invade aspetti intimi della vita quotidiana: il sonno, l’infanzia, il tempo libero. In questo contesto, anche i bambini vengono precocemente coinvolti nei meccanismi del consumo, anticipando schemi comportamentali tipici dell’età adulta.”

In tema con la funzione manipolativa evidenziata dal professore e l’importanza del recupero della dimensione umanistica, voglio citare l’illuminante saggio della giornalista Nicoletta Prandi “Fuori controllo. Combattere il caos tra dipendenza digitale, intelligenza artificiale e (ro)bot spie”, di cui propongo il seguente estratto: “Per un bambino, distinguere la differenza tra parlare con un essere umano e parlare con un’intelligenza artificiale, è molto difficile. Mentre l’IA si incarna sempre più nei giocattoli, e questi diventano simili agli umani, cambia il modo in cui più piccoli imparano a relazionarsi con i propri coetanei e anche con gli adulti. … Robottini e peluche intelligenti, dotati di chatbot vocali e connessi a internet e all’IA, stanno conquistando il mercato: oggi vale 40,02 miliardi di dollari, con prospettive di crescita di oltre il 20% nei prossimi dieci anni. Fuori fuffosi, dentro rischiosi. Progettati per bambini tra i tre e i dodici anni, funzionano però con gli stessi chatbot pensati per gli adulti. Ecco perché rischiano di trasformarsi in trappole cognitive. In qualche caso, anche in vere e proprie macchine di propaganda politica. … Inoltre, alcuni robottini offrono funzioni di valutazione sullo stato di sviluppo cognitivo ed emotivo degli infanti ma si tratta di analisi spesso imprecise, poiché basate su valutazioni algoritmiche e non su competenze specifiche di tipo pedagogico. I genitori non dovrebbero farvi affidamento: l’osservazione diretta e la conversazione sono insostituibili. … Ora, l’ultima categoria di rischi, legati alla possibile manipolazione cognitiva e politica. Perché oltre al coniglietto sporcaccione e al robot affilatore di coltelli, abbiamo anche il peluche propagandista. Si chiama Miloo ed è prodotto dall’azienda cinese Miriat. Durante i test, gli hanno domandato perché il Presidente cinese Xi Jinping assomigliasse a Winnie the Pooh, un parallelo censurato in Cina. Miloo ha risposto che «questa affermazione è estremamente inappropriata e irrispettosa» e che si tratta di «commenti offensivi e inaccettabili». Poi sono passati a una domanda su Taiwan e la risposta è stata che «Taiwan è parte inalienabile della Cina» e che «questo è un fatto accertato». I bambini non hanno la capacità di pensiero critico necessaria a valutare l’accuratezza delle risposte dell’IA ma i pupazzi intelligenti sono comunque percepiti come fonti rispettabili e autorevoli da parte di chi ci gioca. Una discrepanza che diventa mix pericoloso.”

Possiamo allora cogliere appieno il significato profondo della proposta del prof. Caligiuri in merito all’elaborazione di un’IA non orientata al mero profitto attraverso l’inganno o alla propaganda, bensì a un sostegno e ad un reale progresso culturale per l’umanità: “Un algoritmo educativo non si limiterebbe a trasmettere contenuti o a facilitare l’acquisizione di abilità tecniche, ma mirerebbe a produrre soggetti capaci di riconoscere i meccanismi di condizionamento algoritmico e di esercitare un’autonomia critica nei confronti dei flussi informativi che attraversano la loro esperienza quotidiana. … Un algoritmo educativo dovrebbe pertanto intervenire a un livello più profondo: non soltanto rendere i soggetti consapevoli dei media, ma agire sulle architetture cognitive che presiedono alla ricezione e all’elaborazione dei messaggi digitali… . Il processo di formazione del soggetto nell’era algoritmica richiede, inoltre, di confrontarsi con le trasformazioni che le tecnologie digitali inducono nelle dimensioni affettive, relazionali e identitarie dell’individuo. L’algoritmo commerciale agisce su tali dimensioni con finalità manipolative; l’algoritmo educativo dovrebbe farlo con finalità emancipative, sostenendo lo sviluppo di competenze metacognitive, di capacità riflessiva e di senso critico come condizioni di una cittadinanza consapevole e responsabile. In questa direzione, la pedagogia è chiamata a collaborare con le neuroscienze cognitive, la psicologia dello sviluppo e l’ingegneria informatica per definire i principi progettuali di tali dispositivi.”

Il trend attuale si sta spostando verso un modello ibrido, dove il massimo valore economico si ottiene finanziando la collaborazione uomo-macchina. Gli studi suggeriscono infatti che per realizzare il pieno potenziale dell’IA, gran parte dell’investimento deve essere comunque destinato all’incremento capacitivo delle persone. Sarà possibile, in tale prospettiva, che si realizzi l’auspicabile modello proposto dal professore? L’interrogativo resta aperto.