L’intelligenza artificiale potrebbe presto non limitarsi ad assistere medici e ricercatori, ma contribuire a correggere direttamente altri sistemi. Il progresso tecnologico apre però una questione fondamentale per la sanità: distinguere il miglioramento delle prestazioni algoritmiche dal beneficio effettivo per i pazienti, preservando controllo e responsabilità umana. La riflessione di Francesco Branda del Campus bio-medico di Roma
Negli ultimi anni, l’intelligenza artificiale ha iniziato a trasformare profondamente il nostro modo di concepire la medicina, offrendo strumenti capaci di supportare le diagnosi, anticipare l’insorgenza di alcune malattie e individuare informazioni che potrebbero sfuggire persino all’osservazione più attenta. Finora, tuttavia, abbiamo guardato a queste tecnologie soprattutto come strumenti al servizio dell’essere umano, progettati per ampliare le capacità di medici e ricercatori. Oggi sta emergendo una prospettiva differente, che potrebbe segnare un nuovo passaggio nell’evoluzione dell’intelligenza artificiale: la possibilità che una macchina non si limiti più ad assisterci nell’interpretazione della realtà, ma diventi capace di analizzare e modificare direttamente il funzionamento di un’altra macchina. Una trasformazione ancora sperimentale, ma dalle implicazioni potenzialmente profonde per il futuro della ricerca scientifica e della sanità, perché ci invita a ripensare non soltanto ciò che l’intelligenza artificiale può fare per noi, ma anche il modo in cui potremo comprenderne, verificarne e governarne il funzionamento.
Finora correggevamo questi sistemi soprattutto attraverso nuovi dati e procedure di addestramento. Oggi alcuni esperimenti suggeriscono che un modello avanzato possa esaminare direttamente i meccanismi interni di un’altra rete e apportare modifiche mirate al suo comportamento. Ma la domanda che ne deriva non è soltanto tecnologica. Se una macchina riesce a migliorarne un’altra, significa che ne comprende davvero il funzionamento? E, in medicina, chi stabilisce che il miglioramento sia tale anche per i pazienti?
Il 2 novembre 2026 un gruppo di ricercatori del Massachusetts Institute of Technology ha presentato alcuni risultati preliminari su una tecnica chiamata weight-space programming. L’idea è questa: un sistema di intelligenza artificiale prova a leggere le informazioni numeriche che regolano il comportamento di un altro sistema e a modificarne alcune per correggere un problema. In uno degli esperimenti, un intervento su una porzione minuscola di un modello ha prodotto un notevole aumento dei risultati in test matematici. Non era un’applicazione sanitaria, né una sperimentazione su pazienti. Era un esperimento di laboratorio, non ancora verificato attraverso una pubblicazione scientifica, ma apre un interrogativo che riguarda da vicino il futuro della medicina.
L’aspetto forse più significativo di questo esperimento riguarda la natura stessa del miglioramento ottenuto. Il sistema non aveva necessariamente bisogno di acquisire nuove conoscenze, ma di superare un limite che gli impediva di utilizzare pienamente quelle già disponibili. In determinate situazioni, infatti, tendeva a ripetere gli stessi passaggi senza riuscire a giungere a una conclusione. L’intervento ha permesso di correggere questo comportamento, restituendo al modello una maggiore capacità di esprimere le proprie potenzialità. È un risultato che richiama, pur nelle profonde differenze tra intelligenza artificiale e organismo umano, un principio fondamentale della medicina: comprendere i meccanismi che determinano un problema può essere più importante che intervenire indiscriminatamente sulle sue manifestazioni. È proprio su questa capacità di riconoscere le cause e individuare interventi sempre più mirati che si fonda una parte importante del progresso medico. Naturalmente, correggere una rete neurale non equivale a curare un paziente, ma il parallelismo suggerisce una prospettiva interessante: anche nell’evoluzione dell’intelligenza artificiale, il progresso potrebbe dipendere non soltanto dall’aggiungere nuove capacità, ma dalla possibilità di comprendere e superare i limiti che impediscono a quelle esistenti di esprimersi pienamente.
Immaginiamo, per esempio, un programma che aiuta a riconoscere alterazioni sospette in un’immagine diagnostica. Se alcuni errori dipendessero da un difetto circoscritto nel suo funzionamento, in futuro un altro sistema potrebbe forse individuarlo e proporre una correzione senza ripetere un lungo addestramento. In ambito sanitario, tuttavia, un progresso tecnologico acquista il suo vero significato soltanto quando si traduce in un beneficio concreto per la salute delle persone, non semplicemente in un miglioramento delle prestazioni di un modello. Un algoritmo può diventare mediamente più accurato e nello stesso tempo peggiorare per una categoria di pazienti. Può riconoscere meglio una malattia frequente e perdere sensibilità verso una condizione rara. Può funzionare bene nei dati di un grande ospedale e rivelarsi meno affidabile in un territorio con popolazioni, risorse e percorsi di cura differenti. Questo significa che il miglioramento tecnico deve essere distinto dal beneficio clinico. Prima di considerare una modifica davvero utile bisogna domandarsi chi ne tragga vantaggio, chi possa esserne penalizzato e quali conseguenze produca nelle decisioni quotidiane. Il paziente non incontra un punteggio astratto: riceve una diagnosi e prende decisioni che riguardano la propria vita.
È qui che la novità tecnologica diventa anche una questione di conoscenza. Un sistema può essere capace di ottenere il risultato desiderato senza saperne giustificare pienamente le ragioni. Allo stesso modo, una macchina potrebbe diventare bravissima a correggere un’altra macchina senza possedere una spiegazione completa del perché la correzione funzioni, o senza sapere come essa si comporterà in ogni circostanza. C’è una differenza tra individuare un difetto, intervenire su di esso e poter dimostrare che la soluzione è sicura. In medicina non possiamo sovrapporre questi passaggi. Un risultato migliore su un test non è ancora una prova di maggiore sicurezza nella cura.
Da anni descriviamo molti sistemi di intelligenza artificiale come scatole nere: possiamo osservare quello che restituiscono, ma non sempre ricostruire con chiarezza come siano arrivati a una conclusione. Ora potremmo affidarci a una scatola nera per correggerne un’altra. Se il primo sistema modifica il secondo e poi ci spiega perché lo ha fatto, come verifichiamo che quella spiegazione sia corretta? E se la correzione elimina un errore ma ne introduce uno meno visibile? Non basta fidarsi della spiegazione fornita dalla macchina. Occorrono controlli indipendenti, valutazioni su pazienti e contesti diversi, possibilità di ricostruire le modifiche e di tornare indietro quando una scelta si rivela sbagliata.
La medicina conosce bene questo principio: farmaci e dispositivi devono essere giudicati attraverso prove, monitoraggio e responsabilità definite. Anche l’Oms ha richiamato la necessità di trasparenza, supervisione e attenzione ai rischi dell’intelligenza artificiale nei servizi sanitari. Se in futuro i sistemi potranno correggersi attraverso l’intervento di altre intelligenze artificiali, questi principi diventeranno ancora più importanti. Dovremo sapere che cosa è stato modificato, da chi e con quali verifiche, senza scambiare la valutazione automatica con una garanzia di sicurezza. Altrimenti il miglioramento continuo rischia di trasformarsi in un cambiamento continuo che nessuno è più in grado di controllare adeguatamente.
C’è poi la relazione di cura. La medicina non è soltanto la ricerca della risposta statisticamente più probabile. È anche la capacità di ascoltare una persona, interpretare una storia clinica, riconoscere un’incertezza, spiegare una scelta. Se i sistemi diventeranno più potenti e più capaci di migliorarsi a vicenda, il rischio sarà scambiare la loro velocità per un’autorità che non possiedono. L’IA può offrire conoscenze preziose, ma non può assumersi, al posto delle persone e delle istituzioni, la responsabilità morale e professionale delle decisioni cliniche.
Questa trasformazione pone anche un problema per i sistemi sanitari pubblici. Se gli strumenti più avanzati per correggere, aggiornare e verificare altri modelli saranno disponibili soltanto a pochi grandi attori, ospedali e istituzioni potrebbero dipendere da tecnologie sulle quali hanno un controllo limitato. La sovranità sanitaria digitale non consiste soltanto nel comprare software o disporre di dati. Significa avere competenze per valutarlo, poter chiedere spiegazioni comprensibili, controllarne gli aggiornamenti e decidere se sia adeguato ai bisogni della popolazione. Per l’Italia e l’Europa valutazione indipendente e formazione clinica saranno importanti quanto l’adozione di nuovi strumenti. Senza queste condizioni, l’innovazione rischia di allargare le differenze tra chi può comprenderla e chi può soltanto utilizzarla.
Se queste nuove possibilità troveranno conferma anche in ambito sanitario, potrebbero aprire prospettive importanti per la ricerca e per lo sviluppo di strumenti diagnostici e clinici sempre più affidabili. Ma la medicina ci ha insegnato che ogni progresso, prima di diventare parte della cura, deve confrontarsi con la complessità della realtà e, soprattutto, con la responsabilità che deriva dall’intervenire sulla salute delle persone. Un risultato promettente in laboratorio non si traduce necessariamente in un beneficio per il paziente, così come una maggiore capacità tecnologica non rappresenta, da sola, una garanzia di sicurezza. È proprio questa consapevolezza a ricordarci che il progresso scientifico non consiste soltanto nell’ampliare ciò che siamo capaci di fare, ma anche nel comprendere fino a che punto possiamo fidarci delle nostre scoperte.
Forse la riflessione più importante riguarda proprio il ruolo che sceglieremo di conservare. In una medicina sempre più accompagnata dall’intelligenza artificiale, il vero rischio non è che le macchine diventino capaci di fare ciò che oggi richiede anni di studio, ma che noi perdiamo progressivamente l’abitudine a interrogarci sulle loro risposte. Il dubbio, il giudizio critico e la capacità di riconoscere i limiti della conoscenza rimangono elementi essenziali della pratica medica, perché la capacità di correggere un sistema non coincide necessariamente con quella di comprenderlo, così come una maggiore efficienza tecnologica non si traduce automaticamente in una migliore qualità delle cure.
La sfida, dunque, non sarà soltanto sviluppare intelligenze artificiali sempre più sofisticate, ma formare professionisti capaci di valutarle, comprenderne le implicazioni e orientarne l’utilizzo. Perché, anche in un futuro in cui le macchine saranno capaci di migliorare altre macchine, il senso ultimo del progresso medico continuerà a risiedere nella responsabilità umana di prendersi cura delle persone, della loro salute e della fiducia che ripongono nella medicina.
