L’intelligenza artificiale sta trasformando la sanità: ridefinisce le pratiche cliniche, accelera la ricerca e apre possibilità diagnostiche e terapeutiche fino a poco tempo fa impensabili. Una trasformazione di questa portata chiama in causa anche la politica e, in particolare, i Parlamenti, cui spetta garantire che il progresso tecnologico produca benefici diffusi e sistemi di responsabilità chiari e verificabili.

L’utilizzo dell’intelligenza artificiale come supporto alla prescrizione terapeutica per lo specialista offre un esempio delle sfide che questa trasformazione pone. Tra le più documentate figura il rischio di automation bias – ampiamente attestato dalla letteratura scientifica – ovvero la tendenza cognitiva dei professionisti a fidarsi ciecamente dei suggerimenti o delle diagnosi generate da sistemi automatizzati. Questa problematica pone diverse questioni, fra cui la trasparenza negli algoritmi di supporto alla prescrizione medica.

Con la diffusione di assistenti clinici basati su modelli linguistici, emerge con urgenza crescente una domanda: secondo quali criteri viene formulata una raccomandazione terapeutica? Studi recenti hanno rilevato performance ancora disomogenee: una valutazione pubblicata nell’American journal of health-system pharmacy ha rilevato che alcuni modelli, testati su scenari di interazione farmacologica clinicamente rilevante, hanno prodotto raccomandazioni che gli esperti hanno poi giudicato suscettibili di causare danno al paziente.

Queste evidenze non depongono contro l’utilizzo dell’IA in ambito clinico da parte dei medici, ma suggeriscono che l’impiego di tali sistemi debba essere accompagnato da obblighi di trasparenza sui criteri di raccomandazione. Ma l’assenza di trasparenza degli algoritmi non ha solo implicazioni di tipo diretto sulla salute dei pazienti. Vi è un ulteriore nesso, questa volta mediato dalle dinamiche del mercato, che è parimenti importante sottolineare. In un settore in cui le indicazioni
terapeutiche orientano mercati da miliardi di dollari e condizionano le traiettorie dell’innovazione farmaceutica, è infatti fondamentale che ci sia piena trasparenza sui criteri che sono dietro alla raccomandazione di un determinato medicinale e non di un altro. Assicurare una reale (o quantomeno sostanziale) concorrenza del mercato farmaceutico, anche dal punto di vista delle raccomandazioni farmaceutiche, è essenziale per garantire che non siano le distorsioni dell’algoritmo a decretare la diffusione del suo utilizzo – e quindi il suo successo sul mercato – bensì la sua efficacia e sicurezza sui pazienti.

Vi è inoltre una questione che non può essere trascurata: la qualità delle raccomandazioni prodotte dall’IA dipende in misura determinante dalla qualità dei dati su cui i modelli vengono addestrati. In questo contesto, la possibile contaminazione dei dataset di addestramento con articoli scientifici successivamente ritirati configura un vettore di rischio sistemico ancora poco presidiato.

Considerando che importanti editori accademici hanno siglato accordi con grandi aziende tecnologiche per fornire accesso ai contenuti di migliaia di riviste a fini di addestramento, la probabilità che articoli non più validi vengano incorporati nei modelli è concretamente elevata, con il rischio di una propagazione di informazioni scorrette su scala e a velocità difficilmente comparabili ai canali tradizionali di diffusione scientifica. Verifiche condotte su strumenti di IA ampiamente adottati in ambito accademico e clinico hanno evidenziato che alcuni sistemi recuperano e citano articoli chiaramente segnalati come ritirati nelle banche dati bibliografiche, senza alcuna avvertenza all’utente. Un sistema di supporto decisionale clinico che incorpori evidenze superate o invalidate può orientare scelte terapeutiche in modo non appropriato: si tratta di una questione che la regolamentazione sui dispositivi medici software deve affrontare con strumenti specifici, a partire dall’obbligo di audit periodici sui dataset di addestramento.

Accanto alle sfide finora descritte, vi è tuttavia uno straordinario valore che l’IA diagnostica può esprimere non solo nei contesti più avanzati, ma anche in quelli di maggiore vulnerabilità. L

L’esperienza nella diagnostica della tubercolosi è, in questo senso, emblematica: per il solo periodo 2021-2025, ad esempio, il Global fund ha investito oltre 193 milioni di dollari per implementare programmi di screening della tubercolosi (Tbc) basati sull’intelligenza artificiale in più di venti Paesi. Software di rilevamento computerizzato integrati in unità radiografiche mobili consentono di portare capacità diagnostiche avanzate direttamente alle popolazioni più difficili da raggiungere – detenuti, rifugiati, comunità rurali – intercettando casi che i sistemi sanitari tradizionali avrebbero altrimenti mancato.

Un recente studio di coorte condotto in Benin ha dimostrato che algoritmi integrati in dispositivi ecografici portatili sono in grado di rilevare la probabilità di Tbc, con il vantaggio aggiuntivo di orientare verso diagnosi differenziali – polmonite, malattie cardiovascolari – una volta esclusa la tubercolosi. Si tratta di applicazioni che consentono di estendere competenze specialistiche in contesti dove queste sono strutturalmente scarse. Perché questo potenziale si realizzi pienamente, tuttavia, è necessario che organizzazioni internazionali, governi e istituzioni multilaterali convergano sulla definizione di standard condivisi per il controllo della qualità e l’accuratezza dei dati diagnostici. I Parlamenti dei Paesi donatori e le assemblee parlamentari internazionali – inclusa quella dell’Osce – hanno il compito di garantire che gli investimenti in questo ambito siano sostenuti da quadri regolatori che ne favoriscano la scalabilità e l’accesso equo.

Di fronte a questa transizione, la funzione parlamentare non è quella di arbitro tra entusiasmo e scetticismo tecnologico, ma quella di garante delle condizioni strutturali in cui l’innovazione può produrre benefici duraturi ed equi. Trasparenza algoritmica, equità di accesso, integrità dei dati: sono queste alcune priorità sulle quali i legislatori – nazionali e internazionali – sono chiamati a costruire risposte istituzionali all’altezza della trasformazione in corso.

(Healthcare Policy 19)