Skip to main content

Dopo circa due anni di lavori, le istituzioni europee (Parlamento, Commissione e Consiglio) dovrebbero approvare entro la fine del 2023 un testo condiviso, oggi denominato AI Act, la cui entrata in vigore dovrebbe essere stabilita in due o tre anni. Sarà la prima legislazione al mondo a (tentare di) regolamentare lo sviluppo e l’uso di sistemi basati sull’intelligenza artificiale, in funzione delle finalità e del correlato livello di rischio che tali sistemi possono presentare per i diritti umani, la sicurezza e la democrazia dei popoli.

La sfida per il sistema salute

Per gli esperti di Health technology assessment (Hta), quindi, rappresenta una novità di straordinaria rilevanza ma anche una sfida non banale sia per gli aspetti metodologici (il modello Eunethta, pensato soprattutto per tecnologie sanitarie tangibili come farmaci e dispositivi medici, non si applica automaticamente ai sistemi di intelligenza artificiale) sia per le ricadute su pazienti, professionisti e sistemi sanitari (dalla misurazione degli outcome di salute alla sostenibilità degli investimenti per i Paesi o le assicurazioni).

Il settore sanitario è interessato sotto due aspetti: i sistemi di intelligenza artificiale in quanto tali (in pratica software e algoritmi che “girano” su computer con finalità cliniche e sanitarie) e i dispositivi medici che basano il proprio funzionamento su algoritmi di intelligenza artificiale. In entrambi i casi l’AI Act prevede una classificazione di alto rischio; valutare e certificare sarà compito di entità private, in modo presumibilmente simile a quanto avviene nel settore dei medical device con gli organismi notificati.

Mettere in pratica i princìpi

Regolamentare queste nuove tecnologie è importante e necessario. Tuttavia possiamo evidenziare alcuni dubbi e perplessità, con la speranza che vengano presto fugati. Sono chiare e apprezzate le capacità dei legislatori europei di definire, nei regolamenti, i princìpi generali, etici, di trasparenza, così come è chiaro che l’unica possibile proposta di legge, oggi, sull’intelligenza artificiale non può che definire norme e principi generali, comprese le classi di rischio e le procedure di certificazione, per non essere già preistoria al momento della sua entrata in vigore. Quello che non sappiamo ancora è come tradurre e praticare questi princìpi. Del resto, trattandosi di tecnologia complessa e spesso oscura anche agli occhi dei maggiori esperti mondiali (basti ricordare il loro recente appello a una moratoria allo sviluppo per capire quali possono essere i rischi), è complesso immaginare leggi che non pongano un generico divieto all’uso (ostacolandolo anche in settori e per finalità virtuosi) ma che effettivamente mettano limiti, dove necessario, e ne definiscano anche le modalità di controllo.

Il confronto con i giganti

Come attuare i princìpi normativi in modalità operative? Le direttive e i regolamenti europei trovano declinazione pratica attraverso gli standard tecnici. Tali standard sono elaborati a livello internazionale in consessi dove siedono istituzioni, industrie, accademia, professionisti, esperti. Per questo occorre avere una conoscenza profonda della materia anche, se non soprattutto, sotto il profilo tecnico e produttivo. E da questo punto di vista è facile temere che l’Europa non regga il confronto con i giganti del settore. Basta osservare gli investimenti privati in R&S negli ultimi dieci anni: gli Stati Uniti sfiorano i 450 miliardi di dollari, la Cina supera i 200 mentre l’intera Europa a 27 arriva a stento a 50 miliardi di dollari. In questo momento sono in fase di elaborazione proprio gli standard tecnici di sicurezza, trasparenza, controllabilità, “spiegabilità”. È probabile, perciò, che gli europei avranno una certa difficoltà a fronteggiare la massa critica rappresentata da Usa e Cina.

Imparare dall’esperienza del Gdpr

A tutto ciò si aggiunge un ultimo aspetto, irrisolvibile perché dovuto a elementi intrinseci e incompatibili del percorso legislativo e della stessa IA: la tecnologia e gli algoritmi di intelligenza artificiale evolvono a una velocità che può rendere, di fatto, l’AI Act nella sua attuale formulazione poco efficace se non addirittura inutile. Laddove invece questa normativa europea si potesse applicare in modo efficace è importante precisare due concetti. Il primo è tratto dall’esperienza relativa al Gdpr: pur necessario per tutelare diversi aspetti della vita dei singoli cittadini, ha finito per rendere molto complesso (e, quindi, più oneroso e più costoso), se non impossibile, tutta una serie di attività di ricerca medico-scientifica. Basti pensare all’utilizzo secondario, per fini di ricerca, dei dati sanitari e amministrativi.

Usi leciti e illeciti

Al contrario tante attività, con finalità molto meno edificanti rispetto alla ricerca in tema di salute, non hanno (lecitamente o illecitamente, qui non importa) trovato gli stessi ostacoli. Allora non vorremmo che, anche con l’AI Act, si penalizzassero attività svolte a fin di bene (i cui attori, tipicamente, sono più portati al rispetto rigoroso delle regole) mentre nelle maglie, pur strette, della legge possano filtrare attività illecite. Anche a causa di comportamenti degli stessi soggetti che la legge vorrebbe tutelare: l’uso odierno che la gente fa dei social, di WhatsApp ad esempio, dove dati sensibili, che la legge tutela in maniera stringente, vengono messi alla mercè del mondo intero.

Verifiche necessarie

La seconda riflessione impatta uno dei settori applicativi ma a più alto rischio intrinseco: tutti i sistemi di intelligenza artificiale in sanità sono, al contempo, tecnologie sanitarie e come tali bisogna valutarli attentamente prima di adottarli. Ancora oggi non solo non abbiamo risultati univoci sul miglioramento dell’outcome di salute determinato dall’uso di tale tecnologia, né sono disponibili report completi di Hta, ma non è neanche chiaro come questi prodotti debbano essere misurati e, dunque, valutati. Che anche l’intelligenza artificiale debba essere sottoposta ad attente verifiche ce lo dimostra, altresì, quanto accaduto con l’applicazione oggi più famosa, ChatGpt, che dopo un hype ai limiti dell’isteria ha iniziato a mostrare numerose falle ed errori, fino ad arrivare a quelle che, gli sviluppatori di intelligenza artificiale generativa, definiscono allucinazioni.

Il perimetro di sicurezza

In conclusione, a detta di molti, l’intelligenza artificiale determinerà l’avvento della quarta rivoluzione industriale: occorrerà non solo fissare le regole, normative e tecniche, perché questi sistemi non ledano i diritti dei singoli (l’AI Act è un passo in tal senso), ma soprattutto il perimetro di sicurezza perché questa possa portare benefici reali su larga scala senza mettere a repentaglio la coesistenza sociale. Le preoccupazioni dei milioni di posti di lavoro a rischio, anche nel settore sanitario, non possono trovare sollievo soltanto dalla promessa, vagheggiata da imprenditori e sviluppatori di intelligenza artificiale, di un mondo in cui si lavorerà “per hobby”, a fronte di un ulteriore concentrazione di risorse economico-finanziarie e potere anche superiore agli stessi Stati. In tal senso servirà ben più di un AI Act, per ridefinire alla base le dinamiche politiche, economiche e sociali in cui cittadini, imprese big tech e Stati dovranno coesistere.

Articolo pubblicato su Healthcare policy n. VIII 

Archivi

Verde e blu

Sanità, se l'AI Act non basta

Di Pietro Derrico e Matteo Ritrovato

L’Intelligenza artificiale determinerà l’avvento della quarta rivoluzione industriale: occorrerà non solo fissare le regole, normative e tecniche, ma soprattutto determinare il perimetro di sicurezza per non mettere a repentaglio la coesistenza sociale. L’analisi di Pietro Derrico e Matteo Ritrovato di Sihta, Società Italiana di Health Technology Assessment

Esteri

Hezbollah potrebbe allargare il fronte al Sudamerica? Conversazione con Ottolenghi

Di Emanuele Rossi

Per Emanuele Ottolenghi, senior fellow della Foundation for Defense of Democracy, la posizione espressa dal leader di Hezbollah nel suo primo discorso dall’inizio della crisi mediorientale è coerente con la linea tenuta finora dal gruppo. Ma gli attacchi non si fermeranno, anche senza una dichiarazione di guerra contro Israele. E occhio al Sudamerica

Video

Il suggestivo volo delle Frecce Tricolori viste da vicino. Video

Di Redazione

[video width="800" height="500" mp4="https://formiche.net/wp-content/blogs.dir/10051/files/2023/11/VID-20231104-WA0255.mp4"][/video] [video width="848" height="480" mp4="https://formiche.net/wp-content/blogs.dir/10051/files/2023/11/VID-20231104-WA0259.mp4"][/video]

Esteri

Guerre e tragedie parallele di Tel Aviv e Kyiv. L'analisi di D'Anna

Di Gianfranco D'Anna

Mentre l’Onu denuncia il forte aumento dell’odio nel mondo dopo le disumane violenze di Hamas del 7 ottobre, a Gaza l’offensiva israeliana contro i bunker sotterranei dei terroristi trasforma in vittime civili i palestinesi usati come scudi umani ed a Kyiv il presidente Zelensky punta il dito contro la guerra in Medio Oriente che – afferma – distrae dall’Ucraina. L’analisi di Gianfranco D’Anna

Esteri

Perché il sacro e la religione sono elementi cruciali per lo sviluppo di conflitti

Di Kristina Stoeckl

La differenza tra il sacro e il religioso o, più precisamente, tra sacralizzazioni e religioni, sarà il tema della conferenza “Religions in Dialogue Forum” che si terrà lunedì 6 novembre 2023 alla Luiss. Il noto sociologo di Georgetown University José Casanova parlerà di “Ambivalenza del sacro: Religioni per la pace o per la guerra santa”. Kristina Stoeckl, professore ordinario di sociologia politica presso il dipartimento di Scienze Politiche alla Luiss, ne anticipa i contenuti a Formiche.net

Economia

Il Pnrr potenzia anche i servizi dedicati alle persone non autosufficienti. Parla Caridi (Inps)

Di Silvia Bosco

I programmi Hcp e Ltc hanno costituito un importante laboratorio per la sperimentazione di forme nuove di misurazione  dello stato di bisogno socioassistenziale, di nuove tipologie di interventi a supporto delle persone con disabilità e di organizzazione dei servizi, anche cogliendo opportunità tecnologiche. Conversazione con il direttore generale di Inps

Verde e blu

Missione transizione ecologica ed energetica. Penna (Mase) racconta a che punto siamo

Di Saturno Illomei

Investimenti, riforme e progetti della Missione transizione ecologica ed energetica “una delle più importanti del Pnrr: in termini di impegno economico ma anche per le sfide di performance che pone a tutta l’amministrazione pubblica”. Intervista a Fabrizio Penna, capo dipartimento Pnrr del ministero dell’Ambiente e sicurezza energetica

zaluzhnyi
Difesa

La "Dottrina Zaluzhnyi" segna il nuovo approccio di Kyiv al conflitto

Di Lorenzo Piccioli

In un documento di nove pagine, il Comandante in Capo delle forze armate ucraine analizza la tipologia di conflitto attualmente in corso in Ucraina. Delineando quali siano le questioni-chiave in un simile contesto, fornendo al resto del mondo una preziosa lezione

Politica

La Dc non torna, ma i democristiani ci sono. Il commento di Merlo

Di Giorgio Merlo

Tra i tasselli che caratterizzano il ruolo originale e specifico dei democratici cristiani, non c’è alcun dubbio che esiste e persiste quella “politica di centro” che resta la principale bussola di riferimento di quell’area politica. Non solo un “partito di centro” ma un luogo politico in grado di declinare una vera e autentica “politica di centro”. Il commento di Giorgio Merlo

Video

Nasce la Fondazione per la decarbonizzazione del trasporto aereo. Intervista a Troncone (AdR)

Di Redazione

 Nasce la Fondazione per la decarbonizzazione del trasporto aereo, una evoluzione dell'omonimo Patto che riunisce i principali player industriali, stakeholder istituzionali, associazioni di categoria e terzo settore, con l’obiettivo di portare il comparto alla transizione green e alla neutralità climatica entro il 2050. Marco Troncone, amministratore delegato di Aeroporti di Roma, ha descritto ad Airpress i risultati raggiunti e…

×

Iscriviti alla newsletter