Innovare i quadri normativi globali per l'IA generativa nei dispositivi medici è una priorità urgente

Perché questo è importante per la tua salute

L'intelligenza artificiale generativa, inclusi strumenti come chatbot avanzati, sta rapidamente entrando negli studi medici e negli ospedali. Questi sistemi possono redigere note cliniche, rispondere a domande di salute e persino suggerire diagnosi. Questa review spiega perché le nostre regole attuali sui dispositivi medici non sono pronte per tecnologie così flessibili e imprevedibili, e perché aggiornarle è essenziale per garantire cure sicure, eque e affidabili in tutto il mondo.

Nuovi strumenti che fanno molto più di un solo compito

Il software medico tradizionale era progettato per svolgere un compito chiaramente definito, come individuare un tumore in una scansione. L'IA generativa e i modelli linguistici di grande scala, al contrario, possono gestire molteplici mansioni, dal riassumere cartelle cliniche al fornire consigli sulle opzioni terapeutiche. Vengono addestrati su enormi raccolte di testi, immagini e altri dati online, il che li rende potenti ma anche difficili da comprendere o controllare pienamente. Poiché le loro risposte possono variare a ogni utilizzo e possono includere errori sicuri o "allucinazioni", non si collocano agevolmente nelle categorie esistenti di dispositivi medici, pensate per strumenti più prevedibili.

Perché le regole di sicurezza attuali non bastano

I regolatori hanno cercato di tenere il passo usando un approccio basato sul "ciclo di vita totale del prodotto" che segue un dispositivo dalla progettazione all'uso nel mondo reale. Questo aiuta con molti tipi di IA, ma l'articolo sostiene che non è sufficiente per i modelli linguistici di grande scala. È quasi impossibile ispezionare tutti i dati di addestramento per errori o informazioni personali nascoste. Valutare quanto bene funzionano questi sistemi è inoltre complicato, perché le loro risposte lunghe e aperte sono difficili da misurare con semplici test di accuratezza. Studi mostrano che alcuni modelli si comportano bene su quesiti in stile esame ma faticano con casi reali disordinati, e possono rendere meno di quanto farebbero i clinici in compiti chiave. A tutto ciò si aggiunge l'assenza di un metodo condiviso per misurare o monitorare i pregiudizi, il che significa che i sistemi potrebbero funzionare meno bene per certi gruppi di pazienti senza che se ne accorga nessuno.

Rischi nascosti dopo il rilascio

Una volta che gli strumenti basati su modelli linguistici vengono messi in commercio, il monitoraggio della loro sicurezza diventa ancora più complesso. Molti modelli si basano su sistemi di base condivisi, poi modificati o riaddestrati da diverse aziende, rendendo difficile sapere esattamente quali dati e cambiamenti siano alla base. Alcuni strumenti raggiungono direttamente i pazienti come app di consulenza sanitaria senza approvazione formale. I problemi possono non essere segnalati, specialmente quando gli errori sono sepolti in lunghe note cliniche redatte da uno scribe IA. Le vie di approvazione esistenti che si basano sulla dimostrazione di "similarità" con prodotti precedenti possono essere usate impropriamente per strumenti che in realtà sono molto diversi. Allo stesso tempo, questioni etiche come privacy, autonomia, fiducia e l'impatto sulla relazione medico-paziente sono affrontate solo parzialmente nelle normative attuali.

Costruire una vigilanza più intelligente e più equa

Gli autori evidenziano idee emergenti per rendere la regolamentazione più flessibile ed efficace. I "sandbox normativi" permettono di testare nuovi strumenti di IA sotto supervisione in contesti limitati, così che regolatori e sviluppatori possano apprendere dall'esperienza e adeguare rapidamente le regole. Nuovi concetti come il "software come servizio medico" mirano a trattare agenti IA altamente automatizzati più come servizi sanitari continui che come prodotti fissi. L'articolo sottolinea anche l'importanza di comprendere l'intera catena di fornitura, dalla raccolta dei dati e costruzione dei modelli all'hosting cloud e all'hardware, così che i sistemi sanitari possano restare resilienti quando gli strumenti digitali falliscono o vengono attaccati. Reti globali di regolatori, ricercatori e sistemi sanitari stanno iniziando a condividere liste di controllo, standard di test e laboratori di vigilanza per allineare i loro sforzi.

Mantenere l'equità al centro

Una preoccupazione importante è come l'IA generativa potrebbe ampliare o ridurre il divario di salute tra regioni ricche e povere. Se i modelli sono addestrati principalmente su dati provenienti da paesi ad alto reddito, potrebbero funzionare male in contesti a risorse limitate o per comunità sottorappresentate. L'articolo chiede l'inclusione deliberata di prospettive e dati da paesi a basso e medio reddito, e il sostegno per aiutare queste regioni a sviluppare e distribuire i propri strumenti di IA in sicurezza. Standard di rendicontazione e strumenti di valutazione focalizzati sull'equità sanitaria possono far emergere pregiudizi nascosti, mentre collaborazioni possono aiutare a far passare l'IA di successo da progetti pilota a cliniche reali senza abbandonare i gruppi vulnerabili.

Cosa significa andare avanti

In termini chiari, l'articolo conclude che l'IA generativa in medicina sta procedendo più velocemente dei manuali normativi esistenti. Per proteggere i pazienti e guadagnare fiducia, i paesi devono cooperare su nuovi quadri normativi adattivi che possano tenere il passo con modelli in evoluzione tutelando privacy, sicurezza e imparzialità. Gli autori immaginano organismi globali indipendenti che fissino standard condivisi, simili a quelli esistenti per la sicurezza informatica, così che ospedali e pazienti ovunque possano beneficiare di questi strumenti senza essere esposti a danni evitabili.

Citazione: Ong, J.C.L., Ning, Y., Liu, M. et al. Innovating global regulatory frameworks for generative AI in medical devices is an urgent priority. npj Digit. Med. 9, 364 (2026). https://doi.org/10.1038/s41746-026-02552-2

Parole chiave: IA generativa, dispositivi medici, regolamentazione sanitaria, large language models, equità sanitaria