Un nuovo quadro normativo per l'IA agente
L'American Medical Association (AMA) ha pubblicato un documento che definisce un quadro di governance destinato a garantire l'uso sicuro ed efficace degli agenti di intelligenza artificiale (IA) in ambito sanitario. Il principio fondamentale è che qualsiasi soluzione IA capace di svolgere funzioni cliniche debba essere supportata da evidenze solide e mantenere alte prestazioni qualitative.
Il framework si concentra su quattro domande guida, volte a stabilire quali compiti gli strumenti IA debbano essere autorizzati a eseguire, in quali circostanze e chi ne detiene la responsabilità. Queste linee guida saranno la base per la collaborazione dell'AMA con altre organizzazioni, con l’obiettivo di assicurare che gli agenti IA siano impiegati in maniera responsabile e centrata sul paziente.
Le quattro domande fondamentali
- Quale funzione clinica svolge l'IA? Definire con precisione il ruolo operativo dell'agente, dalla documentazione ambientale alla diagnosi e al monitoraggio dei pazienti.
- Quali evidenze dimostrano la capacità dell'IA di svolgere quella funzione e cosa succede in caso di fallimento? Richiedere studi clinici, dati di validazione e piani di mitigazione per errori.
- Cosa è permesso all'IA di fare e in quali condizioni? Stabilire limiti operativi, requisiti di supervisione umana e scenari di emergenza.
- Chi è responsabile dei rischi e dei risultati? Assegnare chiaramente la responsabilità legale e professionale a medici, istituzioni o fornitori di tecnologia.
Contesto di un rapido proliferare di IA agente
Il documento dell'AMA arriva in un momento in cui gli strumenti IA agente stanno trasformando i flussi di lavoro clinici. Secondo un sondaggio recente condotto su 250 leader sanitari statunitensi, il 28% delle organizzazioni ha già implementato strumenti IA agente, mentre il 44% sta conducendo progetti pilota o di proof‑of‑concept.
Una maggioranza dei partecipanti al sondaggio prevede un impatto “trasformativo” di queste tecnologie sui processi clinici. Tuttavia, il 72% ha segnalato che tali strumenti vengono talvolta introdotti senza l’approvazione del reparto IT, evidenziando una lacuna di supervisione che può generare rischi di non conformità normativa e di accesso non autorizzato a dati sanitari protetti.
Rischi e sfide emergenti
Gli agenti IA operano in modo autonomo, completando compiti complessi senza supervisione costante. Un errore o un bias decisionale può causare danni significativi al paziente prima che un clinico possa intervenire. Questo solleva preoccupazioni su:
- possibili violazioni normative;
- accesso non autorizzato a informazioni sensibili;
- mancanza di trasparenza nei processi decisionali automatizzati.
Regolamentazione e risposta del settore
Le normative federali statunitensi non hanno ancora fornito linee guida definitive sull'IA in sanità, spingendo il settore a creare gruppi di lavoro autonomi per definire standard e barriere di sicurezza. A livello statale, le leggi variano notevolmente: alcuni stati limitano l'uso dell'IA, altri sperimentano soluzioni di cura basate su IA.
Secondo la società di consulenza legale Manatt, nel 2025 ben 47 stati hanno introdotto oltre 250 disegni di legge sull'IA che impattano il settore sanitario, creando un mosaico normativo complesso per le organizzazioni.
Il ruolo centrale dei medici
L'AMA sottolinea la necessità di mantenere i medici al centro dello sviluppo e della diffusione dell'IA agente. La responsabilità clinica, l'autorità decisionale e la supervisione devono rimanere allineate per garantire che l’avanzamento tecnologico migliori la cura del paziente.
Il framework dell'AMA servirà come punto di riferimento per le istituzioni che desiderano integrare agenti IA nei propri processi, offrendo una struttura chiara per valutare evidenze, definire autorizzazioni operative e attribuire responsabilità.
Prospettive future
Con l'adozione di IA agente destinata a crescere, il settore sanitario dovrà affrontare sfide di governance, conformità e sicurezza dei dati. L'AMA intende collaborare con altre entità, incluse associazioni professionali e organismi regolatori, per armonizzare le pratiche e creare un ecosistema in cui l'IA supporti i clinici senza compromettere la sicurezza dei pazienti.
Nel frattempo, la comunità medica è chiamata a partecipare attivamente alla definizione delle linee guida, garantendo che l'innovazione tecnologica sia sempre al servizio della salute e della dignità dei pazienti.