L'American Medical Association (AMA) ha lanciato un ambizioso quadro di governance per l'intelligenza artificiale agente (AI) con funzioni cliniche, volto a garantire che le tecnologie emergenti si sviluppino in modo responsabile e sicuro. Con l'intensificarsi delle capacità delle IA, che possono agire semi‑autonomamente o persino autonomamente, l’AMA si pone come punto di riferimento per medici, sviluppatori, organizzazioni sanitarie e autorità di regolamentazione.
Principi fondamentali del framework
Il documento, pubblicato in ottobre, si concentra su quattro domande interconnesse che guidano l’intervento dell’AMA:
- Funzione: definire quale compito clinico l’IA svolge, includendo popolazione di pazienti, contesto d'uso e scopo previsto.
- Evidenza e rischio: dimostrare l’efficacia della funzione e valutare le conseguenze di un eventuale fallimento, analizzando performance, sicurezza, beneficio clinico, adeguatezza alla popolazione e incertezza proporzionale al potenziale impatto.
- Autorità e supervisione: stabilire cosa l’IA può fare e in quali condizioni, fissando il perimetro di azione consentito e le modalità di supervisione umana o istituzionale necessarie.
- Responsabilità: attribuire la responsabilità per i rischi e gli esiti in base all’autorità, al controllo, alla conoscenza del rischio e alla capacità di prevenirlo o mitigarlo.
Il principio guida è che l’autorità clinica deve essere conquistata attraverso evidenza e mantenuta mediante performance dimostrata. Qualsiasi variazione dell’evidenza, della performance, del rischio o della tecnologia stessa deve comportare un adeguamento dell’autorità e della supervisione.
Allineamento della responsabilità legale
Con l'espansione dell’IA nella pratica clinica, la questione di chi sia responsabile in caso di danno al paziente diventa cruciale. L’AMA, tramite il Center for Digital Health and AI, sta sviluppando un framework per l’allineamento della responsabilità tra le parti coinvolte.
Secondo il presidente dell’AMA, Willie Underwood III, MD, MSc, MPH, è fondamentale che i pazienti abbiano “canali significativi per il ricorso” e che i medici possano utilizzare l’IA con la certezza che la responsabilità rifletta ciò che possono realmente conoscere e controllare.
Responsabilità distribuite
- Sviluppatori e produttori: devono dimostrare e mantenere la sicurezza e l’efficacia dei loro prodotti, gestendo i rischi sotto il loro controllo.
- Organizzazioni sanitarie e altri utilizzatori: sono responsabili della selezione, implementazione, governance e monitoraggio dell’IA nei contesti reali.
- Medici: devono esercitare giudizio clinico entro i limiti di utilizzo previsto, tenendo conto delle limitazioni note dell’IA e delle informazioni disponibili al punto di cura.
- Pazienti: conservano il diritto a vie di ricorso per danni derivanti da sistemi IA difettosi o altre violazioni azionabili.
Il framework riconosce che più parti possono condividere la responsabilità quando qualcosa va storto, allineando la responsabilità alla capacità di prevenire il danno. Sottolinea inoltre che la supervisione medica non può sostituire evidenze adeguate, un design di sistema appropriato o le condizioni necessarie a una revisione clinica significativa.
Il ruolo dell’AMA nella definizione di politiche e strutture
Oltre a fornire linee guida tecniche, l’AMA si impegna a influenzare politiche, normative e strutture operative. Il suo Center for Digital Health and AI collabora con medici, sviluppatori, regolatori e altri stakeholder per modellare lo sviluppo, l’implementazione e la regolamentazione dell’IA, mantenendo al centro la sicurezza del paziente e la cura guidata dal medico.
Un esempio emblematico è il caso dell’Utah, che nel 2023 è diventato il primo stato a consentire a un algoritmo di prescrivere farmaci per l’acne dopo l’analisi di scansioni facciali e dati medici. Inizialmente la prescrizione richiede l’approvazione di un medico, ma le fasi successive del trial prevedono prescrizioni autonome da parte dell’IA, nell’ambito del “Utah AI Regulatory Sandbox”. Questo scenario evidenzia la necessità di quadri responsabili che bilancino innovazione e tutela del paziente.
Collaborazione AMA‑FSMB
Nel settembre 2024, l’AMA e la Federation of State Medical Boards (FSMB) hanno organizzato un incontro con esperti di medicina, regolamentazione, diritto, tecnologia e pazienti per discutere la responsabilità nell’era dell’IA. Il risultato è stato il rapporto congiunto “AI and the Practice of Medicine: Examining accountability and responsibility in the AI era”, pubblicato il 12 novembre 2024. Il documento evidenzia che:
- L’IA sta già trasformando la pratica medica.
- Le strutture normative, di licenza e di responsabilità esistenti non sono adeguate per l’IA.
- È necessario modernizzare i quadri legali per definire chi garantisce l’uso sicuro dell’IA e chi è responsabile in caso di danni.
Il nuovo senior vice president per la salute digitale e l’IA, Jennifer Goldsack, MChem, MA, MBA, OLY, modererà un panel il 17 novembre alla conferenza HLTH di Las Vegas, focalizzato sui “state sandboxes” e sulla licenza dell’IA in ambito sanitario.
Implementazione pratica e prossimi passi
Per tradurre il framework in azioni concrete, l’AMA propone:
- Creare standard di evidenza clinica specifici per ciascuna funzione dell’IA, includendo studi prospettici, valutazioni post‑marketing e monitoraggio continuo.
- Definire criteri di rischio proporzionali alla gravità potenziale dell’errore, con soglie di tolleranza differenziate per contesti ad alta e bassa criticità.
- Stabilire modelli di supervisione che combinino revisione in tempo reale, audit periodici e meccanismi di escalation in caso di anomalie.
- Implementare contratti di responsabilità chiari tra sviluppatori, fornitori, istituzioni e medici, con clausole di copertura assicurativa specifiche per danni da IA.
- Promuovere programmi di formazione continua per i medici, affinché comprendano le capacità, i limiti e le implicazioni etiche dell’IA.
Il quadro invita inoltre le autorità di regolamentazione statali a creare “sandbox” che consentano test controllati di nuove tecnologie IA, con una supervisione stretta e la possibilità di adattare rapidamente le normative in base ai risultati.
Conclusioni
Il nuovo framework di governance dell’AMA per l’AI agente rappresenta un passo fondamentale verso un futuro in cui l’intelligenza artificiale potenzia la cura senza compromettere la sicurezza o la responsabilità clinica. Attraverso una definizione chiara di funzioni, evidenza, autorità, supervisione e responsabilità, l’AMA offre una struttura che può essere adottata da medici, sviluppatori, organizzazioni sanitarie e legislatori. Solo con un approccio condiviso e basato su prove solide sarà possibile sfruttare appieno il potenziale dell’IA, garantendo al contempo che il paziente rimanga al centro di ogni decisione tecnologica.
