Da LLM a Agentic AI: i quattro livelli di maturità
L’evoluzione dell’intelligenza artificiale in sanità si articola in quattro livelli progressivi: Large Language Model (LLM), Retrieval Augmented Generation (RAG), AI Agent e Agentic AI. Ogni livello aggiunge capacità cognitive e operative che cambiano radicalmente il modo in cui le organizzazioni sanitarie interagiscono con la tecnologia.
Large Language Model (LLM)
Gli LLM costituiscono il primo livello. Si tratta di modelli linguistici in grado di comprendere e generare testo, sintetizzare documenti, supportare attività redazionali e interagire in linguaggio naturale. In ambito sanitario possono assistere il personale nella consultazione di linee guida, nella redazione di documentazione clinica e nella produzione di contenuti informativi.
Retrieval Augmented Generation (RAG)
Il paradigma RAG introduce un secondo livello di evoluzione. Integrando il modello linguistico con basi documentali e sistemi di ricerca semantica, l’AI può accedere a contenuti aggiornati e contestualizzati. Questo permette di interrogare procedure aziendali, regolamenti, protocolli clinici, documentazione tecnica e basi di conoscenza specialistiche, migliorando accuratezza e affidabilità delle risposte.
AI Agent
Con gli AI Agent si compie un ulteriore salto di qualità. L’intelligenza artificiale non si limita più a fornire informazioni, ma acquisisce la capacità di pianificare attività, utilizzare strumenti software, accedere a sistemi informativi, interrogare basi dati ed eseguire operazioni all’interno di processi organizzativi.
Agentic AI
L’ultima fase è rappresentata dall’Agentic AI, nella quale più agenti collaborano tra loro per perseguire obiettivi complessi. Questi sistemi possono coordinare attività articolate, mantenere memoria persistente, adattare il proprio comportamento ai risultati ottenuti e interagire con molteplici applicazioni aziendali.
Nuovi criteri di valutazione e procurement
La progressione da LLM ad Agentic AI rappresenta un cambiamento sostanziale anche per le Direzioni ICT. Non si tratta più di acquistare semplici applicazioni software, ma sistemi dotati di capacità cognitive crescenti, in grado di influenzare processi clinici, amministrativi e decisionali. Di conseguenza, i criteri di valutazione e procurement devono evolvere.
Fino ad ora il mercato ha fatto ampio ricorso a benchmark standardizzati che misurano capacità linguistiche, ragionamento, programmazione e problem solving. Questi benchmark hanno avuto un ruolo fondamentale nella fase iniziale dell’AI generativa, consentendo di confrontare modelli differenti attraverso metriche condivise.
Negli ultimi anni, però, sono emerse criticità importanti:
- Molti benchmark stanno raggiungendo livelli di saturazione, con modelli che ottengono risultati molto simili tra loro.
- Le differenze marginali nei punteggi non sono più sufficienti per discriminare le reali capacità operative delle soluzioni.
- Valutazioni condotte direttamente dai produttori presentano conflitti di interesse, scarsa trasparenza metodologica e difficoltà di replica indipendente.
- L’evoluzione rapida dei modelli rende rapidamente obsolete le metodologie di valutazione tradizionali.
Da qui nasce un nuovo paradigma basato su valutazioni indipendenti, audit di terze parti e sistemi di AI Assurance, finalizzati a verificare non solo le prestazioni dei modelli, ma anche la qualità e l’affidabilità delle modalità con cui tali prestazioni vengono misurate.
Dimensioni chiave della valutazione in ambito sanitario
Nel settore sanitario la valutazione dell’intelligenza artificiale richiede un approccio multidimensionale. La semplice accuratezza delle risposte è solo una delle componenti necessarie per determinare l’idoneità di una soluzione in contesti clinici e organizzativi complessi.
Affidabilità clinica
Le risposte generate devono essere coerenti con le evidenze scientifiche disponibili, aggiornate rispetto alle linee guida e adeguate al contesto di utilizzo.
Sicurezza
È fondamentale verificare la capacità del sistema di evitare suggerimenti errati, indicazioni inappropriate o comportamenti potenzialmente dannosi.
Robustezza
I sistemi devono mantenere prestazioni stabili anche in presenza di dati incompleti, richieste ambigue o situazioni non previste durante l’addestramento.
Trasparenza
Sebbene i modelli generativi non siano completamente spiegabili, le organizzazioni sanitarie devono poter comprendere le fonti informative utilizzate, i limiti del sistema e le condizioni in cui le prestazioni possono degradarsi.
Protezione dei dati e conformità normativa
Gli aspetti legati alla privacy, alla conformità al GDPR e alle normative specifiche del settore (ad esempio il Codice dell’Amministrazione Digitale) sono imprescindibili.
Interoperabilità
Le soluzioni devono integrarsi con l’ecosistema digitale sanitario, comprendente Fascicolo Sanitario Elettronico, Cartella Clinica Elettronica, sistemi amministrativi e piattaforme regionali.
Monitoraggio continuo
Le prestazioni di un modello AI non sono statiche; è necessario un monitoraggio costante per identificare fenomeni di degrado, deriva del modello (model drift) o cambiamenti nelle condizioni operative.
Il ruolo dell’AI Act e dell’AI Assurance
L’evoluzione normativa europea sta modificando profondamente il modo in cui le organizzazioni dovranno valutare e governare l’intelligenza artificiale. L’AI Act introduce un approccio basato sul rischio che supera la logica della semplice certificazione iniziale. La conformità non è più un evento puntuale, ma un processo continuo che accompagna l’intero ciclo di vita della soluzione.
In questo contesto assume rilevanza il concetto di AI Assurance, inteso come insieme di attività finalizzate a fornire garanzie sull’affidabilità, la sicurezza e la conformità dei sistemi di AI. L’AI Assurance comprende:
- Audit indipendenti
- Monitoraggio continuo delle prestazioni
- Valutazione degli impatti
- Verifica della qualità dei dati
- Controllo delle modifiche introdotte nel tempo
Per le organizzazioni sanitarie ciò significa sviluppare nuove competenze di governo e controllo, affiancando alle tradizionali attività di gestione ICT funzioni specialistiche dedicate alla supervisione dei sistemi intelligenti.
Implicazioni per le procedure di gara e procurement
L’adozione dell’intelligenza artificiale pone una sfida significativa anche ai modelli di acquisizione delle tecnologie digitali utilizzati dalle organizzazioni sanitarie. Le procedure di gara tradizionali sono state progettate per l’acquisizione di prodotti software caratterizzati da requisiti funzionali relativamente stabili e da comportamenti prevedibili.
In tali contesti è possibile definire in modo dettagliato specifiche tecniche, funzionalità attese, livelli di servizio e modalità di collaudo. Tuttavia, con l’avvento di soluzioni AI dinamiche, queste pratiche devono essere riviste:
- Le specifiche devono includere metriche di affidabilità, sicurezza e trasparenza lungo l’intero ciclo di vita.
- È necessario prevedere clausole contrattuali per audit periodici e aggiornamenti obbligatori in caso di drift del modello.
- Le gare devono prevedere la partecipazione di esperti di AI Assurance, non solo di esperti ICT tradizionali.
- Le valutazioni economiche devono considerare costi di monitoraggio continuo, gestione dei dati e compliance normativa.
Solo adottando questi approcci le Direzioni ICT potranno garantire che le soluzioni AI non siano solo tecnologicamente avanzate, ma anche sicure, affidabili e conformi alle esigenze cliniche e regolamentari del sistema sanitario.
