Modelli decisionali: l’AI che risponde con probabilità calibrate

Che cosa è un modello decisionale

Un modello decisionale è una rete transformer che, anziché generare token uno alla volta, legge l’input una sola volta e restituisce per ogni domanda chiusa una distribuzione di probabilità sulle risposte ammesse. L’input consiste in uno stato (testo, JSON o lista di valori) e in un elenco di domande; il modello restituisce, per ciascuna domanda, le probabilità associate a tutte le opzioni possibili. Un algoritmo successivo utilizza questi valori per prendere decisioni automatiche o per avviare azioni specifiche.

Questa architettura si colloca tra due tradizioni: i classificatori tradizionali, usati da decenni per smistare e‑mail o rilevare frodi, e i large language model (LLM) generativi, che producono sequenze di token. Il modello decisionale mantiene la potenza del transformer ma elimina la fase di generazione testuale, fornendo direttamente valori tipizzati e probabilità calibrate.

Differenze fondamentali rispetto a LLM e classificatori tradizionali

LLM generativi: producono un token alla volta campionando da una distribuzione di probabilità e reinseriscono il token nell’input per calcolare il successivo. Per ottenere una decisione, è necessario formulare un prompt, estrarre il valore dal testo e, se disponibile, interpretare una probabilità implicita. Questo richiede passaggi intermedi di parsing e può introdurre errori.

Classificatori tradizionali: richiedono centinaia o migliaia di esempi etichettati e devono essere riaddestrati ogni volta che cambiano le categorie. Le etichette sono fisse e il modello non può accettare nuove categorie al volo.

Modelli decisionali: le categorie (o risposte) vengono descritte a parole al momento della richiesta. Non è necessario riaddestrare il modello; basta fornire le istruzioni e i criteri nella domanda. Tuttavia, un modello addestrato su dati proprietari in un dominio stabile può ancora offrire precisione superiore e costi di inferenza quasi nulli.

Quando scegliere ciascuna soluzione

• Usare un LLM quando il compito richiede ragionamento multi‑step o generazione di testo complesso.
• Usare un classificatore tradizionale quando le categorie sono statiche, ben definite e si dispone di grandi dataset etichettati.
• Usare un modello decisionale per decisioni rapide, con contesto limitato, dove è sufficiente un valore probabilistico su opzioni chiuse.

I tre tipi di domanda standard

Tutti i modelli decisionali rilasciati finora condividono tre primitive, definite da TypeSafe AI e ormai divenute lo standard de‑facto: Noul, Choice e Score. Ogni domanda ha un identificativo interno (invisibile al modello), un type, delle instructions in linguaggio naturale e, per i tipi Choice e Score, un campo criteria che definisce le risposte ammesse.

Domanda di tipo Noul (sì/no)

Il modello restituisce un unico valore numerico compreso tra 0 e 1, rappresentante la probabilità di una risposta affermativa. Il codice applicativo imposta soglie (ad esempio 0,7) per decidere se accettare il “sì”. È fondamentale formulare domande precise, con confini netti, evitando zone grigie. Il campo criteria descrive esplicitamente cosa conta come “sì” e cosa come “no”.

Domanda di tipo Choice (scelta multipla)

Il modello fornisce una probabilità per ogni opzione di un insieme chiuso e non ordinato. Le descrizioni delle alternative devono essere chiare e distintive. Se l’elenco non copre tutti i possibili input, è possibile aggiungere un’opzione “other” o “none of the above”, ma solo quando necessario. Oltre alle probabilità, il modello restituisce un valore di confidence che indica quanto la distribuzione è concentrata su una singola opzione.

Domanda di tipo Score (scala ordinata)

Il modello assegna una probabilità a ciascun livello di una scala definita dall’applicazione (ad esempio “basso”, “medio”, “alto”). Lo score finale è la media pesata dei valori numerici associati ai livelli. È importante descrivere livelli specifici e non generici; un livello “moderatamente grave” è troppo vago per una valutazione affidabile.

Implementazione pratica e best practice

L’input di un modello decisionale, chiamato state, deve contenere solo il contesto rilevante per le domande correnti. Contesti troppo lunghi degradano la qualità della risposta. Inoltre, è consigliabile utilizzare l’inglese o includere un avvertimento linguistico, poiché la lingua principale di addestramento è l’inglese e le performance in altre lingue possono diminuire.

Le instructions di una domanda possono essere una semplice stringa quando la domanda è breve e non ambigua. Per casi più complessi, è opportuno strutturare la domanda in un oggetto JSON con campi separati per il testo della domanda, i dati di supporto e i criteri. Questo è particolarmente utile quando più domande condividono istruzioni simili o quando è necessario fornire esempi contestuali.

Esempio di struttura JSON per una domanda Choice

{
"id": "q1",
"type": "Choice",
"instructions": "Quale azione intraprendere per il ticket?",
"criteria": ["Aprire un caso", "Escalare al manager", "Chiudere senza azione", "Altro"]
}

Il modello restituirà qualcosa del tipo:

{
"probabilities": {"Aprire un caso": 0.62, "Escalare al manager": 0.15, "Chiudere senza azione": 0.08, "Altro": 0.15},
"confidence": 0.62
}

Dal valore di probabilità all’azione concreta

Una volta ottenute le probabilità, l’applicazione deve tradurle in decisioni operative mediante soglie. Per una domanda Noul, si può impostare:

• probabilità ≥ 0,8 → esegui l’azione A
• 0,5 ≤ probabilità < 0,8 → esegui l’azione B
• probabilità < 0,5 → nessuna azione

Per le domande Choice, si può scegliere l’opzione con la probabilità più alta solo se supera una soglia di confidence (ad es. 0,7); altrimenti si può ricorrere a una logica di fallback, come l’opzione “Altro”.

Per le domande Score, si calcola lo score medio pesato e si confronta con soglie definite dal dominio (ad es. < 0,3 = “basso”, 0,3‑0,7 = “medio”, > 0,7 = “alto”).

Limiti e considerazioni etiche

Il modello decisionale non fornisce una motivazione testuale del proprio output; se è necessario spiegare la decisione a un cliente o a un auditor, occorre integrare un altro strumento (ad es. un LLM che genera una spiegazione basata sulle probabilità). Inoltre, poiché le probabilità sono calibrate sui dati di addestramento, è fondamentale monitorare bias e drift nel tempo.

Infine, l’uso di questi modelli in contesti sensibili (sanità, finanza, giustizia) richiede una valutazione rigorosa della affidabilità, della trasparenza e della conformità normativa.

Prospettive future

Nel giro di poche settimane al rilascio di Jev (15 settembre 2026) sono comparsi numerosi modelli open source con interfaccia compatibile, come l’API DecisionModel di LangChain4j. La comunità sta sperimentando integrazioni con workflow di automazione AI‑powered, dove i modelli decisionali sostituiscono i passaggi di parsing e estrazione di valori da LLM. Con l’aumento di dataset specifici e il miglioramento delle tecniche di calibratura, ci si aspetta che la precisione dei modelli decisionali si avvicini sempre più a quella dei classificatori addestrati su domini stretti, mantenendo al contempo la flessibilità di aggiornare le domande in tempo reale.