Jev ha acceso la miccia a metà settembre, portando alla ribalta il nuovo mercato dei “Decision Models” creato da TypeSafe AI. OpenAI, AWS, Cloudflare e, più recentemente, Microsoft si stanno contendendo questo spazio, dove la sfida è fornire agenti IA più rapidi, meno chiacchieroni e molto meno costosi da gestire.

Il contesto: da Jev ai Decision Models

Fino a poche settimane fa quasi nessuno parlava di “Decision Models”. Oggi, tutti vogliono il proprio. In meno di un mese, la startup TypeSafe AI ha dimostrato, con il suo modello ultramediato Jev, l’assurdità economica dell’IA agentica: perché impiegare un modello di linguaggio gigantesco, capace di discutere di Kant o di programmare un’app, quando basta decidere se un’operazione è fraudolenta, accettare o rifiutare una richiesta, o passare al supporto umano?

Il 1° ottobre Cloudflare ha lanciato Clef e Clef‑flash, con rispettivamente 27 e 9 miliardi di parametri, seguiti poco dopo da Clef‑Omni, un modello MoE da 30 miliardi di parametri (di cui 3 attivi) capace di elaborare testo, immagini, video e audio. A differenza di Jev, che accetta solo testo, Clef‑Omni può “ascoltare” file audio prima di prendere decisioni.

Esempi di applicazione dei Decision Models

    • Una richiesta cliente è urgente?
    • Quale servizio deve gestire la richiesta?
    • Un agente può continuare il lavoro o richiedere una validazione?
    • Un video di sorveglianza mostra un’intrusione?
    • Un pacco danneggiato giustifica un rimborso?
    • Un messaggio vocale è abbastanza scontento da meritare una richiamata prioritaria?
    • Una chiamata di supporto è una potenziale frode?

I modelli “Clef” valutano le opzioni proposte assegnando probabilità, rispondendo a più domande contemporaneamente senza generare testo. Questo elimina la necessità di interpretare lunghe risposte per estrarre una decisione utile.

Performance e costi: latenza, token e prezzi

Al lancio, Cloudflare ha dichiarato una latenza media di 38,8 ms per Clef‑flash e 209,3 ms per Clef, contro 524,1 ms per Jev. Dopo ottimizzazioni, la latenza di Clef è quasi dimezzata (152 ms invece di 262 ms su richieste di circa 800 token). Clef‑Omni taglia in circa 130 ms per testo, 150 ms per immagini, qualche centinaio di ms per audio e 1,5 s per un video di 21 s.

Le finestre di contesto sono di 64 000 token per Clef, ridotte a 24 000 per la versione ospitata di Clef‑flash. Il prezzo è sceso da 0,09 a 0,038 $ per milione di token di input. Tutti i modelli sono rilasciati con licenza Apache 2.0, pesi scaricabili e API compatibile con quella di Jev. Tuttavia, la multimodalità non garantisce precisione superiore: in un test su fatture, Clef‑Omni (60,2) è inferiore a Clef (64,7) e Jev (61,8).

Strategia di Cloudflare

Cloudflare non si limita a competere con TypeSafe AI. Grazie a Workers AI e alla sua rete globale, può eseguire decisioni al margine della rete, avvicinando il modello alle applicazioni. L’azienda preannuncia inoltre servizi per permettere alle imprese di personalizzare i modelli con i propri dati.

L’ingresso di Microsoft

Il 9 ottobre Microsoft ha presentato Microsoft‑Decision‑1, un modello specializzato nella classificazione, routing, priorizzazione e controllo dei workflow agentici. Disponibile su Microsoft Foundry e OpenRouter, Decision‑1 conta 9 miliardi di parametri e si concentra su scelte rapide tra risposte predefinite, assegnando un punteggio di probabilità.

Microsoft afferma che, su 36 benchmark con quasi 150 000 domande, Decision‑1 è 35 volte più veloce di GPT‑6 Sol, 2,8 volte più veloce di Jev e raggiunge una precisione media dell’83,5 %. Il costo è di 0,042 $ per milione di token di input, senza addebitare i token di output.

Origini cinesi del modello

Un curioso dettaglio: Microsoft ha costruito Decision‑1 a partire dal modello cinese open‑source Qwen 3.5‑9B di Alibaba. Allo stesso modo, AWS ha usato Qwen 3.5‑2B per il suo Strands Decider 2B. Microsoft preannuncia già evoluzioni basate sui propri modelli MAI e su quelli di OpenAI.

Perché i Decision Models sono cruciali per l’IA aziendale

Negli ultimi due anni gli editori hanno gareggiato per rendere i LLM più potenti, ma gran parte delle operazioni quotidiane degli agenti consiste in arbitraggi semplici, ripetuti milioni di volte: scegliere uno strumento, identificare un’anomalia, ordinare documenti, classificare transazioni, selezionare il prossimo agente o decidere se interrompere un’operazione.

Affidare queste micro‑decisioni a grandi LLM è costoso in termini di token, introduce latenza e aumenta il rischio di errori. I Decision Models promettono di industrializzare queste scelte: i LLM più potenti rimangono responsabili di comprensione e ragionamento complessi, mentre i modelli specializzati gestiscono classificazioni, scelte ripetitive e decisioni.

Costi, velocità e accuratezza

Con l’aumento dell’adozione di agenti nei processi aziendali, il costo unitario di una decisione, il tempo di risposta e la affidabilità diventano fattori decisivi. L’IA agentica non sarà più misurata solo in token, ma anche in costo per decisione.

Un avvertimento che i fornitori tendono a nascondere: la velocità non garantisce correttezza. In teoria, i punteggi di confidenza dovrebbero indirizzare le decisioni incerti all’intervento umano, ma è fondamentale che tali punteggi siano affidabili.