Nel panorama degli ultimi modelli linguistici, due offerte emergono come paragoni curiosi: Tell 1, l’unità di reasoning di Retell Labs, e LFM2.5 2.6B Base, il checkpoint di Liquid AI. Pur essendo entrambi lanciati nello stesso anno, servono a scopi molto diversi e si rivolgono a pubblici differenti. Il confronto si può ridurre a tre pilastri fondamentali: la natura del modello, i costi di utilizzo e le modalità operative.

1. La natura dei modelli

Tell 1 è un “modulo di ragionamento” integrato in un ecosistema di voce. Non è un modello che si può scaricare e adattare; è un servizio venduto tramite l’abbonamento alla piattaforma Retell. Il modello è “bloccato” all’interno di un stack che include una voce sintetica, una logica di turn‑taking e un harness per l’integrazione di strumenti. Nessuna documentazione pubblica – nessuna model card, nessun repository – è disponibile; l’unico dato quantitativo proviene dal benchmark interno di Retell, in cui il modello ottiene 94,45 % di accuratezza media, con una latenza mediana di 72 ms e un costo di 3,5 cents per minuto.

Al contrario, LFM2.5 2.6B Base è un checkpoint “puro”, 2,69 miliardi di parametri, 30 strati, 131 072 token di contesto e quantizzazione Q4KM che lo riduce a 1,67 GB. È stato addestrato su circa 34 billion tokens in 16 lingue e non è stato sottoposto a instruction‑tuning. Come modello base, è pensato per l’ottimizzazione “on‑the‑fly”: si può scaricare, fare fine‑tuning, quantizzare e far girare su una GPU consumer o addirittura su un laptop.

2. Costi e modello di business

Per Retell, l’accesso a Tell 1 è venduto come servizio: a seconda della configurazione, si paga da 0,07 a 0,31 $ per minuto. Il costo è legato all’utilizzo effettivo del servizio, e comprende non solo l’inferenza, ma anche la voce, la logica di turn‑taking e l’integrazione di strumenti. Non si paga per token, ma per minuto di chiamata, il che si traduce in un prezzo più prevedibile ma meno flessibile per applicazioni non telefoniche.

Liquid AI, invece, offre LFM2.5 2.6B Base come download gratuito (o a pagamento per supporto e licenza). Se si decide di eseguire il modello in locale, le uniche spese sono quelle di infrastruttura, alimentazione e gestione dei dati. Non si paga per token, ma si deve considerare il costo del training, della valutazione e del mantenimento del modello. In pratica, si trasforma il modello in un asset interno, con un costo di avvio più alto ma un costo di operazione quasi nullo.

Costi di fine‑tuning e inferenza

    • Tell 1: 3,5 cents/min per inferenza telefonica, costo di licenza del servizio, nessuna necessità di GPU.
    • LFM2.5 2.6B Base: nessun costo di inferenza se eseguito in locale; tuttavia è necessaria una GPU con almeno 16 GB VRAM, e il training può richiedere centinaia di ore.

3. Scenari di utilizzo e flessibilità

Tell 1 è ideale per aziende che necessitano di un agente vocale pronto all’uso. La piattaforma gestisce la voce, il turno, la sicurezza e l’integrazione di strumenti. Per un customer‑service, un chatbot telefonico o un assistente virtuale, Tell 1 riduce drasticamente le barriere tecniche: basta acquistare il servizio e integrarlo con l’applicazione.

LFM2.5 2.6B Base è invece destinato a ricercatori, sviluppatori e startup che vogliono personalizzare il modello secondo esigenze specifiche. Con la possibilità di addestrare su dati proprietari, di aggiungere instruction‑tuning e di controllare il comportamento del modello, questo checkpoint offre un livello di flessibilità che non può essere raggiunto con un servizio chiuso.

Applicazioni pratiche

    • Tell 1: call center, assistenza clienti telefonica, supporto tecnico con voice‑interface.
    • LFM2.5 2.6B Base: chatbot test, ricerca NLP, prototipi di nuovi servizi personalizzati, educazione.

4. Latenza e performance

Entrambi i modelli sono misurati in tempo reale, ma la latenza si riferisce a contesti diversi. Tell 1, con 72 ms di latenza, è progettato per rispondere rapidamente alle chiamate in tempo reale. LFM2.5 2.6B Base, se eseguito su GPU consumer, può raggiungere latenze inferiori a 200 ms per prompt di piccola lunghezza, ma dipende fortemente dal carico del server e dall’ottimizzazione del codice.

5. Conclusioni

Tell 1 e LFM2.5 2.6B Base rispondono a esigenze opposte: uno è un prodotto pronto all’uso, l’altro un asset da costruire. Se la priorità è la rapidità di deployment e l’integrazione semplificata, Tell 1 è la scelta giusta. Se si cerca flessibilità, controllo e la possibilità di adattare il modello a domini specifici, LFM2.5 2.6B Base è la soluzione ideale. In entrambi i casi, la scelta dipende dal budget, dalla capacità di gestione dei dati e dal livello di personalizzazione richiesto.