Metti Tell 1 e LFM2.5 2.6B Base uno accanto all'altro e la differenza di dimensioni sembra raccontare la storia: uno è il modello di ragionamento interno di Retell dentro una piattaforma per contact centre, l'altro è un checkpoint solo testo da 2,69 miliardi di parametri di Liquid AI che sta in un file da 5,4 GB. Non è questa la storia. La storia è che LFM2.5 2.6B Base è un modello base — non è mai stato addestrato con istruzioni e, se gli poni una domanda, continuerà il tuo testo invece di rispondere — mentre Tell 1 è un componente finito di un prodotto che risponde alle telefonate per mestiere.

Inizia da ciò che il checkpoint Liquid non può fare

LFM2.5 2.6B Base è il checkpoint preaddestrato della famiglia ibrida LFM2.5 di Liquid AI: 30 livelli, 22 dei quali blocchi a convoluzione breve a doppio gate e 8 con attenzione grouped-query, addestrato su circa 34 trilioni di token in 16 lingue, con una finestra di contesto di 131.072 token e una quantizzazione Q4KM che si attesta vicino a 1,67 GB. Testo in ingresso, testo in uscita. Nessuna visione, nessun audio, nessun template di chiamata di strumenti su cui poter fare affidamento, nessun instruction tuning — e la scheda modello di Liquid afferma chiaramente che è destinato a un fine-tuning intensivo piuttosto che al prompting.

Non è un difetto, e trattarlo come tale è l’errore più comune nelle analisi dei modelli di base. Un checkpoint di base è il punto di partenza corretto quando hai un compito ben definito, un ampio corpus di tuoi esempi e nessun interesse a pagare un fornitore per token per risolverlo. Un modello da 2,69B che viene sottoposto a fine-tuning su una singola GPU consumer e poi eseguito quantizzato su un laptop o un telefono è un oggetto economico diverso da qualsiasi API ospitata: il costo marginale per chiamata si riduce più o meno all’elettricità, e il costo che paghi davvero si sposta su etichettatura dei dati, cicli di addestramento e valutazione.

Quello che non può fare è essere inserito in una conversazione. Non esiste un prompt di sistema che trasformi un checkpoint di base in un agente affidabile per le chiamate di funzione, e nessuna quantità di prompt engineering può sostituire la fase di post-training. Se il tuo piano è "scaricarlo, incapsularlo in un server compatibile con OpenAI e puntarci un agente vocale", il piano fallirà alla prima chiamata di funzione — e quel fallimento sembrerà un problema di qualità del modello quando invece è una fase di addestramento mancante.

Allora che cos'è Tell 1, e perché non puoi averlo

Tell 1 è il livello di ragionamento dello stack vocale di Retell, elencato sulla homepage dell'azienda sotto "Developed by Retell Labs" accanto a un harness di agenti che assembla modelli, conoscenze e strumenti. Non è venduto come modello. Non esiste una scheda modello, né un repository, né un valore di context window, né un conteggio dei parametri, né una licenza e né un prezzo per token pubblicato in qualsiasi punto del sito di Retell. L'unica prova quantitativa pubblica è una riga nel Retell vCX Benchmark, una classifica mantenuta da Retell stessa: 88,6% di aderenza alle istruzioni, 97,2% sulla dimensione etichettata allucinazione, 95,4% di chiamata di strumenti, 96,6% colloquiale, una media del 94,45%, con una latenza mediana di 72,5 ms e 3,5 centesimi per minuto di costo del modello.

Che Tell 1 sia un fine-tuning di qualcosa di pubblico, un modello addestrato da zero o un piccolo modello distillato da uno più grande non viene divulgato. La mediana di 72 ms suggerisce un modello piccolo e veloce piuttosto che un generalista di frontiera, poiché tale cifra rientra nella fascia in cui il tempo di andata e ritorno verso uno stack di inferenza di terze parti inizia a dominare — ma questo è un ragionamento basato su un numero di latenza, e i numeri di latenza hanno molte cause. Ciò che non è inferenza è il packaging: si ottiene Tell 1 acquistando tempo sulla piattaforma di Retell, a $0,07–$0,31 al minuto a seconda della configurazione, e il modello non è separabile dalla telefonia, dallo stack vocale e dall'harness che lo circonda.

Questa è l'asimmetria che un acquirente deve considerare nella valutazione. LFM2.5 2.6B Base è tuo come nessun modello ospitato potrà mai esserlo: puoi leggerne i pesi, quantizzarlo, distribuirlo in un'app e continuare a eseguirlo se il fornitore sparisce. Tell 1 è disponibile come nessun modello scaricabile può esserlo: è già collegato a un numero di telefono, a un livello di gestione dei turni di conversazione e a una voce, e il lavoro per farlo sembrare umano in una chiamata reale è stato fatto da qualcun altro.

Il confronto che conta davvero: dove viene speso il budget di latenza

Entrambi questi modelli vivono o muoiono al cronometro, ed è per questo che vengono menzionati insieme anche se svolgono compiti diversi. Una chiamata telefonica concede un margine di circa 800 ms tra il momento in cui l'interlocutore finisce una frase e quello in cui l'agente ne inizia una, prima che la pausa venga percepita come una linea caduta. Questo margine copre il riconoscimento vocale, il turno del modello, la sintesi vocale e la gestione dei turni di conversazione.

Per LFM2.5 2.6B Base, la latenza è una variabile dipendente dal fine-tuning. Un modello quantizzato su un laptop consumer può rispondere in meno di 100 ms, ma il tempo di andata e ritorno verso un server remoto può aggiungere centinaia di millisecondi. Per Tell 1, la latenza è una variabile controllata: il modello è ottimizzato per l'uso in tempo reale e la latenza mediana è di 72,5 ms, il che lascia ampio margine per il riconoscimento vocale e la sintesi vocale.

Il confronto che conta davvero è dove viene speso il budget di latenza. LFM2.5 2.6B Base è un modello di base che richiede fine-tuning e ottimizzazione per essere utilizzato in un contesto vocale. Tell 1 è un modello già ottimizzato per l'uso in tempo reale, ma non è separabile dalla piattaforma di Retell. Entrambi hanno i loro vantaggi e svantaggi, e la scelta tra i due dipende dalle esigenze specifiche dell'utente.

Conclusione

In conclusione, Tell 1 e LFM2.5 2.6B Base sono due modelli che servono scopi diversi e non sono direttamente confrontabili. LFM2.5 2.6B Base è un modello di base che richiede fine-tuning e ottimizzazione per essere utilizzato in un contesto vocale, mentre Tell 1 è un modello già ottimizzato per l'uso in tempo reale, ma non è separabile dalla piattaforma di Retell. La scelta tra i due dipende dalle esigenze specifiche dell'utente e dal budget di latenza disponibile.

Entrambi i modelli sono recenti e con documentazione limitata, ma offrono opportunità uniche per chi cerca di implementare soluzioni vocali avanzate. La chiave è capire le differenze fondamentali tra i due e scegliere quello che meglio si adatta alle proprie esigenze.