Annuncio e disponibilità su OpenRouter
Cohere ha reso pubblica, il 4 novembre 2026, la disponibilità di Embed 5 e Rerank 5 sulla piattaforma OpenRouter. Gli utenti che già possiedono una chiave API possono accedere ai nuovi modelli senza costi aggiuntivi, utilizzando i crediti abituali. L’annuncio non introduce una nuova generazione di modelli, ma amplia l’accesso alle soluzioni di recupero di Cohere.
L’integrazione è pensata per essere inserita in un flusso RAG (retrieval‑augmented generation), dove la ricerca di documenti pertinenti precede la generazione di risposte da parte di un modello di chat.
Ruolo di Embed 5 e Rerank 5 nel flusso RAG
Embed 5 converte testo – e, nella versione Pro, anche immagini – in vettori numerici che rappresentano il contenuto semantico. Questi vettori facilitano la ricerca di documenti simili a partire dalla query dell’utente.
Rerank 5 prende i candidati recuperati, assegna loro un punteggio di rilevanza e li ordina, permettendo al successivo modello di chat di selezionare i frammenti più pertinenti.
Schema del processo
- Embed 5: conversione di documenti o query in vettori.
- Ricerca: il sistema recupera i candidati più correlati.
- Rerank 5: punteggio e ordinamento dei candidati.
- Selezione: si scelgono i frammenti di contesto.
- Modello di chat: genera la risposta finale.
Nell’esempio fornito da Cohere, la ricerca iniziale restituisce 20 candidati; Rerank 5 li ordina e il sistema ne mantiene fino a cinque, applicando un soglia di rilevanza di 0,3 (valore illustrativo, non vincolante). Se nessun candidato supera la soglia, la chiamata al modello di chat viene omessa.
Pro e Fast: compatibilità e performance
Embed 5 Pro e Embed 5 Fast condividono lo stesso spazio vettoriale. Cohere ha dimostrato che è possibile creare un indice con la versione Pro e interrogare con la versione Fast, a patto che le dimensioni dei vettori siano identiche in entrambe le fasi.
Nei test su 40 set di dati, la combinazione Pro‑Fast ha conservato il 98,4 % della qualità di recupero della versione Pro in entrambe le fasi, mentre l’uso di Fast per entrambe le fasi ha mantenuto il 96,6 % della qualità originale.
Questi risultati suggeriscono che, mantenendo costanti le dimensioni dei vettori, la scelta di Fast per la fase di interrogazione non penalizza significativamente l’efficacia del recupero.
Context Focus: riduzione del testo senza perdita di qualità
Il 21 ottobre 2026 Cohere ha presentato Context Focus, un’opzione di Rerank 5 che restituisce i frammenti più rilevanti insieme a punteggi di rilevanza per documento.
In una valutazione su 30 set di domande‑risposte, la rimozione del 50 % del testo recuperato ha mantenuto il 96 % della qualità della risposta, mentre eliminando il 75 % del testo la qualità si è attestata al 87 %. Questo dimostra che è possibile ridurre drasticamente il contesto senza compromettere in modo critico l’accuratezza delle risposte.
Limitazioni di routing in UE
OpenRouter segnala che il routing all’interno della regione europea non è disponibile per le versioni Pro di Embed 5 e Rerank 5. Questa limitazione riguarda esclusivamente i modelli Pro; le versioni Fast rimangono operative nella UE.
Gli utenti europei che necessitano dei modelli Pro dovranno attendere l’implementazione di soluzioni di routing conformi alle normative locali.
Conclusioni
L’integrazione di Embed 5 e Rerank 5 su OpenRouter rappresenta un passo significativo per chi sviluppa applicazioni RAG, offrendo strumenti di embedding e ranking di alta qualità. I risultati di Cohere mostrano che la combinazione Pro‑Fast mantiene quasi inalterata la precisione di recupero, mentre la funzionalità Context Focus permette di gestire contesti più snelli senza degradare le risposte.
Le restrizioni di routing per i modelli Pro nella UE costituiscono l’unica nota di cautela, ma il panorama complessivo rimane molto promettente per gli sviluppatori che cercano di sfruttare le capacità di recupero avanzato di Cohere.