Novità principali di AgenticRetrieveStream

Il 9 novembre 2026, AWS ha introdotto due modalità operative nella API AgenticRetrieveStream di Bedrock Managed Knowledge Base: single‑shot retrieval‑augmented generation (RAG) e passage‑only retrieval. Entrambe le funzioni sono gestite dallo stesso endpoint di streaming usato finora per le ricerche complesse, ma con un diverso utilizzo dei modelli di base.

In modalità single‑shot RAG, l’applicazione effettua un unico richiamo al modello di fondazione per generare la risposta, dopo aver recuperato un singolo passaggio. Nella modalità retrieval‑only, invece, non viene effettuata alcuna chiamata al modello: il risultato è costituito esclusivamente da passaggi estratti dalla base di conoscenza.

Queste opzioni consentono di ridurre latenza e consumo di token rispetto al precedente comportamento agente, sebbene AWS non abbia fornito dati comparativi su costi o tempi.

Come funziona il parametro maxAgentIteration

Il valore di maxAgentIteration (intervallo 0‑5) determina la modalità di recupero:

    • 0: restituisce solo i passaggi corrispondenti, senza generare una risposta.
    • 1: esegue un singolo recupero e genera una risposta con generateResponse=true.
    • 2‑5: mantengono il comportamento agente tradizionale, con più round di pianificazione e recupero.

Ogni iterazione corrisponde a una chiamata al modello di fondazione. Quando la generazione è attiva, il limite n riserva l’ultima chiamata alla produzione della risposta, consentendo fino a n‑1 round di pianificazione, ciascuno costituito da una riscrittura della query seguita da un recupero.

Il recupero speculativo iniziale avviene prima della fase di pianificazione e non conta nel limite di iterazioni.

Comportamento in caso di errore

Se si imposta maxAgentIteration=0 e si abilita generateResponse, il servizio restituisce un errore 4xx, poiché la generazione richiede almeno una chiamata al modello.

Con maxAgentIteration=1, lo stream contiene un singolo recupero e una risposta basata su quel passaggio, senza eventi di tracciamento della pianificazione.

Struttura della risposta e differenze di formato

L’API richiede i campi messages, retrievers e agenticRetrieveConfiguration; generateResponse è opzionale. Quando la generazione è attiva, i chunk di risposta vengono emessi in tempo reale. Il risultato finale può includere:

    • Elementi recuperati
    • Risposta sintetizzata
    • Citationi che collegano parti della risposta ai risultati di supporto

La modalità retrieval‑only equivale a chiamare direttamente Retrieve, ma il formato differisce: i passaggi appaiono nell’evento result dello stream senza i campi score o location. Le applicazioni che già utilizzano AgenticRetrieveStream possono ottenere così il comportamento di Retrieve modificando solo un parametro, senza dover integrare una nuova API.

Linee guida operative per query complesse

Il Amazon Bedrock User Guide descrive un workflow per domande articolate:

    • Scomposizione della query in sotto‑query
    • Verifica della sufficienza delle evidenze recuperate
    • Esecuzione di ricerche aggiuntive, fino all’espansione su un documento intero

L’agente supporta esclusivamente knowledge base totalmente gestite da Bedrock e permette fino a cinque retriever per richiesta. Riducendo il limite di iterazioni, è possibile fermare l’agente più rapidamente, con il compromesso di una possibile diminuzione di accuratezza su query molto complesse.

Esempi pratici di utilizzo

AWS illustra le impostazioni con un assistente interno di una banca immaginaria:

    • Domanda su documentazione per un libero professionista: maxAgentIteration=1.
    • Confronto tra requisiti per libero professionista e LLC, inclusi proprietari non residenti: maxAgentIteration=4 (fino a tre round di pianificazione).
    • Verifica del linguaggio di una policy: maxAgentIteration=0, restituisce solo i passaggi senza sintesi.

L’applicazione deve selezionare esplicitamente la modalità desiderata; il valore di maxAgentIteration non reindirizza automaticamente le richieste.

Strategie di valutazione per le imprese

Per adottare la nuova modalità, AWS consiglia di confrontare il single‑shot RAG con la configurazione agente tradizionale sulla stessa knowledge base, usando domande rappresentative e risposte attese. La valutazione dovrebbe includere:

    • Misurazione della latenza e del costo per richiesta
    • Verifica della correttezza e del supporto nei passaggi recuperati
    • Test su domande multi‑documento e su quesiti senza risposta

I risultati guideranno la scelta del limite di iterazioni più basso che soddisfa i requisiti qualitativi del workflow.

Implicazioni per le organizzazioni

La novità rende esplicita la decisione di profondità di recupero a livello di singola richiesta. Le ricerche dirette (maxAgentIteration=0) evitano le chiamate di pianificazione, riducendo l’uso del modello, mentre le query complesse mantengono il processo iterativo di raccolta evidenze.

Per le imprese, il trade‑off centrale è valutare se la diminuzione dell’uso del modello preserva risposte complete e supportate nei propri documenti, piuttosto che assumere che un numero più alto di iterazioni garantisca sempre risultati migliori.