Introduzione a RAG e alle nuove opzioni di Amazon Bedrock

Il 9 novembre 2026 AWS ha annunciato che Amazon Bedrock Managed Knowledge Base permette di scegliere tra tre modalità di recupero tramite l’API di streaming AgenticRetrieveStream. La scelta è controllata dal parametro maxAgentIteration, che definisce se la risposta viene generata o se vengono restituiti solo i passaggi recuperati.

RAG, ovvero retrieval‑augmented generation, combina la ricerca di informazioni in una base di conoscenza con la generazione testuale di un modello fondazionale. A differenza di soluzioni automatiche, la modalità non viene scelta in base alla complessità della domanda: è l’applicazione a decidere quale impostazione utilizzare per ogni singola richiesta.

Significato dei valori di maxAgentIteration

Il parametro accetta valori compresi tra 0 e 5 e determina il flusso di lavoro come segue:

    • 0 – Solo recupero: l’API restituisce i passaggi recuperati senza chiamare alcun modello fondazionale. In questa modalità generateResponse deve essere impostato a false; altrimenti la richiesta genera un errore 4xx.
    • 1 – Recupero a una singola passata: avviene una singola ricerca seguita dalla generazione di una risposta. Non ci sono cicli di pianificazione aggiuntivi; generateResponse è true.
    • 2‑5 – Recupero agentico: la domanda può essere suddivisa in sotto‑query, con più cicli di pianificazione e recuperi iterativi prima della generazione finale. Il valore n indica il numero massimo di iterazioni consentite; la chiamata finale al modello è riservata alla generazione della risposta, mentre le precedenti sono dedicate al recupero.

In termini pratici, i valori 2‑5 consentono fino a n − 1 round di pianificazione prima della risposta, permettendo di esplorare più documenti e di valutare se le informazioni raccolte sono sufficienti.

Quando utilizzare ciascuna modalità

Modalità 0 è indicata quando l’applicazione deve semplicemente visualizzare o elaborare i passaggi senza produrre una risposta testuale, ad esempio per analisi preliminari o per fornire all’utente i riferimenti originali.

Modalità 1 è ideale per domande dirette e ben delimitate, dove una singola ricerca è probabile che fornisca tutti gli elementi necessari per una risposta completa.

Modalità 2‑5 è consigliata per interrogazioni complesse, esplorative o che richiedono l’integrazione di informazioni provenienti da più documenti. In questi casi il sistema può pianificare, suddividere la domanda e iterare il recupero finché non viene raggiunta una copertura adeguata.

Configurazione della chiamata AgenticRetrieveStream

Una richiesta a AgenticRetrieveStream deve includere:

    • agenticRetrieveConfiguration
    • Almeno un elemento in messages
    • Almeno un elemento in retrievers

Nel caso di solo recupero (modalità 0), i passaggi arrivano nell’evento result. AWS specifica che questi risultati non contengono i campi score né location. Se la modalità prevede la generazione della risposta, il risultato può includere citazioni che collegano i frammenti della risposta ai passaggi recuperati.

La guida di AWS limita il recupero agentico a knowledge base completamente gestite da Amazon Bedrock e permette l’uso di un massimo di cinque retrievers per singola richiesta.

Permessi richiesti da AWS

Per eseguire il flusso di lavoro, AWS elenca le seguenti azioni nei suoi esempi di policy:

    • bedrock:AgenticRetrieveStream
    • bedrock:Retrieve
    • bedrock:GetDocumentContent
    • bedrock:InvokeModelWithResponseStream

È importante notare che nella modalità 0 non viene invocato alcun modello fondazionale, quindi l’azione InvokeModelWithResponseStream non è necessaria.

Come valutare la modalità più adatta

AWS raccomanda di testare le query rappresentative contro la stessa base di conoscenza, includendo:

    • Domande che richiedono più documenti per una risposta completa.
    • Domande per le quali la base di conoscenza non fornisce alcuna risposta.

Durante la valutazione è fondamentale analizzare sia la qualità della risposta sia i passaggi di supporto. Inoltre, è consigliabile misurare la latenza e il costo per richiesta, poiché il recupero a una singola passata (modalità 1) tende a ridurre entrambi rispetto al recupero agentico (modalità 2‑5).

La riduzione della latenza e dell’uso del modello è particolarmente vantaggiosa in scenari ad alto volume, ma la scelta finale dipende dalla capacità della modalità di fornire risposte corrette e ben supportate.

Considerazioni finali e prospettive future

Le tre modalità di maxAgentIteration offrono flessibilità per bilanciare velocità, costo e accuratezza nelle applicazioni RAG su Amazon Bedrock. La chiave è comprendere la natura delle proprie query e impostare il valore più appropriato, testando con un set di domande reali.

Con l’espansione delle knowledge base gestite da Bedrock e la possibilità di combinare più retrievers, le soluzioni RAG potranno diventare sempre più sofisticate, mantenendo al contempo il controllo sui costi operativi. Gli sviluppatori sono invitati a sfruttare le linee guida di AWS per condurre benchmark accurati e a monitorare costantemente le metriche di latenza e precisione, garantendo così un’esperienza utente ottimale.