Introduzione al Retrieval‑Augmented Generation

Il Retrieval‑Augmented Generation (RAG), tradotto in italiano come “generazione aumentata per recupero”, è la tecnica che consente a un chatbot di consultare i tuoi documenti prima di formulare una risposta. In pratica, il modello estrae i frammenti più rilevanti dai file forniti, li integra nella sua elaborazione e produce una risposta che può includere citazioni precise.

Questa modalità è alla base di strumenti come Gemini Notebook (ex NotebookLM) o della modalità ampliata dei Progetti Claude. Il vantaggio principale rispetto a una semplice domanda “a pelo” è che il modello lavora con il tuo testo a portata di mano, può citarlo e non dipende esclusivamente dalla conoscenza memorizzata durante il training. Tuttavia, il RAG non elimina gli errori: ne riduce la probabilità, ma non ne chiude il margine.

Origini della tecnica

Il concetto nasce da un articolo del 2020 intitolato Retrieval‑Augmented Generation for Knowledge‑Intensive NLP Tasks, firmato da Patrick Lewis e undici co‑autori, accettato alla conferenza NeurIPS 2020. Il problema affrontato era quello dei grandi modelli di linguaggio, che immagazzinano conoscenza nei parametri ma faticano a recuperarla con precisione, a giustificare le fonti e a mantenersi aggiornati.

La proposta dei ricercatori consisteva nel combinare due tipi di memoria:

    • Memoria parametrica: il modello stesso, con i suoi pesi.
    • Memoria non parametrica: un indice vettoriale della Wikipedia interrogato da un motore di ricerca neurale.

Con questa combinazione, i ricercatori ottennero i migliori risultati dell’epoca su tre task di domande‑risposte a dominio aperto, dimostrando che il testo generato era “più specifico, più vario e più fattuale” rispetto a un modello equivalente privo di recupero.

In parole semplici, anziché chiedere all’IA di ricordare, le fornisci una biblioteca e le chiedi di consultarla.

Meccanismo interno passo dopo passo

La documentazione di file search di OpenAI descrive chiaramente il flusso operativo, che può essere riassunto in quattro fasi:

1. Troceare

Ogni file viene diviso in frammenti. Nell’API di OpenAI il default è di 800 token per frammento, con un solapamento di 400 token tra frammenti consecutivi, così da evitare che un’idea venga spezzata a metà.

2. Indicizzare

Ogni frammento viene trasformato in un embedding, una rappresentazione numerica del suo significato, e salvato in un vector store (archivio vettoriale).

3. Ricercare

Al momento della domanda, il sistema combina ricerca semantica e per parole chiave. La ricerca semantica individua frammenti pertinenti anche se non condividono alcuna parola con la query. L’API restituisce 10 risultati per default, con un massimo di 50.

4. Rispondere con citazioni

Il modello riceve i frammenti selezionati insieme alla tua domanda e redige la risposta, includendo annotazioni che puntano ai file di origine.

Il passo cruciale è il terzo: se la ricerca restituisce un frammento errato, il modello produrrà una risposta sicura ma basata su informazioni sbagliate.

Dove si usa il RAG senza saperlo

Il RAG è più diffuso di quanto si creda. Ecco alcuni esempi concreti:

    • Gemini Notebook (ex NotebookLM): lanciato da Google il 16 luglio 2026 con il nuovo nome, si presenta come un assistente che risponde a partire dalle tue fonti, fornendo citazioni in linea. A ottobre 2026 ogni fonte può contenere fino a 500.000 parole o 200 MB, e gli utenti gratuiti possono aggiungere fino a 50 fonti per notebook.
    • Claude – Progetti a pagamento: i piani premium attivano il RAG automaticamente quando la conoscenza caricata si avvicina al limite della finestra di contesto. Secondo la documentazione di Anthropic, ciò può aumentare la capacità del progetto “fino a 10 volte”, poiché Claude passa a una ricerca interna anziché caricare tutto in una volta.

Perché non basta inserire tutto nella finestra di contesto?

Una finestra di contesto più ampia non garantisce una lettura attenta. Se non conosci il concetto di finestra di contesto, è utile capire perché l’IA “si dimentica” di ciò che le hai detto. Il punto chiave è la limitazione di token: il modello può elaborare solo un certo numero di token in un singolo passaggio.

Lo studio Lost in the Middle, pubblicato sulla rivista TACL nel 2023, dimostrò che le prestazioni dei modelli calano significativamente quando le informazioni rilevanti si trovano a metà di un contesto lungo, anche per modelli progettati per contesti estesi. I modelli funzionano meglio quando il dato è all’inizio o alla fine.

Il RAG aggira parte di questo problema: invece di fornire centinaia di pagine, il modello riceve solo i pochi frammenti che contengono le informazioni necessarie.

Anthropic specifica che i loro progetti preferiscono il processamento in contesto “quando è possibile” e ricorrono al RAG solo avvicinandosi al limite. Per documenti brevi, fornire l’intero contenuto rimane la scelta più sensata.

RAG e le allucinazioni dell’IA

Il RAG non elimina le allucinazioni, ma le riduce. Un lavoro preregistrato intitolato Hallucination‑Free?, versione maggio 2024, valutò strumenti di ricerca giuridica basati su RAG di LexisNexis e Thomson Reuters. Alcuni fornitori li promuovevano come capaci di “eliminare” o “evitare” le allucinazioni; lo studio, però, rilevò che allucinavano tra il 17 % e il 33 % delle volte, sebbene meno rispetto a un chatbot generalista come GPT‑4.

Le citazioni non sono un salvoconducto. Il fatto che una risposta includa un link al tuo documento indica solo da dove il modello ha tratto l’informazione, non che l’abbia riassunta correttamente. Se il dato è critico, apri la citazione e leggi il paragrafo originale, proprio come faresti per verificare una fonte accademica o legale.

Errori tipici e come mitigarli

La mia analisi dei fallimenti più comuni, basata su osservazioni pratiche piuttosto che su paper, individua tre categorie principali:

    • Documenti obsoleti che il motore di ricerca recupera comunque.
    • Frammenti tagliati in modo inappropriato, che possono perdere il contesto necessario.
    • Domande ambigue che inducono il sistema a selezionare il frammento sbagliato.

Tutti questi problemi hanno soluzioni parziali nelle tue mani:

    • Usa nomi di file chiari e descrittivi (Anthropic lo raccomanda esplicitamente).
    • Mantieni una singola versione aggiornata dei documenti, evitando di mescolare versioni vecchie.
    • Formula domande che menzionino esplicitamente il documento o la sezione di interesse.

Conclusioni: il valore pratico del RAG

Il RAG è probabilmente l’idea di IA più utile per l’uso quotidiano, ma anche la meno commercializzata. Viene presentato come un antidoto alle invenzioni dell’IA, quando in realtà è semplicemente un modo per far leggere al modello prima di parlare. Questo già rappresenta un grande passo avanti.

Una regola sana è trattare le risposte generate con RAG come quelle di un “becario brillante con accesso al tuo archivio”: veloci, generalmente corrette, ma sempre da verificare quando la decisione è importante. Con una corretta preparazione dei documenti e domande ben formulate, il RAG può diventare un alleato potente per professionisti, ricercatori e chiunque debba gestire grandi quantità di informazioni.