I grandi modelli linguistici possono generare risposte solo in base ai dati su cui sono stati addestrati. Questi dati possono essere obsoleti, non includere informazioni proprietarie, portare a allucinazioni e richiedere costose aggiornamenti.

Ecco dove entra in gioco la Retrieval-Augmented Generation (RAG). La RAG supera questi limiti di dati recuperando informazioni rilevanti al momento della query da fonti esterne o interne affidabili e fornendole al LLM come contesto per generare una risposta. Le risposte sono più precise, si basano su documenti fonte affidabili, sono aggiornate e su misura per le conoscenze specifiche dell'azienda.

Lo stesso meccanismo che rende la RAG così preziosa - ovvero concedere alla KI l'accesso ai dati aziendali in cambio di risposte più precise e contestuali - comporta tuttavia nuovi rischi per la sicurezza se questi dati non sono adeguatamente protetti. Inoltre, l'integrazione dei LLM con i dati aziendali comporta rischi aggiuntivi che vanno oltre quelli dei modelli autonomi.

In questo articolo viene spiegato il funzionamento della RAG e vengono evidenziati i principali rischi per la sicurezza. Successivamente, vengono presentate strategie pratiche per proteggere i dati RAG e soddisfare i requisiti di governance e conformità.

Il funzionamento della RAG e come amplia la superficie di attacco

L'integrazione della RAG nei flussi di lavoro dell'IA avviene in diverse fasi:

    • Raccolta dei dati. Vengono raccolti e preparati documenti aziendali, database e altre fonti di conoscenza autorizzate.
    • Chunking ed embedding. Il sistema divide i documenti in chunk e li converte in rappresentazioni numeriche che catturano il significato, consentendo una ricerca efficiente.
    • Database vettoriale. Questo memorizza i chunk, consentendo una ricerca semantica basata sul significato e non su corrispondenze esatte con parole chiave.
    • Recupero. Quando un utente inserisce una query, il sistema setaccia il database vettoriale e recupera i contenuti più rilevanti.
    • Generazione della risposta. I contenuti recuperati vengono forniti al LLM come contesto, in modo che possa generare una risposta basata sui dati aziendali aggiornati, piuttosto che basarsi esclusivamente sul suo addestramento originale.

Ogni fase della pipeline dei dati RAG - dalla raccolta dei dati alla generazione delle risposte - diventa parte della superficie di attacco per l'IA. La RAG introduce diverse frontiere di fiducia che le informazioni sensibili attraversano prima di raggiungere gli utenti.

I principali rischi per la sicurezza dei dati nella RAG

A differenza dei database tradizionali, i sistemi RAG forniscono dati attraverso query in linguaggio naturale, offrendo agli attaccanti nuove opportunità. Tra queste, la divulgazione non autorizzata di dati, la manipolazione di prompt e risultati di ricerca, l'avvelenamento dei dati e le perdite di dati.

Divulgazione non autorizzata di dati

Una divulgazione è spesso dovuta a permessi di documenti mancanti o configurati in modo errato. In combinazione con parametri di query troppo ampi, il sistema potrebbe fornire informazioni sensibili a utenti non autorizzati. Ad esempio, un dipendente delle vendite potrebbe recuperare documenti personali riservati tramite un assistente KI.

Manipolazione di prompt e recuperi

Dati di origine non autorizzati potrebbero essere introdotti nel sistema RAG, portando a contaminazione del contesto, documenti dannosi, istruzioni nascoste e attacchi tramite prompt injection. In questo caso, gli attaccanti manipolano il contesto recuperato e non il modello stesso.

Avvelenamento dei dati

In un attacco di avvelenamento dei dati, gli attaccanti prendono di mira i dati di origine. Ad esempio, possono falsificare i dati, inserire dati dannosi negli aggiornamenti del database di conoscenza o fornire linee guida aziendali false - tutto ciò porta a una perdita di fiducia.

Perdite di dati

Le perdite di dati espongono informazioni sensibili, tra cui dati personali e clienti, dati finanziari, proprietà intellettuale, documenti regolamentati per legge o altri contenuti che dovrebbero rimanere interni o essere accessibili solo in modo limitato.

Costruzione di una pipeline di dati RAG sicura

Per minimizzare i rischi per la sicurezza legati ai dati RAG, è importante integrare le misure di sicurezza in tutta la pipeline RAG fin dall'inizio - e non solo dopo il deployment. Concentratevi su cinque misure di sicurezza concrete: raccolta sicura dei dati, controlli di accesso, protezione del database vettoriale, riduzione dell'esposizione del database e interazione sicura con l'IA.

Raccolta sicura dei dati

Seguite le seguenti procedure per proteggere il processo di raccolta dei dati:

    • Validare i documenti di origine.
    • Scansionare i file caricati.
    • Rimuovere file dannosi o errati.
    • Classificare i dati in modo uniforme e preciso.
    • Assegnare metadati utilizzando tag standard.

Implementare controlli di accesso basati sull'identità

Gestite l'accesso ai dati utilizzando controlli di accesso basati su ruoli (RBAC) e filtri di controllo di accesso basati su attributi. Evitate la propagazione delle identità degli utenti e l'espansione furtiva dei privilegi applicando i principi dell'accesso least-privilege. Quando si interrogano i dati KI, devono essere considerati i permessi di documento esistenti e le identità degli utenti. Non devono mai essere recuperati contenuti a cui un utente non potrebbe accedere direttamente.

Proteggere i database vettoriali

Gestite i database vettoriali in cui sono memorizzati i dati disponibili tramite RAG. Implementate misure di crittografia efficaci per i dati memorizzati e in transito, oltre all'autenticazione e alla sicurezza delle API. Anche la sicurezza dell'infrastruttura, come la segmentazione di rete e la gestione dei backup, è di fondamentale importanza.

Proteggere i dati sensibili dalla divulgazione

Applicate procedure comuni per ridurre l'esposizione dei dati, tra cui minimizzazione dei dati, anonimizzazione, tokenizzazione, gestione dei dati riservati e indicizzazione limitata dei contenuti.

Proteggere il livello di interazione con il LLM

Garantire una comunicazione sicura tra gli utenti e il LLM utilizzando procedure KI comuni, come:

    • Filtraggio dei prompt. Verificare e pulire le input degli utenti per evitare tentativi di prompt injection.
    • Validazione dei prompt. Verificare che i prompt siano conformi alle linee guida aziendali.
    • Monitoraggio delle interazioni. Monitorare le interazioni tra utenti e LLM per rilevare comportamenti sospetti.