Introduzione al contesto e alle sfide
Un chatbot di supporto clienti che interroga ticket storici e articoli della knowledge base archiviati in Amazon Aurora PostgreSQL‑Compatible Edition può offrire risposte rapide e contestualmente rilevanti. Tuttavia, l’uso di dati sensibili introduce problemi legati a privacy, accuratezza, sicurezza e governance. Per affrontare questi problemi AWS ha definito otto dimensioni di AI Responsabile (RAI) che fungono da quadro di riferimento per valutare e implementare sistemi di intelligenza artificiale affidabili.
In questo articolo ci concentreremo sulla dimensione Explainability (Spiegabilità), presentando un design pattern dettagliato basato su un chatbot di supporto clienti che utilizza il modello Retrieval‑Augmented Generation (RAG). Il contenuto è il primo di una serie di approfondimenti su tutte le otto dimensioni.
Amazon Aurora PostgreSQL e Aurora ML: un vantaggio operativo
L’edition compatibile con PostgreSQL di Aurora semplifica l’operatività dell’AI responsabile grazie alle sue capacità native di Aurora Machine Learning (Aurora ML). Con Aurora ML è possibile invocare endpoint di Amazon SageMaker e modelli di fondazione di Amazon Bedrock direttamente da SQL, eliminando la necessità di pipeline ETL complesse o di spostamenti di dati fuori dal database.
Nel caso specifico, Aurora ML genera vettori di embedding direttamente da SQL, mantenendo l’intera pipeline di embedding all’interno del livello di database. Questo approccio riduce la latenza, diminuisce i costi di trasferimento dati e semplifica la tracciabilità delle operazioni.
Le otto dimensioni di AI responsabile di AWS
Tabella di mappatura
- Fairness: garantire risposte di pari qualità per tutte le lingue, regioni e profili cliente.
- Explainability: fornire a utenti e operatori informazioni su come è stata generata una risposta.
- Privacy and Security: proteggere i dati sensibili dei clienti.
- Safety: evitare risposte tossiche o inadeguate.
- Controllability: consentire il controllo del comportamento del chatbot e l’escalation verso operatori umani.
- Veracity and Robustness: assicurare accuratezza e ridurre le allucinazioni del modello.
- Governance: mantenere un audit trail completo delle decisioni del chatbot.
- Transparency: informare chiaramente gli utenti sull’interazione con l’AI e mostrare le fonti dei dati.
Strategie di implementazione per ciascuna dimensione
Di seguito una sintesi delle strategie pratiche, dei principali feature di PostgreSQL/Aurora e dei servizi AWS correlati.
| Dimensione RAI | Significato | Approcci di implementazione | Feature PostgreSQL / Aurora | Servizi AWS principali |
|---|---|---|---|---|
| Fairness | Risposte equilibrate per tutti gli utenti | Test di bias con query multilingue; separazione demografica dagli embedding | pgvector, JSONB, viste filtrate | Amazon Bedrock Model Evaluation, SageMaker Clarify |
| Explainability | Tracciabilità delle risposte | Log di chunk recuperati, punteggi di similarità, citazioni; logging completo dell’interazione | tabella chat_interactions, colonne array, JSONB, pgvector similarity | Amazon Bedrock Knowledge Bases, InvokeModel |
| Privacy and Security | Protezione dei PII | Redazione PII prima dell’embedding; Row‑Level Security, crittografia, RBAC | RLS, pgcrypto, ruoli, policy | Bedrock Guardrails, AWS KMS, Comprehend, IAM |
| Safety | Prevenzione di risposte dannose | Filtri di contenuto, argomenti negati, protezione da prompt injection, throttling | Funzioni SQL, log delle interazioni | Bedrock Guardrails |
| Controllability | Direzione del comportamento del bot | Escalation umano‑in‑loop, tabella feedback, feature flag, kill switch | tabella chat_feedback, trigger, tabelle di escalation | Bedrock Guardrails, CloudWatch, CloudTrail |
| Veracity and Robustness | Accuratezza e riduzione delle allucinazioni | Soglia di similarità, versionamento dei documenti, controlli di validità | colonne tipizzate pgvector, constraint CHECK, trigger | Bedrock Guardrails, Model Evaluation |
| Governance | Audit e responsabilità | Logging di audit con policy di retention; tracciamento versioni modello | pgaudit, pg_cron, JSONB metadata modello | AWS Audit Manager, CloudTrail |
| Transparency | Chiarezza verso l’utente | Notifica “Powered‑by‑AI”, citazioni, avviso privacy | viste SQL, log interazioni | Bedrock Knowledge Bases, AI Service Cards |
Focus sulla spiegabilità (Explainability)
La spiegabilità è cruciale per guadagnare fiducia sia dagli utenti finali sia dagli operatori di supporto. Il pattern di progettazione prevede tre componenti fondamentali: logging dei chunk recuperati, archiviazione dei punteggi di similarità e cattura delle citazioni all’interno di una struttura relazionale.
Schema di logging
chat_interactions: registra ID sessione, timestamp, query dell’utente, vettore di embedding della domanda, ID del modello usato.retrieved_chunks: per ogni interazione memorizza gli ID dei documenti recuperati, i punteggi di similarità, e il testo originale (o un hash se il contenuto è sensibile).response_citations: collega la risposta finale ai chunk citati, includendo la posizione nel documento e la percentuale di contributo.
Flusso operativo
- L’utente invia una domanda via Amazon API Gateway.
- API Gateway attiva una funzione AWS Lambda che chiama
awsbedrock.invokemodelgetembeddingsper generare l’embedding della domanda usando Amazon Titan Text Embeddings V2. - L’embedding viene inviato a Aurora PostgreSQL, dove la funzione
pgvectoresegue una ricerca di similarità cosine contro la collezione di embedding dei documenti. - I chunk più rilevanti (es. top‑5) vengono inseriti in
retrieved_chunkscon i relativi punteggi. - Il testo dei chunk viene filtrato da Bedrock Guardrails per rimuovere eventuali PII residui e per verificare la conformità a policy di sicurezza.
- Il contesto filtrato è inviato al modello di fondazione di Bedrock, che genera la risposta finale.
- La risposta, le citazioni e i metadati di guardrail vengono registrati in
responsecitationse inchatinteractionsper garantire tracciabilità completa.
Architettura completa del chatbot RAG con controlli RAI
L’architettura si compone di tre macro‑aree: ingestione dei dati, flusso di query/risposta e applicazione dei controlli di AI responsabile. Il diagramma (non mostrato) evidenzia i percorsi di dati da sinistra a destra, con i punti di inserimento di ogni dimensione RAI.
Ingestione dei dati
- Una pipeline ETL (es. AWS Glue o Lambda) carica ticket storici, FAQ e documentazione prodotto in Aurora PostgreSQL.
- Prima del caricamento, Amazon Comprehend rileva e redige automaticamente le informazioni PII.
- Il testo pulito viene trasformato in embedding mediante la funzione
awsbedrock.invokemodelgetembeddings, che utilizza Titan Text Embeddings V2 (1.024 dimensioni) e li salva conpgvector. - I metadati (categoria, lingua, data) vengono memorizzati in colonne
JSONBper facilitare filtraggi futuri.
Flusso di query e risposta
Il percorso di una richiesta utente è il seguente:
- API Gateway riceve la domanda via HTTPS.
- Lambda genera l’embedding della domanda e lo invia ad Aurora.
- Aurora esegue una ricerca cosine su
pgvectorper identificare i chunk più pertinenti. - I chunk sono sottoposti a Guardrails per filtrare contenuti non consentiti e PII.
- Il contesto filtrato viene passato al modello Bedrock per la generazione della risposta.
- Tutte le fasi (embedding, ricerca, guardrail, generazione) sono loggate nei tavoli di spiegabilità.
- La risposta, arricchita da citazioni, viene restituita all’utente.
Quando optare per un servizio gestito
Se le esigenze di retrieval e citazione sono standard, Amazon Bedrock Knowledge Bases offre una soluzione RAG pronta all’uso con controlli di base. Tuttavia, quando è necessario:
- Conservare la provenienza dei dati in schemi personalizzati,
- Registrare punteggi di similarità e tracce di guardrail per audit interno,
- Integrare logica di business complessa (es. regole di escalation),
- Gestire politiche di retention specifiche,
è consigliabile implementare il design descritto in questo articolo.
Conclusioni e prossimi passi
Le capacità native di Aurora PostgreSQL, unite alle API di Aurora ML, consentono di costruire un chatbot di supporto clienti che rispetti pienamente le otto dimensioni di AI responsabile di AWS. Questo articolo ha fornito un’esposizione dettagliata della dimensione Explainability, mostrando come loggare, tracciare e visualizzare le fonti delle risposte generate.
Nei prossimi articoli approfondiremo le altre sette dimensioni, illustrando esempi concreti di:
- Testing di bias e garanzia di equità (Fairness),
- Implementazione di filtri di contenuto e protezione da prompt injection (Safety),
- Strategie di controllo operativo e escalation umano‑in‑loop (Controllability),
- Meccanismi di verifica della veridicità e robustezza delle risposte (Veracity),
- Audit completo e gestione delle versioni di modello (Governance),
- Comunicazione trasparente verso l’utente finale (Transparency).
Adottando questo approccio modulare, le organizzazioni possono evolvere il proprio chatbot in modo incrementale, aggiungendo i controlli di responsabilità necessari man mano che le esigenze di business e normative evolvono.
