Architettura di riferimento per una piattaforma di IA agent-based
Costruire una piattaforma di IA basata su agenti e portarla in produzione presenta sfide significative, meno legate ai modelli o agli strumenti stessi, quanto piuttosto all'ambiente circostante. Le principali difficoltà includono la costruzione in un ambiente sicuro, l'accesso ai modelli e agli strumenti, la gestione degli errori e il monitoraggio dei costi e della salute del sistema su più account.
AWS ha presentato un'architettura di riferimento per una piattaforma di IA agent-based aziendale basata su Amazon Bedrock e Amazon Bedrock AgentCore. Quest'ultimo fornisce servizi modulari come runtime, gateway, identità, memoria, politiche, registro e valutazioni. Il « Enterprise Agentic AI Platform Blueprint » aggiunge, sotto forma di infrastruttura as code deployabile, i contratti aziendali relativi a proprietà, confini di account, consegna del software, osservabilità, governance dei costi e ritiro.
Componenti chiave dell'architettura
L'architettura si basa su un modello multi-account, con un piano di controllo gestito dal team di piattaforma. Ogni « Workstream » (team di prodotto o business che costruisce e possiede i propri agenti) ha uno schema di distribuzione riproducibile. Sono previste passerelle distinte per l'inferenza e gli strumenti, nonché un pipeline di valutazione che condiziona la messa in produzione di ogni agente.
L'obiettivo è evitare che ogni team ricostruisca i propri controlli, il che può portare a derive, colli di bottiglia sui servizi condivisi e difficoltà di audit. Ogni Workstream deve avere una « via balizzata » con modelli e strumenti approvati, identità di lavoro a breve durata, runtime e memoria isolati, valutazione automatizzata, rollback, telemetria e attribuzione dei costi.
Vantaggi per le organizzazioni
Con questa architettura, le organizzazioni possono permettere ai team di consegnare e fare rollback in modo autonomo, senza dover attendere il team di piattaforma o avere accesso diretto in scrittura all'infrastruttura. Gli ingegneri di produzione ottengono log, metriche, tracce e quote, mentre i responsabili dei Workstream possono vedere il costo per agente rispetto al loro budget.
La finanza può fatturare per team o unità tramite AWS Cost Explorer e il rapporto CUR, e i responsabili della sicurezza dispongono di prove che indicano quale carico di lavoro ha chiamato quale modello o strumento.
Accesso governato ai modelli e agli strumenti
L'architettura risponde a cinque bisogni ricorrenti espressi dai clienti. Innanzitutto, un accesso governato ai modelli: ogni richiesta di inferenza non affidabile passa attraverso una gateway approvata che applica i guardrail (Amazon Bedrock Guardrails o un fornitore terzo), limita i modelli e le regioni AWS autorizzate per Workstream, impone limiti di throughput, quote di token e budget per evitare che un team esaurisca la capacità condivisa, e trasporta l'identità emettendo i dati di attribuzione.
In secondo luogo, un accesso governato agli strumenti: gli agenti scoprono e invocano solo strumenti approvati tramite una gateway Model Context Protocol (MCP) autenticata, con target esatti, ruoli di esecuzione a privilegi minimi, decisioni di policy e proprietario auditabile. Sono inclusi anche la consegna delegata, le operazioni di flotta con tracciamento dei costi, la prova limitata e la gestione del ciclo di vita di ogni versione dell'agente.
Di fronte alla proliferazione dei casi d'uso agent-based in azienda, AWS posiziona la piattaforma come un prodotto da progettare e gestire, piuttosto che un assemblaggio lasciato a ogni team.