Il nuovo contesto dell’AI enterprise

Gli agenti AI, una volta confinati a progetti pilota isolati, stanno rapidamente diventando componenti integrati di ecosistemi complessi. Essi operano sia su piattaforme interne sia tramite fornitori esterni, creando un panorama in cui agenti sviluppati internamente interagiscono con agenti marketplace e con soluzioni di terze parti. Gartner descrive la gestione centralizzata di questi agenti come un requisito emergente per garantire coerenza e sicurezza in tutti gli ambienti di implementazione.

Questa espansione porta con sé nuovi rischi di esecuzione: concedere accesso a sistemi aziendali sensibili a un agente comporta la necessità di controlli calibrati per ciascun caso d’uso, al fine di evitare conseguenze indesiderate.

Governare in base a cosa l’agente può fare, non a chi lo ha creato

Secondo IBM, la governance deve essere definita in base alle capacità operative di ogni agente, indipendentemente dal fornitore. Un rapporto di fiducia con un vendor non giustifica un’autorizzazione illimitata. Ogni agente richiede:

    • un responsabile verificato,
    • accessi e autonomia limitati al proprio scopo aziendale,
    • controlli pre‑esecuzione che applichino le policy,
    • una traccia documentale che preservi la responsabilità.

Le aziende valutano già sicurezza, privacy e conformità dei fornitori, ma approvare un fornitore è diverso dal decidere quanta autorità concedere a uno specifico agente.

Esempio di differenziazione dei rischi

Consideriamo tre agenti dello stesso fornitore di fiducia:

    • Agente A: sintetizza informazioni pubbliche.
    • Agente B: accede ai dati dei clienti e suggerisce azioni successive.
    • Agente C: modifica account o esegue transazioni finanziarie autonomamente.

Il fornitore rimane invariato, ma il livello di rischio varia drasticamente. La governance deve riflettere autonomia, accesso, autorità e impatto potenziale di ciascun agente.

Impatto reale negli scenari aziendali

Un errore di un operatore umano, come un addetto al servizio clienti di una compagnia aerea che comunica erroneamente una riprogrammazione di volo, può generare un reclamo singolo. Se lo stesso errore è compiuto da un agente autonomo in migliaia di interazioni prima di essere rilevato, le conseguenze si amplificano esponenzialmente. Nei settori regolamentati – finanza, sanità, energia – l’impatto di un agente che agisce al di fuori dei limiti previsti può tradursi in violazioni normative e danni reputazionali.

Il caso di Riyadh Air illustra la scala di un ecosistema AI‑native: 59 flussi di lavoro, oltre 60 partner e più di 1.800 integrazioni collegano 75 sistemi. Watsonx Orchestrate coordina agenti specializzati in ambiti commerciali, operativi e di servizio, garantendo che i dati contestuali fluiscano in modo controllato.

Domande fondamentali per ogni agente

Una governance efficace parte dalla comprensione dettagliata dell’agente. Le organizzazioni devono rispondere a:

    • Chi è il proprietario dell’agente?
    • Chi lo gestisce?
    • A quale scopo aziendale serve?
    • Quali sistemi e dati utilizza?
    • Quali azioni può intraprendere?
    • Può interagire con altri strumenti o agenti?
    • Per conto di chi agisce?

Queste domande diventano cruciali quando l’agente proviene da un’entità esterna.

Standard emergenti e principi di sicurezza

Il NIST sta definendo standard per gli agenti AI, evidenziando quattro pilastri: identificazione, autorizzazione, audit e non ripudio. Il principio di “privilegio minimo” richiede che ogni agente riceva solo le autorizzazioni strettamente necessarie. Un principio complementare, la “minima autonomia”, suggerisce di concedere capacità operative solo quando il valore aggiunto supera il rischio.

Esempio pratico: un team finanziario può permettere a un agente di riconciliare le transazioni e segnalare discrepanze, ma richiedere un’approvazione umana per qualsiasi modifica ai registri contabili.

Governance vs. observability

Spesso i due concetti vengono confusi. L’observability consente di tracciare cosa ha fatto un agente, quali strumenti ha usato e dove si sono verificati errori. La governance, invece, definisce cosa dovrebbe essere consentito, traduce le policy in controlli, assegna responsabilità e predispone meccanismi di intervento.

Una policy tipica potrebbe vietare a un agente del servizio clienti di emettere rimborsi superiori a una certa soglia. L’observability rileva che l’agente ha superato la soglia; la governance interviene bloccando la transazione, richiedendo un’approvazione o annullando l’operazione.

Modello operativo in cinque azioni

Gartner suggerisce di trasformare regole aziendali, limiti dati, requisiti di approvazione e percorsi di escalation in controlli eseguibili in tempo reale. IBM propone cinque azioni concrete per realizzare questo modello:

    • Catalogare gli agenti: creare un registro centralizzato che includa proprietà, scopi, dipendenze e livelli di rischio.
    • Definire policy basate su capacità: stabilire limiti di autonomia e accesso per ogni classe di agente, applicando il principio del privilegio minimo.
    • Implementare controlli runtime: utilizzare meccanismi di enforcement che valutino le policy prima dell’esecuzione di azioni critiche.
    • Abilitare l’observability continua: raccogliere log, metriche e trace per monitorare comportamenti, rilevare anomalie e fornire audit trail.
    • Automatizzare la risposta: collegare sistemi di alert e workflow di mitigazione per contenere rapidamente incidenti o violazioni.

Queste azioni riducono il tempo tra l’emergere di un problema e la capacità dell’organizzazione di contenerlo, mantenendo al contempo l’agilità necessaria per sfruttare il valore degli agenti.

Gestione della delega tra agenti

Quando gli agenti cominciano a delegare compiti ad altri agenti, la catena di responsabilità si complica. È necessario:

    • tracciare le deleghe in modo trasparente,
    • verificare che ogni agente delegante abbia l’autorizzazione per la delega,
    • applicare le stesse policy di controllo al destinatario della delega.

Un workflow tipico può prevedere un operatore umano che assegna un compito a un agente interno, il quale a sua volta chiama un agente specializzato esterno per ottenere dati aggiuntivi. Ogni passaggio deve essere registrato e soggetto a controlli di conformità.

Conclusioni

La governance degli agenti AI di terze parti non può più basarsi su approvazioni statiche dei fornitori. Deve evolvere verso un modello dinamico, basato su capacità operative, rischio e impatto. Applicando i principi del privilegio minimo e della minima autonomia, combinati con una forte osservability, le organizzazioni possono mantenere il controllo, garantire la responsabilità e sfruttare appieno il potenziale degli agenti AI.