Le imprese stanno introducendo in produzione i propri agenti di intelligenza artificiale convinte di poterli governare, ma poche hanno attrezzato i meccanismi di controllo su ciò che realmente fanno. La differenza appare quando gli agenti si moltiplicano, si concatenano e si contraddicono su dati e processi non previsti da alcuna procedura di approvazione.

Il divario tra deployment e governance

OutSystems, editore portoghese di una piattaforma di sviluppo e orchestrazione di agenti, ha pubblicato con KPMG lo studio “Engineering Business Outcomes: The Shift to Agentic Systems”. Lo studio si basa su un’indagine online condotta da CIO Dive dal 16 al 29 giugno 2026, con la partecipazione di 858 dirigenti di Nord America, Europa, Giappone, India e Australia.

I risultati mostrano che il 82 % dei rispondenti contesta l’idea che il deployment degli agenti superi la governance, l’integrazione e la supervisione. Tuttavia, solo il 26 % si dichiara ben preparato a risolvere i conflitti tra agenti, e appena il 5 % ha implementato controlli automatizzati, piste di audit e punti di revisione umana formalizzati.

Un anno prima, la stessa collaborazione aveva individuato governance, sicurezza e conformità come i principali ostacoli per il 64 % dei 550 dirigenti intervistati ad aprile‑maggio 2025.

Altri studi confermano il divario

KPMG ha riscontrato lo stesso scostamento nel suo barometro trimestrale del 24 settembre, basato su 314 dirigenti di grandi aziende americane: il 73 % si sente fiducioso nella propria governance dell’IA, ma solo il 30 % dichiara di integrare controlli nei propri agenti.

L’ISACA, in un sondaggio di maggio, ha rilevato che il 56 % dei 3 400 professionisti intervistati non conosceva il tempo necessario per fermare un sistema IA dopo un incidente. Cisco, nel suo indice di maturità di ottobre 2025, ha stimato che solo il 31 % delle aziende è pienamente equipaggiata per controllare e mettere in sicurezza gli agenti.

Governance progettata per software statici

La fiducia dei dirigenti si basa su meccanismi a loro noti. Lo studio evidenzia che l’83 % delle aziende gestisce gli agenti con i processi esistenti di DSI, sicurezza o conformità, riservando revisioni ai casi più a rischio o adottando politiche di supervisione centralizzata.

Queste procedure sono state ideate per applicazioni approvate una sola volta, poi modificate tramite versioni che rientrano nuovamente nel ciclo di sviluppo. Gli agenti, invece, non seguono questo ciclo.

Michael Harper, direttore associato di KPMG, sottolinea che una semplice modifica della consigna di un agente o l’aggiornamento del modello sottostante può alterare totalmente il comportamento senza attivare alcuna fase di validazione del ciclo di sviluppo.

Il problema si aggrava per la dispersione degli strumenti: il 72 % delle aziende utilizza più di venti strumenti, modelli o piattaforme IA differenti, e gli agenti sono spesso costruiti in silos per servizio, come spiega Gonçalo Borrêga, vicepresidente dei prodotti di OutSystems.

Disparità geografica

L’Europa è la regione meno attrezzata: solo il 3 % delle imprese europee dispone di controlli automatizzati, audit trail e revisioni umane congiunte, contro il 14 % in Asia e Australia e il 2 % in Nord America. Inoltre, il 40 % delle aziende europee prevede di ricorrere a partner o fornitori di servizi gestiti per contenere l’aumento dei costi IA, contro il 31 % in Nord America.

Conflitti tra agenti: una categoria non definita

Lo studio introduce il concetto di “conflitto tra agenti” senza offrirne una definizione precisa. Indica decisioni contraddittorie di agenti che operano sugli stessi dati, sistemi o flussi automatizzati.

Gonçalo Borrêga lo vede come un problema nascosto: molte aziende ignorano i conflitti perché i loro agenti, sviluppati separatamente, si incontrano per la prima volta su dati di transazione in produzione.

I rispondenti segnalano come principali ostacoli all’orchestrazione la sicurezza, i diritti e l’applicazione delle policy tra agenti (67 %), la affidabilità delle concatenazioni (38 %) e la coerenza dei dati e la condivisione del contesto (35 %).

Standard in evoluzione

Questi conflitti sfuggono anche agli standard emergenti, che non regolano l’arbitraggio. Il protocollo A2A, affidato da Google alla Linux Foundation nel giugno 2025, e il protocollo MCP, trasferito al Agentic AI Foundation nel dicembre 2025, gestiscono la comunicazione tra agenti e l’accesso agli strumenti.

Il Top 10 dei rischi delle applicazioni agentiche, pubblicato da OWASP nel dicembre 2025, tratta la sicurezza, mentre l’iniziativa di standardizzazione NIST di febbraio 2026 riguarda identità e interoperabilità. Nessuno di questi documenti indica quale agente prevalga quando gli obiettivi sono incompatibili.

KPMG osserva che il 25 % delle aziende americane sviluppa sistemi multi‑agente, contro il 6 % due trimestri prima.

Affidabilità in catena

La affidabilità di un sistema di agenti si misura sull’intera catena. “Un agente affidabile al 98 %, chiamato cinque volte di seguito, è in realtà molto meno affidabile di quanto i dirigenti suppongano”, avverte Michael Harper.

Il calcolo è semplice: cinque passaggi affidabili ciascuno al 98 % riducono la probabilità di successo complessivo a circa il 90 %.

Un agente che esegue azioni su più sistemi senza una tracciabilità rigorosa dei dati può produrre risultati corretti a ogni step ma errati al termine del processo.

Approccio di ingegneria classica

La risposta a questa fragilità risiede nell’ingegneria software tradizionale, applicata agli agenti. Gonçalo Borrêga consiglia di trattare ogni agente come un’unità di lavoro e di testare l’orchestrazione completa, come le squadre testano l’integrazione dei servizi.

Il 81 % delle aziende è disposto a testare, valutare e validare il comportamento degli agenti, mentre l’87 % intende applicare costantemente le proprie policy di sicurezza e conformità.

Tuttavia, è necessario ricostruire le ragioni di una decisione agente: quale contesto è stato consultato, quali strumenti sono stati chiamati. I log tecnici tradizionali, pensati per correggere codice, non lo consentono, secondo Harper.

Controllo a runtime: identità e diritti

Il controllo si sposta dall’approvazione a ciascuna azione. Secondo Borrêga, la sicurezza a runtime deve rimanere deterministica anche quando il modello non lo è, con ogni chiamata di un agente a un sistema che eredita l’identità e i diritti dell’utente o del processo servito.

Un errore del modello o una consigna malevola non possono ampliare i privilegi. La reversibilità dell’azione diventa il criterio per decidere se l’escalation verso un umano è parte del flusso normale o un’eccezione.

Soluzioni di mercato

    • Microsoft ha lanciato il 1 maggio 2026 Agent 365, a 15 dollari per utente, per inventariare, autorizzare e monitorare gli agenti.
    • ServiceNow ha esteso a maggio il suo AI Control Tower, capace di fermare in tempo reale gli agenti che superano i propri diritti.
    • OutSystems si presenta come piattaforma aperta e neutra, rilasciando il 7 ottobre la versione generale del suo nuovo modulo di governance operativa.

In sintesi, la transizione da una governance basata su regole scritte a un controllo dinamico su ogni azione è ormai imprescindibile. Le aziende devono adottare strumenti di audit in tempo reale, definire chiaramente i criteri di arbitraggio tra agenti e implementare pratiche di testing end‑to‑end per garantire affidabilità, sicurezza e conformità nell’ecosistema agentico emergente.