Il contesto attuale: agenti autonomi in produzione

Le soluzioni di intelligenza artificiale agentica stanno passando da progetti pilota a operazioni produttive. Questi sistemi non si limitano a fornire suggerimenti, ma pianificano e eseguono compiti, selezionano strumenti, chiamano API, modificano dati e configurazioni e operano con identità proprie o permessi delegati. Più l’autonomia è integrata nei processi core, più si riduce lo spazio per il controllo umano in tempo reale.

Il fenomeno più comune è il cosiddetto “errore non umano”. Nonostante la consapevolezza dei rischi da parte di dirigenti e team IT, la pressione competitiva spinge molte aziende a introdurre agenti senza integrarli adeguatamente nelle infrastrutture di sicurezza esistenti.

Una realtà di incidenti: dati della ricerca Economist Enterprise

Una recente indagine globale commissionata da Rubrik, intitolata “Macht ohne Kontrolle: Cybersicherheit im Zeitalter agentenbasierter KI neu denken”, rivela che il 90 % dei decision‑maker che utilizzano agenti IA li implementa più rapidamente di quanto i team di sicurezza possano valutare e gestire. Inoltre, l’88 % ritiene che gli agenti introducano nuove vulnerabilità per le quali i meccanismi di controllo attuali non sono adeguati.

Di conseguenza, il 98 % degli intervistati ha segnalato almeno un incidente legato a un agente, e nove su dieci prevedono ulteriori incidenti, indipendentemente dalle misure di protezione già in atto. L’agentic AI genera quindi una nuova classe di errori, dove le interruzioni non derivano solo da attacchi esterni o errori umani, ma anche da azioni autonome errate quali:

    • scelta di strumenti inappropriati;
    • uso di scorciatoie non conformi in processi multi‑step;
    • esecuzione di operazioni rischiose su dati di produzione.

Le conseguenze vanno oltre i problemi tecnici, includendo implicazioni legali, cancellazione di intere basi di dati produttive, multe regolamentari, interruzioni della catena di approvvigionamento, perdite di fatturato e danni reputazionali. Gli incidenti legati agli agenti rappresentano così un rischio di business di dimensioni incalcolabili.

La lacuna di trasparenza e l’illusione della preparazione

Il punto critico più grave è la mancanza di tracciabilità. Due terzi delle aziende non hanno una visione completa delle azioni svolte dai propri agenti, rendendo la risposta agli incidenti un gioco di indovinelli: catene di azioni, identità, accessi ai dati e azioni successive non possono essere ricostruite in modo coerente.

Parallelamente, si crea un falso senso di prontezza. Il 95 % delle imprese fornisce obiettivi di tempo di ripristino, ma quasi la metà di queste indicazioni è informale o vaga. Solo il 30 % dispone di capacità robuste e testate per contenere, annullare e recuperare da azioni dannose degli agenti, mentre il 43 % ammette che i propri processi di ripristino non coprono tutti i tipi di incidenti o tutti gli agenti coinvolti.

Il problema si estende alla governance aziendale: la stessa indagine evidenzia che solo il 25 % delle aziende informa regolarmente la dirigenza sui risultati delle attività di cyber‑ripristino, lasciando i vertici a prendere decisioni sugli investimenti in IA senza sapere se l’organizzazione è effettivamente in grado di rispondere a un guasto.

Ribilanciare investimenti: dalla prevenzione al “rewind”

Nonostante la frequenza degli incidenti, la maggior parte del budget di sicurezza continua a privilegiare la prevenzione (55 % contro 45 % destinati a risposta e ripristino). Gli esperti prevedono che questo squilibrio persisterà fino al 2030. Tuttavia, l’aumento dell’autonomia degli agenti genera percorsi di errore più numerosi e complessi, rendendo impossibile una protezione preventiva completa.

Diventa quindi indispensabile potenziare la resilienza operativa attraverso:

    • meccanismi di “rewind” che consentano di annullare rapidamente le azioni dannose;
    • processi di ripristino automatizzati e testati su scenari specifici di agenti;
    • monitoraggio continuo e registrazione dettagliata delle attività degli agenti;
    • inclusione della leadership aziendale nei report di cyber‑ripristino.

Solo così è possibile limitare l’impatto degli incidenti, ridurre l’incertezza residua e garantire che le organizzazioni possano continuare a operare anche in presenza di errori autonomi.

Conclusioni

L’adozione di intelligenze artificiali agentiche sta trasformando il panorama della sicurezza informatica, introducendo una classe di errori che non può più essere trattata come semplice rischio da prevenire. Le evidenze mostrano che quasi tutte le aziende hanno già vissuto incidenti, ma la maggior parte non possiede gli strumenti di visibilità e di risposta necessari per gestirli efficacemente. Un cambio di paradigma è inevitabile: è necessario spostare parte significativa delle risorse dalla sola prevenzione verso capacità di ripristino, controllo e governance trasparente, coinvolgendo anche la dirigenza nella valutazione dei rischi. Solo così le imprese potranno sfruttare i vantaggi dell’agentic AI senza compromettere la continuità operativa e la fiducia dei clienti.