L'AI agentic sta emergendo come un carico di lavoro primario all'interno degli ambienti aziendali. La domanda ora è se questi agenti faranno ciò che ci si aspetta da loro o se potrebbero diventare una minaccia alla sicurezza. L'AI agentic complica le sfide di controllo e governance delle identità che le organizzazioni devono affrontare, soprattutto quando gli agenti creano altri agenti.

Anche se l'AI agentic non è ancora un carico di lavoro primario, lo diventerà presto. In un mondo perfetto, questi agenti eseguirebbero i compiti esattamente come previsto. Ma non viviamo in un mondo perfetto, e ci sono già stati casi in cui gli agenti sono diventati autonomi, sviluppando una propria missione e trasformandosi in attaccanti. Anche quando l'agente non ha intenzioni maliziose, il controllo e la visibilità rimangono fondamentali, non solo per la sicurezza, ma anche per ottimizzare l'economia dei token, monitorare la portata del controllo e mantenere la continuità aziendale.

Le organizzazioni sono ora chiamate a sviluppare e implementare soluzioni di AI agentic sicure con robuste funzionalità di sicurezza integrate che possano essere governate correttamente.

Gli agenti non sono utenti

L'AI può essere uno degli strumenti più potenti a disposizione per la cybersecurity. Allo stesso tempo, può essere uno degli strumenti più pericolosi utilizzati come arma contro le risorse IT critiche. "La verità scomoda è che se puoi usare l'AI per trovare vulnerabilità nei tuoi prodotti, anche i cattivi possono farlo", ha scritto Jon Green, CTO di Networking presso HPE.

Come si costruiscono agenti con robuste funzionalità di sicurezza integrate e che possono essere governati bene? Come si implementano guardrail che eccellono nel monitorare il comportamento degli agenti? Per l'AI agentic, il presupposto fondamentale è che è necessario avere il controllo su elementi chiave come l'esecuzione del codice, l'accesso ai dati e le chiamate API, il che richiede una solida base di sicurezza.

Gli agenti hanno identità, ma non sono gli stessi degli utenti. Il comportamento degli agenti non può essere governato con gli stessi processi e controlli degli esseri umani. Gli agenti agiscono per conto dell'utente. A volte, questi agenti diventano autonomi e scalano privilegi e compiti in modi che gli sviluppatori non avevano previsto, ma questo è solo un tipo di rischio di sicurezza che deve essere affrontato.

Quando sviluppati correttamente, ogni agente esegue un set di controlli con credenziali. Questo set di controlli di identità dovrebbe limitare il potenziale di sprawl o comportamenti autonomi aggiuntivi, se le protezioni sono implementate in modo impeccabile. Ma questo è molto difficile da fare.

Sfide nello sviluppo di agenti sicuri

Molti patrimoni digitali sono diventati così complessi e ramificati che gestire la sicurezza dell'AI in modo efficace è difficile, anche nei casi migliori.

I protocolli di sicurezza iniziano con lo sviluppo degli agenti. Esistono numerose tecnologie di costruzione di agenti che i programmatori utilizzano per costruire il codice che verrà eseguito come agente. Successivamente, è necessario un sandbox o un centro di revisione per inviare l'agente a rivedere e correggere eventuali difetti nel codice. Il processo di sviluppo includerà anche una funzione di policy che dirige le assegnazioni e definisce i guardrail dell'agente, che, in teoria, dovrebbero impedirgli di eseguire compiti autonomi.

Tuttavia, anche quando si programma un agente con intenti legittimi, può ancora operare in modi nefasti. Ecco perché il comportamento degli agenti deve essere monitorato da più livelli di strumenti di sicurezza in tutta l'infrastruttura IT, ciò che i professionisti della sicurezza chiamano "difesa in profondità". I team IT e di sicurezza devono essere in grado di avere visibilità su tutto il patrimonio IT. Questo include il monitoraggio e la rilevazione a livello di rete perché è lì che l'attività degli agenti è visibile in tempo quasi reale. La rete ha un posto in prima fila per monitorare il comportamento degli agenti e segnalare l'attività autonoma.

Un altro rischio di governance è l'AI shadow. Qui, è meno una questione di agenti che diventano autonomi che di utenti che accedono a funzioni di costruzione di agenti facili da usare al di fuori della sfera di IT e dei processi. Lo sviluppo e l'uso non autorizzati permettono agli agenti di AI di muoversi nel sistema senza supervisione, rendendo più difficile per le soluzioni di sicurezza degli agenti proteggere l'organizzazione.

Agenzi di terze parti

Agenzi autonomi e shadow IT non sono gli unici rischi. Anche gli agenti di terze parti rappresentano una minaccia alla sicurezza perché, per definizione, provengono da fuori l'organizzazione e i suoi controlli di sicurezza. Anche se è stato costruito specificamente per l'azienda, un agente di terze parti potrebbe non conformarsi agli standard di sicurezza dell'organizzazione o potrebbe essere in esecuzione su un'infrastruttura che l'organizzazione non possiede.

Mentre si lavora per garantire la sicurezza degli agenti di terze parti per la propria organizzazione, il processo dovrebbe essere sottoposto agli stessi rigorosi test di sicurezza e validazioni degli agenti interni, in modo che abbiano gli stessi guardrail e governance degli agenti interni.

Conclusione

I guardrail stabiliscono i confini e i limiti per gli agenti di AI, ma la sicurezza completa richiede una difesa in profondità che offra visibilità e monitori l'agente in ogni fase del suo percorso. Ma la visibilità è solo il primo passo. L'infrastruttura IT dovrebbe anche far rispettare le policy, limitare i privilegi e aiutare a proteggere i dati quando i controlli di sicurezza standard degli agenti non sono sufficienti. L'ecosistema di sicurezza, inclusa l'infrastruttura IT, inclusi server, storage e networking, dovrebbe lavorare insieme per fornire un approccio più completo alla sicurezza degli agenti.