Rilevamenti personalizzati per minacce legate all’IA
Un analista di sicurezza basato sull’IA può indagare rapidamente su un avviso, ma non può indagare su un allarme che non è mai stato generato. Swimlane punta a colmare questa lacuna con nuove funzionalità che consentono ai clienti di definire i propri rilevamenti nella piattaforma Turbine, permettendo ai team di sicurezza di applicare la propria logica ai dati operativi e inviare gli avvisi risultanti direttamente a Swimlane AI SOC.
Il rilascio del 28 ottobre introduce anche il supporto bidirezionale al Model Context Protocol (MCP) e l’Hero AI Application Builder Agent. Insieme, queste novità estendono la piattaforma di automazione dell’azienda a tre attività interconnesse: stabilire quali attività meritano un’indagine, connettere gli agenti agli strumenti e creare le applicazioni che supportano i flussi di lavoro di sicurezza.
Swimlane afferma che le funzionalità sono disponibili a livello generale. L’annuncio le presenta come aggiunte all’infrastruttura di sicurezza esistente, compresi i sistemi di gestione delle informazioni e degli eventi di sicurezza (SIEM), quelli di rilevamento e risposta sugli endpoint (EDR) e gli strumenti di sicurezza cloud.
Dare ai team di sicurezza il controllo sugli avvisi
Molti prodotti AI SOC si concentrano sul triage, sull’indagine e sulla risposta dopo che un sistema di rilevamento ha individuato un comportamento sospetto. Questa separazione diventa più problematica quando le organizzazioni implementano nuovi agenti, copiloti, modelli locali e server MCP più rapidamente di quanto i prodotti di rilevamento consolidati riescano ad adeguarsi.
Un’azienda potrebbe dover indagare sull’invio di informazioni sensibili a un servizio di IA non autorizzato, sull’uso imprevisto di un modello locale, sulla disattivazione di una protezione o su un agente che consuma risorse ben oltre il budget previsto. Alcune di queste situazioni dipendono dalle politiche e dall’ambiente specifici dell’organizzazione, anziché corrispondere a una firma universale definibile in anticipo da un fornitore.
Le nuove funzionalità di Turbine consentono ai team di eseguire la propria logica di rilevamento sui dati disponibili nella piattaforma. Swimlane afferma che una singola azione sui big data può valutare decine di migliaia di record su nodi di calcolo paralleli, per poi inoltrare un avviso ad AI SOC affinché venga indagato e gestito secondo le procedure previste.
Questa architettura avvicina la logica di rilevamento all’automazione che interviene sulla base dei risultati. Invece di individuare separatamente una condizione e predisporre manualmente i passaggi successivi, un team può collegare una regola specifica della propria organizzazione a un flusso di lavoro investigativo già esistente. L’efficacia di ogni rilevamento dipende comunque dal fatto che l’attività pertinente sia rappresentata nei dati a cui Turbine può accedere.
Citazione del CEO: «Negli ultimi due anni il settore della sicurezza si è interrogato a lungo su quanto l’IA possa gestire autonomamente un avviso, ma così si trascura una domanda più fondamentale: da dove proviene l’avviso?», ha dichiarato Cody Cornell, cofondatore e CEO di Swimlane.
Creazione assistita delle regole di rilevamento
Il rilascio descrive anche la creazione assistita dall’IA delle regole di rilevamento. I team possono spiegare quale rilevamento desiderano realizzare e avvalersi delle funzionalità di Turbine per generare playbook, così da contribuire alla sua creazione. Generare quella logica e accertarsi che individui in modo affidabile il comportamento desiderato sono due attività distinte: le regole specifiche di un’organizzazione devono rispecchiare i dati, le autorizzazioni e le condizioni dell’ambiente in cui vengono eseguite.
Indagare sui sistemi di IA come fonti di incidenti (AIDR)
Swimlane descrive questi scenari come rilevamento e risposta relativi ai sistemi di IA, o AIDR: il sistema di IA stesso diventa oggetto dell’incidente. È diverso dal semplice utilizzo di un modello di IA per riassumere un normale avviso di phishing o relativo a un endpoint.
La prompt injection illustra questa distinzione. Un agente potrebbe imbattersi in istruzioni incorporate nei contenuti che sta elaborando, con il rischio che materiale esterno ne influenzi il comportamento. Per un’indagine efficace potrebbe essere necessario esaminare gli input dell’agente, le attività svolte con gli strumenti e le azioni risultanti, anziché cercare soltanto un indicatore di malware noto.
Allo stesso modo, un’impennata imprevista delle spese potrebbe segnalare un agente malfunzionante o indirizzato in modo errato, senza assomigliare a un’intrusione tradizionale. La logica definita dal cliente consente ai team di indicare ciò che è anomalo nella propria implementazione, a condizione che siano disponibili i segnali necessari relativi all’utilizzo e alle operazioni.
La capacità di elaborazione annunciata è una specifica dell’azienda, non un benchmark pubblico per rilevare ogni forma di prompt injection o di uso non autorizzato dell’IA. Il cambiamento concreto consiste nel fornire ai team un ulteriore modo per trasformare le proprie osservazioni in casi su cui intervenire, accanto agli avvisi generati dai prodotti di sicurezza consolidati.
MCP: connessione bidirezionale tra agenti e automazione
MCP fornisce un’interfaccia comune tramite la quale le applicazioni di IA possono utilizzare strumenti. Il rilascio di ottobre di Swimlane supporta entrambi i lati di questa connessione.
Turine come host MCP: consente a Hero AI di connettersi a server MCP di terze parti e di usare i relativi strumenti durante le indagini e l’esecuzione dei playbook, con autenticazione e controlli degli accessi centralizzati. Un flusso di lavoro di sicurezza può quindi utilizzare una funzionalità esterna compatibile con MCP insieme alle integrazioni API già in uso.
Turine come server MCP: mette l’automazione soggetta a controlli a disposizione di client di IA esterni. L’annuncio cita Claude, ChatGPT, Cursor, Gemini CLI e Microsoft Copilot come esempi di client che possono richiamare componenti di Turbine, compresi playbook in più fasi, nell’ambito dei controlli di accesso basati sui ruoli già esistenti.
La distinzione è significativa. Nel primo caso, l’agente di Swimlane si collega a un altro sistema. Nel secondo, un assistente esterno può avviare un flusso di lavoro Turbine approvato. Collegare un assistente a un playbook già collaudato consente a un’azienda di riutilizzare le automazioni e le autorizzazioni esistenti, invece di ricreare il processo operativo all’interno di ciascun client di IA.
Swimlane afferma che Turbine può combinare gli strumenti MCP con le API tradizionali. Questo rende la novità rilevante negli ambienti in cui solo alcuni sistemi supportano MCP: i team possono integrare il protocollo in un flusso di lavoro più ampio senza dover modificare subito tutte le integrazioni esistenti.
Hero AI Application Builder Agent: creazione di applicazioni con revisione umana
Hero AI Application Builder Agent risponde a un’altra esigenza operativa: configurare le strutture dei record, i layout e i flussi di lavoro richiesti da un nuovo caso d’uso di sicurezza. Gli utenti descrivono in linguaggio naturale ciò di cui hanno bisogno e l’agente crea o modifica l’applicazione corrispondente.
Secondo il comunicato, le modifiche generate non vengono salvate finché una persona non le ha esaminate. Le modifiche vengono evidenziate e gli utenti possono accettarle o rifiutarle prima che diventino definitive. Questo passaggio di approvazione è importante perché la struttura di un’applicazione può influire sul modo in cui gli analisti acquisiscono le prove, fanno avanzare i casi tra le varie fasi e attuano una risposta.
Il nuovo agente amplia il portafoglio più ampio di Hero AI. I materiali di prodotto di Swimlane descrivono agenti già disponibili per:
- l’acquisizione dei dati;
- la generazione di playbook;
- le visualizzazioni e le indagini;
- la selezione di modelli per i singoli agenti.
Con l’Application Builder, le organizzazioni possono accelerare la messa in opera di nuovi casi d’uso, riducendo il tempo necessario per definire schemi di dati e flussi di lavoro, mantenendo al contempo un controllo rigoroso tramite la revisione umana.
Impatto complessivo e prospettive future
Le novità introdotte da Swimlane rappresentano un passo significativo verso una sicurezza più adattiva, dove la generazione di avvisi non è più affidata esclusivamente a firme predefinite, ma può essere modellata sulla base delle specifiche operazioni e politiche aziendali. La capacità di eseguire logica di rilevamento personalizzata su scala di big data, unita al supporto MCP bidirezionale, consente una più stretta integrazione tra IA generativa e strumenti di risposta tradizionali.
In pratica, le organizzazioni potranno:
- Definire regole di rilevamento che monitorano l’uso di modelli locali, l’invio di dati a endpoint non autorizzati o consumi anomali di risorse.
- Collegare automaticamente le regole a playbook già esistenti, riducendo i tempi di risposta.
- Sfruttare assistenti IA esterni (ChatGPT, Claude, ecc.) per attivare flussi di lavoro approvati, mantenendo il controllo tramite ruoli e policy.
- Creare rapidamente nuove applicazioni di sicurezza con l’Application Builder, garantendo che ogni modifica sia validata da un operatore umano.
Nel lungo termine, la combinazione di rilevamenti personalizzati, MCP e creazione assistita di applicazioni potrebbe diventare un modello di riferimento per le piattaforme di security orchestration, automation and response (SOAR). L’enfasi posta da Swimlane sul “da dove proviene l’avviso” suggerisce una tendenza verso una maggiore responsabilità dei team di sicurezza nella definizione dei propri parametri di rischio, piuttosto che affidarsi a soluzioni chiuse.
Con l’adozione crescente di modelli IA in ambienti aziendali, la capacità di monitorare e reagire a comportamenti anomali generati da tali modelli diventerà cruciale. Swimlane, con queste funzionalità, si posiziona per fornire gli strumenti necessari a gestire questa nuova superficie di attacco, integrando al contempo le pratiche di automazione già consolidate.