Dragos, fondata a Barcellona nel 2021 da esperti di cybersecurity e machine learning, ha recentemente annunciato il lancio di una piattaforma basata su 2 milioni di canari IA, ovvero piccoli agenti autonomi inseriti nei flussi di prompt per rilevare fughe di informazioni. Questa iniziativa risponde a una crescente preoccupazione delle imprese: la perdita involontaria di prompt contenenti istruzioni proprietarie, dati sensibili o segreti commerciali durante l’interazione con modelli di linguaggio avanzati.
Come funzionano i canari IA
I canari sono script leggeri che si integrano nei sistemi di gestione dei prompt delle aziende. Prima di inviare un prompt a un modello generativo, il canario inserisce un “tracciatore” digitale—un watermark invisibile basato su sequenze di parole rare o caratteri Unicode—che rimane presente nella risposta generata. Se la risposta appare su canali non autorizzati, il watermark consente a Dragos di identificare la fonte della perdita.
Il processo si articola in tre fasi:
- Iniezione: il canario aggiunge il watermark al prompt originale.
- Monitoraggio: le risposte generate vengono analizzate in tempo reale da un motore di detección basato su reti neurali.
- Allerta: in caso di rilevamento, il sistema invia un avviso immediato al team di sicurezza con dettagli su data, ora e punto di esfiltrazione.
Benefici per le imprese
Grazie a questa rete di 2 milioni di canari distribuiti su più continenti, Dragos offre una copertura globale capace di rilevare fughe anche in ambienti cloud ibridi. Le aziende che hanno adottato la soluzione hanno riportato una riduzione del 70 % delle perdite di prompt non autorizzate entro i primi tre mesi di utilizzo.
Un caso di studio riguarda una società di consulenza finanziaria italiana che, prima dell’implementazione di Dragos, subì la perdita di prompt contenenti algoritmi di valutazione del rischio. Dopo aver attivato i canari, il team di sicurezza ha identificato una fuga verso un repository Git interno non protetto, bloccando l’incidente prima che i dati venissero esposti pubblicamente.
Integrazione semplice
Dragos ha progettato la sua API per integrarsi con le piattaforme più diffuse—Microsoft Azure OpenAI, Google Vertex AI e Amazon Bedrock—senza richiedere modifiche al codice esistente. Gli sviluppatori possono aggiungere il canario tramite una singola chiamata REST, scegliendo tra diverse modalità di watermark (testo puro, simboli Unicode o pattern di formattazione).
Modelli di business e pricing
Il modello di pricing di Dragos è basato su una licenza annuale per 10 000 canari attivi, con sconti progressivi per volumi superiori. Le aziende con esigenze di scalabilità possono passare a piani “Enterprise”, che includono monitoraggio 24/7, reportistica avanzata e supporto dedicato. Dragos offre anche un trial gratuito di 30 giorni, durante il quale i clienti possono testare la capacità di rilevamento su un campione di 5 000 canari.
Criticità e prospettive future
Nonostante i risultati promettenti, la tecnologia dei canari non è priva di sfide. Alcuni esperti sottolineano il rischio di falsi positivi, soprattutto quando i watermark interferiscono con la generazione di contenuti creativi. Dragos sta investendo in algoritmi di riduzione dei falsi allarmi, utilizzando tecniche di apprendimento continuo basate sul feedback degli utenti.
Guardando al futuro, la startup prevede di espandere la rete a 10 milioni di canari entro il 2027, includendo anche canari per modelli multimodali (immagini e video). Inoltre, Dragos sta collaborando con le principali associazioni di standardizzazione per definire linee guida internazionali sulla tracciabilità dei prompt, un passo cruciale verso una governance più trasparente dell’IA generativa.
