Contesto e scoperta delle nuove famiglie di malware
Il 5 novembre 2025 la Google Threat Intelligence Group (GTIG) ha pubblicato il documento GTIG AI Threat Tracker: Advances in Threat Actor Usage of AI Tools. Nel rapporto si evidenziano, per la prima volta, due famiglie di malware che non solo incorporano intelligenza artificiale, ma la interrogano attivamente tramite una API pubblica di un modello di linguaggio grande (LLM) durante la loro esecuzione.
Le due famiglie identificate sono PROMPTSTEAL e PROMPTFLUX. La prima è stata attribuita al gruppo russo supportato dallo Stato, noto come APT28 o FROZENLAKE, e ha colpito obiettivi governativi ucraini. La seconda è un dropper VBScript sperimentale che sfrutta la Gemini‑API di Google per generare codice di evasione anti‑malware “just‑in‑time”.
Il rapporto completo, con classificazioni di gravità e livelli di confidenza, è disponibile nell’Orca AI Incident Archive, dove sono inseriti anche altri esempi di malware che comunicano con un modello LLM durante l’attacco.
Perché questi campioni rappresentano una svolta
Fino a poco tempo fa, la maggior parte delle minacce che impiegano IA lo faceva in fase di sviluppo: gli autori chiedevano a un chatbot di scrivere script, poi incorporavano il risultato nel malware. GTIG descrive un cambiamento fondamentale: il codice eseguito sulla macchina della vittima non è più statico, ma viene richiamato dinamicamente da una API commerciale, sulla base di un prompt preparato dall’attaccante.
Questo approccio è definito “Just‑in‑Time” AI. Il malware invia un prompt, riceve la risposta (spesso codice o comandi) e la esegue immediatamente, senza che un operatore umano legga o verifichi il contenuto. La tecnica è considerata da GTIG “un passo significativo verso malware più autonomi e adattabili”.
Nel rapporto, la sezione “Status” evidenzia che, su cinque famiglie analizzate, tre (FRUITSHELL, PROMPTSTEAL e QUIETVAULT) sono contrassegnate come “Observed in operations”, mentre le altre due (PROMPTFLUX e PROMPTLOCK) sono etichettate “Experimental”.
Meccanismo comune tra PROMPTSTEAL e PROMPTFLUX
- Il campione contiene un prompt predefinito (base64‑codificato per PROMPTSTEAL, istruzione macchina leggibile per PROMPTFLUX).
- Il prompt è inviato a una API pubblica tramite una chiave incorporata nella binaria.
- La risposta, tipicamente codice o comandi di sistema, viene eseguita direttamente sulla macchina della vittima.
- Non è necessario sfruttare vulnerabilità del servizio LLM; le API vengono usate secondo le loro specifiche.
Questo modello di abuso rende difficile mitigare la minaccia mediante patch tradizionali, poiché il vettore di attacco è legittimo e non vulnerabile di per sé.
PROMPTSTEAL: una campagna reale con impatto notevole
Il CERT‑UA (Computer Emergency Response Team dell’Ucraina) ha pubblicato il suo avviso di sicurezza il 17 luglio 2025, descrivendo una famiglia di malware denominata LAMEHUG. Il rapporto si basava su segnalazioni di e‑mail sospette inviate da account compromessi, spacciate per funzionari ministeriali, contenenti un archivio ZIP con tre varianti:
- Додаток.pif
- AIgeneratoruncensoredCanvasPRO_v0.9.exe
- image.py
Il CERT‑UA ha attribuito l’attività ad APT28 con “media confidenza”, aggiungendo che il LLM veniva usato “per generare comandi sulla base della loro descrizione testuale”. GTIG, invece, ha fornito dettagli più specifici.
Dettagli operativi secondo GTIG
- Il malware si presenta come “programma di generazione di immagini”, guidando l’utente attraverso una serie di prompt.
- In background, invia richieste a Hugging Face usando token API presumibilmente rubati.
- Le richieste includono prompt che chiedono informazioni di sistema e la lettura di documenti in cartelle specifiche.
- Le risposte – comandi Windows codificati – vengono eseguite “blindamente” e i risultati esfiltrati verso il C2.
GTIG osserva che la famiglia continua a evolversi: le nuove varianti introducono ulteriori tecniche di offuscamento e modificano il metodo di command‑and‑control.
Una ricerca successiva di Cato Networks, riportata il 25 luglio 2025 da The Hacker News, ha contato circa 270 token Hugging‑Face usati per l’autenticazione, confermando l’uso massiccio di credenziali rubate. Inoltre, è stato scoperto che i campioni contengono descrizioni base64 dei target, indicando che l’attaccante predefinisce gli obiettivi per i quali richiedere comandi.
PROMPTFLUX: il dropper sperimentale che non ha ancora trovato un’operazione
PROMPTFLUX è stato identificato da GTIG all’inizio di giugno 2025. Si tratta di un dropper VBScript che, una volta eseguito, invia una richiesta alla Gemini‑API di Google con un prompt che chiede al modello di generare codice in grado di eludere le firme antivirus.
Il rapporto di GTIG specifica che, sebbene la famiglia non abbia ancora dimostrato capacità di compromettere reti o dispositivi, la sua presenza dimostra la fattibilità di un modello “autonomo”. Il codice generato dal modello non è statico: varia ad ogni esecuzione, rendendo più difficile l’individuazione basata su firme tradizionali.
Caratteristiche tecniche di PROMPTFLUX
- Implementazione in VBScript, facilitando l’esecuzione su sistemi Windows senza richiedere privilegi elevati.
- Prompt strutturato in formato JSON leggibile dalla macchina, inviato tramite una chiave API incorporata.
- Risposta del modello: snippet di PowerShell o batch script progettati per disabilitare o mascherare componenti di sicurezza.
- Il risultato viene salvato temporaneamente e poi eseguito, cancellando tracce dell’interazione.
GTIG classifica questa famiglia come “Experimental”, indicando che, pur non avendo ancora una campagna operativa, il concetto è pronto per essere adottato da attori più avanzati.
Implicazioni per la difesa e le contromisure
Il modello di abuso “Just‑in‑Time” solleva nuove sfide per i team di sicurezza:
- Rilevamento di traffico API: monitorare le chiamate a provider LLM (ad es. Hugging Face, Google Gemini) da endpoint non autorizzati.
- Gestione delle credenziali API: implementare rotazione frequente e limitazioni di scope per token di servizio.
- Analisi comportamentale: rilevare esecuzioni di script generati dinamicamente, anche se firmati o non presenti in whitelist.
- Sandboxing avanzato: eseguire i file sospetti in ambienti isolati che possono intercettare richieste verso API esterne.
Inoltre, la collaborazione con i provider di LLM è cruciale. Poiché le API sono utilizzate “come previsto”, è necessario introdurre meccanismi di abuso detection da parte dei fornitori, simili a quelli già impiegati per prevenire l’uso di modelli per generare phishing o deepfake.
Prospettive future e conclusioni
GTIG sottolinea che la capacità di una malware di “chiedere” a un modello di linguaggio grande il proprio codice rappresenta un “passo significativo verso malware più autonomi e adattabili”. Sebbene al momento solo PROMPTSTEAL sia confermata in operazioni reali, la disponibilità di modelli potenti e di API accessibili rende probabile che altri gruppi di minaccia sperimentino varianti simili.
Le cinque famiglie elencate nel rapporto – FRUITSHELL, PROMPTSTEAL, QUIETVAULT, PROMPTFLUX e PROMPTLOCK – forniscono una panoramica dello stato attuale della ricerca offensiva nell’ambito dell’IA. La distinzione tra “Observed in operations” ed “Experimental” aiuta gli analisti a prioritizzare le risposte: le campagne attive richiedono azioni immediate, mentre le tecniche sperimentali devono essere monitorate per prevenirne l’adozione.
In conclusione, la comparsa di malware che si affidano a LLM in tempo reale segna l’inizio di una nuova era di minacce informatiche, dove la linea di confine tra vulnerabilità del software e abuso di funzionalità legittime diventa sempre più sottile. La risposta efficace richiederà una combinazione di monitoraggio del traffico API, gestione rigorosa delle credenziali, analisi comportamentale avanzata e stretta collaborazione con i fornitori di intelligenza artificiale.
