Introduzione ai modelli Granite e all’obiettivo di sicurezza

Il 12 novembre 2026 il team Granite di IBM ha rilasciato due modelli sperimentali di linguaggio, Granite‑4.1‑3B‑LLMON‑preview e Granite‑4.1‑8B‑LLMON‑preview. Entrambi sono stati addestrati a separare le istruzioni affidabili da dati non affidabili, con l’obiettivo di mitigare le iniezioni indirette di istruzioni nei prompt, una vulnerabilità sempre più diffusa nei grandi modelli linguistici (LLM).

Le versioni preliminari hanno mostrato una riduzione della percentuale di successo degli attacchi dal 53 %‑100 % a un intervallo compreso tra 0,02 % e 5,6 %, secondo le valutazioni riportate da IBM. Questo risultato è stato ottenuto senza modificare l’architettura dei modelli, ma mediante un approccio di post‑training basato su dati strutturati e su un nuovo linguaggio di marcatura chiamato LLMON.

Che cos’è LLMON e come funziona

Struttura e sintassi di LLMON

LLMON, acronimo di LLM Object Notation (pronunciato “lemon”), è un linguaggio di marcatura simile a XML che descrive la struttura di un prompt per un modello. Le componenti principali di un prompt – istruzioni, documenti, definizioni di strumenti, requisiti e risposte – sono organizzate in blocchi indirizzabili individualmente. Ogni blocco ha un’identificazione a due caratteri, scelta da un insieme fisso di token, e i blocchi di esecuzione specificano:

    • Quale istruzione eseguire
    • Quali input e requisiti devono essere applicati
    • Dove deve essere collocata la risposta

Il contenuto che non è collegato a un blocco di esecuzione rimane nel contesto, ma non viene eseguito come istruzione.

Integrazione nella pipeline di sviluppo

Gli sviluppatori non devono scrivere manualmente il markup LLMON. È possibile nominare parti di una lista di messaggi e chiamare la funzione applychattemplate; la template integrata genera automaticamente il markup LLMON mantenendo i ruoli tradizionali di sistema, utente e assistente. Il repository LLMON fornito con il lancio include:

    • Conversione JSON senza perdita di informazioni
    • Utility per rappresentare conversazioni
    • Esempi pratici
    • Una demo di “attenzione collegata” che visualizza come l’attenzione del modello è distribuita tra blocchi di istruzioni, di input e non collegati

Processo di addestramento orientato alle iniezioni

Corpus strutturato e dati di addestramento

Il post‑training, presentato il 28 ottobre 2026, si basa su un corpus strutturato di 4,600 miliardi di token. Il dataset combina:

    • Dati generali di lingua
    • Testi generati mediante recupero (retrieval‑augmented generation)
    • Esempi di utilizzo di strumenti
    • “Distrattori” contenenti istruzioni in conflitto o dati irrilevanti non referenziati

Le istruzioni target rimangono invariate, mentre i distrattori servono a insegnare al modello a leggere ma non ad eseguire contenuti non legati a un blocco di esecuzione.

Strategia di apprendimento a più fasi

Il metodo di addestramento comprende cinque fasi sequenziali di apprendimento per rinforzo (RL):

    • Ragionamento multidominio
    • Allineamento con feedback umano
    • Calibrazione della conoscenza
    • Competenze matematiche
    • Ottimizzazione diretta delle preferenze su 1.000 coppie di preferenze generate da risposte del modello a tentativi di iniezione

La cosiddetta “regola di privilegio” emerge da questa struttura appresa, piuttosto che da una barriera di sicurezza aggiuntiva. IBM avverte esplicitamente che tale regola non è una garanzia assoluta.

Valutazione della robustezza contro le iniezioni

IBM ha introdotto il benchmark OPI (Open Prompt Injection) per misurare la resistenza dei modelli a iniezioni indirette nei compiti classici di elaborazione del linguaggio naturale. La robustezza è calcolata come uno meno la percentuale di successo degli attacchi, cioè la frazione di attacchi in cui il modello non esegue l’istruzione iniettata.

Secondo i risultati pubblicati, le versioni preliminari dei modelli Granite hanno ridotto la percentuale di successo degli attacchi da un intervallo compreso tra 53 % e 100 % a un intervallo tra 0,02 % e 5,6 %. Le valutazioni riguardano iniezioni indirette statiche; gli attacchi adattivi, che evolvono su più turni di conversazione, rimangono un’area di ricerca attiva.

Prestazioni generali dei modelli

La scheda tecnica del modello da 8 B indica una parità di obiettivi con Granite 4.1 Instruct per i compiti generali, ma i risultati effettivi mostrano differenze significative:

    • GPQA: 35,05 (Granite‑8B) vs 41,96 (Granite Instruct)
    • DeepMind Math: 70,86 vs 80,07
    • BigCodeBench: 44,04 vs 35,00
    • MMLU: 74,20 vs 73,84

Questi dati suggeriscono che il modello da 8 B ha sacrificato parte della capacità generale per ottenere una maggiore resistenza alle iniezioni, mentre il modello da 3 B presenta un trade‑off ancora più marcato.

Estendibilità e integrazione con ecosistemi esistenti

Adattamento a vocabolari specifici

LLMON può essere esteso a vocabolari settoriali. IBM ha dimostrato l’uso di tag personalizzati e l’adattamento di adapter con dataset di riferimento provenienti da ScienceWorld. Il modello addestrato è stato in grado di giocare a giochi non presenti durante il training, esprimendo le proprie azioni con il nuovo vocabolario.

Supporto tramite Mellea

La libreria di livello superiore Mellea converte automaticamente le chiamate al modello in markup LLMON, consentendo agli sviluppatori di interagire con le API senza dover gestire direttamente il markup. Questo abbassa la barriera d’ingresso per l’adozione della nuova metodologia.

Considerazioni operative e limiti

Il rilascio dei modelli Granite‑LLMON è destinato esclusivamente a scopi di esplorazione e valutazione; non è consigliato per ambienti di produzione senza ulteriori verifiche. Le schede dei modelli avvertono che la “regola di privilegio” non costituisce una garanzia di sicurezza assoluta e non dovrebbe essere l’unica difesa di un agente sensibile.

Per i casi d’uso critici, le organizzazioni dovranno combinare LLMON con altre misure di mitigazione, come filtri di contenuto, sandboxing e monitoraggio continuo del comportamento del modello.

Conclusioni

IBM ha introdotto una proposta innovativa per affrontare il problema delle iniezioni di istruzioni nei prompt, combinando un linguaggio di marcatura strutturato (LLMON) con un processo di post‑training mirato. I risultati preliminari mostrano una drastica diminuzione della vulnerabilità, pur mantenendo capacità generali competitive, sebbene con alcuni compromessi di performance. La comunità di ricerca dovrà ora verificare la robustezza di queste soluzioni in scenari più dinamici e valutare come integrarle in pipeline di IA operative.