Nemotron 3.5 Super VL: 120 Mld di parametri, 12 Mld attivi – la rivoluzione open‑weight del 2026

Presentazione ufficiale e contesto di mercato

Il 15 ottobre 2026 NVIDIA ha annunciato Nemotron 3.5 Super VL, un modello multimodale “open‑weight” con 120 miliardi di parametri totali e 12 miliardi di parametri attivi per token. Il nome completo del checkpoint è Nemotron 3.5 Super VL 120B‑A12B, come specificato nella documentazione ufficiale pubblicata il 14 ottobre. La release fa parte di una nuova famiglia di modelli aperti pensati per far girare agenti in azienda e sui PC, e in soli nove giorni ha già generato quantizzazioni, esperimenti di fine‑tuning e un inserimento nel portafoglio europeo del gruppo NVIDIA.

Il lancio arriva in un momento cruciale per le imprese italiane ed europee, che stanno valutando il passaggio dalle API chiuse a soluzioni on‑premise per ragioni di costi, sicurezza e rispetto del GDPR. Super VL si propone come risposta a queste esigenze, promettendo di “spremere più lavoro da ogni GPU” grazie alla sua architettura ibrida.

Architettura ibrida e capacità tecniche

Il punto focale di Nemotron 3.5 Super VL è il rapporto tra parametri totali e parametri attivi. Si tratta di un modello Mixture of Experts (MoE) che, a differenza dei tradizionali LLM, non utilizza l’intera rete per ogni token, ma instrada il calcolo verso un sottoinsieme di esperti. Con 12 miliardi di parametri attivi su 120 miliardi totali, il modello combina la memoria di un grande modello con il costo computazionale di una rete media.

L’architettura include:

• Livelli Mamba‑2 per gestire sequenze molto lunghe con un incremento di costo più contenuto rispetto alla sola attention.
• Esperti MoE per la selezione dinamica dei parametri attivi.
• Livelli di attention classici per le operazioni standard di trasformazione del linguaggio.
• Encoder C‑RADIO per la parte visiva, collegato al modello linguistico tramite un connettore vision‑language.

Questa combinazione permette al modello di leggere testo, immagini, documenti e video, ma non supporta ancora l’audio. L’output è puramente testuale, con capacità di tool use, ragionamento e coding, funzionalità tipiche di un agente autonomo.

Contesto di token e variante NVFP4

Una delle novità più interessanti è la finestra di contesto fino a 1 milione di token nella variante quantizzata NVFP4. Questo formato a bassa precisione riduce il fabbisogno di memoria e aumenta il throughput sulle GPU più recenti, rendendo possibile l’elaborazione di documenti estremamente lunghi (centinaia di pagine PDF o ore di video).

La documentazione NVIDIA menziona anche tecniche avanzate come:

• Quantization‑aware distillation.
• Multi‑token prediction.
• Speculative decoding con lo schema LiLiCorr.

Open‑weight: cosa significa davvero?

NVIDIA ha pubblicato non solo i pesi, ma anche dataset, model card, cookbook di deployment (vLLM, SGLang, TRT‑LLM) e procedure di valutazione. I checkpoint disponibili sono quattro:

• Base BF16.
• Post‑trained BF16.
• Post‑trained NVFP4.
• Drafter NVFP4 LiLiCorr per la decodifica speculativa.

Il termine “open‑weight” indica che i pesi sono scaricabili e modificabili, ma non equivale a “open source”. Il codice di training completo e i dati originali non sono sempre inclusi, e la licenza impone limiti d’uso. NVIDIA dichiara che i modelli sono commercialmente utilizzabili, ma la licenza completa non è stata resa pubblica.

Per le aziende, il consiglio operativo è leggere attentamente la model card del checkpoint scelto, soprattutto se si intende redistribuire o utilizzare il modello in ambiti regolamentati.

Confronto con altri modelli NVIDIA

Accanto a Super VL, NVIDIA ha lanciato:

• Nemotron 3.5 Lightning: modello testuale da 30 miliardi di parametri, con circa 3 miliardi attivi.
• Serie Bolt: pensata per l’esecuzione locale su hardware più limitato.

Questi modelli coprono fasce più leggere e non vanno confusi con Super VL, che rimane il modello di punta multimodale.

Distribuzione, accesso e costi

NVIDIA ha reso il modello disponibile su diversi canali, facilitando sia il download diretto sia l’utilizzo come servizio gestito:

Canale	Cosa offre	Per chi
Hugging Face	Pesi, dataset, ricette di training	Chi vuole scaricare e adattare
ModelScope	Distribuzione dei checkpoint	Chi usa l’ecosistema asiatico
OpenRouter	Accesso via API tramite provider	Chi vuole provare senza GPU
build.nvidia.com	Microservizio NIM ospitato	Chi sviluppa prototipi
NVIDIA NIM	Container con motore ottimizzato e API standard	Chi serve il modello in produzione
Partner di inferenza (Baseten, DeepInfra, FriendliAI)	Servizio gestito	Chi preferisce un servizio gestito

Il pacchetto NIM è disponibile nel catalogo NGC di NVIDIA (versione 2.0.13). Il backend richiesto è vLLM 0.31.0**, CUDA 12.9 o successivo e driver GPU 580 o più recente. NVIDIA garantisce aggiornamenti bisettimanali per sicurezza e prestazioni.

Per quanto riguarda i costi, al 24 ottobre 2026 non esiste un prezzo ufficiale per:

• Scaricare i pesi.
• Fine‑tuning.
• Utilizzo dell’API.
• Licenza NIM.

Scaricare da Hugging Face è gratuito, ma i costi reali dipendono dall’infrastruttura di chi ospita il modello (GPU, storage, banda). Le imprese dovranno quindi valutare il totale di proprietà (TCO) includendo hardware, energia, manutenzione e, se necessario, licenze commerciali.

Implicazioni legali e GDPR

Dal punto di vista legale, la disponibilità dei pesi non garantisce la residenza dei dati né la conformità al GDPR. La documentazione NVIDIA non fornisce alcuna certificazione di privacy o indicazioni su come gestire i dati sensibili durante il fine‑tuning.

Le aziende italiane dovranno quindi:

• Verificare la licenza del modello e le clausole di redistribuzione.
• Implementare misure di anonimizzazione o pseudonimizzazione dei dati di training.
• Assicurarsi che le infrastrutture on‑premise rispettino le normative europee sulla protezione dei dati.

Questa incertezza legale è uno dei fattori che spinge molte imprese a preferire modelli con licenze più trasparenti, come quelli rilasciati da Mistral o altri fornitori europei.

Prospettive future e conclusioni

Nemotron 3.5 Super VL rappresenta un passo significativo verso la democratizzazione dei grandi modelli multimodali, offrendo una combinazione di potenza computazionale e flessibilità di deployment** senza precedenti. La capacità di gestire un contesto di un milione di token e l’architettura MoE con 12 miliardi di parametri attivi lo rendono adatto a compiti complessi, come l’analisi di lunghi documenti legali o la generazione di codice su larga scala.

Tuttavia, le sfide rimangono: la mancanza di una licenza chiara, i costi operativi legati alla memoria necessaria per caricare tutti i pesi, e la necessità di conformità al GDPR per le aziende europee. Il successo del modello dipenderà dalla capacità di NVIDIA di fornire linee guida legali più precise e da un ecosistema di partner che possano offrire soluzioni gestite a costi competitivi.

In sintesi, per le imprese italiane che cercano di spostare i carichi di lavoro da API chiuse a soluzioni interne, Nemotron 3.5 Super VL è una proposta allettante, ma richiede una valutazione approfondita di aspetti tecnici, economici e normativi prima di essere adottata su larga scala.