La RTX 5090 e la sua disponibilità

La RTX 5090 rimane la scheda più veloce per i modelli che entrano nei suoi 32 GB di memoria, ma la sua disponibilità è tornata in discussione. Secondo un'inchiesta del giornalista tedesco der8auer, almeno un partner di schede non riesce più a ordinare il chip GB202 abbinato ai 32 GB di GDDR7 e non può nemmeno piazzare backorder. NVIDIA non ha comunicato alcun fine vita ufficiale, quindi per ora parliamo di segnali della filiera e non di un annuncio.

I contendenti dell'AI locale

Intanto, gli altri due contendenti dell'AI locale si sono mossi. Il 2 ottobre NVIDIA ha presentato il DGX Spark da 64 GB con prezzo di partenza di 4.999 $, disponibile dal 23 ottobre presso vari produttori. Il modello da 128 GB compare sul listino NVIDIA Marketplace a 6.950 $, mentre la RTX PRO 6000 Blackwell Workstation Edition da 96 GB costa 13.250 $ nello stesso negozio.

Confronto tra RTX 5090, DGX Spark e RTX PRO 6000

Chi cerca un benchmark AI della RTX 5090 trova quasi sempre il duello con la generazione precedente. La domanda che pesa sul portafoglio oggi è un’altra: conviene una scheda consumer da 32 GB, un mini PC con 128 GB di memoria unificata o una scheda professionale da 96 GB? Le tre macchine costano tra 4.999 $ e 13.250 $ a listino e rispondono a tre esigenze diverse.

La risposta breve, con i numeri. Sui modelli che stanno in 32 GB la RTX 5090 genera circa 4 volte più token al secondo del DGX Spark (205 contro 49,7 su gpt-oss 20B in Ollama). La RTX PRO 6000 aggiunge solo il 2-5% di velocità sugli stessi modelli, ma carica un Llama 3.1 70B a 34,2 token al secondo dove la 5090 non parte. Il DGX Spark vince sulla capacità e sulla scalabilità a più nodi, non sulla velocità pura.

Specifiche tecniche a confronto

La RTX 5090 e la RTX PRO 6000 Blackwell condividono lo stesso chip GB202, prodotto da TSMC con il processo 4N e grande tra 740 e 750 millimetri quadrati. La versione GeForce attiva 21.760 core CUDA e li abbina a 32 GB di GDDR7 su bus a 512 bit. La versione professionale ne attiva 24.064 e monta 96 GB di GDDR7 con ECC. Entrambe offrono 1.792 GB/s di banda di memoria.

Il DGX Spark segue un’altra strada. Il cuore è il superchip GB10 Grace Blackwell, con una CPU Arm a 20 core e una GPU Blackwell che condividono una memoria unificata coerente da 128 GB (o 64 GB nella nuova versione). Non c’è un bus PCIe da attraversare, ma la banda scende a circa 273 GB/s. NVIDIA dichiara fino a 1 PFLOP in FP4, un alimentatore da 240 W, uno chassis da 150 x 150 x 50,5 millimetri e un peso di 1,2 kg.

Benchmark: RTX PRO 6000 contro RTX 5090 su Ollama

ComputingForGeeks ha noleggiato entrambe le schede, installato Ollama su un host Ubuntu pulito con driver NVIDIA aggiornati e fatto girare gli stessi modelli quantizzati a 4 bit. Le misure risalgono a giugno 2026, con tre run cronometrati dopo un warm-up e una varianza sotto l’1%. Il parametro misurato è il decode: token al secondo ottenuti dividendo evalcount per evalduration.

Modello (Ollama, 4 bit)

    • qwen2.5:7b: RTX PRO 6000 (238,6 token/s), RTX 5090 (228,2 token/s), Differenza: PRO 6000 +4,6%
    • qwen2.5:14b: RTX PRO 6000 (134,1 token/s), RTX 5090 (131,5 token/s), Differenza: PRO 6000 +2,0%
    • qwen2.5:32b: RTX PRO 6000 (68,1 token/s), RTX 5090 (67,8 token/s), Differenza: pari (+0,4%)
    • qwen2.5:72b: RTX PRO 6000 (31,0 token/s), RTX 5090 (non carica), Differenza: 5090 esclusa
    • llama3.1:70b: RTX PRO 6000 (34,2 token/s), RTX 5090 (non carica), Differenza: 5090 esclusa

Lo schema è netto. A 32B le due schede si separano per tre decimi di token al secondo. A 7B, dove l’overhead pesa di più, la PRO 6000 guadagna meno del 5%. Il motivo sta nella tabella delle specifiche: sia la RTX 5090 che la RTX PRO 6000 offrono 1.792 GB/s di banda di memoria, ma la PRO 6000 ha più core CUDA e memoria ECC.

Memoria: la capacità decide cosa gira

Un modello a 4 bit occupa all’incirca tanti gigabyte quanti sono i suoi miliardi di parametri, più lo spazio per il contesto. Un 70B a Q4 pesa circa 43 GB: non entra nei 32 GB della RTX 5090, entra con margine nei 96 GB della PRO 6000 e nei 128 GB del DGX Spark. NVIDIA spinge oltre il discorso per il suo mini PC: un solo sistema da 128 GB regge modelli fino a 200 miliardi di parametri, due sistemi arrivano a 256 GB e a 400B, quattro a 512 GB e a 700B.

Il limite dei 32 GB morde più in fretta di quanto si pensi. Un modello da 32B a 4 bit chiede 24-32 GB, e l’aggiunta di un contesto lungo spinge la cache KV oltre il confine. Qui la RTX 5090 inizia a scaricare pesi nella RAM di sistema, e la velocità crolla a poche unità di token al secondo.

Banda: la velocità decide quanto aspetti

La generazione di token (decode) legge i pesi del modello a ogni passo, quindi la banda di memoria predice la velocità meglio di qualsiasi altro numero. La RTX 5090 offre circa 6,5 volte la banda del DGX Spark e, secondo Presenc AI, tra 3 e 4 volte quella di un Mac Studio M5 Max. Questo rapporto spiega quasi tutto ciò che leggerete nei benchmark qui sotto.

Esiste però un’eccezione che sposta gli equilibri, quella dei modelli a miscela di esperti (MoE). Leggono solo una frazione dei pesi per token, quindi la banda pesa meno e il DGX Spark recupera terreno. Il numero che conta, in quel caso, è il conteggio dei parametri attivi e non quello totale.