Supermicro ha annunciato il lancio del rack CPU NVIDIA Vera, una soluzione innovativa a scala di rack completamente raffreddata a liquido, progettata per supportare l'IA agent-based su larga scala. Questo nuovo prodotto si integra perfettamente con la piattaforma NVIDIA Vera Rubin e offre una capacità CPU dedicata per sandbox agent-based, supportando fino a 22.500 sandbox contemporaneamente.
Caratteristiche principali del rack CPU NVIDIA Vera
Il rack CPU NVIDIA Vera di Supermicro è dotato di 256 CPU NVIDIA Vera, che forniscono un totale di 22.528 core e 45.056 thread. Questo permette di supportare fino a 22.500 agent-sandboxes in esecuzione simultanea per rack. Inoltre, il rack integra le DPU BlueField-4 di NVIDIA, che offrono networking ad alte prestazioni e sicurezza integrata.
La soluzione è completamente raffreddata a liquido grazie allo stack DLC-2 di Supermicro, progettato specificamente per queste workload. Questo approccio garantisce un'efficienza termica ottimale e una maggiore densità di calcolo rispetto alle soluzioni tradizionali raffreddate ad aria.
Integrazione con l'infrastruttura NVIDIA MGX
Il rack CPU Vera è basato sul design NVIDIA MGX di terza generazione, che fa parte dello stack DLC-2. Questo lo rende compatibile con i rack Vera Rubin NVL72, creando un'infrastruttura unificata che semplifica la distribuzione e la gestione dei sistemi. NVIDIA MGX è una architettura di riferimento modulare per il calcolo accelerato, che aiuta i produttori di sistemi a sviluppare soluzioni future-proof in modo più rapido ed economico.
Per l'alimentazione, i clienti possono scegliere tra una tradizionale alimentazione a corrente alternata o un rack di alimentazione sidecar a 800 VDC, che consente l'uso di unità di backup a batteria (BBU) invece di un UPS convenzionale. Questo approccio aiuta a risparmiare spazio nel data center, migliora l'efficienza della conversione dell'energia e riduce i costi di investimento e operativi.
Sicurezza e orchestrazione agent-based
Il rack CPU NVIDIA Vera supporta nativamente la reference architecture NVIDIA OpenShell, che permette di monitorare e controllare continuamente il comportamento degli agenti. OpenShell applica controlli basati su policy con il principio del minimo privilegio durante l'esecuzione degli agenti, mentre NVIDIA Sentry, che gira sulle DPU BlueField-4, funge da monitor out-of-band per l'applicazione delle policy, la fornitura di telemetrie autenticate e la quarantena degli agenti che superano i limiti consentiti in millisecondi.
Queste soluzioni software aiutano le aziende a garantire osservabilità e tracciabilità nei sistemi agent-based produttivi senza consumare risorse CPU del host.
Flexibilità di distribuzione
Il rack CPU Vera è progettato per essere utilizzato sia in combinazione con i rack Vera Rubin NVL72 che come piattaforma CPU standalone. Per i clienti che utilizzano i blueprints DCBBS di Supermicro per NVIDIA Vera Rubin NVL72, è disponibile un design opzionale che combina i rack Vera Rubin NVL72 con i rack CPU Vera. Questo design include una topologia di rete definita basata su NVIDIA Spectrum-X Ethernet, layout di containment "hot-aisle", unità di distribuzione del liquido di raffreddamento in-row ridondanti e scambiatori di calore a parete posteriore dallo stack DLC-2.
Un unico team di Supermicro si occupa della valutazione del sito, della pianificazione, dell'integrazione e del testing a livello L11 e L12, della distribuzione sul campo e del supporto continuo, indipendentemente dal fatto che il rack CPU Vera venga utilizzato insieme al Vera Rubin NVL72 o in modalità standalone.
Opzioni di raffreddamento e alimentazione
Oltre alla soluzione completamente raffreddata a liquido, Supermicro offre anche opzioni di raffreddamento ad aria per i sistemi 1U e 2U. Questo permette ai clienti di scegliere la soluzione più adatta alle loro esigenze specifiche. La flessibilità del portfolio NVIDIA Vera-CPU di Supermicro, che include sia opzioni di raffreddamento a liquido che ad aria, aiuta a ridurre i tempi di implementazione grazie a un'architettura comune sviluppata appositamente per l'IA agent-based sicura e scalabile.
Conclusione
Il rack CPU NVIDIA Vera di Supermicro rappresenta un passo avanti significativo nell'evoluzione delle infrastrutture per l'IA agent-based. Con la sua capacità di supportare un elevato numero di sandbox agent-based, la sua integrazione con le tecnologie NVIDIA e la sua flessibilità di distribuzione, questa soluzione offre un'opzione potente e scalabile per le aziende che cercano di implementare workload agent-based su larga scala.
Grazie alla collaborazione tra Supermicro e NVIDIA, i clienti possono beneficiare di una soluzione completamente integrata che combina prestazioni, sicurezza ed efficienza energetica, contribuendo a ridurre i tempi di implementazione e a migliorare il ritorno sull'investimento.