Intel Accelerates Open Infrastructure for the Agentic AI Era

Al Summit globale del Open Compute Project (OCP), Intel ha condiviso nuovi dettagli tecnici sulla Intel GPU D-series, precedentemente conosciuta con il nome in codice Crescent Island, ha introdotto nuove progettazioni rack basate su Intel Xeon e ha evidenziato innovazioni software ed ecologiche aperte. Mentre i modelli aperti ridefiniscono l'economia dell'AI agentic, cresce la domanda di infrastrutture più flessibili, efficienti in termini di costo e consumo energetico. Questi progressi rafforzano l'approccio di Intel all'infrastruttura AI eterogenea e aperta, combinando calcolo generico, accelerazioni dedicate, software aperto e sistemi basati su standard per ottimizzare prestazioni ed efficienza attraverso i carichi di lavoro AI.

Perché è importante

L'AI agentic sta trasformando l'inferenza in un flusso di lavoro multi-step che abbraccia recupero, ragionamento, orchestrazione, utilizzo di strumenti ed esecuzione, con le CPU x86 che giocano un ruolo centrale. Sebbene i modelli aperti offrano alle imprese una maggiore scelta, i vincoli energetici, i colli di bottiglia della memoria e le pressioni sui costi rendono la scalabilità dell'AI sempre più una sfida di sistema. Per soddisfare queste esigenze sono necessarie infrastrutture eterogenehe "chiavi in mano" facili da distribuire e gestire. Sulla base dell'ecosistema software consolidato x86, Intel unisce CPU, GPU e acceleratori specializzati attraverso software interoperabile aperto per abbinare le risorse di calcolo giuste a ogni task, migliorando utilizzazione, prestazioni ed efficienza in tutto il flusso di lavoro.

Intel Xeon: Il Fondamento di Calcolo per l'AI Agentic

Al OCP, Intel ha presentato nuove progettazioni rack basate su Xeon sviluppate con partner ecologici per soddisfare le crescenti richieste di calcolo dell'AI agentic. Molti sfruttano lo standard Open Rack v3 (ORv3) del Open Compute Project per semplificare la distribuzione e l'integrazione nell'infrastruttura del data center aperto. Man mano che i flussi di lavoro agentic diventano più complessi, pongono maggiori richieste al calcolo generico per orchestrare i carichi di lavoro, elaborare dati, gestire I/O ed eseguire task che mantengono produttivi gli acceleratori. Per soddisfare queste esigenze, le configurazioni Xeon 6+ selezionate scalano oltre 46.000 core per rack a 133,45 kW di potenza totale del rack, fornendo maggiore densità di calcolo CPU per supportare l'AI agentic su larga scala.

Sulla base di due decenni di innovazione a livello di rack e dell'ampio ecosistema software x86, Xeon fornisce il fondamento di calcolo generico ad alta densità necessario per scalare l'AI agentic. Lavorando insieme a GPU e acceleratori specializzati, Xeon orchestra i carichi di lavoro, esegue task e gestisce il movimento dei dati per mantenere produttivo l'intero sistema. Man mano che l'infrastruttura AI evolve, le prestazioni sono sempre più misurate dal numero di agenti concorrenti che un rack può sostenere con latenza target – e Xeon aiuta a massimizzare quel lavoro consegnato mantenendo i dati in movimento, gli strumenti in esecuzione e gli acceleratori alimentati.

Intel GPU D-Series: Progettata per l'Inferenza Efficienti su Grande Scala

La Intel GPU D-series, con nome in codice Crescent Island, è progettata per migliorare l'economia dell'inferenza AI intensiva di memoria e sostenibile. Costruita sull'architettura Xe3P più recente di Intel, la GPU combina fino a 480 GB di memoria LPDDR5X, 1,5 TB/s di larghezza di banda della memoria e 1,3 petaflops di calcolo FP8 entro un involucro da 350 watt. Questo equilibrio tra capacità di memoria, prestazioni di calcolo ed efficienza energetica riflette l'approccio di Intel all'ottimizzazione dell'infrastruttura per i carichi di lavoro di inferenza del mondo reale.

Progettata per modelli di linguaggio di grandi dimensioni, carichi di lavoro con contesto lungo e servizi di inferenza concorrenti, la Intel GPU D-series supporta modelli fino a 300 miliardi di parametri su una singola scheda e oltre un trilione di parametri in un sistema con otto GPU. Le applicazioni target spaziano da servizi AI multi-tenant a robotica e altri carichi di lavoro sensibili alla latenza. Con un formato standard PCIe, design raffreddato ad aria e fondazione software Xe comune, la Intel GPU D-series è progettata per semplificare la distribuzione entro gli ambienti esistenti dei data center supportando la portabilità delle applicazioni tra le piattaforme GPU Intel. Ciò consente ai clienti di scalare l'inferenza senza infrastrutture rack o raffreddamento specializzate.

"L'inferenza sta diventando il carico di lavoro definitivo dell'AI, e le aziende hanno bisogno di infrastrutture che offrono le giuste prestazioni al giusto costo", ha dichiarato Anil Nanduri, vicepresidente, AI Products & GTM, Intel Data Center Group. "Con la Intel GPU D-series, ci concentriamo su rendere l'inferenza ad alta capacità pratica da distribuire ed economica da scalare". Per aiutare a portare queste capacità in produzione, Intel sta collaborando con un ampio ecosistema di OEM, ODM, neocloud, software vendor indipendenti, fornitori di appliance e aziende native AI. Questi sforzi si concentrano su piattaforme convalidate, integrazione software e soluzioni pronte per la distribuzione che riducono la complessità e aiutano i clienti a passare più rapidamente dalla valutazione del modello alla produzione.

Software Aperto per AI Eterogenea

Rendere funzionare l'infrastruttura AI eterogenea su larga scala richiede software aperto che connetta le risorse di calcolo, semplifichi la distribuzione e dia agli sviluppatori la flessibilità di eseguire i carichi di lavoro sulla giusta architettura. La strategia software aperta di Intel enfatizza l'integrazione nativa a monte con framework AI standard del settore, runtime di inferenza e ambienti di distribuzione tra CPU e GPU. Costruire sugli strumenti che gli sviluppatori utilizzano già, Intel sta aiutando a semplificare lo sviluppo, ottimizzare le prestazioni e accelerare la distribuzione attraverso diverse capacità chiave:

    • Distribuzione semplificata tra GPU Intel: Costruita su una fondazione software Xe comune, la Intel GPU D-series supporta la portabilità software tra le piattaforme GPU Intel, aiutando gli sviluppatori a riutilizzare applicazioni esistenti e ridurre lo sforzo necessario per distribuire carichi di lavoro su nuovo hardware.
    • Framework e software di prestazione aperti: Intel supporta i framework AI, i motori di servizio e gli strumenti di sviluppo già utilizzati in tutto il settore, integrati da librerie di prestazione e livelli software programmabili per ottimizzare la throughput di inferenza. Gli stessi framework supportano applicazioni di inferenza e agentic in esecuzione su processori Intel Xeon, consentendo agli sviluppatori di lavorare tra architetture CPU e GPU.
    • Supporto Day 0 per modelli aperti emergenti: Attraverso l'integrazione del framework a monte e l'abilitazione del modello, Intel sta lavorando per supportare nuovi modelli aperti man mano che diventano disponibili tra Intel GPU D-series e processori Xeon. Recenti sforzi includono il supporto Day 0 per Muse Glimmer di Meta, aiutando gli sviluppatori a valutare e distribuire più rapidamente carichi di lavoro AI agentic emergenti.
    • Progettato per applicazioni e agenti AI reali: La pila software di Intel supporta carichi di lavoro diversi, dalla generazione di token ad alta throughput ad agenti di programmazione e flussi di lavoro aziendali complessi. Intel AI per Enterprise Agent Toolkit è ottimizzato e distribuibile su processori Xeon oggi, fornendo capacità di orchestrazione per applicazioni agentic di produzione. La sua architettura basata su provider è progettata per estendersi alle GPU Intel, dando alle aziende una flessibile fondazione per flussi di lavoro multimodali e un percorso per scalare su risorse di calcolo eterogenee.

Infrastruttura Aperta per AI Eterogenea

Intel continua a promuovere l'infrastruttura aperta attraverso il suo lavoro con il Open Compute Project, dove ha effettuato 116 contributi dal 2011. quest'anno, Intel sta presentando il suo contributo all'Open Adapt