Presentazione al OCP Global Summit
Shim Ho-jun, vice‑presidente e responsabile dell’ingegneria delle applicazioni nella divisione Device Solutions, ha illustrato le nuove strategie di Samsung durante il summit globale OCP, tenutosi a San Francisco dal 12 ottobre 2026.
Il focus è stato posto su tre assi principali: memorie vive ad alte prestazioni, tecnologia CXL (Compute Express Link) per l’estensione della RAM e SSD di nuova generazione per lo storage e la gestione dei dati.
Motivazioni legate ai grandi modelli di linguaggio
Con l’avvento dei grandi modelli di linguaggio (LLM), la quantità di dati da memorizzare e la dimensione della cache KV (chiave‑valore) necessarie per l’inferenza sono aumentate drasticamente. Questo rende cruciale lo sviluppo di soluzioni di storage e di espansione della RAM tanto quanto l’avanzamento della memoria ad alta larghezza di banda (HBM).
Il cache KV consente al modello di richiamare rapidamente i risultati dei token precedenti, riducendo i tempi di calcolo e permettendo la generazione di risposte più lunghe. Tuttavia, la sua rapida occupazione della memoria richiede nuove architetture più capaci.
Strategie chiave per potenziare l’infrastruttura IA
1. Memorie vive ad alte prestazioni: Samsung punta a migliorare la velocità e la capacità delle DRAM per supportare carichi di lavoro intensivi, riducendo latenza e consumo energetico.
2. Tecnologia CXL: il protocollo di interconnessione permette di condividere la memoria tra più server, consentendo al CPU di accedere a risorse di RAM situate su altri nodi quando la domanda supera la capacità locale.
- Maggiore scalabilità dei data center
- Riduzione del colli di bottiglia tra CPU e memoria
- Supporto a carichi di lavoro IA estremamente variabili
3. SSD di nuova generazione: sviluppati per gestire volumi di dati massivi con velocità di lettura/scrittura superiori, gli SSD saranno integrati con funzioni di gestione intelligente dei dati per ottimizzare l’accesso alle informazioni durante l’addestramento e l’inferenza dei modelli.
Collaborazione con clienti e partner
Shim ha sottolineato l’importanza di coinvolgere fin dalle prime fasi di sviluppo clienti e partner, affinché partecipino alla progettazione e alla validazione tecnica delle nuove tecnologie. Questo approccio collaborativo mira a garantire che le soluzioni rispondano alle esigenze reali del mercato IA.
Dimostrazione pratica con AMD
Durante l’evento, Samsung ha mostrato una soluzione CXL sviluppata con AMD. Il protocollo CXL consente di mettere in comune le memorie di più server all’interno di un data center, permettendo al CPU di un server di accedere direttamente alla RAM di un altro quando necessario.
Questa capacità supera le limitazioni attuali sul numero di moduli di memoria collegabili a un singolo CPU, offrendo una flessibilità senza precedenti per le applicazioni IA ad alta intensità di dati.
Prospettive future
Le iniziative presentate indicano che Samsung intende posizionarsi come leader nella fornitura di soluzioni di memoria e storage ottimizzate per l’intelligenza artificiale. L’integrazione di memorie più veloci, CXL e SSD avanzati promette di ridurre i tempi di inferenza, migliorare l’efficienza energetica e supportare la crescita esponenziale dei modelli di linguaggio.
Con la collaborazione attiva di partner tecnologici e clienti, Samsung punta a accelerare il ciclo di innovazione, rendendo le infrastrutture IA più scalabili e performanti per le sfide future.