Il contesto del dibattito su “Cheeky Pint”

John Collison, co‑fondatore di Stripe, conduce il podcast “Cheeky Pint”, dove invita a parlare i leader delle grandi aziende tecnologiche. Tra gli ospiti recenti c’è stata Susan Li, CFO di Meta, e, più recentemente, Sam Altman, CEO di OpenAI. Durante l’intervista, Altman ha sollevato una preoccupazione che sembra tenerlo sveglio la notte: la diffusione di intelligenze artificiali eseguibili localmente sui personal computer.

Il tema è stato discusso in modo approfondito, ma è stato il commento di Altman sulla “inferenza locale” a catturare l’attenzione dei social. Il fondatore di OpenAI ha definito la pratica una “terribile assegnazione di risorse scarse”, facendo riferimento in particolare alla memoria DRAM, un componente cruciale per il funzionamento dei modelli di IA.

La dichiarazione di Altman sulla DRAM

Altman ha spiegato che, contrariamente a quanto credono molti utenti, l’esecuzione di modelli di IA su hardware domestico non risolve il problema, ma lo aggrava. Ha sottolineato:

    • “La inferenza locale è una terribile assegnazione di risorse scarse.”
    • “Molti vogliono inferenza locale e, in qualche modo, assumono che il problema sia risolto perché abbiamo modelli open‑source che possiamo eseguire sui nostri computer, evitando così le infrastrutture dei data center.”
    • “Dal punto di vista di una assegnazione globale, è piuttosto pessimo che tutti abbiano il proprio computer con DRAM utilizzata appena il 5 % del tempo, soprattutto ora che la DRAM è un bene limitato.”

Secondo Altman, in un contesto di offerta critica di DRAM, la massima concentrazione dovrebbe avvenire nei data center, dove l’utilizzo della memoria è ottimizzato al 100 % o più, mentre i PC domestici sfruttano la memoria solo per una piccola frazione del tempo.

Il dato del 5 %

Altman cita una percentuale del 5 % di utilizzo medio della DRAM nei computer personali quando si esegue inferenza locale. Questa stima è alla base del suo argomento: se la memoria è così sottoutilizzata, è più efficiente destinare quella capacità ai data center, dove le richieste di calcolo sono continue e critiche per l’intero ecosistema IA.

Il mercato della DRAM e la sua scarsità

La DRAM è prodotta principalmente da tre giganti: Micron, Samsung e SK Hynix. Altman ha evidenziato che, nonostante gli enormi profitti registrati da questi produttori negli ultimi dodici mesi, le loro strategie di investimento rimangono conservative rispetto alle esigenze dei grandi iper‑scalatori.

Le tre aziende hanno avviato progetti per nuove fabbriche, ma la costruzione di impianti di memoria ad alte prestazioni richiede tempo e non è possibile “accendere” una nuova linea produttiva da un giorno all’altro. Inoltre, la produzione di HBM (High Bandwidth Memory), la tipologia più adatta ai data center, è particolarmente complessa.

Nel frattempo, la DRAM ha subito un forte rincaro: secondo il report di TrendForce, i prezzi sono aumentati tra il 90 % e il 95 % nel primo trimestre del 2026. Nessuna indicazione suggerisce un ritorno a prezzi più bassi nel breve periodo; al contrario, la tendenza è verso ulteriori incrementi.

Il ruolo di Cina nella catena di fornitura

La Cina ha cercato di inserirsi come fornitore di DRAM, ma al momento si concentra più sulla memoria di consumo che sull’HBM. Le restrizioni tecnologiche e le esigenze di alta larghezza di banda dei data center rendono difficile per i produttori cinesi competere immediatamente in questo segmento.

Le implicazioni per gli utenti e le motivazioni dell’IA locale

Nonostante le argomentazioni di Altman, molti utenti continuano a preferire l’esecuzione di modelli IA localmente per motivi legittimi:

    • Privacy: gestire i dati sensibili sul proprio hardware riduce il rischio di esposizione a server esterni.
    • Indipendenza dalla connettività: un modello locale può funzionare offline, utile in ambienti con connessione limitata.
    • Personalizzazione: gli sviluppatori possono modificare e ottimizzare i modelli per usi specifici, sfruttando il codice open‑source.

Queste ragioni spiegano perché la community ha adottato rapidamente strumenti come DeepSeek, Llama, Mistral, Gemma e altri, tutti disponibili gratuitamente per l’esecuzione su PC domestici.

Le iniziative di OpenAI e di altri giganti

OpenAI ha già risposto a parte della domanda di IA locale lanciando, nell’agosto 2025, gpt‑oss, una versione open‑source pensata per funzionare su hardware non specializzato. Altman, però, ha ammesso che al momento della pubblicazione non esisteva ancora la crisi della DRAM, e che la situazione è mutata drasticamente nel 2026.

Per ridurre la dipendenza dalla DRAM tradizionale, OpenAI sta collaborando con Broadcom nello sviluppo di chip proprietari, denominati “Jalapeño”. Questi ASIC sono progettati per ottimizzare l’uso della memoria e ridurre il fabbisogno di DRAM, pur mantenendo prestazioni elevate.

Altri colossi tecnologici stanno seguendo la stessa strada:

    • SpaceX sta progettando chip su misura per le proprie esigenze di calcolo.
    • Amazon, Meta, Microsoft e Google (con le sue TPU) stanno investendo in hardware personalizzato per i data center.

Il punto di vista di Satya Nadella

Satya Nadella, CEO di Microsoft, ha dichiarato: “Il nostro obiettivo è portare intelligenza gratuita a ogni casa e a ogni scrivania”. Questa visione sembra in contrasto con l’avvertimento di Altman, ma riflette la strategia di Microsoft di distribuire capacità di IA tramite il cloud, riducendo al contempo la necessità di hardware locale.

Le prospettive future e le possibili soluzioni

Altman propone due linee di azione per mitigare il problema:

    • Diversificazione della catena di fornitura: introdurre nuovi attori nella produzione di DRAM e di chip specializzati, in modo da aumentare la capacità globale.
    • Ottimizzazione hardware‑software: sviluppare chip su misura, come il progetto “Jalapeño”, che richiedono meno memoria per eseguire gli stessi modelli.

Queste soluzioni richiedono investimenti significativi e tempo, ma potrebbero ridurre la pressione sulla DRAM e rendere più sostenibile l’adozione di IA sia nei data center sia nei dispositivi personali.

Conclusioni

Il dibattito sollevato da Sam Altman mette in luce una tensione cruciale nel panorama dell’intelligenza artificiale: la ricerca di massima efficienza globale contro le esigenze di privacy, autonomia e personalizzazione degli utenti. Mentre la DRAM rimane una risorsa limitata e costosa, le grandi aziende stanno puntando su hardware dedicato per ottimizzare l’uso della memoria nei data center. Tuttavia, la domanda di IA locale non scomparirà, soprattutto per chi valorizza la privacy e la capacità di operare offline. Il futuro probabilmente vedrà una convivenza di entrambe le strategie, con un continuo dialogo tra produttori di hardware, fornitori di cloud e la community open‑source.