Il commento di Sam Altman sul modello “IA locale”

Nel recente episodio del podcast Cheeky Pint, condotto da John Collison, Sam Altman, CEO di OpenAI, ha dedicato parte della conversazione al tema dell’esecuzione di modelli di intelligenza artificiale sui singoli computer. L’argomento, che ha subito acceso le discussioni sui social, verteva sulla presunta “libertà” offerta dai modelli open‑source e sulla possibilità per gli utenti di installare un’IA direttamente sul proprio hardware.

Altman ha espresso una forte critica: “l’inferenza locale è una terribile allocazione di risorse scarse”. Secondo lui, molti utenti presumono erroneamente che il problema sia risolto grazie ai modelli di codice aperto, ma la realtà è che questi sistemi sfruttano solo una piccola frazione della capacità di memoria disponibile.

La cifra del 5 %

Il fondatore di OpenAI ha citato una percentuale precisa: la memoria DRAM dei PC domestici verrebbe utilizzata appena 5 % del tempo quando si esegue un modello IA in locale. In un contesto di scarsità di DRAM, questa inefficienza rappresenterebbe, a suo avviso, uno spreco di risorse che dovrebbero invece alimentare i data center.

Il contesto globale della DRAM

La DRAM è un componente cruciale per i carichi di lavoro di intelligenza artificiale. Produttori come Micron, Samsung e SK Hynix controllano la maggior parte della produzione mondiale e, secondo Altman, non riescono a incrementare la capacità al ritmo richiesto dagli iper‑scalatori.

TrendForce ha rilevato che, nel primo trimestre del 2026, i prezzi della DRAM sono aumentati tra 90 % e 95 % rispetto all’anno precedente. La tendenza è chiaramente al rialzo e non si prevedono riduzioni a breve termine.

Le cause della carenza

    • Investimenti conservativi da parte dei produttori di memoria, nonostante i profitti record degli ultimi 12 mesi.
    • Costi elevati e tempi lunghi per avviare nuove linee di produzione di DRAM ad alta velocità (HBM).
    • Priorità data ai data center, con la produzione di chip di consumo limitata per liberare fabbisogni di HBM.
    • Il ruolo di Cina, che tenta di entrare nel mercato della DRAM ma è ancora più focalizzata sulla memoria di consumo.

Le proposte di Altman per una soluzione

Altman ha suggerito che la risposta al problema non sta semplicemente nell’abbandonare l’IA locale, ma nel ristrutturare la catena di approvvigionamento. Tra le iniziative menzionate:

    • OpenAI sta collaborando con Broadcom per sviluppare un chip proprietario, soprannominato “Jalapeño”, ottimizzato per le proprie esigenze di DRAM.
    • Altri giganti tecnologici, come SpaceX, Amazon, Meta, Microsoft e Google (con le sue TPU), stanno perseguendo strategie analoghe, sviluppando hardware su misura.
    • Incrementare la concorrenza nella produzione di DRAM, invitando nuovi attori a entrare nel mercato.

IA open‑source e il progetto gpt‑oss

Nel 2025 OpenAI ha lanciato gpt‑oss, una versione open‑source dei propri modelli pensata per l’esecuzione locale. Altman aveva ammesso in gennaio 2025 di aver sottovalutato l’impatto del codice aperto, ma la crisi attuale della DRAM ha cambiato drasticamente le priorità.

Il dibattito sulla privacy e sull’autonomia

Nonostante le argomentazioni di Altman, molti utenti continuano a preferire le soluzioni locali per motivi di privacy e di indipendenza dalla rete. Un PC che può operare offline è attraente per chi non vuole affidare i propri dati a un servizio cloud.

La domanda rimane: quanto è significativo il segmento di utenti che sceglie l’IA locale? E in che misura il loro consumo di DRAM impatta realmente sulla catena di approvvigionamento globale?

Prospettive future

Se le tendenze attuali persisteranno, è probabile che la pressione sui fornitori di DRAM continui a crescere, spingendo verso un’ulteriore concentrazione delle risorse nei data center. Tuttavia, l’emergere di hardware dedicato e di soluzioni più efficienti potrebbe mitigare parte del problema.

Nel frattempo, il dibattito resta aperto tra chi privilegia la centralizzazione delle risorse per massimizzare l’efficienza e chi difende la decentralizzazione per motivi di sicurezza e autonomia.