Il 13 ottobre 2026 Nvidia ha rilasciato l’intera piattaforma Run:ai come progetto open source all’interno del DSX AI Factory, sotto licenza Apache 2.0. Questo cambiamento ha immediatamente suscitato l’interesse dei fornitori di cloud GPU, che vedono l’opportunità di offrire versioni gestite del software senza richiedere licenze proprietarie.
Le componenti ora aperte
Nvidia ha reso disponibili sei moduli principali: KAI Scheduler, GPU Fractioning Operator, KAI Resource Management, Workload Map, KAI GPU Sharing Operator e NVIDIA Run:ai Model Streamer. Tutti sono ospitati nel repository dsx-ai-factory/run-ai su GitHub e distribuiti tramite NVIDIA NGC con chart Helm.
Di seguito il riepilogo delle funzioni e della licenza:
- KAI Scheduler: ordinatore nativo Kubernetes per workload IA – Apache 2.0
- GPU Fractioning Operator: condivisione delle GPU a livello CUDA – Apache 2.0
- KAI Resource Management: gestione quote e gerarchia organizzativa – Apache 2.0
- Workload Map: contratto di gestione dei workload – Apache 2.0
- KAI GPU Sharing Operator: progetto associato – Apache 2.0
- NVIDIA Run:ai Model Streamer: streaming dei modelli – Apache 2.0
KAI Scheduler: il motore di orchestrazione GPU
KAI Scheduler è il cuore decisionale della piattaforma. Si tratta di un controller Kubernetes che analizza le richieste di risorse, i limiti di quota e le priorità per posizionare i pod su GPU condivise. Grazie a un’architettura modulare, il scheduler può essere adottato indipendentemente dagli altri componenti, consentendo alle aziende di integrare solo la funzionalità di scheduling.
Il progetto è organizzato come monorepo, includendo:
- servizi di controllo
- operatori e controller Kubernetes
- librerie condivise per la gestione dei profili GPU
Vantaggi chiave
- Utilizzo simultaneo di workload interattivi, training prolungati e inferenza senza monopolizzare le GPU.
- Supporto per il fractioning, ovvero la suddivisione di una singola GPU in più slice CUDA.
- Gestione dinamica delle quote basata su policy aziendali.
L’integrazione di Lambda nel suo servizio Kubernetes
Lambda ha annunciato, sul proprio blog, l’intenzione di offrire KAI Scheduler come opzione gestita all’interno del Lambda Kubernetes Service. La società prevede di:
- Distribuire il chart Helm di KAI Scheduler tramite il proprio marketplace interno.
- Automatizzare l’installazione di GPU Fractioning Operator e KAI Resource Management per fornire una soluzione “chiavi in mano”.
- Offrire supporto premium, monitoraggio avanzato e SLA dedicati per i clienti che scelgono l’opzione gestita.
Secondo Lambda, questa integrazione ridurrà i tempi di setup da settimane a poche ore, consentendo ai team MLOps di concentrarsi sullo sviluppo dei modelli anziché sulla gestione dell’infrastruttura.
Distribuzione: licenza Apache 2.0, NGC e Helm
Per installare la piattaforma, gli utenti devono:
- Scaricare i container da NVIDIA NGC senza necessità di chiavi API.
- Utilizzare Helm per deployare il chart
run-ai/kai-schedulersul cluster Kubernetes. - Configurare i Custom Resource Definitions (CRD) per GPU Fractioning e Resource Management.
- Applicare le policy di quota tramite file YAML forniti.
La documentazione include esempi di file values.yaml per personalizzare il numero di slice GPU, le priorità di scheduling e i limiti di memoria.
Confronto con SLURM
Run:ai e KAI Scheduler rappresentano un’alternativa moderna a SLURM, tradizionale gestore di job per HPC. Le differenze principali sono:
- Integrazione Kubernetes: KAI Scheduler opera nativamente su cluster K8s, mentre SLURM richiede un layer aggiuntivo.
- Condivisione GPU: il fractioning è incorporato in KAI, SLURM supporta solo l’allocazione esclusiva.
- Policy dinamiche: KAI può ricalcolare le quote al volo; SLURM necessita di ricaricamenti manuali.
Ordine di grandezza del mercato
L’apertura di Run:ai sta stimolando una corsa tra i principali cloud provider. Oltre a Lambda, anche AWS, Google Cloud e Azure hanno iniziato a valutare integrazioni simili, prevedendo servizi gestiti con tariffe di abbonamento basate su “per‑core‑hour”.
Secondo le stime di IDC, entro il 2027 il mercato dell’orchestrazione GPU gestita supererà i 2 miliardi di dollari, trainato dalla crescita dei carichi di lavoro IA in settori come automotive, biotech e finanza.
Implicazioni per le équipe MLOps in Europa
Le normative europee sulla sovranità dei dati spingono le aziende a preferire soluzioni on‑premise o private cloud. Con Run:ai ora disponibile sotto Apache 2.0, le organizzazioni possono:
- Costruire cluster Kubernetes interni con il scheduler open source.
- Beneficiare di supporto commerciale opzionale da fornitori come Lambda.
- Ridurre la dipendenza da licenze proprietarie, migliorando la conformità GDPR.
Rischi e limitazioni del codice pubblico
Nonostante i vantaggi, l’apertura del codice comporta sfide:
- Possibili vulnerabilità di sicurezza non ancora identificate.
- Necessità di aggiornamenti continui per rimanere allineati con le versioni di Kubernetes.
- Rischio di fork non supportati che potrebbero creare incompatibilità tra ambienti.
Le aziende devono valutare attentamente la capacità interna di gestire questi aspetti o affidarsi a partner gestiti.
Cinque previsioni per i prossimi mesi
- Lambda lancerà un piano di supporto “Enterprise” per KAI Scheduler entro dicembre 2026.
- Almeno due concorrenti introdurranno versioni gestite di Run:ai, spingendo verso la standardizzazione del scheduler GPU.
- Verrà pubblicata una prima versione stabile di KAI Scheduler compatibile con Kubernetes 1.30.
- Le comunità open source introdurranno plugin per il monitoraggio Prometheus specifici per il fractioning GPU.
- Le policy di quota saranno integrate nei framework di governance di Azure Policy e Google Organization Policy.
Tabella comparativa delle opzioni di deployment
| Opzione | Gestione | Costi | Supporto |
|---|---|---|---|
| Self‑hosted Apache 2.0 | DIY | Solo infrastruttura | Community |
| Lambda Managed | Fully managed | Abbonamento mensile per nodo GPU | Premium SLA |
| AWS GPU Orchestrator | Managed + integrazione SageMaker | Pay‑as‑you‑go | AWS Support |
| Azure AI Compute | Managed + Azure Policy | Pay‑as‑you‑go | Microsoft Support |
Foire aux questions
Devo pagare per usare KAI Scheduler? No, il software è gratuito sotto Apache 2.0; i costi emergono solo se si sceglie un servizio gestito.
Posso combinarlo con altri orchestratori? Sì, KAI Scheduler può coesistere con altri scheduler Kubernetes tramite la configurazione di “schedulerName”.
Qual è la roadmap di Nvidia? Nvidia ha annunciato aggiornamenti trimestrali, con focus su integrazioni AI/ML e miglioramenti di sicurezza.
Quali requisiti hardware sono necessari? Un cluster con nodi GPU NVIDIA compatibili con CUDA 12 e Kubernetes 1.27 o superiore.
Come migrare da una soluzione proprietaria? È consigliabile eseguire una fase pilota, importare i CRD esistenti e validare le policy di quota prima del passaggio in produzione.