IBM Granite: modelli di codice generativo disponibili come microservizi NVIDIA NIM

Da sperimentazione a produzione: l’ascesa della IA generativa aziendale

Le imprese stanno rapidamente passando dalla fase di prova della IA generativa a quella di produzione, distribuzione e scalabilità. Tra i casi d’uso più promettenti troviamo la generazione e la modernizzazione del codice, che offrono un percorso chiaro per creare valore, ridurre i costi e migliorare il ritorno sugli investimenti (ROI).

IBM® Granite è una famiglia di modelli di livello enterprise sviluppati da IBM Research con rigorosa governance dei dati e conformità normativa. Attualmente la suite supporta modalità multilingue sia per il linguaggio naturale sia per il codice, rendendola adatta a scenari complessi e internazionali.

Disponibilità dei modelli di codice IBM Granite su NVIDIA NIM

Alla NVIDIA AI Summit di Taiwan, IBM ha annunciato che i modelli di codice 8B‑code‑instruct e 34B‑code‑instruct sono ora disponibili come microservizi di inferenza NIM, ospitati nel catalogo API di NVIDIA. Questi microservizi sono ottimizzati per offrire prestazioni superiori grazie all’infrastruttura accelerata di NVIDIA.

La collaborazione tra IBM e NVIDIA mira a favorire l’adozione della IA generativa aziendale combinando il software di IA di NVIDIA con le soluzioni di consulenza di IBM, garantendo una piattaforma affidabile e scalabile per le imprese.

Vantaggi per i decisori aziendali

• Scalabilità rapida della IA generativa, riducendo al contempo i rischi associati ai modelli di base.
• Modelli di livello enterprise con governance, trasparenza e sicurezza integrate.
• Integrazione fluida nei flussi di lavoro chiave tramite API standard dell’industria.

Prestazioni e trasparenza dei modelli Granite

Secondo la valutazione di HumanEvalPack, i modelli di codice Granite superano alcuni concorrenti più grandi, dimostrando eccellenza nella generazione, correzione e spiegazione del codice. Nessun altro modello ha raggiunto livelli così alti in tutte le metriche testate.

Il Stanford Transparency Index ha riconosciuto Granite come uno dei modelli più trasparenti del settore, assegnandogli punteggi perfetti in diverse categorie di apertura. IBM ha ulteriormente aumentato la trasparenza rendendo i modelli di codice disponibili in open source, con l’obiettivo di semplificare la programmazione per la community di sviluppatori.

Granite è stato addestrato su 116 linguaggi di programmazione, inclusi Python, JavaScript, Java, Go, C++ e Rust, garantendo copertura ampia per progetti moderni.

Distribuzione e integrazione flessibile

I modelli Granite sono presenti in una libreria curata di modelli di base all’interno della piattaforma IBM watsonx, nonché su piattaforme open source come Hugging Face, GitHub, watsonx.ai e RHEL AI di Red Hat. Ora, grazie al catalogo API di NVIDIA, la programmazione diventa più accessibile a un pubblico più ampio di sviluppatori.

Il prossimo passo prevede la fornitura dei modelli come microservizi di inferenza NIM scaricabili, progettati per semplificare e accelerare il deployment su workstation GPU, data center e piattaforme cloud. Questa flessibilità consente alle aziende di scegliere l’infrastruttura preferita, mantenendo dati privati e sicuri.

Caratteristiche tecniche dei microservizi NIM

• Contenitori pre‑configurati per un facile deployment.
• Prestazioni superiori per più risposte nella stessa infrastruttura.
• Supporto per API standard, facilitando l’integrazione con workflow esistenti.
• Aggiornamenti di sicurezza continui tramite la piattaforma NVIDIA AI Enterprise.
• Supporto enterprise garantito da NVIDIA e IBM.

Prove di concetto e futuro della collaborazione

Gli sviluppatori possono accedere a NIM per test gratuiti dei modelli Granite, creando proof‑of‑concept (POC) collegando le proprie applicazioni all’endpoint API ospitato da NVIDIA su una stack completamente accelerata. Questo approccio consente di valutare rapidamente l’impatto della generazione di codice automatizzata su progetti reali.

Portando i modelli di codice Granite nel catalogo API di NVIDIA, IBM offre alle imprese un modo semplice per sfruttare modelli leader di mercato per la generazione e traduzione di codice affidabile, combinati con infrastrutture GPU e software di gestione dell’inferenza ottimizzati per il rapporto prezzo‑prestazioni. IBM e NVIDIA hanno già annunciato che altri modelli Granite saranno aggiunti al catalogo in futuro, consolidando ulteriormente la loro partnership strategica.