Il contesto della generative AI aziendale
Oggi molte aziende stanno passando dalla sperimentazione della generative AI (gen AI) alla produzione, all’implementazione e alla scalabilità. La generazione e la modernizzazione del codice sono tra i principali casi d’uso aziendali, poiché offrono un percorso chiaro verso la creazione di valore, la riduzione dei costi e un ritorno sull’investimento più rapido.
Le organizzazioni devono affrontare sfide complesse: scalare rapidamente le capacità di gen AI, mitigare i rischi legati ai foundation model e garantire che le soluzioni siano affidabili, performanti ed economicamente sostenibili. In questo scenario, IBM Granite si propone come risposta di livello enterprise.
IBM Granite: modelli di codice per l’impresa
IBM® Granite™ è una famiglia di modelli di livello aziendale sviluppati da IBM Research, con rigorosa governance dei dati e conformità normativa. La suite supporta modalità linguistiche e di codice multilingue, ed è stata presentata all’NVIDIA AI Summit di Taiwan.
I modelli di codice IBM Granite, 8b-code-instruct e 34b-code-instruct, sono ora disponibili come microservizi di inferenza NIM ospitati da NVIDIA nel catalogo API NVIDIA.
Caratteristiche tecniche
- Ottimizzati per produttività e prestazioni grazie all’integrazione con NVIDIA NIM.
- Addestrati su 116 linguaggi di programmazione, tra cui Python, JavaScript, Java, Go, C++ e Rust.
- Riconosciuti dallo Stanford Transparency Index con punteggi perfetti in diverse categorie di trasparenza.
Valutazioni di performance e trasparenza
Secondo HumanEvalPack, i modelli di codice Granite superano in performance alcuni modelli più grandi, dimostrando che dimensione non è l’unico fattore determinante. Nessun altro modello è riuscito a raggiungere livelli elevati in generazione, correzione e spiegazione del codice, a eccezione di Granite.
La trasparenza è un punto di forza: IBM ha rilasciato i modelli di codice Granite in open source per semplificare la programmazione degli sviluppatori e ha ottenuto il riconoscimento dallo Stanford Transparency Index per la loro apertura.
Distribuzione tramite il catalogo API NVIDIA
I modelli Granite sono disponibili in una libreria curata di foundation model, parte della piattaforma dati e AI IBM Watsonx, oltre a piattaforme open‑source come Hugging Face, GitHub, watsonx.ai™ e RHEL AI.
Nel catalogo API NVIDIA, i modelli sono offerti come microservizi di inferenza NIM scaricabili, progettati per semplificare e accelerare l’implementazione su workstation GPU, data center e cloud.
Vantaggi della containerizzazione
- Implementazione rapida su infrastrutture preferite, garantendo privacy e protezione dei dati.
- Velocità di elaborazione superiore, gestendo un maggior numero di richieste sulla stessa infrastruttura.
- Supporto di API standard di settore per integrazione immediata nei workflow esistenti.
Integrazione con NVIDIA AI Enterprise
All’interno della piattaforma software NVIDIA AI Enterprise, i microservizi NIM includono aggiornamenti di sicurezza continui e supporto di livello aziendale. Gli sviluppatori possono testare gratuitamente i modelli di codice IBM Granite su larga scala, costruendo proof of concept (POC) collegando le proprie applicazioni all’endpoint API ospitato da NVIDIA.
Questa integrazione garantisce una gestione completa dell’inferenza, dalla sicurezza al monitoraggio delle performance, consentendo alle aziende di sperimentare senza compromettere la compliance.
Prospettive future e roadmap
Portando i modelli di codice Granite nel catalogo API NVIDIA, IBM consente alle aziende di utilizzare facilmente modelli leader per la generazione e traduzione di codice affidabile, sfruttando infrastrutture GPU e funzionalità software di gestione dell’inferenza per ottimizzare il rapporto qualità‑prezzo.
La collaborazione tra IBM e NVIDIA è in continua espansione: presto saranno disponibili altri modelli Granite nel catalogo API di NVIDIA, ampliando ulteriormente le possibilità di innovazione per le imprese che desiderano adottare la gen AI a livello enterprise.