Da sperimentazione a produzione: l’IA generativa per il codice

Numerose aziende stanno passando dall’esperimento con l’IA generativa alla sua messa in produzione, al deployment e alla scalabilità. La generazione e la modernizzazione del codice sono ormai tra i casi d’uso più strategici, poiché consentono di creare valore concreto, ridurre i costi operativi e ottenere un ritorno sull’investimento (ROI) misurabile.

IBM® Granite è una famiglia di modelli progettati per le esigenze aziendali, sviluppati da IBM Research con una rigorosa governance dei dati e nel rispetto delle normative vigenti. La suite supporta attualmente diverse lingue naturali e un ampio spettro di linguaggi di programmazione, tra cui Python, JavaScript, Java, Go, C++ e Rust.

Microservizi NIM di NVIDIA: performance e scalabilità

Dal NVIDIA AI Summit tenutosi a Taiwan, i modelli di codice IBM Granite 8b-code-instruct e 34b-code-instruct sono stati resi disponibili come microservizi di inferenza NIM, ospitati nel catalogo API di NVIDIA. Questi microservizi sfruttano l’architettura NVIDIA NIM per offrire un throughput e prestazioni superiori, rendendo possibile l’esecuzione su workstation, data center e ambienti cloud accelerati da GPU.

La collaborazione tra IBM e NVIDIA, annunciata in precedenza, mira a favorire l’adozione dell’IA generativa in azienda, combinando il software NVIDIA AI Enterprise con le soluzioni di settore di IBM Consulting. In questo contesto, i decisori aziendali devono affrontare la sfida di scalare rapidamente l’IA generativa mitigando al contempo i rischi associati ai modelli di base.

Caratteristiche chiave richieste

    • Affidabilità: modelli testati per generare, correggere e spiegare codice con alta precisione.
    • Performance: capacità di gestire carichi elevati su infrastrutture GPU.
    • Trasparenza: rispetto delle linee guida di apertura e tracciabilità dei modelli.
    • Economicità: ottimizzazione del rapporto prezzo‑prestazioni.

Risultati di benchmark e riconoscimenti di trasparenza

Secondo la valutazione HumanEvalPack, i modelli di codice Granite hanno superato alcuni concorrenti più grandi, dimostrando eccellenza nella generazione, correzione ed esposizione del codice. Nessun altro modello, ad eccezione di Granite, ha raggiunto simultaneamente alti livelli di performance in tutte queste categorie.

L’indice di trasparenza di Stanford ha inoltre classificato Granite tra i modelli più trasparenti del settore, assegnandogli il punteggio massimo in diverse metriche di apertura. In risposta a questo riconoscimento, IBM ha rilasciato i modelli di codice in open source, semplificando l’accesso per la comunità di sviluppatori.

Distribuzione e integrazione dei modelli Granite

I modelli sono disponibili in diversi ecosistemi:

    • Biblioteca di modelli di base integrata nella piattaforma IBM watsonx.
    • Piattaforme open source quali Hugging Face, GitHub, watsonx.ai e Red Hat Enterprise Linux AI (RHEL AI).
    • Catalogo API di NVIDIA, ora arricchito con i microservizi NIM per Granite.

Questa ampia distribuzione rende il coding più semplice e accessibile a un pubblico più ampio di sviluppatori, consentendo di scegliere l’infrastruttura più adatta alle proprie esigenze.

Microservizi NIM: deployment flessibile e sicuro

IBM prevede di offrire i modelli di codice Granite nel catalogo API NVIDIA come microservizi di inferenza NIM scaricabili e containerizzati. Questa modalità facilita il deployment su qualsiasi infrastruttura, garantendo la riservatezza e la sicurezza dei dati aziendali.

I microservizi supportano API standard del settore, semplificando l’integrazione nei workflow esistenti. Grazie al loro design containerizzato, è possibile ottenere un throughput più elevato, generando più risposte sulla stessa piattaforma hardware.

Supporto continuo e prova di concetto

All’interno della piattaforma NVIDIA AI Enterprise, i modelli NIM auto‑hostati beneficiano di aggiornamenti di sicurezza continui e di assistenza dedicata alle esigenze aziendali. Gli sviluppatori possono accedere gratuitamente a NIM per testare i modelli Granite su larga scala e creare una prova di concetto (POC) collegando le proprie applicazioni al punto di terminazione API ospitato da NVIDIA.

Questa prova di concetto consente di valutare l’impatto reale sui processi di sviluppo, riducendo i tempi di delivery e migliorando la qualità del codice generato.

Prospettive future della collaborazione IBM‑NVIDIA

Rendere disponibili i modelli di codice Granite nel catalogo API NVIDIA permette alle imprese di sfruttare facilmente tecnologie all’avanguardia per generare e tradurre codice in modo affidabile, ottimizzando al contempo i costi grazie all’infrastruttura GPU e alle funzionalità di gestione dell’inferenza.

Altri modelli Granite saranno presto aggiunti al catalogo API NVIDIA, mentre IBM e NVIDIA continuano ad ampliare la loro partnership, promettendo ulteriori innovazioni per l’IA generativa in ambito aziendale.