Un nuovo passo nell’intelligenza artificiale di OVHcloud

OVHcloud ha annunciato il rilascio di Olala mini 7A1B, il primo membro della sua famiglia di modelli di linguaggio di grande dimensione (LLM). Si tratta di un modello compatto basato su un’architettura da 7 000 milioni di parametri, di cui 1 000 milioni attivi, distribuiti su 256 esperti per layer e dotato di un meccanismo di attenzione ibrida che combina Differential‑TPA e Mamba‑3. Il modello è implementato in formato BF16, garantendo un equilibrio tra precisione e efficienza.

Il CEO di OVHcloud, Octave Klaba, ha dichiarato: “L’intelligenza artificiale è strategica per OVH”. Ha aggiunto che l’obiettivo è non solo offrire servizi di IA ai clienti, ma anche sviluppare modelli adatti sia alle esigenze interne sia a quelle dei clienti.

Motivazioni e contesto

Klaba ha evidenziato la dipendenza da modelli open source di altri laboratori, affermando che “non possiamo limitarci a contare sulla generosità di alcuni laboratori nel condividere i loro LLM come codice aperto”. Inoltre, ha sottolineato che le conoscenze tecniche sul training dei modelli si sono ampiamente diffusesi e che il costo di addestramento è diminuito di un ventunesimo in tre anni, rendendo la creazione di LLM più sostenibile dal punto di vista economico.

Caratteristiche tecniche di Olala mini

Olala mini è progettato per funzionare su GPU con 8 GB di memoria, raggiungendo una velocità di 160 token al secondo su una RTX A4500. Su processori standard, la velocità scende a circa 50 token al secondo. La finestra di contesto attuale è di 32 000 token, consentendo al modello di gestire testi di notevole lunghezza.

    • Architettura: 7 000 milioni di parametri, 1 000 milioni attivi
    • Esperti per layer: 256
    • Attenzione ibrida: Differential‑TPA + Mamba‑3
    • Formato: BF16
    • GPU consigliata: RTX A4500 (8 GB)
    • Velocità: 160 token/s (GPU) / 50 token/s (CPU)
    • Finestra di contesto: 32 000 token

Il modello è stato addestrato sui supercomputer pubblici europei Jupiter, MeluXina e Jean Zay, garantendo un alto livello di affidabilità e conformità alle normative europee sull’IA.

Disponibilità e licenza

Olala mini sarà rilasciato come codice aperto su Hugging Face sotto licenza Apache 2.0. Già alcune applicazioni, come il motore di risposte istantanee di Qwant, stanno integrando il modello. OVHcloud fornirà inoltre i pesi, il modello base pre‑addestrato, un rapporto tecnico dettagliato e la documentazione necessaria per garantire la conformità alla legge europea sull’intelligenza artificiale.

Piani di sviluppo futuri

Entro la fine dell’anno, OVHcloud prevede il rilascio della versione 1.1 di Olala mini, che amplierà la finestra di contesto a 128 000 token** e introdurrà ottimizzazioni specifiche per il ragionamento matematico. Successivamente, la versione 2.0 mira a superare i 100 000 milioni di parametri, concentrandosi su tre ambiti chiave:

    • IA agentica per le imprese
    • DevOps in cloud
    • Cyber‑security offensiva e difensiva

Queste evoluzioni puntano a posizionare OVHcloud come fornitore di soluzioni IA end‑to‑end, capaci di soddisfare sia le necessità operative interne sia quelle di una clientela sempre più esigente.

Impatto sul mercato

Con Olala mini, OVHcloud si inserisce in un panorama competitivo dominato da grandi player internazionali, ma con un vantaggio distintivo: la capacità di offrire modelli LLM open source, ottimizzati per l’infrastruttura europea e conformi alle normative locali. Questo approccio potrebbe favorire l’adozione da parte di aziende che cercano soluzioni di IA indipendenti da ecosistemi proprietari e desiderano controllare pienamente i propri dati.

In sintesi, il lancio di Olala mini rappresenta non solo un traguardo tecnologico per OVHcloud, ma anche una dichiarazione di intenti verso una maggiore autonomia e innovazione nell’ambito dell’intelligenza artificiale, aprendo la strada a future versioni ancora più potenti e specializzate.