Olala mini 7A1B: un LLM europeo “sovereign”

OVHcloud ha annunciato lo sviluppo del suo primo large language model, denominato Olala mini 7A1B. Il modello conta 7 miliardi di parametri complessivi, ma attiva circa un miliardo di parametri per ogni inferenza grazie a un’architettura Mixture of Experts (MoE) progettata per contenere il consumo di risorse. Questa scelta consente l’esecuzione sia su GPU con 8 GB di memoria, sia su CPU senza acceleratori AI dedicati.

Le prestazioni dichiarate da OVHcloud sono 160 token al secondo su una NVIDIA RTX A4500 e 50 token al secondo quando il modello è eseguito esclusivamente su CPU, dimostrando un notevole equilibrio tra velocità e efficienza.

Distribuzione e licenza

Olala mini sarà reso disponibile su Hugging Face con licenza Apache 2.0. La pubblicazione includerà i pesi del modello, la versione di base pre‑addestrata, un report tecnico dettagliato e la documentazione necessaria per la conformità all’AI Act europeo.

Architettura MoE e attenzione ibrida

L’architettura combina Mixture of Experts con un sistema di attenzione ibrida costituito da Differential‑TPA e Mamba‑3. La struttura MoE prevede 256 esperti per livello: per ogni token vengono selezionati dinamicamente solo alcuni esperti, riducendo drasticamente il lavoro computazionale rispetto a un modello denso.

Differential‑TPA unisce la Differential Attention, che confronta due distribuzioni di attenzione e ne calcola la differenza, con la Tensor Product Attention (TPA), basata sulla fattorizzazione tensoriale delle rappresentazioni. Mamba‑3 appartiene alla famiglia degli State Space Model (SSM) e gestisce le sequenze aggiornando progressivamente uno stato interno.

Il modello utilizza il formato numerico BF16 (bfloat16) a 16 bit e una finestra di contesto iniziale di 32 000 token, che sarà estesa a 128 000 token con la versione 1.1 prevista entro la fine del 2026.

Per fare un confronto, modelli di fascia alta come GPT‑5.4 di OpenAI, Gemini 2.5 Pro di Google e Claude Sonnet 4.6 di Anthropic supportano finestre di contesto di circa un milione di token, più di 30 volte la capacità attuale di Olala mini.

Risorse di calcolo e investimento pubblico

Per l’addestramento di Olala mini sono stati impiegati tre supercomputer europei:

    • JUPITER – dotato di acceleratori NVIDIA GH200
    • MeluXina – con GPU NVIDIA A100
    • Jean Zay – equipaggiato con GPU NVIDIA H100

Il progetto ha beneficiato di un sostegno pubblico pari a 7 milioni di euro in ore di calcolo, oltre a favorire la creazione di un team interno di specialisti AI e dell’OVHai LLM, l’Agentic Lab di OVHcloud.

Primi casi d’uso: Qwant

Il motore di ricerca europeo Qwant è il primo cliente a utilizzare Olala mini per la sua funzionalità di risposta rapida. I risultati comunicati indicano una riduzione del 20 % dei tempi di generazione delle risposte e un contenimento dei costi operativi a un terzo rispetto al modello precedente.

Roadmap e prospettive future

La roadmap di OVHcloud prevede:

    • Olala 1.1: entro fine 2026, finestra di contesto a 128 000 token e miglioramenti nel ragionamento matematico.
    • Olala 2.0: modelli con oltre 100 miliardi di parametri, destinati a tre aree chiave – AI agentica aziendale, cloud DevOps e cybersecurity.

Per l’AI agentica aziendale, i modelli saranno integrati in OVHai Workspace, con inferenza cifrata direttamente sulle workstation degli utenti, eliminando la dipendenza da servizi di inferenza remoti.

Nel contesto cloud DevOps, i modelli supporteranno sviluppatori, architetti software e team operativi nella gestione continua dei servizi. Per la cybersecurity, OVHcloud prevede versioni specializzate sia per difesa che per simulazioni offensive.

Dimensione economica e sostenibilità

Il CEO di OVHcloud, Octave Klaba, ha sottolineato come la riduzione dei costi di addestramento – diminuiti di venti volte negli ultimi tre anni – renda lo sviluppo di LLM economicamente sostenibile anche per aziende non tradizionalmente legate all’AI. “Non possiamo limitarci ad affidare la nostra strategia a laboratori esterni; dobbiamo essere in grado di sviluppare modelli propri,” ha dichiarato Klaba.

Presentazione ufficiale all’OVHcloud AI Summit

Olala mini 7A1B sarà presentato ufficialmente il giovedì 19 novembre 2026 all’OVHcloud AI Summit a Parigi, dove OVHcloud illustrerà anche la sua strategia di sviluppo per i modelli AI sovrani.

Con questa iniziativa, OVHcloud consolida la propria posizione di provider europeo di infrastrutture AI, offrendo al mercato un modello open source, efficiente su CPU e pronto a evolversi verso capacità di scala comparabili ai più grandi LLM internazionali.