Da Claude Code a GLM: la svolta strategica di Revolut

Durante la GTC di Nvidia a Berlino, David Abitbol, direttore delle operazioni e dell’infrastruttura IA di Revolut, ha illustrato come la fintech abbia trasformato il proprio workflow di sviluppo passando da Claude Code di Anthropic e Codex di OpenAI a GLM, il modello di intelligenza artificiale open‑source di Z.ai. Oggi circa 2.000 ingegneri utilizzano GLM 5.3 come assistente di programmazione predefinito, riservando le soluzioni di Anthropic e OpenAI solo ai casi più complessi.

Questa scelta si inserisce in una tendenza più ampia: i modelli locali e auto‑ospitati hanno compiuto progressi notevoli negli ultimi due anni, offrendo prestazioni paragonabili a quelle dei modelli più avanzati ma a costi significativamente inferiori e con tutti i dati rimasti all’interno dell’infrastruttura aziendale.

Costi e infrastruttura: un risparmio decimale

Abitbol ha sottolineato che Revolut ora paga “circa una decima parte” rispetto ai costi dei modelli di frontiera comparabili. La fintech, che serve più di 80 milioni di clienti in tutto il mondo, utilizza circa 56 GPU Nvidia per eseguire GLM, con un prezzo combinato di 0,30 € per milione di token. A differenza dei modelli SaaS, la fattura è fissa e non cresce con il numero di richieste.

Il risparmio economico si traduce anche in un miglioramento della produttività: secondo i dati presentati, il tempo di programmazione è diminuito di circa 60 %, mentre il tempo di consegna – dalla segnalazione di un’incidenza al rilascio del codice – è sceso di 70 %.

Le tappe del cambiamento

    • Gennaio 2025: introduzione di Gemini di Google, con un aumento del 10 % nella velocità di consegna e del 20 % nella programmazione.
    • Secondo trimestre 2025: adozione di Claude Code con un budget di 300 $ al mese per ingegnere; l’incremento di produttività è stato limitato perché il budget non copriva l’intero mese.
    • 2026: lancio di GLM 5.3 auto‑ospitato, con token “illimitati” e costi marginali.

Utilizzo pratico dei token

Con il nuovo modello, gli ingegneri hanno potuto impiegare i token per attività “ancillari” piuttosto che per la sola scrittura di codice. Tra le applicazioni più comuni troviamo:

    • Ricerca di documentazione su Confluence.
    • Gestione di ticket su Jira.
    • Individuazione di informazioni in Slack.

Abitbol ha osservato che il vero collo di bottiglia non era la generazione di codice, ma le operazioni di supporto che circondano il processo di sviluppo.

Ottimizzazioni tecniche e performance

Il passaggio a GLM non è avvenuto senza difficoltà. In giugno, le risposte impiegavano più di 10 secondi con quattro richieste al secondo. Dopo aver ottimizzato il deployment, Revolut è riuscita a gestire più di otto richieste al secondo con una latenza inferiore a 1,8 secondi, mantenendo lo stesso numero di GPU.

Abitbol ha condiviso alcuni consigli chiave per ottenere prestazioni elevate:

    • Limitare la finestra di contesto a 256.000 token.
    • Utilizzare formati FP4 a bassa precisione anziché FP8, risparmiando circa il 40 % della capacità GPU.
    • Monitorare le percentuali di hit della cache e resistere alla tentazione di aggiungere hardware ogni volta che il traffico aumenta.

Questioni di privacy e geopolitica

L’impiego di un modello cinese in una banca regolamentata ha sollevato perplessità. Abitbol ha chiarito che Revolut utilizza solo i pesi del modello, ospitati su infrastrutture proprie o su provider dell’UE/USA, garantendo che nessun dato venga inviato a servizi cinesi. Questo approccio, a suo avviso, è più sicuro per la privacy rispetto all’invio di codice a OpenAI o Anthropic.

Inoltre, i “sandbox” in cui gira GLM consentono l’esecuzione di comandi selezionati, bloccandone altri e mantenendo sempre un operatore umano nel ciclo di controllo. Per le attività di elaborazione immagini, Revolut utilizza modelli più economici come Gemini Flash, mantenendo GLM esclusivamente per il testo.

Conclusioni

Il caso di Revolut dimostra come le grandi aziende fintech possano trarre vantaggio da modelli IA open‑source, riducendo drasticamente i costi operativi e migliorando la produttività dei team di sviluppo. Con una fatturazione decimale, una latenza ottimizzata e una gestione attenta della privacy, Revolut si posiziona come pioniera nella transizione verso soluzioni IA auto‑ospitate, aprendo la strada a un nuovo modello di innovazione sostenibile nel settore finanziario.