Negli ultimi anni i grandi modelli linguistici (LLM) sono sempre più inseriti in applicazioni concrete, da assistenti personali capaci di agire in base alla cronologia comportamentale dell’utente a sistemi di raccomandazione e pubblicità che prevedono le future azioni dell’utente. Questa tendenza richiede una nuova dimensione di intelligenza, la capacità di inferire preferenze, intenzioni e probabilità di azioni future a partire da settimane o anni di dati di comportamento. Tuttavia, i modelli attuali sono addestrati su testi statici o dati sintetici, che non catturano la dinamica evolutiva del comportamento umano.

Il paradigma della supervisione basata sul comportamento

Il comportamento reale degli utenti è già disponibile su larga scala su piattaforme di contenuti e assistenti personali. Questi registri descrivono sequenze di azioni (visualizzazioni, ricerche, acquisti, post, follow, dislike) e possono diventare un segnale di supervisione naturale per migliorare l’intelligenza dei LLM. Il paper propone quindi “user behavior as supervision”, un paradigma in cui il segnale di addestramento proviene dalle azioni concrete degli utenti, piuttosto che da testi generici.

Per realizzare questo concetto, gli autori hanno sviluppato Vela, una struttura che converte i dati di comportamento in compiti e traiettorie di addestramento. Vela parte da registri anonimizzati di 100 000 utenti, genera 100 000 compiti basati su 91 template reali e, grazie a filtri di difficoltà e criteri di accettazione delle traiettorie, conserva circa 75 000 compiti idonei per il training.

Come nasce il dataset Vela‑Instruct

    • Le cronologie degli utenti sono divise in due parti: una “visibile” (due terzi) e una “nascosta” (un terzo).
    • Quattro tipologie di domande vengono generate: Objective e Open‑prediction (previsioni su comportamenti futuri), Open (sintesi di attributi, interessi o stile) e Attribution (spiegazione di un evento futuro usando evidenze precedenti).
    • I 91 template sono distribuiti in 28 Objective, 22 Open‑prediction, 12 Open e 29 Attribution.
    • Per i compiti predittivi, il futuro osservato fornisce la risposta corretta; per i compiti Open e Attribution, le risposte sono valutate con rubriche specifiche.
    • Per evitare perdite di informazione, ogni evento futuro è associato a un solo template (predittivo o di attribuzione).

La difficoltà di ogni compito è stimata come la media dei punteggi ottenuti da quattro risposte di un modello di base; solo i compiti con punteggio compreso tra 0,2 e 0,8 vengono mantenuti, concentrando il training su esempi di difficoltà intermedia.

Risultati sperimentali

Il modello Qwen3.6‑35B‑A3B, fine‑tuned sui percorsi Vela‑Instruct, ha migliorato le prestazioni rispetto al modello base di fino a 11,5 punti sui compiti legati all’utente e di una media di 4 punti sui benchmark generali.

In dettaglio:

    • Il punteggio VelaBench è salito da 51,5 a 63,0 (+11,5).
    • Sull’intervallo medio OOD (out‑of‑distribution) relativo a quattro benchmark utente (PurchaseIntent, ProfileSummary, PersonaBench, AdRecommendation) la media è passata da 41,3 a 47,5 (+6,2).
    • Sull’intervallo medio di cinque benchmark generali (AIME 2026, GPQA‑Diamond, IFBench, CL‑bench, CL‑bench Life) la media è aumentata da 54,2 a 58,2 (+4,0).
    • Il miglior guadagno è stato osservato su AdRecommendation (+11,2 punti), mentre PurchaseIntent è migliorato solo di 0,2 punti.

Un ulteriore test ha confrontato il reinforcement learning (RL) partendo dal modello base con quello partendo dal checkpoint fine‑tuned con Vela. RL su Vela ha ottenuto 66,2 su VelaBench contro 58,5 del modello base, e 37,6 su ProfileSummary contro 29,9, indicando un miglioramento di 7,7 punti su entrambi i benchmark. Questo dimostra che il checkpoint Vela rappresenta un punto di partenza più solido per ulteriori ottimizzazioni RL.

Scalabilità e limiti

Gli esperimenti di scaling hanno mostrato che aumentare il numero di esempi Vela‑Instruct da 4,7 K a 75 K ha spostato il punteggio VelaBench da 59,2 a 63,0 e la media OOD utente da 43,5 a 47,5. Tuttavia, gli autori segnalano che il miglioramento non è lineare e che la qualità dei dati di comportamento (ad esempio la pulizia e l’anonimizzazione) rimane cruciale.

Un altro aspetto importante è la differenza tra Vela‑Instruct e Vela‑RFT: il primo è generato da Qwen3.8‑2.4T‑A95B, mentre il secondo, più piccolo (9 375 esempi), è prodotto dal modello Qwen3.6‑35B‑A3B stesso. Questo mostra la possibilità di creare dataset di supervisione anche a partire da modelli più piccoli, riducendo la dipendenza da LLM di dimensioni estremamente grandi.

Collocazione rispetto ai lavori precedenti

I lavori più vicini citati dagli autori sono P5, che unifica i compiti di raccomandazione come language modeling, e RLPF, che addestra sommari utente da feedback predittivi. Vela si differenzia per la copertura più ampia: genera target di previsione e compiti basati su rubriche direttamente dai comportamenti osservati, valutando l’effetto sia su benchmark utente che su benchmark generali. Né P5 né RLPF sono stati usati come baseline dirette negli esperimenti.

In sintesi, Vela dimostra che trasformare i comportamenti reali degli utenti in segnali di supervisione è una strategia efficace per migliorare le capacità predittive, di sintesi e di spiegazione dei grandi modelli linguistici. I risultati indicano che questa forma di supervisione non solo potenzia le performance su compiti specifici dell’utente, ma contribuisce anche a una intelligenza più generale, aprendo la strada a assistenti più personalizzati e a sistemi di raccomandazione più accurati.