Un gruppo di ricercatori del MIT CSAIL ha pubblicato una scoperta che potrebbe cambiare il modo in cui si migliorano i grandi modelli di linguaggio (LLM). Invece di utilizzare il classico addestramento basato su gradiente, i ricercatori hanno dimostrato che è possibile interpretare e modificare direttamente i pesi di una rete neurale usando un altro LLM, denominato GPT‑6 Astra.

Programmazione nello spazio dei pesi

Nel loro articolo del 2 novembre 2026, Rikiya Takehi, Jayden Teoh, Alex Zhang e Omar Khattab descrivono il metodo come “programmazione nello spazio dei pesi”. I pesi, cioè i valori numerici che determinano le trasformazioni interne di una rete, sono tradizionalmente considerati opachi e difficili da manipolare senza un processo di ottimizzazione. Astra, però, è stato in grado di analizzare questi valori, dedurre il compito svolto da una rete e persino scrivere nuovi pesi seguendo istruzioni in linguaggio naturale.

Il concetto si basa su due capacità fondamentali:

    • Leggere i parametri di una rete esistente per identificarne la funzione.
    • Scrivere nuovi parametri che realizzano un comportamento desiderato, senza accedere a loop di training o gradienti.

Questa forma di intervento è più simile alla revisione e al miglioramento di un documento testuale che alla tradizionale programmazione di un algoritmo di apprendimento.

Esperimenti preliminari su giochi e forme geometriche

Le prime prove hanno coinvolto giochi a griglia 10 × 10 (Breakout, Pong, Pac‑Man e Freeway). Astra ha ricevuto i pesi delle politiche addestrate con PPO e, senza conoscere a priori le opzioni di gioco, è riuscita a identificare correttamente tutti e quattro i giochi osservando pattern nei pesi di input e output.

Un altro esperimento ha riguardato tre modelli di diffusione addestrati a generare forme geometriche (cerchi, quadrati, triangoli) su immagini 12 × 12 pixel. Anche senza eseguire passate forward, Astra ha identificato la forma associata a ciascun modello, sebbene abbia descritto i contorni anziché le forme riempite, indicando una comprensione della geometria dei pesi più che una semplice replica dell’output.

In una prova più sofisticata, Astra ha ricevuto solo i blocchi intermedi di piccoli trasformatori (7,16 M di parametri) addestrati su codice Python, giapponese romanizzato e inglese. Senza accesso alle layer di input e output, ha comunque indovinato la lingua corretta in due tentativi per modello e ha riconosciuto le teste di attenzione dedicate alla copia del testo.

Controllo di veicoli in ambienti simulati

Il team ha testato la capacità di scrittura di Astra su una politica di controllo che falliva nel far salire un’auto su una rampa in Kinetix. Dopo aver ricevuto i pesi, una descrizione della scena e una registrazione di un episodio, Astra ha modificato il 3,5% dei parametri. Il risultato è stato un miglioramento notevole: l’auto ha superato la prova in 1.024 episodi, dove prima non aveva avuto alcun successo.

Creazione di reti da zero per giochi MinAtar

Astra è stata poi incaricata di generare da zero reti per tre giochi MinAtar (Breakout, Seaquest, Asterix). Senza dati di addestramento, funzione di perdita, gradienti o opportunità di testare le reti prima della scrittura dei pesi, le reti prodotte hanno superato le performance di PPO dopo 100 milioni di passi.

    • Breakout: 517,4 punti contro 15,8 (PPO 100 M) e 25,3 (PPO 500 M).
    • Seaquest: 53,1 punti contro 5,6 (PPO 100 M) e 88,9 (PPO 500 M).
    • Asterix: 53,2 punti, vicino ai 55,2 di PPO a 500 M e molto sopra i 25,8 a 100 M.

Gli autori interpretano questi risultati come la traduzione di strategie descritte in parole in operazioni distribuite tra i layer della rete.

Applicazione a un modello di Go più grande

Per testare la scalabilità, il team ha usato una rete per il gioco del Go su una scacchiera 9 × 9 con 1,48 M di parametri. Astra non poteva includere tutti i pesi nel contesto, quindi ha operato in un ambiente Python con tensori inizializzati a zero, analizzandoli tramite NumPy o PyTorch ma senza eseguire la rete liberamente.

Con zero passate forward, la rete di Astra ha vinto più della metà delle partite contro due politiche PPO di dimensioni ridotte. Con 50 passate di test, ha superato una rete PPO di pari dimensione addestrata su 20 milioni di partite, dimostrando una capacità di riconoscere pietre, spazi liberi e gruppi a rischio, e di assegnare punteggi a catture, difese e mosse potenzialmente pericolose.

Il caso Qwen3.5‑0.8B: editing minimo, impatto massimo

Il risultato più rilevante riguarda Qwen3.5‑0.8B, un modello con circa 0,8 miliardi di parametri. Astra doveva migliorare le prestazioni matematiche del modello modificando direttamente i pesi, senza usare gradienti né training tradizionale. Il modello poteva consultare problemi di GSM8K e MATH‑500 tramite un ambiente Python, con budget di 10, 25 o 50 passate forward, ma non aveva accesso alle valutazioni finali di MATH‑500, GSM8K o altri sei benchmark riportati.

Gli autori hanno identificato che Qwen falliva spesso a causa di loop di ragionamento che consumavano l’intero limite di 32.768 token senza produrre una risposta. Astra ha localizzato il problema in una direzione associata ai MLP delle layer 15 e 19, riducendo di 64 colonne di output. La modifica ha interessato 131.072 pesi, pari allo 0,016 % del totale.

Con 50 passate forward, i risultati sono stati sorprendenti:

    • MATH‑500 è salito dal 7,9 % al 48,1 %.
    • GSM8K è aumentato dal 13,8 % al 67,1 %.
    • IFEval (test di follow‑up di istruzioni) è passato dal 21,0 % al 62,3 %.
    • La percentuale di risposte MATH‑500 che raggiungeva il limite di token è diminuita dal 93,0 % al 33,1 %.

Con budget più ridotti (10 o 25 passate), i loop di token rimanevano prevalenti e i miglioramenti erano minori, evidenziando l’importanza di un sufficiente numero di osservazioni forward per guidare l’editing dei pesi.

Limiti e considerazioni future

Nonostante i risultati promettenti, gli esperimenti presentati hanno limiti importanti:

    • Le valutazioni provengono da test interni al team, senza revisione indipendente.
    • Il metodo non ha prodotto miglioramenti significativi su modelli più piccoli come Gemma 3 270 M, indicando che la capacità di “correggere” un ostacolo non implica l’acquisizione di nuove abilità.
    • L’intervento è limitato a piccole frazioni di parametri; modifiche più estese potrebbero introdurre instabilità o comportamenti inattesi.
    • La fattibilità di applicare questa tecnica a sistemi già in produzione richiede controlli rigorosi per evitare regressioni o vulnerabilità.

In conclusione, l’editing diretto dei pesi da parte di un LLM rappresenta una nuova frontiera nella ricerca sull’intelligenza artificiale. Sebbene i risultati su Qwen3.5‑0.8B mostrino un potenziale notevole, ulteriori studi sono necessari per valutare la robustezza, la scalabilità e le implicazioni etiche di questo approccio.