Il 12 settembre scorso, Dario Amodei, direttore generale di Anthropic, ha pubblicato uno dei suoi saggi più controversi. Intitolato "Dobbiamo marcare il ritmo della frontiera", Amodei difende la necessità di rallentare lo sviluppo dei modelli di intelligenza artificiale (IA) avanzati per garantire la loro corretta allineamento con gli interessi umani e minimizzare i rischi.
In un passaggio del suo articolo, Amodei spiega: "Da quest'estate, l'IA sta avanzando molto più velocemente, principalmente grazie alla sua crescente capacità di sviluppare la generazione successiva di modelli. Questa dinamica si chiama automiglioramento ricorsivo e sta iniziando a verificarsi in tutta l'industria, inclusa Anthropic". L'automiglioramento ricorsivo si riferisce alla capacità di un modello di linguaggio di sviluppare autonomamente nuovi modelli più avanzati.
Secondo Amodei, i modelli più avanzati di Anthropic e altri laboratori stanno già partecipando allo sviluppo di nuovi modelli di linguaggio più capaci. Tuttavia, nessuna di queste aziende ha dimostrato pubblicamente che un modello abbia raggiunto l'automiglioramento ricorsivo in senso stretto. Recentemente, però, è successo qualcosa di inaspettato: un gruppo di ricercatori del MIT ha dimostrato che GPT-6 Astra ha modificato direttamente il funzionamento di un'altra IA.
Cosa ha fatto realmente Astra e cosa significa
I ricercatori del Laboratorio di Intelligenza Artificiale e Informatica del MIT hanno verificato che GPT-6 Astra, il modello di IA di OpenAI, è in grado di modificare direttamente i parametri interni di un'altra rete neurale per migliorarne il comportamento. In particolare, hanno sperimentato su Qwen3.5-0.8B, un modello di linguaggio con 800 milioni di parametri sviluppato da Alibaba. Astra ha migliorato significativamente le prestazioni matematiche di Qwen3.5-0.8B modificando solo lo 0,016% dei suoi parametri.
Come spiegano i ricercatori del MIT nel loro articolo, è sorprendente che Astra abbia migliorato così tanto le prestazioni matematiche di Qwen3.5-0.8B con una modifica così modesta. Inoltre, questa miglioria è stata ottenuta senza un nuovo processo di addestramento del modello. Astra ha semplicemente modificato il valore dei pesi di Qwen.
Cosa sono i pesi di un modello di IA
I grandi modelli di linguaggio sono eccellenti nel riconoscere schemi. Questa capacità risiede nel cuore del loro funzionamento e si ottiene grazie a miliardi di parametri numerici, tra cui i pesi, che il modello regola durante l'addestramento. Un'IA è una gigantesca rete di miliardi di piccole connessioni. Durante il processo di addestramento, l'IA analizza una grande quantità di informazioni e regola queste connessioni per imparare a riconoscere schemi.
Il valore numerico di ciascuna di queste connessioni determina quanto influisce sul comportamento del modello. Questi valori sono i pesi. Invece di riallena Qwen, Astra ha identificato un problema nel suo funzionamento e ha manipolato direttamente i valori numerici che lo causavano. Questa strategia, mai vista prima in un'IA, apre nuove strade per accelerare lo sviluppo di nuovi modelli, anche se non si tratta di automiglioramento ricorsivo in senso stretto.
Benefici e rischi
La possibilità che un modello di IA intervenga direttamente su altre reti neurali può accelerare la ricerca scientifica, correggere problemi che richiedevano lunghi processi di addestramento e facilitare lo sviluppo di modelli più efficienti. Tuttavia, questo scenario presenta anche rischi.
Se i modelli di linguaggio più avanzati iniziano a intervenire in modo più autonomo sui propri componenti o su altri modelli, i laboratori di IA dovranno garantire che queste modifiche non causino errori, vulnerabilità difficili da localizzare o comportamenti anomali. Inoltre, se le migliorie si accumulano in successive generazioni di modelli di IA, potrebbe diventare molto più complicato valutare e controllare l'evoluzione dei modelli avanzati.