Nel mondo dello sviluppo software, qualsiasi modifica porta con sé il rischio di introdurre nuovi bug. Anche un piccolo aggiustamento può alterare il comportamento di un programma, rendendo necessarie due fasi distinte: proporre la modifica e dimostrare che funziona. Questo dilemma diventa ancora più complesso quando lo stesso compito è affidato a agenti di intelligenza artificiale (IA) capaci di intervenire direttamente sul codice e sulle istruzioni che usano per risolvere i problemi.

HyperAgents: una nuova architettura per il miglioramento autonomo

Un gruppo di ricercatori dell'Università della Virginia, di Microsoft Research e dell'Università di Tsinghua ha sviluppato una soluzione che consente a questi agenti di valutare le proprie modifiche prima di metterle in produzione. Il progetto, descritto in uno studio pubblicato su arXiv, introduce un meccanismo di previsione che stima se una proposta di cambiamento potrebbe peggiorare i risultati. Quando il rischio è elevato, il sistema richiede una revisione aggiuntiva.

Il modello non comporta un nuovo addestramento dell'IA, ma si concentra sul miglioramento dei programmi e delle istruzioni che l'agente utilizza. L'obiettivo non è eliminare tutti gli errori, ma orientare meglio gli sforzi di ottimizzazione, riducendo il numero di tentativi falliti.

Come funziona il processo di revisione

Immaginiamo due agenti IA che collaborano: il primo risolve le attività richieste, mentre il secondo, denominato “miglioratore”, genera modifiche al codice e alle istruzioni di entrambi gli agenti, inclusa la propria architettura. Questo secondo agente utilizza il sistema HyperAgents, che conserva le versioni precedenti dei modelli per guidare le future modifiche.

Un precedente tentativo risale al 2025, quando Sakana AI presentò Darwin Gödel Machine, un progetto che esplorava già la capacità di un agente di migliorare se stesso tramite cambiamenti al proprio codice.

Improvement Dynamics Model (IDM): prevedere gli errori prima che avvengano

Al centro della nuova metodologia c'è l'Improvement Dynamics Model (IDM). Questo componente analizza la modifica proposta, confrontandola con l'esperienza accumulata, e fornisce una stima delle possibili conseguenze. L'IDM è in grado di distinguere tra un compito che terminerebbe con una risposta errata e uno che non verrebbe completato affatto.

Un esempio pratico: durante un test, alcune istruzioni sono state inserite fuori dalle virgolette, provocando un errore di sintassi. L'agente ha individuato il problema, ma ha esaurito le chiamate agli strumenti prima di poterlo correggere. L'IDM ha previsto che il compito sarebbe rimasto incompleto, attivando una revisione aggiuntiva. Dopo la correzione, la nuova versione è riuscita a risolvere 11 task.

Valutazione su un ampio set di compiti

Per verificare l'efficacia del metodo, i ricercatori hanno sottoposto gli agenti a 166 compiti di programmazione, tutti nuovi rispetto al set di dati usato per l'addestramento e per la selezione delle versioni. Una soluzione veniva considerata corretta solo se la modifica al codice superava tutti i test associati.

    • Agente di partenza: tasso di successo ~16%.
    • Versioni di HyperAgents senza IDM: mediana del ~22%.
    • HyperAgents con IDM: quasi il 30% di successi.

I risultati provengono da cinque esecuzioni per configurazione, confermando un miglioramento significativo entro le condizioni sperimentali.

Apprendimento continuo del predittore

Un aspetto innovativo è che anche il modello predittivo (IDM) può migliorare nel tempo. Ogni cinque cicli, l'agente responsabile delle modifiche propone aggiornamenti al proprio funzionamento; questi vengono accettati solo se superano una verifica successiva.

Per testare la trasferibilità di tale apprendimento, gli autori hanno raffinato l'IDM con compiti di previsione dell'accettazione di articoli scientifici e di progettazione di ricompense per robot simulati. Successivamente, hanno impiegato il predittore potenziato per guidare agenti incaricati di valutare soluzioni matematiche. Su 100 esercizi di valutazione finale, gli agenti hanno concordato con le valutazioni umane nel 55% dei casi, contro il 51% con il predittore iniziale e il 47% di HyperAgents senza predittore.

Costi computazionali e considerazioni pratiche

Il miglioramento non è privo di costi. Nei test di programmazione, il metodo con IDM ha consumato in media 170 milioni di token per completare 40 cicli, rispetto ai 49 milioni di token richiesti da HyperAgents senza predittore. Un token rappresenta un'unità di testo elaborata o generata dal modello di IA.

Quando i ricercatori hanno normalizzato il budget di token per entrambi i sistemi, il metodo predittivo ha mantenuto un vantaggio di performance del 10,9% nella misura del rendimento cumulato. Tuttavia, lo studio non fornisce una comparazione completa dei costi computazionali totali, lasciando aperta la questione dell'efficienza energetica.

Limiti e prospettive future

Superare test di programmazione è solo il primo passo. Gli esperimenti, disponibili come preprint, non dimostrano che il metodo sia efficace su progetti software reali né che possa eliminare la necessità di supervisione umana. Inoltre, non è ancora chiaro se questi agenti possano sostituire gli sviluppatori o i revisori umani.

Ciò che emerge è che la capacità di anticipare gli esiti di una modifica può guidare meglio gli agenti verso miglioramenti più sicuri. Il dilemma iniziale, dunque, si trasforma: per ottimizzare il proprio funzionamento, gli agenti IA hanno bisogno non solo di poter modificare codice e istruzioni, ma anche di strumenti predittivi che ne valutino le conseguenze.