Gli agenti scientifici basati su grandi modelli linguistici (LLM) hanno sollevato una domanda fondamentale: si affidano esclusivamente al contesto iniziale del compito, oppure modificano le loro scelte in risposta al feedback sperimentale? La presente ricerca affronta questa questione nell’ambito dell’adattamento di operatori neurali, dove un LLM deve selezionare configurazioni di fine‑tuning entro un budget limitato di prove.

Contesto e obiettivi della ricerca

Un operatore neurale è un modello che prevede l’evoluzione di un sistema fisico. In questo lavoro, il modello di base è un Fourier Neural Operator (FNO) pre‑addestrato, utilizzato per prevedere traiettorie del PDEBench. L’obiettivo è adattare il FNO a nuove condizioni di PDE con il minor numero possibile di prove di fine‑tuning, poiché ciascuna prova richiede risorse computazionali e dati sperimentali.

Gli autori hanno studiato trasferimenti sia all’interno della stessa famiglia di PDE (variazione di parametro mantenendo l’equazione) sia tra famiglie diverse (cambio di equazione). Le famiglie considerate sono:

    • Advection, caratterizzata dal trasporto di un profilo con velocità β;
    • Burgers, in cui una viscosità più bassa ν genera gradienti più netti.

Per ciascuna combinazione di famiglia, cella e seme di casualità sono stati creati sei “celle” e tre semi, per un totale di 36 esperimenti abbinati.

Procedura sperimentale

Ogni prova (trial) consiste nel fine‑tuning di una copia fresca del FNO su 750 traiettorie, seguita dalla valutazione del rollout autoregressivo sul set di validazione. Dopo 20 prove, la configurazione che ottiene il miglior nRMSE di validazione viene testata su dati di test mai visti. Il nRMSE (normalized root mean squared error) è la metrica di errore; valori più bassi indicano prestazioni migliori.

Le politiche confrontate sono:

    • LLM policy: un LLM (DeepSeek‑V4 Pro) riceve la descrizione della PDE, la cronologia delle prove precedenti e i diagnostici di training, e propone la successiva configurazione.
    • Random search: genera configurazioni senza contesto né cronologia.
    • Tree‑structured Parzen Estimator (TPE): utilizza la cronologia delle coppia configurazione‑punteggio per guidare la ricerca.

Le condizioni sperimentali mantengono costanti il modello FNO, i dati, lo spazio di azioni (hyper‑parameter) e il budget di 20 prove.

Risultati di performance

Sotto il budget di 20 prove, la politica LLM ha ottenuto un nRMSE di test inferiore rispetto alla ricerca casuale in tutti i 36 esperimenti abbinati. Ha superato il TPE in 35 dei 36 casi, e tutti i 12 valori mediani per cella hanno favorito il LLM.

Un caso rappresentativo di trasferimento inter‑famiglia mostra un FNO pre‑addestrato su advection adattato a Burgers con ν = 0,001. La mediana del nRMSE di test dopo 20 prove è risultata:

    • LLM: 0,01990
    • Random search: 0,07670
    • TPE: 0,04010

Il TPE ha vinto solo un seme, con nRMSE 0,0263 contro 0,0346 del LLM. Questa differenza evidenzia un vantaggio in un budget finito, non una superiorità asintotica, poiché il TPE continua a migliorare in alcune esecuzioni oltre la prova 20.

Un avvio promettente senza feedback

Prima di ricevere qualsiasi risultato di validazione, la prima proposta del LLM ha già superato il 91,7% delle 60 configurazioni generate da ricerca casuale nello stesso “pool”. In pratica, il mediano della prima proposta si colloca tra le migliori configurazioni del pool casuale, indicando un bias iniziale utile.

Test della dipendenza dal contesto iniziale (cold‑start)

Per verificare se le decisioni del LLM dipendono dalla descrizione della PDE, gli autori hanno condotto un esperimento di “cold‑start”. Cambiando solo la descrizione del compito da Burgers a advection, il tasso di apprendimento di base proposto è raddoppiato da 0,0005 a 0,001 in entrambe le celle target. Questo cambiamento ha interessato un singolo dei dodici iper‑parametri dell’azione.

Test della dipendenza dal feedback sperimentale

Per esaminare l’effetto del feedback, i ricercatori hanno rigenerato la proposta successiva dopo aver permutato i punteggi di validazione tra le configurazioni già valutate. Come controllo, hanno mantenuto inalterati i punteggi ma li hanno riscritti in notazione scientifica equivalente. Nei 18 tracciati intra‑famiglia, la differenza mediana nella distanza delle azioni (misurata su 12 coordinate) è risultata +0,085 (intervallo bootstrap 95 %: [+0,073, +0,108]). Tutti i 18 effetti erano positivi, con p‑value unilaterale esatto di 0,015625. Poiché una singola variazione categorica su 12 coordinate contribuisce circa 0,083, i risultati indicano che la riassegnazione dei punteggi influisce significativamente sulla successiva decisione del LLM.

Interpretazione dei risultati

Le evidenze dimostrano che le azioni del LLM dipendono sia dal task‑dependent prior (il bias introdotto dalla descrizione della PDE) sia dalla sensitivity al feedback sperimentale (riarrangiamento dei punteggi). Tuttavia, i risultati non stabiliscono automaticamente che il LLM possieda una comprensione fisica o una razionalità dietro tali scelte; mostrano semplicemente che le decisioni sono influenzate dalle informazioni disponibili.

Implicazioni per la ricerca scientifica

Un risultato finale eccellente (basso nRMSE) non basta a capire se un agente ha “imparato” durante il processo. Gli interventi controllati, come la manipolazione del testo di compito o la permutazione dei punteggi, offrono un metodo per verificare in che misura le decisioni successive sono guidate dal feedback reale. Questo approccio può essere esteso ad altri domini in cui le risorse per sperimentazione sono limitate e le scelte di iper‑parametri richiedono competenze specialistiche.

Conclusioni

Il lavoro dimostra che, nell’adattamento di operatori neurali con budget limitato, un LLM può superare strategie di ricerca casuale e ottimizzazione bayesiana grazie a una combinazione di bias iniziale informato e risposta al feedback sperimentale. Queste scoperte aprono la strada a sistemi di intelligenza artificiale più efficienti per il “fine‑tuning” scientifico, soprattutto in contesti dove le prove sono costose e il numero di iterazioni è ristretto.