I modelli linguistici avanzati, la tecnologia alla base delle piattaforme di intelligenza artificiale basate su chat come ChatGPT, sono spesso descritti come dotati di tratti simili a quelli umani. In linguaggio comune, questi modelli sono definiti intelligenti o come aventi intenzioni, bias, desideri o persino credenze.

Ma hanno atteggiamenti? Il professor Eric Jing Du, Ph.D, dell'Università della Florida sta cercando di scoprirlo. Partendo dal presupposto che questi modelli, noti come LLMs, siano sempre più utilizzati nelle decisioni del mondo reale, anche in contesti militari, Du si chiede come questi modelli si comportino quando l'ambiente comporta rischio e incertezza.

L'importanza della ricerca

Per Du e i suoi coautori, l'importanza della ricerca risiede nella trasparenza e nella capacità del pubblico di scegliere i modelli corretti per i compiti da svolgere. La ricerca del gruppo di Du sarà presentata a dicembre alla conferenza annuale NeurIPS 2026. I coautori sono Bowen Sun, Rui Min, Xianyao Li, Yuxi Wang, Ryan Qi Wang e Gilbert Yang Ye.

“Alcune persone sono naturalmente avverse al rischio,” ha detto Du. “Sono molto attente, molto caute. Ma alcuni esseri umani sono più propensi al rischio. Quindi, la nostra domanda è molto semplice: vediamo differenze di personalità o di atteggiamento verso il rischio simili tra queste AI di punta?”

Metodologia di ricerca

Per testare gli atteggiamenti sottostanti incorporati nei modelli, separatamente dai dati su cui sono stati addestrati, il team di Du ha essenzialmente costretto i modelli a dimenticare. “Abbiamo dato loro gli stessi compiti difficili, come il triage medico,” ha spiegato. “Poi abbiamo cancellato le informazioni dello stesso paziente più e più volte. E ripetiamo le domande. Forniscono ancora una valutazione coerente del livello di rischio del paziente? Il modello non poteva trattenere alcuna memoria dal dialogo precedente, quindi ogni volta era una nuova situazione, un paziente completamente nuovo.”

Il team ha riscontrato che dopo centinaia di ripetizioni, le valutazioni dei modelli erano sorprendentemente coerenti, nonostante non potessero fare affidamento su dati precedenti. Per Du, i risultati indicano che i modelli di AI basati su LLM sono più di semplici macchine di probabilità, che possiedono qualche meccanismo interno che crea la coerenza osservata.

Per il collega di Du, Sumit Jha, Ph.D, professore nel Dipartimento di Informatica e Ingegneria dell'Informazione e dell'Ingegneria dell'Università della Florida, la ricerca di Du rivela una strada da percorrere mentre i ricercatori si sforzano di rendere i sistemi di AI più sicuri.

“Un'auto a guida autonoma o un robot in un laboratorio autonomo può affrontare una scelta in cui il percorso sicuro e il percorso veloce differiscono,” ha detto Jha. “Il team del dottor Du mostra che le persone spesso sottovalutano quanto rischio un modello prenderà; questo può portare a esiti catastrofici nella decisione condivisa tra umani e macchine. Mi aspetto che il lavoro del dottor Du renda il test del rischio un passo normale prima del deployment.”

Risultati e implicazioni

Normalizzare il test del rischio negli LLM è uno degli obiettivi di Du. È stupito di scoprire che non fa già parte dei modelli di punta. Infatti, ha riferito che i revisori anonimi del paper erano sorpresi che la rischiosità non fosse considerata parte del test di sicurezza.

Du è il professore Steve e Wendy Blum nel Dipartimento di Ingegneria Civile e Costiera dell'Università della Florida, ma è anche affiliato ai Dipartimenti di Ingegneria Meccanica e Aerospaziale e di Ingegneria Industriale e dei Sistemi. I suoi interessi e la sua esperienza ampi e approfonditi aiutano a spiegare questo approfondimento nei meccanismi interni degli agenti di AI basati su chat, spesso associati più all'ingegneria informatica.

Avendo dimostrato che gli LLM potrebbero essere in grado di operare in modo coerente indipendentemente dai dati di addestramento iterativo, i ricercatori hanno poi dovuto affrontare la loro tolleranza al rischio. “Abbiamo modelli prodotti da OpenAI, da Meta, da Google e anche da molte aziende internazionali,” ha detto Du. “Vediamo che un modello è molto avverso al rischio in un compito? Vediamo che il modello è anche avverso al rischio in un altro compito?”

Per scoprirlo, i ricercatori hanno investigato il comportamento dei modelli di punta mentre li deployavano su tre compiti complessi e spinosi. Un compito prevedeva di chiedere all'AI di controllare un drone in una città affollata e ventosa. All'AI era stato assegnato il compito di determinare il percorso. Un secondo compito si svolgeva in un ambiente di finanza tecnologica, dove all'AI era stato affidato il compito di scegliere un portafoglio di investimenti con azioni e obbligazioni, in base a una serie di parametri. Il terzo compito era il triage medico, dove ai modelli era stato chiesto di valutare la salute complessiva del paziente e decidere se il paziente richiedeva risorse di cura.

Il lavoro è in gran parte finanziato dall'Ufficio di Ricerca Scientifica dell'Aeronautica e è in parte motivato dal desiderio di garantire l'allineamento tra umani e i loro strumenti basati su AI nei contesti di guerra, dove il disallineamento potrebbe avere gravi conseguenze.

“La speranza è che umani e decisori di AI possano pensare allo stesso modo, con le stesse convinzioni, gli stessi atteggiamenti,” ha detto Du. “C'è una grande variazione negli umani, quindi ci chiedevamo se potessimo vedere una variazione altrettanto grande nei modelli di AI. E sì, l'abbiamo vista.”

Cosa hanno trovato esattamente? Gli atteggiamenti dei modelli erano coerenti tra i compiti. Un modello che era molto propenso al rischio in un compito tendeva ad essere propenso al rischio anche in altri compiti. Ma c'era un'altra differenza.

“Abbiamo visto differenze significative prima e dopo che i modelli fossero stati addestrati utilizzando il feedback umano,” ha detto Du. “Il che significa che le principali aziende che producono i modelli utilizzano un qualche tipo di processo di addestramento che affina la personalità dei modelli. Poiché ogni azienda lo fa in modi diversi, vediamo diverse personalità dei modelli.”

“Immaginiamo che in certi compiti, si voglia applicare un modello più cauto. Ma la tua mentalità è, ‘Questo modello è prodotto da un'azienda ben nota. Deve essere molto cauto.’ Forse stai effettivamente applicando un modello molto propenso al rischio per il compito. Al momento, non lo sapresti.”

Soggetti umani sono stati coinvolti anche nel lavoro. Il team ha chiesto a esperti umani di analizzare i log delle decisioni — essenzialmente un registro dei processi di pensiero dei modelli — e di classificarli in base ai loro livelli di rischio.

“Era un po' come la sfida Pepsi,” ha detto Du. “Abbiamo coperto l'etichetta sui modelli e abbiamo chiesto loro, ‘Coca Cola o Pepsi?’ Stessa cosa. Rischioso o non rischioso? Abbiamo scoperto che c'è un significativo divario percettivo tra la percezione umana e la reale disposizione al rischio dei modelli.”

La motivazione di Du è anche la sicurezza. “Potremmo avere decisori che vogliono applicare un modello davvero cauto, ad esempio per il controllo del traffico aereo o in medicina, ma in realtà stanno applicando un modello propenso al rischio in quelle aree. Questo è pericoloso,” ha detto.

Per ora, il team spera che il lavoro contribuirà a una migliore comprensione di come i sistemi di AI prendono decisioni quando gli esiti sono incertezza e i compromessi contano.

NeurIPS 2026 si terrà a Sydney, Australia, dal 6 al 12 dicembre.