Satya Nadella ammette che l’allineamento dell’IA non arriverà solo con modelli più grandi

Il cambiamento di prospettiva di Nadella sull’allineamento dell’IA

Durante un’intervista al podcast 20VC condotto da Harry Stebbings, Satya Nadella ha riconosciuto che la convinzione diffusa secondo cui l’allineamento dell’intelligenza artificiale si otterrebbe automaticamente aumentando la capacità dei modelli è stata superata. L’amministratore delegato di Microsoft ha affermato che, sebbene il scaling continui a migliorare le prestazioni, non porta automaticamente a un comportamento più conforme ai valori e agli obiettivi umani.

Nadella ha ricordato di aver creduto nelle “leggi del scaling” nel 2018‑2019, quando l’industria osservava come l’aumento di dati e potenza di calcolo spingesse i modelli a risultati migliori. All’epoca descriveva la community di ricerca (Dario Amodei, Ilya Sutskever, Sam Altman, Greg Brockman ed Elon Musk) come una “famiglia felice”. Oggi, pur confermando che i modelli continuano a migliorare, sottolinea che questa crescita non è più considerata sufficiente per risolvere il problema dell’allineamento.

Distinguere scaling e allineamento

Secondo Nadella, scaling consiste nell’aumentare risorse – dati, parametri e capacità di calcolo – per ottenere una maggiore accuratezza. L’allineamento, invece, richiede che le risposte e le azioni del modello siano coerenti con principi etici e con gli obiettivi stabiliti dagli utenti o dalle organizzazioni.

Questa distinzione è fondamentale perché un modello più potente non garantisce automaticamente che il suo “ragionamento” sia affidabile o che le sue decisioni siano sicure. Nadella ha quindi spostato l’attenzione verso le fasi preliminari del ciclo di vita dell’IA, suggerendo che l’allineamento debba essere affrontato soprattutto durante l’addestramento e, se possibile, già nella fase di pre‑training, la più estesa e critica della costruzione di un modello.

Limiti del reinforcement learning (RL)

L’esecutivo ha espresso scetticismo sull’affidarsi esclusivamente al reinforcement learning (RL) come soluzione per l’allineamento. Sebbene il RL sia ampiamente usato per affinare i modelli dopo il pre‑training, Nadella sostiene che non sia sufficiente da solo e che il lavoro di allineamento debba estendersi a più fasi, includendo meccanismi di supervisione e verifica continui.

Strategia “zero trust” per gli agenti di IA

Una delle proposte chiave di Nadella è l’adozione di un modello di zero trust per gli agenti di IA, ossia verificare ogni azione anziché concedere fiducia per impostazione predefinita. Questo approccio è particolarmente rilevante per agenti capaci di interagire con strumenti esterni, poiché le loro azioni possono avere conseguenze tangibili oltre la semplice risposta testuale.

Microsoft ha già integrato queste idee in due strumenti:

• Agent 365: assegna un’identità unica a ogni agente e registra in modo immutabile tutte le chiamate a strumenti e modelli.
• Perception: fornisce tracciamento dettagliato delle interazioni, impedendo che un agente possa modificare il proprio storico per nascondere comportamenti.

Questi registri, resistenti alla manipolazione, permettono alle aziende di definire politiche di sicurezza e di monitorare la conformità dei sistemi, trasformando il controllo in una verifica basata su evidenze concrete.

Trattare i modelli IA come rischi interni

Il 10 ottobre, Nadella ha scritto che le organizzazioni dovrebbero considerare i modelli di IA come rischi interni, analoghi a quelli legati a sistemi informatici tradizionali. Questo implica una vigilanza costante non solo sulle minacce esterne, ma anche su eventuali comportamenti indesiderati o non conformi all’interno dell’ambiente aziendale.

Trasparenza e la questione della “catena di pensiero”

Nadella ha sollevato dubbi sulla affidabilità della cosiddetta “catena di pensiero”, ovvero il ragionamento passo‑a‑passo mostrato da alcuni modelli prima di fornire una risposta. Secondo lui, questa visualizzazione può non riflettere fedelmente i processi interni del modello e, se non correttamente gestita, potrebbe indurre a false certezze sulla sicurezza del sistema.

Per mitigare il rischio, propone che:

• i partner di fiducia ricevano la catena di pensiero in linguaggio chiaro;
• possono confrontarla con altre fonti o modelli per verificarne la coerenza;
• la trasparenza non debba sostituire una verifica tecnica approfondita.

Questa posizione mette in evidenza la tensione tra apertura e protezione: una maggiore trasparenza può facilitare la valutazione, ma richiede anche che i fornitori decidano quali informazioni esporre e come impedirne un uso improprio.

Modelli a peso aperto vs. modelli chiusi

Nadella ha chiarito che Microsoft non intende rendere i pesi dei propri modelli MAI disponibili come codice aperto. I pesi saranno distribuiti con licenza, inseriti in un modello di business tradizionale di software. La scelta riflette la convinzione che un’IA “senza sicurezza” rappresenti un rischio globale, indipendentemente dal paese di origine.

Durante la conversazione, Stebbings ha osservato che la maggior parte dei modelli a peso aperto proviene dalla Cina. Nadella ha risposto che un modello cinese non allineato e non sicuro rappresenterebbe una minaccia anche per la Cina stessa, sottolineando che la mancanza di sicurezza non è un problema limitato a una nazione.

In sintesi, Microsoft prevede un ecosistema misto in cui le aziende potranno utilizzare token economici provenienti sia da modelli aperti sia da modelli proprietari, mantenendo però un controllo rigoroso su trasparenza, audit e gestione del rischio.

Conclusioni

Satya Nadella ha ribadito che l’avanzamento dei modelli di IA, per quanto impressionante, non elimina la necessità di controlli, audit e decisioni esplicite riguardo alla trasparenza. Il futuro dell’allineamento richiederà una combinazione di:

• addestramento più approfondito fin dalle prime fasi;
• monitoraggio continuo degli agenti attraverso identità e registri immutabili;
• politiche di “zero trust” per verificare ogni azione;
• una trasparenza mirata, riservata a partner affidabili, per valutare la catena di pensiero;
• una strategia di distribuzione dei modelli che bilanci apertura e sicurezza.

Solo integrando queste misure sarà possibile avvicinarsi a un’intelligenza artificiale realmente allineata ai valori umani, senza affidarsi esclusivamente alla semplice crescita di dimensioni e capacità dei modelli.