L'allineamento dell'AI ai fini umani
La visione dominante è che servano solo requisiti tecnici per rendere sicura e affidabile l’intelligenza artificiale. Tuttavia, sta emergendo una visione diversa, grazie ai lavori di Bengio e Narayanan. L’allineamento dell’AI ai fini umani passa attraverso una valorizzazione all’interno di una cornice che privilegi gli interessi collettivi.
Indirizzare l’intelligenza artificiale verso finalità umane è definito il tema dell'”allineamento”. Questo concetto, noto da anni, è diventato molto attuale a causa di un paradosso: da una parte l’AI si appresta a occupare sfere decisionali sempre più critiche per l’essere umano, dall’altra ha mostrato di avere comportamenti inattesi e potenzialmente dannosi.
Il problema tecnico vs. il contesto socio-tecnico
Moltissimi esperti e governi si stanno interrogando su come risolvere questo paradosso, da cui dipende sia il controllo di rischi sistemici sia la possibilità di usare l’AI per una svolta positiva per l’umanità. Purtroppo, il framing dominante del problema, nel mondo dell’industria tech e soprattutto all’interno dell’amministrazione Trump, sembra allontanarci dalla soluzione.
La loro idea è che tutto sommato l’allineamento sia un problema tecnico. Le regole, laddove entrano in gioco, possono semmai limitarsi a porre alcuni paletti. Tuttavia, sta prendendo forza una visione alternativa, proveniente dal mondo dell’accademia non allineata con la Silicon Valley. Questa visione sostiene che l’AI dispiega le proprie capacità all’interno di un sistema umano, socio-tecnico.
Se vogliamo indirizzare l’AI verso fini umani, bisogna che questi fini coincidano con gli interessi collettivi. Bisogna intervenire sulle condizioni “umane” alla base, su cui si situa l’AI, per poterla indirizzare a favore del bene comune.
I protagonisti dell'approccio alternativo
Tra i protagonisti di questo approccio ci sono Arvind Narayanan, informatico dell’Università di Princeton, e Yoshua Bengio, uno dei pionieri del deep learning. Narayanan sottolinea che l’intelligenza di un modello non gli conferisce automaticamente potere: sono gli esseri umani a decidere quali strumenti, accessi e autonomia concedergli.
Bengio, invece, avverte che gli stessi metodi di addestramento possono favorire comportamenti ingannevoli e pericolosi, destinati ad aggravarsi con l’aumento delle capacità. Questi metodi di addestramento sono influenzati da una competizione sfrenata tecno-centrica, tipica della Silicon Valley, afflitta da due difetti: conta il risultato a breve termine e si tendono a mettere in secondo piano le condizioni socio-culturali a contorno della tecnologia.
Le soluzioni proposte da Narayanan e Bengio
Il punto di partenza di Narayanan è sviluppato con Sayash Kapoor nel saggio del 2025 “AI as Normal Technology”. L’intelligenza artificiale può essere una tecnologia di portata generale, come l’elettricità, senza diventare per questo un soggetto al quale occorre per forza affidare il controllo delle infrastrutture e delle decisioni.
La distinzione è fra capacità e potere effettivo: un agente può saper individuare vulnerabilità informatiche, ma per sfruttarle deve poter eseguire codice, comunicare con altri sistemi o usare credenziali. Queste facoltà dipendono da scelte umane di progettazione e autorizzazione. Per questo, sostiene Narayanan, la crescita delle capacità non rende inevitabile la crescita dei poteri concessi agli agenti.
In un lungo studio pubblicato il 14 settembre 2026, Narayanan e Kapoor indicano un insieme di contromisure: ambienti isolati più resistenti agli attacchi, accessi limitati allo stretto necessario, registrazione delle operazioni, sistemi di allarme, possibilità di interrompere l’esecuzione e personale incaricato di sorvegliare gli esperimenti. Le chiamano “AI control”: misure esterne al modello per ridurre i danni anche quando il modello prende una decisione indesiderata.
Yoshua Bengio individua un problema più profondo. Gli agenti sono spesso addestrati mediante reinforcement learning, un metodo nel quale ricevono segnali di ricompensa quando riescono in un compito. Se la ricompensa misura imperfettamente il risultato desiderato, il sistema può imparare scorciatoie utili a ottenere il premio ma contrarie allo scopo reale: barare, occultare informazioni o aggirare vincoli.
Per Bengio, migliorare soltanto le barriere informatiche significa rischiare di inseguire ogni nuova tecnica di evasione, senza modificare gli incentivi incorporati nell’addestramento. Il ricercatore propone quindi di intervenire anche sulla progettazione degli obiettivi e sulle modalità di apprendimento. Nell’intervento sul Financial Times arriva a ipotizzare di impedire l’addestramento di sistemi disallineati finché non ne sia dimostrata la sicurezza: una proposta assai più precauzionale, che pone anche il problema di come stabilire tale prova.
L'importanza del contesto socio-tecnico
Le due prospettive intervengono su problemi differenti. Narayanan chiede di limitare le azioni che un agente può compiere anche quando sbaglia; Bengio vuole ridurre la probabilità che sviluppi comportamenti indesiderati durante l’apprendimento. Allineamento del modello e controllo dell’ambiente sono due livelli di difesa da combinare. Resta però da capire chi decide quali obiettivi debbano essere perseguiti.
È qui che entrano in gioco gli studi sull’allineamento sociotecnico. Bisogna superare il livello superficiale di analisi, che finora ha dominato. Quello tutto centrato su come obbligare tecnicamente un modello a rispettare le istruzioni del proprio sviluppatore.
Il livello più profondo è far sì che il sistema nel suo complesso tenga conto degli interessi delle persone che subiranno le conseguenze delle sue decisioni. Da notare come questo livello incide sul primo, perché tenere conto di questi interessi è una condizione anche per sviluppare la corretta prudenza e lentezza necessaria nell’addestramento e nelle pratiche di safety.
Uno studio presentato alla conferenza AAAI del 2025, “Quantifying Misalignment Between Agents: Towards a Sociotechnical Understanding of Alignment”, firmato da Aidan Kierans, Avijit Ghosh, Hananel Hazan e Shiri Dori-Hacohen, contesta l’idea di trattare l’umanità come un soggetto con preferenze uniche. I ricercatori propongono un modello, sperimentato attraverso simulazioni e due casi applicativi, per descrivere i conflitti fra interessi di più agenti umani e artificiali.
Un secondo lavoro, “Helpful, harmless, honest? Sociotechnical limits of AI alignment and safety through Reinforcement Learning from Human Feedback”, pubblicato nel giugno 2025 su Ethics and Information Technology, affronta il problema dalla prospettiva etica e organizzativa. Gli autori, fra cui Adam Dahlgren Lindström e Roel Dobbe, osservano che addestrare un modello a essere utile, innocuo e onesto non risolve automaticamente i conflitti fra questi stessi obiettivi, né stabilisce chi abbia l’autorità di definire ciò che è utile o innocuo.
Un esempio chiarisce la differenza. Una piattaforma di social media potrebbe essere progettata per massimizzare l’engagement degli utenti, ma questo potrebbe portare a contenuti dannosi o polarizzanti. In questo caso, l’allineamento sociotecnico richiederebbe di considerare gli interessi di tutti gli utenti e non solo quelli degli sviluppatori o degli inserzionisti.