Il contesto della seconda Hinton Lecture

La seconda serata delle Hinton Lectures 2026, tenutasi ieri a Toronto, è stata dominata da una nuova allerta di Paul Christiano, figura di spicco nella ricerca sulla sicurezza dell'intelligenza artificiale. Presentato da Geoffrey Hinton, il ricercatore americano ha descritto un futuro in cui i sistemi di IA potrebbero superare di gran lunga le capacità umane entro sei‑ventiquattro mesi, con il rischio che lo sviluppo acceleri al punto da sfuggire al nostro controllo.

Christiano aveva già dedicato la sua prima conferenza alle difficoltà di allineare l’IA alle intenzioni umane; in questa occasione si è concentrato sull’«auto‑miglioramento ricorsivo» (recursive self‑improvement), il fenomeno per cui un’IA sufficientemente competente può contribuire a progettare versioni più avanzate di sé stessa, creando un ciclo di accelerazione tecnologica potenzialmente incontrollabile.

Progressi recenti: da 2018 a oggi

Per illustrare il cambiamento, Christiano ha ricordato i progressi dal 2018. Allora, i modelli di linguaggio producevano solo frasi occasionalmente coerenti e risolvevano problemi matematici elementari. Nel 2022, ChatGPT ha messo queste capacità a disposizione del grande pubblico. Oggi, i sistemi più avanzati possono:

    • redigere lunghi documenti tecnici;
    • sviluppare software complessi;
    • risolvere problemi matematici di livello universitario;
    • scoprire vulnerabilità informatiche.

Christiano ha sottolineato che, nel suo campo di ricerca, le scoperte matematiche di ottobre 2026 hanno superato quelle di un’intera decade precedente, evidenziando la rapidità dell’avanzamento.

Remote Labor Index

Un altro indicatore chiave è il Remote Labor Index (RLI), sviluppato dal Center for AI Safety. Il RLI misura la capacità dei modelli di svolgere compiti tipicamente affidati a freelance. I dati citati da Christiano mostrano:

    • meno del 2 % dei compiti completati un anno fa;
    • circa 20 % una settimana prima della conferenza;
    • quasi 40 % al momento della presentazione.

Questi numeri dimostrano la velocità con cui le macchine stanno acquisendo autonomia in attività concrete.

Automazione interna nei laboratori di IA

Le aziende leader, come OpenAI e Anthropic, stanno già automatizzando gran parte delle proprie attività di ricerca e sviluppo. Gli agenti IA partecipano alla programmazione, alle sperimentazioni e all’ottimizzazione dei modelli. Christiano avverte che questa automazione può generare una ciclo di accelerazione: più l’IA diventa efficace nella ricerca, più contribuisce a migliorare rapidamente le generazioni successive.

Secondo il ricercatore, tale dinamica potrebbe comprimere diversi anni di progresso tecnologico in pochi mesi. Con molta cautela, stima una probabilità di circa due su tre che si verifichi un’accelerazione autonoma, pur riconoscendo l’alto livello di incertezza e la scarsità di dati affidabili.

Mancanza di trasparenza

Un problema cruciale è la trasparenza. Gran parte delle informazioni sui progressi reali dell’IA è custodita in laboratori privati. Ricercatori indipendenti, governi e cittadini non hanno accesso a dati essenziali per valutare i rischi. Christiano sostiene che questa opacità diventa inaccettabile quando le decisioni di poche aziende possono influenzare la sicurezza di intere società.

Rischi di una IA incontrollabile

Nel scenario ipotizzato, miliardi di sistemi artificiali potrebbero superare gli esseri umani in molteplici ambiti. Le loro capacità includerebbero:

    • identificare ed exploitare vulnerabilità informatiche;
    • coordinare operazioni complesse;
    • influenzare comportamenti umani;
    • controllare apparecchiature robotiche;
    • sviluppare armi autonome e minacce biologiche.

Il vero problema sarebbe mantenere il controllo umano. Con l’aumento dell’intelligenza, i ragionamenti delle macchine potrebbero diventare incomprensibili per i supervisori, rendendo difficile valutare le decisioni proposte.

Impossibilità di “spegnere” l’IA

Christiano mette in dubbio l’idea di semplicemente disconnettere i sistemi pericolosi. In un’economia dove l’IA è integrata nelle infrastrutture, nelle imprese e nei meccanismi di difesa, spegnere l’IA potrebbe avere conseguenze catastrofiche. Sarebbe necessario un coordinamento internazionale, una rapida identificazione dei sistemi a rischio e un intervento tempestivo.

Risposte politiche e aziendali

Geoffrey Hinton, che ha introdotto la conferenza, ritiene che gli avvertimenti di Christiano debbano essere presi seriamente da grandi aziende tecnologiche e governi. Hinton crede ancora che i rischi possano essere evitati se gli attori riconoscono la gravità del problema e agiscono.

La discussione successiva, moderata dalla futurista Sínead Bovell, ha affrontato la responsabilità aziendale. Bovell ha proposto di ispirarsi ai meccanismi di responsabilità finanziaria introdotti dopo lo scandalo Enron, immaginando un sistema in cui un responsabile dichiari personalmente la sicurezza di un modello prima del suo deployment.

Posizioni di Manulife e TELUS

Le rappresentanti di Manulife e TELUS hanno sottolineato l’importanza di:

    • governance efficace;
    • valutazioni indipendenti;
    • trasparenza;
    • coinvolgimento degli utenti.

Queste aziende cercano di bilanciare i benefici produttivi dell’IA con la necessità di dimostrare conformità normativa e rispetto delle aspettative dei clienti.

Misure urgenti proposte da Christiano

Interrogato sulle azioni immediate, Christiano ha indicato diverse linee d’intervento:

    • monitorare più da vicino le capacità pericolose dei modelli, inclusi quelli non ancora commercializzati;
    • migliorare l’accesso a dati che consentano di tracciare i progressi reali;
    • rafforzare le verifiche indipendenti;
    • creare meccanismi per rallentare lo sviluppo quando i rischi superano soglie critiche;
    • esigere che le aziende dimostrino la ragione per cui considerano i propri sistemi sicuri.

Queste proposte mirano a instaurare un controllo più robusto e a prevenire una corsa verso un’intelligenza artificiale fuori dal nostro dominio.