Helen Toner, ex membro del consiglio di amministrazione di OpenAI e direttrice del Center for Security and Emerging Technology (CSET) dell’Università di Georgetown, ha sostenuto nel podcast Decoder di The Verge che le principali aziende di intelligenza artificiale stanno già integrando la IA in quasi ogni fase del proprio ciclo di ricerca e sviluppo. Secondo Toner, sia OpenAI sia Anthropic utilizzano un approccio definito automejora ricorsiva, in cui una IA aiuta a creare la generazione successiva di IA, accelerando così il ritmo dell’innovazione.

Origini e concetti di automejora ricorsiva

Il concetto non è nuovo: negli anni ’60, I. J. Good, collaboratore di Alan Turing, ipotizzò che una macchina ultra‑intelligente potesse progettare una versione ancora più intelligente di sé stessa. Oggi, quell’idea si concretizza in pratiche operative. Toner ha precisato che le aziende non “lasciando” i modelli a migliorarsi autonomamente, ma impiegando strumenti IA per ottimizzare il design, la formazione, il testing e persino la gestione dei dati di addestramento.

Questa strategia ha suscitato dubbi esterni: molti osservatori ritengono che l’automiglioramento possa introdurre rischi incontrollabili, mentre gli insider delle aziende sono più ottimisti, affermando di vedere risultati concreti in termini di velocità di sviluppo e riduzione dei costi.

Citazioni emblematiche

    • Demis Hassabis, CEO di DeepMind, ha dichiarato di trovarsi “alle soglie della singolarità”, riferendosi al punto ipotetico in cui la IA supererà l’intelligenza umana.
    • Toner ha osservato che questa visione è ormai “normale” nella cultura tecnologica californiana, al punto che i protagonisti spesso non percepiscono quanto sia sorprendente per il resto del mondo.

Il problema dell’allineamento

Durante l’intervista, l’host Nilay Patel ha indagato sul tema dell’allineamento, ossia la capacità dei modelli di comportarsi secondo le intenzioni dei loro creatori. Toner ha spiegato che il termine racchiude diverse sfaccettature: dalla garanzia che le barriere aziendali funzionino, al fatto che il modello esegua esattamente ciò che l’utente richiede, fino a considerazioni morali più ampie.

Secondo la sua valutazione, la forma più coerente di allineamento è far sì che la IA compia ciò che l’utente desidera. Tuttavia, ha affermato che questo obiettivo “non è in via di risoluzione”, definendolo “non brillante, per usare un eufemismo”.

Rischio delle armi biologiche

Toner ha criticato la tendenza di parte della comunità di sicurezza IA a etichettare certe capacità come “troppo pericolose” e a chiedere interventi preventivi. Ha argomentato che tale visione sottovaluta la capacità della società di adattarsi a nuove minacce.

Ha citato gli Stati Uniti, dove centinaia di migliaia di persone hanno competenze per produrre armi biologiche, ma il numero di attacchi rimane contenuto. La limitazione, a suo avviso, deriva non solo dalla scarsità di conoscenza, ma anche dal controllo su materiali e dalla difficoltà di sintetizzare DNA via posta.

Intelligenza artificiale generale e terminologia

Riguardo all’intelligenza artificiale generale (AGI), Toner ha sostenuto che il concetto è ormai superato. “Il mondo è già dentro quella ‘nuvola diffusa’”, ha affermato, indicando che alcune definizioni tradizionali — come un modello capace di svolgere molteplici compiti — sono state superate, mentre altre — come la capacità di eguagliare l’uomo in ogni ambito — sono ancora lontane.

Questa posizione implica che la ricerca si trovi in una fase intermedia, dove i modelli sono estremamente versatili ma ancora lontani da una vera e propria generalità.

Governance e leadership nella IA

Toner è stata una delle quattro membri del consiglio di OpenAI che hanno votato per destituire Sam Altman nel 2023. Dopo il ritorno di Altman a capo, Toner si è dimessa, contribuendo alla ristrutturazione della società.

Interrogata se avrebbe ripetuto la decisione, ha risposto con un netto “sì”, ammettendo che sarebbe stato doloroso ma necessario. Ha difeso il proprio voto, sottolineando che affidare il futuro della tecnologia a una sola persona è “pericoloso”.

Secondo Toner, la soluzione è costruire strutture di governance più robuste, includendo più voci e prospettive per evitare concentrazioni di potere.

Ruolo del CSET e interazione con Washington

Il CSET, fondato nel 2019 e composto da circa cinquanta esperti, fornisce consulenza a legislatori e agenzie governative statunitensi. Toner ha osservato che, sebbene esista una “gap di conoscenza” sull’IA a Washington, i consiglieri del Congresso sono più informati di quanto si pensi.

Ha inoltre commentato l’efficacia del denaro dell’industria per influenzare le elezioni: “Il denaro speso per far uscire di scena i candidati favorevoli alla regolamentazione non ha funzionato molto bene”.

Prospettive future

    • Continuare a monitorare l’uso dell’automiglioramento ricorsivo, garantendo trasparenza nei processi di sviluppo.
    • Rafforzare le politiche di allineamento, focalizzandosi su misure pratiche che assicurino che la IA segua le intenzioni dell’utente.
    • Promuovere una governance condivisa, con più figure di leadership responsabili e un coinvolgimento attivo di istituzioni pubbliche e private.
    • Educare il pubblico e i decisori politici sulle reali capacità e limitazioni delle tecnologie IA, evitando allarmismi non basati su evidenze.

In sintesi, Helen Toner ha offerto una visione critica ma informata del panorama attuale dell’intelligenza artificiale, evidenziando sia le potenzialità dell’automiglioramento ricorsivo sia le sfide aperte, soprattutto in termini di allineamento, sicurezza biologica e governance. La sua esperienza, sia accademica sia pratica, fornisce un punto di riferimento prezioso per chiunque voglia comprendere le dinamiche che stanno plasmando il futuro dell’IA.