Un sondaggio preoccupante sulle prospettive dell'IA

L'intelligenza artificiale potrebbe diventare una minaccia significativa per l'umanità entro i prossimi cinque anni? Secondo un'indagine condotta dal 1 al 9 ottobre su 103 specialisti, quasi due terzi dei ricercatori intervistati da Cybernews ritengono questo scenario plausibile.

Il 30,4 % degli intervistati lo giudica addirittura molto credibile, soprattutto se l'IA dovesse riuscire a migliorare autonomamente le proprie prestazioni. Tuttavia, questo timore non implica necessariamente il timore di una macchina che sfugge al controllo umano.

Usi malevoli al centro delle preoccupazioni

Per il 37,9 % dei partecipanti, il principale rischio nei prossimi dieci anni risiede negli usi malevoli della tecnologia: cyber‑attacchi, disinformazione e sviluppo di armi biologiche sono i pericoli più citati.

Altri ricercatori temono più le conseguenze economiche e politiche, evidenziando un divario tra scenari di IA autonoma incontrollabile e rischi derivanti dall'uso da parte di attori umani.

Rischi strutturali vs. rischio esistenziale

La questione del rischio esistenziale divide la comunità scientifica. Oltre quattro ricercatori su dieci attribuiscono almeno il 10 % di probabilità a una catastrofe indotta dall'IA entro il secolo.

Al contrario, quasi la metà dei rispondenti prevede un impatto complessivamente positivo della tecnologia sull'umanità.

Concentrazione del potere e impatti economici

I rischi strutturali sono ritenuti principali dal 28,2 % degli intervistati, superando i problemi di allineamento (quando i sistemi perseguono obiettivi contrari alle intenzioni umane). Le preoccupazioni includono:

    • Concentrazione del potere in poche aziende
    • Bouleversementi economici
    • Indebolimento delle istituzioni

John Licato, professore associato all'Università della Florida del Sud, sottolinea che la distribuzione ineguale dei benefici dell'IA rappresenta una minaccia significativa: i guadagni di produttività potrebbero rimanere riservati a chi può finanziare i modelli più avanzati.

Superintelligenza: realtà o speculazione?

Le opinioni sulla possibilità di raggiungere una intelligenza artificiale generale (AGI) o una superintelligenza (ASI) variano. Più della metà dei ricercatori ritiene necessaria una rottura tecnologica per arrivare all'AGI, mentre il 69,6 % pensa che la superintelligenza richieda una svolta ancora più profonda.

Alcuni intervistati affermano che l'AGI è già presente, evidenziando un disaccordo persistente su definizioni e stadi di maturità. Inoltre, un quarto dei partecipanti crede che l'“improvement recursion”, ovvero la capacità dell'IA di accelerare autonomamente il proprio sviluppo con minima intervento umano, sia già realizzabile.

Divario di opinioni su velocità e controllo

Il ritmo di sviluppo dei modelli più potenti è oggetto di dibattito. Quasi il 40 % dei ricercatori desidera rallentare il progresso, il 15,7 % propone una sospensione temporanea e un quarto preferisce mantenere la velocità attuale.

Questi risultati emergono in un contesto di tensioni crescenti sulla sicurezza dell'IA, alimentate dalla dimissione pubblica di Jacob Coxon di Anthropic, il quale ha avvertito della possibilità di estinzioni umane entro la fine del decennio.

Conclusioni: una minaccia multiforme

L'indagine di Cybernews dimostra che i rischi immediati non si limitano a scenari estremi di superintelligenza fuori controllo. Le preoccupazioni più urgenti riguardano:

    • Il potenziale di uso criminale dell'IA
    • La concentrazione delle capacità tecniche in poche mani
    • L'incertezza sui futuri modelli e sulle loro capacità

I ricercatori non concordano né sulla natura della minaccia né sulla velocità con cui potrebbe materializzarsi, ma condividono l'urgenza di un dibattito globale e di politiche che garantiscano un uso responsabile della tecnologia.