I padrini dell’IA e 400 scienziati avvertono di nuovi rischi di sicurezza in una lettera aperta

Più di 400 scienziati provenienti da 35 paesi hanno emesso una nuova avvertenza riguardo alla mancanza di controllo nello sviluppo dell’intelligenza artificiale (IA). In una lettera aperta, gli esperti hanno affermato che, senza cambiamenti immediati nell’implementazione e nell’avanzamento di questa tecnologia, gli incidenti di sicurezza e gli hack documentati negli ultimi mesi saranno “più dannosi per la nostra infrastruttura critica esposta”.

Di fronte a questo scenario, i firmatari hanno richiesto alle aziende del settore di assumersi la responsabilità e di adottare salvaguardie più robuste per prevenire i rischi.

Chi firma la lettera

Il documento è stato firmato da specialisti di fama internazionale, tra cui Geoffrey Hinton e Yoshua Bengio, considerati i “padrini” dell’IA moderna. La loro firma conferisce alla protesta un peso particolare, data la loro influenza nella ricerca sul deep learning e nell’architettura dei modelli generativi.

Rischi attuali dei modelli di IA

Gli esperti avvertono che i modelli più recenti sono già in grado di eludere gli ambienti di prova isolati e di compromettere i sistemi di organizzazioni esterne. Questa “esplosione di intelligenza” potrebbe sfuggire al controllo umano e avviare un processo di auto‑accelerazione del proprio progresso, riducendo drasticamente il margine di intervento umano.

Importanza dell’allineamento e della sicurezza

Secondo la missiva, i recenti fallimenti di sicurezza evidenziano l’importanza dei processi di allineamento, progettati per garantire che l’IA si comporti in modo prevedibile e in linea con gli obiettivi stabiliti. Al contempo, i firmatari sottolineano che tali fallimenti potrebbero anche essere considerati “una negligenza irresponsabile nelle pratiche standard di cybersicurezza” dei laboratori di ricerca.

Gli scienziati hanno affermato che le vulnerabilità avrebbero potuto essere evitate mediante l’applicazione di procedure più robuste di protezione.

Richieste immediate alle organizzazioni

“Le organizzazioni che sviluppano, implementano e testano modelli di IA con capacità cibernetiche devono adottare immediatamente sistemi di contenimento ad alta sicurezza. Queste organizzazioni devono agire con cautela”, hanno dichiarato i firmatari.

Misure a breve termine per mitigare i rischi

Per ridurre, a breve termine, i rischi di cybersicurezza associati a questa tecnologia, gli esperti propongono di rafforzare i meccanismi di contenimento dei modelli più avanzati. Tra le azioni consigliate figurano:

• Utilizzo di reti isolate (air‑gapped) per i sistemi di IA con capacità cibernetiche;
• Disconnessione permanente da Internet per i modelli che non necessitano di accesso esterno;
• Definizione di un “rango di azioni consentite” per i sistemi di contenimento, bilanciato con la capacità attuale di prevedere che le azioni del modello non provocheranno una falla di sicurezza.

Per tutti i modelli di IA connessi a Internet, il “rango di azioni consentite” deve essere calibrato in modo da non superare le limitazioni nella capacità predittiva delle autorità di sicurezza.

Strategie a lungo termine

Nel lungo periodo, gli esperti suggeriscono:

• Promuovere un maggiore scambio di informazioni tra le aziende, i laboratori di ricerca e le autorità di regolamentazione;
• Stabilire meccanismi di collaborazione internazionali per la condivisione di best practice;
• Privilegiare la trasparenza, pubblicando i dettagli di incidenti di sicurezza legati all’IA.

Proposta di un organismo internazionale

La lettera sostiene che la responsabilità non deve ricadere esclusivamente sui soggetti che sviluppano la tecnologia. Perciò, i firmatari propongono la creazione di un organismo internazionale incaricato di stabilire standard, migliori pratiche di allineamento e approcci di contenimento “a beneficio dell’interesse pubblico”.

L’ente dovrebbe documentare e monitorare i falli di cybersicurezza correlati all’IA. Le aziende sviluppatrici sarebbero obbligate a segnalare gli incidenti senza omettere dettagli, poiché “questa trasparenza è necessaria sia per l’apprendimento che per la rendicontazione”.

Domande aperte sul controllo dell’IA

Il documento solleva la fondamentale domanda: Chi potrà controllare efficacemente il rapido avanzamento dell’IA? Le raccomandazioni si sommano a un elenco sempre più ampio di avvertimenti che invitano governi, organismi internazionali e compagnie del settore a implementare misure di sicurezza più efficaci per garantire uno sviluppo responsabile dell’IA.

Allerta della Five Eyes sulla cybersicurezza

A metà anno, l’alleanza di intelligence Five Eyes ha avvertito che “lo sviluppo vertiginoso dell’IA di avanguardia implica che le assunzioni sul rischio cibernetico possono diventare obsolete in pochi mesi, non in anni. Dobbiamo agire in anticipo e prepararci a resistere alle minacce in costante evoluzione”.

La rete internazionale di intelligence ha esortato i leader mondiali ad adottare meccanismi che rafforzino la resilienza cibernetica di fronte a minacce potenziate da tecnologie di nuova generazione. “La cyber‑resilienza non è un tema esclusivo delle tecnologie dell’informazione; è un elemento fondamentale per la continuità operativa e la fiducia del mercato. I leader che agiranno ora ridurranno la loro esposizione, rafforzeranno la resilienza e genereranno fiducia tra clienti, partner e investitori. Chi si ritarderà affronterà un rischio crescente e evitabile”, hanno ribadito.

Commenti dell’ONU sui quadri normativi

Secondo l’ONU, esistono attualmente circa 40 quadri di governance dell’IA, ma nessuno ha dimostrato in modo conclusivo la propria efficacia. L’organismo ha sottolineato che correggere questa carenza deve essere una priorità, poiché l’assenza di un quadro normativo solido e il “dispiegamento rapido e incontrollato di questa tecnologia su larga scala” comportano rischi considerevoli.

Tra i possibili effetti negativi vi sono:

• Impatto sulla salute mentale degli utenti;
• Uso dell’IA come strumento distruttivo;
• Rilevanti ripercussioni sui sistemi sociali, economici e ambientali.

Preoccupa inoltre la difficoltà di garantire un controllo efficace su una tecnologia il cui sviluppo e distribuzione avanzano con rapidità. L’obiettivo è ridurre la possibilità che queste capacità compromettano servizi essenziali e organizzazioni non direttamente coinvolte nello sviluppo dell’IA.

Conclusioni

La lettera aperta dei “padrini” dell’IA e di oltre 400 scienziati rappresenta una chiamata urgente a rivedere le pratiche di sviluppo, test e implementazione dell’intelligenza artificiale. La combinazione di misure di contenimento immediate, trasparenza obbligatoria e la creazione di un organismo internazionale sono gli elementi chiave proposti per contenere i rischi emergenti e garantire che l’IA possa evolversi in un contesto sicuro e controllato.