Il 14 ottobre 2026, più di duecento scienziati, accademici e specialisti di intelligenza artificiale hanno firmato una petizione globale intitolata “Les futurs incidents seront bien plus dommageables”. Il documento, pubblicato su Le Monde, richiama l’attenzione su una serie di rischi emergenti che, se non gestiti con urgenza, potrebbero provocare danni su scala mai vista prima.

Le motivazioni della petizione

Gli autori della petizione sottolineano che, nonostante gli sforzi di autoregolamentazione da parte delle grandi aziende tecnologiche, la velocità di sviluppo dell’IA supera di gran lunga le capacità di monitoraggio e controllo attuali. Tra i principali timori emergono:

    • l’uso improprio di modelli generativi per creare disinformazione altamente credibile;
    • la proliferazione di sistemi di sorveglianza automatizzata che violano la privacy dei cittadini;
    • l’integrazione di IA in infrastrutture critiche senza adeguati test di sicurezza;
    • la possibilità che algoritmi di decisione automatica perpetuino bias e discriminazioni su larga scala.

Secondo i ricercatori, questi scenari non sono più ipotesi teoriche, ma minacce concrete già osservate in diversi settori, dalla finanza alla sanità.

Le richieste concrete

La petizione elenca otto cambiamenti immediati che gli autori chiedono a governi, organismi internazionali e aziende del settore:

    • Standard di trasparenza obbligatori: ogni modello di IA deve essere accompagnato da una “scheda tecnica” che descriva dati di addestramento, architettura e metriche di performance.
    • Audit indipendenti periodici: organismi terzi devono verificare la conformità dei sistemi IA a norme etiche e di sicurezza.
    • Limiti di utilizzo per applicazioni ad alto rischio: vietare l’impiego di IA in contesti come controllo del traffico aereo, gestione di impianti nucleari o assistenza medica critica senza autorizzazione esplicita.
    • Registrazione obbligatoria dei sistemi di IA: creare un registro pubblico a livello internazionale per tracciare lo sviluppo, la distribuzione e l’uso di modelli avanzati.
    • Formazione obbligatoria per i professionisti: tutti gli operatori che interagiscono con IA ad alto impatto devono completare corsi certificati su rischi, bias e sicurezza.
    • Limiti di dimensione dei dataset: introdurre soglie massime per la quantità di dati sensibili utilizzati nell’addestramento, con meccanismi di anonimizzazione verificabili.
    • Responsabilità legale chiara: definire chi è responsabile in caso di danni causati da decisioni automatizzate, includendo sanzioni per negligenza.
    • Finanziamento pubblico per la ricerca sulla sicurezza dell’IA: destinare risorse statali a progetti mirati a studiare vulnerabilità, robustezza e mitigazione dei rischi.

Queste proposte mirano a creare un “quadro normativo preventivo” anziché reattivo, riducendo la probabilità di incidenti catastrofici.

Contesto internazionale e precedenti

Il documento richiama esempi recenti che hanno già dimostrato la vulnerabilità dei sistemi IA. Nel 2025, un modello di generazione di testo è stato usato per diffondere falsi comunicati di stampa su un attacco nucleare, generando panico momentaneo sui mercati finanziari. Nello stesso anno, un algoritmo di riconoscimento facciale impiegato da una grande catena di supermercati ha erroneamente segnalato come sospetti più di cento clienti, provocando ingiustificate perquisizioni.

Questi episodi hanno spinto l’Unione Europea a proporre una “AI Act” più restrittiva, ma gli esperti sottolineano che le misure finora adottate risultano insufficienti e frammentarie. “Le normative attuali non tengono conto della velocità con cui le tecnologie evolvono”, afferma la prof.ssa Isabelle Dupont, una delle firmatarie.

Reazioni delle istituzioni e del settore

Il segretario generale dell’UNESCO ha espresso “piena solidarietà” alla petizione, promettendo di includere alcune delle richieste nel prossimo rapporto sull’etica dell’IA. Al contempo, la Commissione Europea ha dichiarato di voler esaminare le proposte entro il prossimo trimestre, ma ha sottolineato la necessità di “consultare tutti gli attori coinvolti”.

Le grandi aziende tecnologiche, tra cui OpenAI, Google DeepMind e Anthropic, hanno risposto con comunicati che evidenziano i loro “programmi interni di governance” e la volontà di collaborare con le autorità. Tuttavia, gli esperti rimangono scettici: “Le dichiarazioni di buona volontà non sono sufficienti; servono regole vincolanti e verificabili”.

Le implicazioni per il futuro

Se le richieste della petizione non verranno accolte, gli esperti temono che i prossimi incidenti potranno coinvolgere settori più sensibili, come la difesa, l’energia e la sanità. Un modello di IA non adeguatamente controllato, ad esempio, potrebbe manipolare sistemi di controllo di reattori nucleari o alterare diagnosi mediche, con conseguenze potenzialmente letali.

Inoltre, la proliferazione di IA generative potrebbe amplificare il fenomeno della “deepfake” a livello di video e audio, rendendo quasi impossibile distinguere la realtà dalla simulazione, con effetti destabilizzanti sulla democrazia e sulla fiducia pubblica.

Prospettive e prossimi passi

Il gruppo di ricercatori ha fissato una scadenza per la presentazione della petizione ai principali organismi internazionali: entro la fine di novembre 2026, il documento sarà sottoposto al Consiglio di Sicurezza delle Nazioni Unite, al Parlamento Europeo e al Congresso degli Stati Uniti.

Nel frattempo, gli esperti invitano la comunità scientifica a partecipare a workshop tematici, a condividere best practice e a contribuire a una “biblioteca di sicurezza dell’IA” open‑source, dove ogni nuovo modello debba essere valutato prima della pubblicazione.

In sintesi, la petizione rappresenta un appello urgente a una governance globale dell’intelligenza artificiale, basata su trasparenza, responsabilità e prevenzione. Solo con un impegno condiviso potremo evitare che i futuri incidenti siano “ben più dannosi” di quelli già vissuti.