Il governatore di New York ha firmato il Raise Act, una legge che istituisce il New York AI Safety Center, un organismo indipendente con il compito di testare, valutare e certificare la sicurezza dei modelli di intelligenza artificiale (IA) sviluppati o commercializzati nello stato. L’iniziativa rappresenta una delle prime risposte legislative a livello statale negli Stati Uniti mirata a creare un “fondo di fiducia” per le tecnologie emergenti.
Obiettivi e missione del nuovo centro
Il centro ha una missione chiara: fornire una valutazione scientifica e imparziale dei rischi associati ai sistemi di IA, soprattutto quelli a uso generativo, e rilasciare certificazioni di sicurezza che possano guidare sia i consumatori che le imprese. Tra gli obiettivi principali vi sono:
- Identificare bias, vulnerabilità e potenziali abusi nei modelli di IA.
- Stabilire linee guida operative per lo sviluppo responsabile dell’IA.
- Offrire supporto tecnico e consulenza alle aziende che desiderano conformarsi alle normative.
- Promuovere la trasparenza attraverso la pubblicazione di rapporti di valutazione accessibili al pubblico.
Struttura operativa
Il New York AI Safety Center sarà basato a Binghamton, una città universitaria che ospita il SUNY Binghamton, noto per la sua eccellenza in informatica e ingegneria. Il centro avrà tre dipartimenti chiave:
- Ricerca e sviluppo: condurrà test sperimentali su modelli di IA, includendo simulazioni di attacchi adversariali e analisi di impatto sociale.
- Regolamentazione e policy: collaborerà con la legislatura statale per tradurre i risultati tecnici in linee guida normative.
- Educazione e outreach: organizzerà workshop, corsi di formazione e campagne di sensibilizzazione per professionisti e pubblico generale.
Il contesto normativo e le motivazioni della legge
La crescita esponenziale dei modelli generativi, come GPT‑4, Claude e altri, ha sollevato preoccupazioni su privacy, sicurezza dei dati, diffusione di disinformazione e potenziali discriminazioni. Il Raise Act nasce in risposta a queste sfide, prevedendo:
- Obbligo per le aziende di sottoporre i propri modelli a valutazioni indipendenti prima della commercializzazione.
- Creazione di un registro pubblico dei risultati dei test, consultabile da consumatori, ricercatori e autorità di vigilanza.
- Possibilità di sanzioni amministrative per chi non rispetta gli standard di sicurezza stabiliti dal centro.
Il legislatore statale ha sottolineato che, senza un ente di controllo neutrale, il mercato dell'IA rischia di svilupparsi senza adeguati meccanismi di responsabilità, minando la fiducia del pubblico e potenzialmente generando danni economici e sociali.
Finanziamento e partnership
Il centro sarà finanziato con un budget iniziale di 30 milioni di dollari, provenienti da fondi statali, grant federali e contributi privati. Tra i partner annunciati figurano:
- Università di Binghamton e Cornell Tech, per fornire expertise accademica.
- Il National Institute of Standards and Technology (NIST), per allineare le metriche di sicurezza a standard nazionali.
- Società di consulenza in cyber‑security, che supporteranno le attività di penetration testing sui modelli IA.
Processo di certificazione: come funziona
Le aziende interessate dovranno presentare una richiesta di valutazione al centro, includendo la documentazione tecnica del modello, i dataset di addestramento e le politiche di gestione dei dati. Il processo di certificazione si articola in quattro fasi:
- Pre‑screening: verifica preliminare della completezza della documentazione.
- Test di robustezza: valutazione di resistenza a manipolazioni, attacchi avversariali e tentativi di jailbreak.
- Analisi etica: esame dei bias, della rappresentatività dei dati e dell’impatto su gruppi vulnerabili.
- Report finale e certificazione: emissione di un certificato con rating di sicurezza (ad esempio “A‑Safe”, “B‑Caution”, “C‑Review”).
Le certificazioni avranno una validità di due anni, dopodiché sarà necessario un nuovo ciclo di test per garantire che gli aggiornamenti del modello non introducano nuove vulnerabilità.
Reazioni del settore e delle organizzazioni civili
Le principali aziende tecnologiche hanno accolto la notizia con cautela. Alcune hanno espresso preoccupazione per possibili ritardi nella commercializzazione dei loro prodotti, mentre altre hanno visto nell’iniziativa un’opportunità per distinguersi con certificazioni di alta qualità. Organizzazioni come l’Electronic Frontier Foundation (EFF) hanno elogiato il passo avanti verso una maggiore trasparenza, ma hanno chiesto che il centro mantenga una completa indipendenza da interessi commerciali.
Impatto previsto sulla ricerca e sull’innovazione
Gli esperti ritengono che il New York AI Safety Center possa stimolare una “cultura della sicurezza” nella comunità di ricerca IA, incoraggiando gli sviluppatori a integrare fin dalle fasi di design misure di mitigazione dei rischi. Inoltre, la disponibilità di dati di valutazione pubblici potrà alimentare nuovi studi accademici, contribuendo a una letteratura più robusta su bias, fairness e robustezza dei modelli.
Nel medio termine, il centro potrebbe diventare un modello replicabile da altri stati e paesi, favorendo la creazione di una rete internazionale di enti di certificazione IA. Tale rete potrebbe condividere metodologie di testing, standard comuni e best practice, riducendo la frammentazione normativa a livello globale.
Prospettive future e prossimi passi
Il New York AI Safety Center prevede di avviare le prime valutazioni entro il terzo trimestre del 2027, con un focus iniziale sui modelli di linguaggio di grandi dimensioni (LLM) e sui sistemi di visione artificiale usati in ambito sanitario e di sorveglianza. Successivamente, il centro espanderà il proprio raggio d’azione ai modelli di IA per la finanza, l’automotive e le applicazioni industriali.
In sintesi, la creazione di questo centro rappresenta una svolta significativa nella governance dell’intelligenza artificiale a livello statale. Con risorse adeguate, una governance trasparente e collaborazioni strategiche, New York potrebbe diventare un punto di riferimento globale per la sicurezza e l’etica dell’IA, offrendo al contempo un modello di regolamentazione che bilancia innovazione e protezione del pubblico.