La governatrice di New York, Kathy Hochul, ha annunciato oggi il lancio del New York Center for AI Responsibility and Research (NYCAIRR), il primo centro statale dedicato alla scienza e alla sicurezza dell'intelligenza artificiale. Situato presso la Binghamton University della SUNY, il centro riunirà più di 80 ricercatori provenienti da università e istituti di ricerca di tutto lo Stato, con l’obiettivo di testare in modo indipendente i sistemi di IA più avanzati, valutare i loro rischi e sviluppare standard di sicurezza.

Leadership e struttura del nuovo centro

Alla guida del NYCAIRR saranno i rinomati informatici Greg Morrisett di Cornell Tech e Jeannette Wing di Columbia University, che ricopriranno il ruolo di co‑direttori ad interim. Entrambi hanno una lunga esperienza nella sicurezza dei sistemi informatici e nella ricerca sui metodi formali.

Il centro, che opererà all’interno della Binghamton University, sarà sostenuto da Empire AI, l’iniziativa pubblico‑privata da 500 milioni di dollari della governatrice Hochul, dedicata alla ricerca sull'IA per il bene pubblico. Empire AI fornirà la potenza computazionale necessaria per eseguire test su larga scala e per sviluppare nuovi strumenti di valutazione.

Obiettivi scientifici e di sicurezza

Il NYCAIRR si concentrerà su tre aree fondamentali:

    • Test indipendente di sistemi di IA frontier, per verificare sicurezza, affidabilità e conformità a standard etici.
    • Ricerca scientifica di base volta a creare metriche, misurazioni e metodologie per valutare sistemi sempre più potenti.
    • Formazione di una nuova generazione di esperti in AI safety, con programmi di master e dottorato dedicati.

Tra le prime iniziative, il centro avvierà un programma nazionale di reclutamento di specialisti in teoria matematica dei limiti dell'IA, metodi formali, verifica, sicurezza hardware, privacy, interpretabilità, allineamento e bio‑sicurezza.

Il RAISE Act e il nuovo portale di registrazione

Il progetto si inserisce nella più ampia agenda di sicurezza dell'IA della governatrice Hochul, già avviata con il RAISE Act. Tale legge impone alle aziende che sviluppano “frontier AI” (sistemi di intelligenza artificiale avanzata) di rispettare rigorosi requisiti di sicurezza, trasparenza e reporting.

Il portale RAISE, gestito dalla nuova Office of Digital Innovation, Governance, Integrity, and Trust (DIGIT), sarà attivo dal 1 gennaio 2027. Le grandi aziende di frontier AI dovranno:

    • Registrarsi presso lo stato di New York entro la data indicata.
    • Pubblicare i propri framework di sicurezza sui siti web aziendali.
    • Fornire report dettagliati su incidenti critici di sicurezza entro 72 ore dalla loro occorrenza.
    • Presentare regolarmente rapporti di trasparenza sui modelli e sui dati utilizzati.

Il portale RAISE rappresenta il primo sistema di questo tipo negli Stati Uniti e fornisce al governo di New York dati oggettivi per prendere decisioni politiche informate.

Reazioni delle istituzioni

Tom Secunda, presidente del consiglio di Empire AI e co‑fondatore di Bloomberg LP, ha dichiarato: “New York è in una posizione unica per rispondere a una delle sfide più importanti del nostro tempo: garantire che i sistemi di IA più potenti siano sicuri, affidabili e basati su una scienza rigorosa.”

Il New York State Department of Financial Services, rappresentato dall’acting superintendent Kaitlin Asrow, ha espresso pieno supporto: “Il NYCAIRR rappresenta un passo cruciale per la sicurezza dell’IA. DFS è orgogliosa di guidare l’attuazione del RAISE Act attraverso l’ufficio DIGIT e di collaborare strettamente con il centro.”

Finanziamenti e partnership

Il centro nasce grazie a un dono filantropico storico di 30 milioni di dollari, guidato dal binghamtoniano e co‑fondatore di Bloomberg LP Tom Secunda, e a un investimento iniziale di 25 milioni di dollari da parte di SUNY, integrato da capitale operativo fornito dallo Stato di New York.

Questi fondi saranno impiegati per:

    • Costruire laboratori di test avanzati con capacità di calcolo pari a quelle dei più potenti supercomputer.
    • Finanziare progetti di ricerca in aree critiche come l’allineamento degli obiettivi dell’IA, la mitigazione dei bias e la sicurezza dei sistemi embedded.
    • Sostenere borse di studio e programmi di formazione per ricercatori emergenti.

Il NYCAIRR collaborerà inoltre con altre istituzioni accademiche dello Stato, tra cui la University at Albany, la Stony Brook University e la Rochester Institute of Technology, creando una rete di esperti distribuita su tutto il territorio.

Impatto previsto sulla società e sull’economia

Il progetto è destinato a generare benefici multipli:

    • Rafforzare la posizione di New York come leader globale nella ricerca sull’IA, attirando talenti, investimenti e partnership internazionali.
    • Garantire che le tecnologie di IA adottate in settori critici – sanità, infrastrutture, energia – siano testate per evitare fallimenti catastrofici.
    • Fornire al settore pubblico strumenti basati su evidenze per regolamentare l’uso dell’IA in modo equilibrato, senza soffocare l'innovazione.
    • Creare posti di lavoro ad alta specializzazione e stimolare l’economia locale attraverso spin‑off e start‑up focalizzate sulla sicurezza dell’IA.

In sintesi, la governatrice Hochul ha dichiarato: “Mentre il governo federale non agisce, New York guida la strada sulla sicurezza dell’IA e tiene le grandi aziende tecnologiche responsabili. Gli stake sono troppo alti per prendere le parole delle aziende al valore nominale.” Il NYCAIRR, insieme al RAISE Act e al portale DIGIT, costituisce una risposta concreta a tale sfida, combinando potenza computazionale, ricerca di eccellenza e un quadro normativo rigoroso.

Prospettive future

Nei prossimi mesi, il centro prevede di:

    • Completare la prima fase di test indipendenti su due modelli di IA frontier già operanti sul mercato.
    • Pubblicare un rapporto preliminare sui requisiti di sicurezza più critici per i sistemi di IA generativa.
    • Organizzare una conferenza internazionale sulla AI safety, invitando esperti di governo, industria e accademia da tutto il mondo.

Con la sua combinazione di risorse finanziarie, capacità computazionali e una rete di esperti di livello mondiale, il New York Center for AI Responsibility and Research è posizionato per diventare un punto di riferimento globale nella ricerca e nella regolamentazione dell’intelligenza artificiale.