Un nuovo approccio interdisciplinare all'intelligenza artificiale

Il 28 ottobre 2026 l'Università di California, San Diego (UC San Diego) ha annunciato la costituzione del Center for Principled Agentic Intelligence (CPAi), un centro interdisciplinare nato dalla collaborazione tra la Halıcıoğlu School of Data Science and Computing e la School of Arts and Humanities. L'obiettivo è comprendere, valutare e costruire fiducia negli agenti IA, sistemi capaci di pianificare e realizzare compiti complessi con minima supervisione umana.

Il centro riunisce ricercatori provenienti da data science, informatica ad alte prestazioni, arti e discipline umanistiche per affrontare le questioni più profonde sollevate dall'IA avanzata: valori umani, supervisione, responsabilità e quando sia giustificato riporre fiducia in tali sistemi.

Principi guida del CPAi

    • Allineamento: verifica che un sistema IA si comporti secondo le intenzioni di sviluppatori e utenti.
    • Fiducia: richiede prove verificabili della affidabilità e della coerenza delle prestazioni.
    • Responsabilità: riguarda la rendicontazione di chi progetta, distribuisce e utilizza l'IA e l'impatto di tali sistemi sulla società.

Motivazioni e dichiarazioni istituzionali

Il rettore di UC San Diego, Pradeep K. Khosla, ha sottolineato: “Con l’aumento delle capacità e dell’autonomia dell’intelligenza artificiale, le università hanno un ruolo cruciale nel garantire che lo sviluppo serva le persone e la società.” Il nuovo centro incarna l’impegno dell’ateneo nel plasmare il futuro dell’IA, non solo nel reagire ad esso.

Rajesh K. Gupta, decano della Halıcıoğlu School, ha aggiunto: “UC San Diego ha contribuito a definire le basi intellettuali e tecniche dell’IA moderna. Il CPAi prosegue questa eredità, consentendo a ricercatori di analizzare non solo cosa gli agenti IA possono fare, ma anche come comprenderli, valutarli e mantenerli fedeli agli obiettivi umani.”

Che cosa distingue gli agenti IA?

A differenza degli strumenti IA tradizionali, progettati per rispondere a singoli prompt, gli agenti IA possono elaborare una sequenza di azioni per raggiungere obiettivi più ampi. Con l’aumento della loro autonomia, emergono sfide complesse legate alla valutazione delle prestazioni, alla comprensione dei processi interni e al mantenimento di una supervisione umana significativa.

Le due iniziative principali del centro

Il CPAi avvierà due grandi progetti di ricerca, ciascuno guidato da team multidisciplinari.

Iniziativa 1: AI Alignment and Society

Co-diretta da Mikhail Belkin (Halıcıoğlu Data Science Institute) e Eddy Keming Chen (Dipartimento di Filosofia e HDSI), questa iniziativa esaminerà come i metodi di addestramento e valutazione influenzino il comportamento degli agenti IA e come verificare che sistemi sempre più potenti rimangano allineati alle intenzioni umane.

Le domande di ricerca includono:

    • Come valutare l’allineamento quando un agente IA supera le capacità di chi lo valuta?
    • Quali metodologie consentono di testare rigorosamente le affermazioni di sicurezza e allineamento?
    • Quali pratiche di addestramento comportano i maggiori rischi di deviazione dagli obiettivi umani?

La professoressa Cristina Della Coletta, decana della School of Arts and Humanities, ha ribadito l’importanza delle discipline umanistiche: “Le domande sull’IA sono anche domande su conoscenza, agenzia, creatività, significato e futuro della società. Le arti e le scienze umane sono essenziali per garantire che l’IA evolva in modo responsabile e degno di fiducia.”

Iniziativa 2: Valutazione indipendente degli agenti IA

Guidata da Tauhidur Rahman, Lily Weng e Haojian Jin (Halıcıoğlu Data Science Institute) insieme a Rose Yu (Dipartimento di Computer Science and Engineering, Jacobs School of Engineering), questa iniziativa svilupperà metodi per valutare in modo autonomo l’affidabilità e le prestazioni degli agenti IA.

Gli obiettivi principali sono:

    • Creare un testbed open‑source capace di simulare compiti del mondo reale.
    • Analizzare le cause di fallimento di un agente IA su specifici task.
    • Garantire che il comportamento dell’agente sia auditabile e operi entro limiti predefiniti.
    • Fornire strumenti di valutazione rigorosi a ricercatori e organizzazioni esterne, non solo alle aziende produttrici.

Finanziamento e risorse

Al lancio, il CPAi riceve un finanziamento di 1 milione di dollari distribuito su tre anni per sostenere le due iniziative di ricerca. Inoltre, la Halıcıoğlu School mette a disposizione un cluster di calcolo condiviso dal valore di 250.000 dollari**, garantendo ai ricercatori l’accesso a risorse di alta performance.

Il ruolo della Halıcıoğlu School of Data Science and Computing

La scuola combina informatica, dati e intelligenza artificiale per affrontare sfide complesse. Si basa sull’integrazione del Halıcıoğlu Data Science Institute e del San Diego Supercomputer Center, creando un ambiente interdisciplinare che spazia dalla scienza dei dati all’IA avanzata, dal calcolo ad alte prestazioni alla computazione neurale.

Il contributo della School of Arts and Humanities

Questa scuola riunisce studiosi, artisti e studenti che indagano idee, culture e pratiche creative. I dipartimenti includono Storia, Letteratura, Musica, Filosofia, Teatro, Danza e Arti Visive. La missione è promuovere sperimentazione e collaborazione interdisciplinare, dove le forme tradizionali di indagine incontrano le tecnologie emergenti e nuovi paradigmi di pensiero.

Prospettive future e impatto sociale

Il CPAi intende non solo produrre conoscenza accademica, ma anche influenzare politiche, standard industriali e pratiche di sviluppo responsabile dell’IA. Attraverso la collaborazione con università, enti di ricerca e industria, il centro mira a creare un ecosistema in cui l’innovazione tecnologica sia accompagnata da una solida base etica e di responsabilità.

In sintesi, il Center for Principled Agentic Intelligence rappresenta una risposta istituzionale concreta alle sfide poste dall’autonomia crescente degli agenti IA, offrendo un modello di ricerca integrata che combina competenze tecniche e umanistiche per garantire che l’intelligenza artificiale sia al servizio della società in modo affidabile, trasparente e responsabile.