Al summit internazionale sull'IA di Dublino, i leader del settore tecnologico e i responsabili europei hanno lanciato un appello urgente per rafforzare la sicurezza dell'intelligenza artificiale. Demis Hassabis, presidente di Google Deepmind, Brad Smith, CEO di Microsoft, e Henna Virkunnen, vicepresidentessa della Commissione europea per il digitale, hanno partecipato all'evento per discutere delle sfide critiche che l'IA deve affrontare.
Avvertimenti precoci e necessità di regolamentazione
Demis Hassabis ha avvertito che gli incidenti di cybersicurezza legati all'IA sono in aumento e che, senza un maggiore impegno nella sicurezza, potrebbero diventare maggiori entro un paio d'anni. "Questi sono avvertimenti precoci per noi. I sistemi non sono ancora molto potenti, quindi gli incidenti non sono così gravi, ma potrebbero esserlo se non accentuiamo gli sforzi in materia di sicurezza", ha dichiarato.
Hassabis ha suggerito di ispirarsi alle migliori pratiche di altri settori critici per la sicurezza, come la biologia e il nucleare. In luglio, aveva già proposto la creazione di un'autorità di regolamentazione per i modelli di IA più potenti, simile all'Autorità di regolamentazione dell'industria finanziaria (FINRA).
Il problema del disallineamento
Hassabis ha anche affrontato il problema del disallineamento, che consiste nell'integrare valori e obiettivi umani nei modelli di IA per renderli sicuri e affidabili. "Diventa sempre più difficile assicurarsi che rispettino gli obiettivi dati e le limitazioni imposte, soprattutto con sistemi sempre più automatizzati", ha spiegato.
Brad Smith di Microsoft ha sostenuto l'idea di dotare i sistemi di IA di "freni d'emergenza" o interruttori di sicurezza obbligatori, che permettano agli utenti di limitare i danni in caso di perdita di controllo. "L'idea, soprattutto per le IA che gestiscono infrastrutture critiche o sistemi automatizzati, è di avere la possibilità di spegnerle o rallentarle", ha detto.
La corsa alla velocità e la mancanza di regolamentazione
Henna Virkunnen della Commissione europea ha criticato la corsa alla velocità nel settore dell'IA, che spesso compromette la sicurezza. "Vediamo una competizione globale così feroce che le aziende non sembrano dedicare abbastanza tempo e risorse a testare i loro modelli", ha dichiarato. Ha sottolineato che gli incidenti recenti mostrano che le aziende non sono sempre consapevoli delle azioni intraprese dai loro agenti.
Virkunnen ha ricordato che l'UE ha richiesto alle principali aziende del settore informazioni sulle misure di sicurezza e sulle procedure di valutazione esterna. Ha anche ribadito che l'UE richiede che le aziende mantengano il controllo sui sistemi di IA, in linea con la sua legge pionieristica sull'IA, l'AI Act.
Equilibrio tra innovazione e regolamentazione
Sarah Friar, direttrice finanziaria di OpenAI, ha condiviso l'appello per una maggiore sicurezza, ma ha avvertito che non si deve paralizzare il settore. Ha sostenuto la necessità di un "buon equilibrio" tra innovazione e regolamentazione. "Vogliamo essere aperti e permettere alle persone giuste di valutare i nostri modelli, ma dobbiamo assicurarci che ciò non ci rallenti al punto da rimanere indietro tecnologicamente rispetto ad attori malintenzionati", ha spiegato.
Conclusione
Il summit di Dublino ha evidenziato la necessità urgente di rafforzare la sicurezza dell'IA e di stabilire regolamentazioni efficaci. I leader del settore e i responsabili europei hanno sottolineato l'importanza di trovare un equilibrio tra innovazione e sicurezza per garantire che l'IA sia sicura, affidabile e utile per tutti.