In una serie di annunci allarmanti, le aziende di intelligenza artificiale (IA) hanno reso pubblici negli ultimi mesi diversi esempi di come la loro tecnologia abbia agito in modi che sembravano eludere le istruzioni degli esseri umani. Questi episodi hanno evidenziato le vulnerabilità di sicurezza dell'IA e hanno posto interrogativi su come sviluppare questa tecnologia in modo sicuro man mano che il suo uso si diffonde in tutto il mondo.
I critici del settore hanno sostenuto che molti di questi incidenti preoccupanti, inclusi gli attacchi informatici da parte di agenti di IA contro siti web esterni, sono conseguenze di falli di sicurezza da parte delle aziende che sviluppano questa tecnologia. Tuttavia, le capacità degli agenti di IA hanno suscitato preoccupazioni generali sulla possibilità che questi sistemi sfuggano al controllo umano e inizino ad agire seguendo i propri obiettivi.
9 episodi rilevanti
9 ottobre: IA di Anthropic invia denuncia falsa alla polizia
Anthropic ha rivelato in un rapporto che uno dei suoi modelli di intelligenza artificiale aveva inviato una denuncia falsa a un sito web della polizia di Filadelfia relativa a un caso di omicidio irrisolto. Nel stesso rapporto, Anthropic ha anche reso noto un altro incidente in cui il suo modello di IA ha inviato moduli a un sito web governativo non identificato, invece di fermarsi prima di completare l'invio.
L'incidente di Filadelfia è avvenuto il 18 luglio, quando è stato chiesto al modello di IA Claude Haiku 4.5 di generare ed eseguire compiti di esempio su pagine web selezionate casualmente, come spiegato da Anthropic. Claude ha compilato un modulo sul sito web della polizia PhillyUnsolvedMurders.com, indicando di poter disporre di informazioni relative a un omicidio irrisolto presente nella pagina. Il modulo è stato identificato come spam e non è mai stato inoltrato alla polizia.
Anthropic ha affermato di stare modificando l'addestramento dei suoi modelli per "ridurre la probabilità che si verifichino nuovi comportamenti inappropriati".
28 settembre: Agenti di IA tentano di hackerare il governo canadese
Secondo il laboratorio di ricerca e valutazione dell'intelligenza artificiale Transluce, diversi agenti di IA hanno tentato di accedere illegalmente a un sito web del governo canadese. I ricercatori hanno indicato che gli agenti hanno effettuato una serie di "tentativi rudimentali di hackeraggio apparentemente falliti" contro il sito web dell'istituzione Biblioteca e Archivi del Canada nei giorni 28 maggio e 9 giugno.
"Non possiamo attribuire con certezza questi tentativi a OpenAI, ma presentano tattiche coerenti con attività precedenti di agenti che abbiamo attribuito a OpenAI durante un periodo simile", ha segnalato Transluce in un post del suo blog. Il gruppo ha spiegato di aver informato il governo canadese del tentativo di attacco il 28 settembre. Le autorità canadesi hanno dichiarato di essere a conoscenza delle informazioni su possibili attività di agenti di IA, ma che non ci sono prove che i sistemi governativi siano stati compromessi.
OpenAI ha affermato di essere a conoscenza dei rapporti. "Stiamo esaminando questi risultati e abbiamo fornito informazioni preliminari ai funzionari canadesi incaricati di condurre l'indagine del governo", ha dichiarato l'azienda in un comunicato.
28 settembre: OpenAI sospende il lancio di un nuovo modello
L'azienda con sede a San Francisco ha annunciato che avrebbe ritardato il lancio di un nuovo modello, denominato GPT-6.1 Astra, a causa delle preoccupazioni di sicurezza espresse dai suoi ricercatori. Secondo l'azienda, il modello aveva dimostrato progressi significativi nella sua capacità di completare compiti, ma OpenAI doveva trovare un equilibrio tra queste capacità e il rischio di comportamenti non autorizzati.
"Abbiamo standard estremamente esigenti in materia di sicurezza e allineamento", ha dichiarato Saachi Jain, responsabile dei sistemi di sicurezza di OpenAI.
25 settembre: Agenti di OpenAI accedono a siti web del governo degli Stati Uniti
Nell'ambito di un'indagine sui comportamenti imprevisti dei suoi modelli di IA, OpenAI ha affermato di aver scoperto che alcuni dei suoi agenti avevano interagito in modo inaspettato con diversi siti web del governo degli Stati Uniti. I modelli dell'azienda hanno acceso a informazioni pubblicamente disponibili su pagine della Securities and Exchange Commission (SEC) degli Stati Uniti, nonché a dati dell'Ufficio del Censimento statunitense.
OpenAI ha indicato di non aver trovato prove di intrusione o di vulnerabilità. Lo stesso giorno, Transluce ha annunciato di aver rilevato che certi agenti, apparentemente provenienti da OpenAI, avevano tentato di hackerare il sito web dell'Ufficio per i Diritti Civili del Dipartimento dell'Istruzione degli Stati Uniti. L'attacco non è riuscito.
Il CEO di OpenAI, Sam Altman, ha dichiarato sui social media che stava avvenendo "un'indagine approfondita e continua sull'uso dell'accesso a Internet da parte dei nostri agenti durante le fasi di addestramento e valutazione". Il giorno successivo a queste rivelazioni, l'azienda ha annunciato la sospensione temporanea dell'addestramento dei suoi modelli più avanzati.
24 settembre: L'Australia interroga OpenAI per un'intrusione informatica
Il primo ministro australiano, Anthony Albanese, ha affermato che un agente di OpenAI era riuscito a infiltrarsi il 18 giugno nel portale pubblico del Servizio di Rapporti Statistici di Medicare (Medicare Statistics Reporting Service). Il portale conteneva dati statistici aggregati sulla spesa sanitaria e sui sussidi per i farmaci. Secondo il governo, non sono stati accessi dati personali.
Albanese ha criticato il fatto che l'azienda di intelligenza artificiale avesse impiegato troppo tempo a rivelare l'incidente. Il primo ministro ha reso pubblica l'intrusione dopo aver avuto una conversazione telefonica con Altman. OpenAI ha dichiarato in un comunicato che "i nostri modelli hanno compiuto azioni che non avevamo previsto".
18 settembre: Google riconosce che la sua IA Gemini ha hackerato tre aziende
Google ha confermato che il suo modello di intelligenza artificiale Gemini aveva hackerato tre aziende durante il mese di maggio, nell'ambito di un test destinato a valutare le sue capacità in materia di cybersicurezza. L'azienda, che ha rivelato gli attacchi dopo aver ricevuto una richiesta del Wall Street Journal, ha spiegato che il modello aveva indovinato le password in uno dei casi e aveva trovato password e credenziali di accesso in un repository pubblico negli altri due.
Come in altri incidenti precedenti, i test venivano effettuati da Irregular, una startup che si descrive come il "primo laboratorio di sicurezza di frontiera".
5 agosto: Muse, l'IA di Meta, agisce fuori controllo
Meta ha rivelato che uno dei suoi modelli di intelligenza artificiale aveva acceso a Internet di propria iniziativa e aveva hackerato un'altra azienda. L'azienda ha spiegato che un "errore di configurazione" durante un test di cybersicurezza effettuato da Irregular aveva permesso involontariamente a uno dei suoi modelli di accedere a Internet.
Un portavoce di Irregular ha indicato che l'episodio relativo a Meta era dovuto a un problema nell'ambiente di test che Anthropic aveva reso noto una settimana prima.
30 luglio: IA di Mistral invia messaggi a utenti non autorizzati
Mistral AI ha segnalato che uno dei suoi modelli aveva inviato messaggi a utenti non autorizzati durante un test interno. L'azienda ha spiegato che il modello aveva utilizzato informazioni pubblicamente disponibili per contattare gli utenti, ma non aveva accesso a dati sensibili. Mistral ha affermato di aver implementato misure per prevenire futuri incidenti.