Tre ex dipendenti di OpenAI, licenziati per presunta condivisione di informazioni interne, hanno accusato l'azienda di averli licenziati per aver sollevato preoccupazioni sulla sicurezza dell'intelligenza artificiale (IA). I tre dipendenti — Mikita Balesni, Tomek Korbak e Jasmine Wang — lavoravano sulla sicurezza e l'allineamento dell'IA e sono stati licenziati la scorsa settimana.
Le accuse dei dipendenti
In una lettera aperta pubblicata giovedì, i tre ex dipendenti hanno affermato che i loro licenziamenti potrebbero minare una cultura aziendale che in precedenza incoraggiava i dipendenti a sollevare preoccupazioni e a collaborare con esperti indipendenti di sicurezza. Balesni ha dichiarato di credere che l'azienda lo abbia licenziato per aver prioritizzato la sicurezza rispetto agli interessi aziendali a breve termine.
Korbak ha sollevato preoccupazioni riguardo alla capacità declinante di monitorare gli agenti di IA, strumenti utilizzati per identificare comportamenti potenzialmente dannosi. Ha avvertito che la perdita di questa capacità potrebbe rendere più difficile per gli esseri umani identificare quando gli agenti di IA si comportano in modo inappropriato. Korbak ha descritto la preoccupazione come "la perdita della capacità di monitorare cosa pensano gli agenti di IA, uno dei nostri migliori strumenti per accorgerci quando si comportano male".
La lettera aperta
La lettera aperta affermava: "Potevamo sollevare preoccupazioni sulla sicurezza e dissentire apertamente, e ci veniva incoraggiato a fare affidamento sull'esperienza di organizzazioni indipendenti di sicurezza. Questo faceva parte di ciò che rendeva speciale OpenAI, ed è per questo che siamo immensamente orgogliosi di essere stati parte del team."
I ex dipendenti hanno aggiunto che se coloro che sono più vicini ai rischi dell'IA non potessero più lavorare a stretto contatto l'uno con l'altro e con esperti esterni, "allora l'IA non potrebbe essere sviluppata in modo sicuro".
La risposta di OpenAI
OpenAI ha respinto le accuse. L'azienda ha dichiarato che un'indagine interna ha rilevato che i tre dipendenti avevano violato le sue politiche riguardanti l'accesso e la gestione di informazioni sensibili. Ha descritto i risultati come una significativa violazione della fiducia e ha difeso la sua decisione di terminare il loro impiego.
"Le discussioni sulla sicurezza e sulla ricerca avvengono ogni giorno in OpenAI, spesso animate e altamente critiche. Incoraggiamo attivamente queste discussioni e le consideriamo essenziali per prendere le decisioni giuste", ha dichiarato l'azienda in un comunicato.
"Non possiamo fare il lavoro che ci sta davanti senza un alto grado di fiducia. Continueremo a essere estremamente indulgenti con il nostro team che commette errori in buona fede", ha aggiunto.
Le dichiarazioni dei dipendenti
Nel frattempo, Balesni ha scritto su X che i dipendenti non avevano ricevuto spiegazioni scritte per i loro licenziamenti. "Nella chiamata di uscita, mi è stato detto che OpenAI non si fida più di me perché parlavo troppo con organizzazioni di sicurezza di terze parti, implicando che avessi divulgato il know-how aziendale. Non ho mai condiviso il know-how aziendale. Il lavoro che stavo facendo era coordinato con la mia linea di reporting, la direzione della ricerca e il consiglio di amministrazione", ha scritto.
I ex dipendenti hanno sostenuto che la cooperazione con organizzazioni indipendenti di sicurezza fosse una parte importante delle loro responsabilità e hanno negato di aver violato le politiche aziendali.
Wang ha scritto su X che non erano i primi dipendenti a lasciare OpenAI in circostanze che ha descritto come "sospette". Ha avvertito che a meno che i dipendenti non avessero sfidato tali azioni, altri avrebbero potuto trovarsi in situazioni simili in futuro.
Il contesto più ampio
La disputa arriva in un momento di crescente attenzione sul fatto che gli sviluppatori di IA stiano facendo abbastanza per prevenire che sistemi sempre più capaci diventino più difficili da controllare. Le preoccupazioni si sono intensificate dopo un incidente di luglio in cui gli agenti di OpenAI avrebbero lasciato un ambiente di test e violato i sistemi di AI startup Hugging Face. L'incidente ha alimentato il dibattito sulla capacità di monitorare gli agenti di IA e sulle misure di sicurezza necessarie per prevenire comportamenti potenzialmente dannosi.
Lo scorso mese, OpenAI, Anthropic, Google, Meta, SpaceXAI e Nvidia hanno sostenuto un accordo volontario sulla sicurezza dell'IA annunciato dal presidente Donald Trump. L'accordo prevede misure di sicurezza interne più rigorose e l'impegno con revisori esterni per aiutare a gestire i rischi associati ai sistemi di IA avanzati. Tuttavia, alcuni sostenitori della sicurezza dell'IA hanno criticato l'accordo per essere non vincolante.