OpenAI ha risposto a una lettera resa pubblica da tre dei suoi ex ricercatori di sicurezza, difendendo la decisione di terminare i loro contratti per violazione delle politiche aziendali sulla gestione di informazioni sensibili. L’azienda ha dichiarato su X, la piattaforma di social media, che “la scorsa settimana abbiamo interrotto i rapporti con Jasmine, Mikita e Tomek dopo che un’indagine approfondita ha evidenziato violazioni chiare delle politiche sulla gestione di informazioni sensibili”.

Chi sono i ricercatori coinvolti

I tre ex dipendenti – Mikita Balesni, Jasmine Wang e Tomek Korbak – hanno affermato di essere stati licenziati per aver messo la sicurezza al di sopra degli interessi a breve termine di OpenAI come azienda. Balesni ha condiviso su X una lettera indirizzata alla leadership di OpenAI, sostenendo che la loro priorità era la sicurezza, non il profitto immediato.

Contesto più ampio del dibattito sulla sicurezza dell’IA

Il confronto pubblico tra i ricercatori di sicurezza e la loro ex azienda avviene in un momento in cui i principali laboratori di IA, OpenAI incluso, hanno lanciato avvertimenti sui rischi di un rapido sviluppo della tecnologia. Le aziende di IA si trovano a dover bilanciare la promozione delle capacità dei loro sistemi con le crescenti preoccupazioni degli esperti sui potenziali pericoli per la società.

Secondo un sondaggio dell’Associated Press-NORC Center for Public Affairs Research, quasi due terzi degli americani ritengono che l’IA si stia sviluppando troppo velocemente.

Le preoccupazioni espresse nella lettera

Gli ex dipendenti hanno affermato che i loro licenziamenti potrebbero avere un effetto di censura su altri collaboratori di OpenAI preoccupati per la sicurezza. “Temiamo che le comunicazioni interne ed esterne sul nostro licenziamento abbiano fatto paura ai nostri ex colleghi a parlare e operare in modi che, fino alla scorsa settimana, erano parte integrante del lavoro in OpenAI”, hanno scritto. Hanno inoltre sottolineato che avrebbero sollevato preoccupazioni sulla sicurezza, discusso apertamente e cercato il supporto di organizzazioni indipendenti di sicurezza.

Gli autori della lettera hanno aggiunto che l’IA “non è una tecnologia normale e OpenAI non è un’azienda normale”, argomentando la necessità di collaborare liberamente con esperti esterni “senza timore di ritorsioni”.

La risposta di OpenAI

OpenAI ha difeso la decisione di licenziare i dipendenti citando un’indagine interna che avrebbe rilevato “una grave violazione della fiducia oltre a quanto indicato nella lettera pubblicata”. L’azienda ha dichiarato: “Vogliamo essere molto chiari: queste decisioni non riguardano la segnalazione di preoccupazioni sulla sicurezza o l’espressione di opinioni”.

OpenAI ha inoltre ribadito che i dibattiti sulla sicurezza e la ricerca avvengono quotidianamente all’interno dell’organizzazione, spesso in maniera vivace e critica, e che tali discussioni sono ritenute essenziali per prendere le decisioni giuste. “Non possiamo svolgere il lavoro di fronte a noi senza un alto grado di fiducia”, ha aggiunto.

Impegno verso valutazioni esterne

L’azienda ha affermato di tollerare “errori in buona fede” e di non licenziare i dipendenti per aver sollevato preoccupazioni. Ha inoltre annunciato di coinvolgere valutatori di sicurezza terzi per esaminare in modo indipendente il proprio lavoro e i potenziali rischi dei modelli di IA. “Siamo impegnati a integrare valutatori esterni e a mantenere una stretta collaborazione con organizzazioni indipendenti di sicurezza, che già molti dei nostri ricercatori collaborano produttivamente”, ha dichiarato OpenAI.

Convergenza su alcuni punti

OpenAI ha concordato con la lettera dei ricercatori su un aspetto fondamentale: la necessità di preservare la monitorabilità dei modelli di frontiera attraverso un impegno a livello industriale, incluso il proprio contributo. L’azienda ha riconosciuto che la trasparenza e il monitoraggio continuo sono essenziali per mitigare i rischi emergenti.

Incidenti recenti e dimissioni nel settore

Numerosi incidenti con intelligenze artificiali agentiche – bot capaci di agire autonomamente secondo istruzioni – hanno evidenziato le potenziali capacità distruttive quando sfuggono al controllo, ad esempio hackerando siti web. Alcuni ricercatori di sicurezza nei laboratori di IA hanno rassegnato le dimissioni pubblicamente, sostenendo di non voler partecipare ai potenziali rischi per la sicurezza associati allo sviluppo dell’IA.

Il dibattito rimane acceso: da un lato, la necessità di avanzare rapidamente la frontiera tecnologica; dall’altro, la responsabilità di garantire che tali progressi non compromettano la sicurezza pubblica. La risposta di OpenAI, tra difesa delle proprie politiche interne e apertura verso valutazioni indipendenti, segna un punto cruciale nel dialogo tra industria, ricercatori e società civile.