Contesto e obiettivi degli accordi

OpenAI ha annunciato il 16 novembre 2026 la firma di accordi con quattro organizzazioni indipendenti — Apollo Research, METR, Transluce e Goodfire — per avviare la prima fase di valutazioni integrate sulla sicurezza dei propri modelli di intelligenza artificiale. L’obiettivo principale è consentire a valutatori esterni di esaminare in modo approfondito l’allineamento e le salvaguardie dei sistemi durante l’addestramento e l’uso interno, accedendo a checkpoint, dati di training, codice sorgente e sistemi di monitoraggio.

La caratteristica distintiva di questi accordi è l’accesso sostenuto a modelli e sistemi interni per un periodo prolungato, soprattutto in relazione ai casi di sicurezza segnalati da OpenAI. Questo accesso consente ai valutatori di esaminare prove contestuali, condurre valutazioni indipendenti e scoprire vulnerabilità che i monitor interni potrebbero trascurare.

OpenAI intende pubblicare rapporti dettagliati sui risultati delle valutazioni, offrendo così una visione più trasparente dei processi di gestione del rischio nei laboratori di AI.

Mandati specifici per ciascun valutatore

Apollo Research

Apollo indagherà se i modelli possano agire in modo occulto contro le intenzioni dei loro sviluppatori e se le salvaguardie di OpenAI siano in grado di rilevare tali comportamenti. La valutazione avviene in due fasi e copre quattro ipotesi:

    • Il processo di addestramento non ha incentivato la subversione.
    • Le valutazioni rigorose e i test di attacco non hanno provocato comportamenti subversivi.
    • I modelli non hanno tentato di attuare tali comportamenti durante l’uso interno.
    • Il ragionamento alla base di eventuali azioni subversive sarebbe rilevabile.

OpenAI fornirà ad Apollo modelli sia pubblici che non ancora pubblicati, checkpoint di addestramento, dati pertinenti, risultati di valutazione, registri di interventi, sistemi di supervisione e comportamenti segnalati, oltre a ricercatori di supporto e risorse computazionali.

Goodfire

Goodfire impiegherà ricercatori specializzati in interpretabilità per analizzare il funzionamento interno dei modelli, monitorare le esecuzioni di addestramento, debug e lavoro sull’allineamento. I risultati saranno condivisi principalmente con i ricercatori di OpenAI, che li utilizzeranno per migliorare la sicurezza. Goodfire pubblicherà le lezioni apprese e i risultati man mano che la collaborazione avanza.

METR

METR valuterà l’allineamento concentrandosi sull’esecuzione di apprendimento per rinforzo più grande finora realizzata da OpenAI, includendo potenziali fallimenti non rilevati dai test e dai sistemi di supervisione attuali. Il loro accesso comprende:

    • Checkpoint pertinenti.
    • Esecuzioni di addestramento e valutazione.
    • Registri di supervisione della disallineamento.

METR stabilirà priorità in modo indipendente, adeguando ricerche, analisi ed esperimenti di elicitazione. Il focus iniziale resta limitato a quella specifica esecuzione, senza un’indagine ampia sulla disallineamento. Un’ulteriore valutazione dei sistemi di supervisione è in fase preliminare, in attesa di definire l’ambito.

Transluce

Transluce inizierà esaminando la qualità e la copertura delle valutazioni di allineamento post‑addestramento di OpenAI. Avrà accesso a modelli selezionati, risultati di valutazione, dati comportamentali di supporto, documentazione sui casi di sicurezza e ricercatori, oltre a strumenti e capacità di calcolo.

Entro l’inizio del 2027 è prevista una valutazione di follow‑up di circa otto settimane, che amplierà l’accesso a modelli aggiuntivi, approfondirà le valutazioni di allineamento e fornirà informazioni su come i risultati influenzino le decisioni di rilascio.

Misure di sicurezza e supervisione

Ogni collaborazione parte da un ambito definito, includendo le risorse e le misure di sicurezza necessarie. I protocolli garantiscono ai valutatori la libertà di perseguire test, perfezionare metodi e proporre valutazioni aggiuntive quando i risultati lo richiedono, con un processo per gestire richieste di accesso supplementari.

Quando l’accesso diretto potrebbe esporre proprietà intellettuale sensibile (pesi o architettura), OpenAI considererà alternative, come la collaborazione con i propri ricercatori per eseguire le analisi. I valutatori che trattano informazioni confidenziali lavoreranno negli uffici di OpenAI, usando dispositivi aziendali e dovranno rispettare almeno le stesse norme di sicurezza dei dipendenti, con requisiti più severi per alcuni esperimenti.

La supervisione è affidata al Comitato di Sicurezza e Protezione, indipendente dal consiglio di amministrazione della OpenAI Foundation. Il comitato riceve rapporti non censurati, può dialogare in privato con i valutatori e gestisce le dispute attraverso il Gruppo Consulenziale di Sicurezza e i dirigenti di OpenAI. Le controversie non risolte vengono elevate al comitato stesso.

Trasparenza, pubblicazioni e diritti finanziari

Le conversazioni con i dipendenti di OpenAI sono considerate extra‑ufficiali: possono informare le valutazioni ma non essere pubblicate né attribuite. I valutatori possono richiedere una dichiarazione certificata da OpenAI per verificare, correggere o chiarire informazioni ottenute in tali discussioni; successivamente possono pubblicare la dichiarazione o segnalare il rifiuto di certificazione, creando una via pubblica limitata per divulgare dati confidenziali.

I valutatori mantengono l’indipendenza nella pubblicazione dei loro rapporti, mentre OpenAI conserva il diritto di occultare informazioni riservate e di richiedere ritardi nella divulgazione responsabile per mitigare rischi di sicurezza.

Per quanto riguarda la remunerazione:

    • Apollo Research e Goodfire ricevono un compenso indipendente dai risultati.
    • METR e Transluce non accettano pagamenti in denaro, ma possono ottenere crediti API o capacità computazionale.

I processi per dichiarare conflitti di interesse e stabilire periodi di silenzio sono ancora in fase di definizione, ma saranno parte integrante dei protocolli di valutazione.