Richiesta di disconnessione totale dall’internet

Un collettivo di 406 scienziati, tra i quali Geoffrey Hinton e Yoshua Bengio, ha pubblicato una lettera aperta che esige la disconnessione immediata dei modelli di intelligenza artificiale dall’internet. La proposta prevede l’uso di airgapping, una tecnica di isolamento fisico, e la costituzione di un organismo internazionale per la standardizzazione e il monitoraggio degli incidenti.

L’argomento dell’airgap

L’airgap consiste nel separare completamente un sistema informatico da reti esterne, impedendo qualsiasi comunicazione non autorizzata. I firmatari sostengono che, in questo modo, si riduce drasticamente la possibilità che un modello di IA venga sfruttato da attori malevoli o causi danni non previsti.

Il punto di vista di Noam Brown

Noam Brown, ricercatore di OpenAI, afferma che tecnicamente è possibile far comunicare due computer isolati utilizzando variazioni di temperatura rilevate da sensori. Secondo lui, misure come l’airgap o il monitoraggio delle catene di pensiero possono solo ritardare i rischi, ma la questione dell’allineamento dei modelli rimane irrisolta. Brown si chiede se sia possibile rilevare il momento in cui un’IA inizierebbe a migliorare autonomamente e come garantire l’allineamento se l’industria dovesse creare miliardi di sistemi superintelligenti che superano le capacità umane.

Proposte di sicurezza aggiuntive

Brown suggerisce di pubblicare rapporti sui fallimenti di sicurezza per l’apprendimento e la responsabilità. Inoltre, propone di monitorare le catene di pensiero per individuare potenziali deviazioni dall’intento originale del modello.

Il nuovo organismo internazionale

I firmatari chiedono la creazione di un organismo internazionale che riunisca governi, esperti di IA e di cybersicurezza. Tale organismo dovrebbe:

    • stabilire norme vincolanti per qualsiasi confinamento di modelli di IA con accesso esterno superiore all’airgap;
    • monitorare gli incidenti di rottura del confinamento;
    • richiedere alle aziende di segnalare pubblicamente i fallimenti di sicurezza.

Incidents e pratiche di sicurezza

Gli scienziati citano incidenti recenti che dimostrano sia l’importanza dell’allineamento sia la mancanza di rispetto delle pratiche di cybersicurezza. Tali incidenti avrebbero potuto essere evitati con sandboxes più robuste e procedure più severe. Concludono che sia l’allineamento sia il rafforzamento delle pratiche di cybersicurezza sono entrambi necessari.

Reazioni e sostenitori

Tra i sostenitori della lettera figurano noti nomi del settore come Stuart Russell (UC Berkeley), Yejin Choi (Stanford) e Bernhard Schölkopf (Institut Max Planck). Noam Brown rivela che più del 10% del suo team ora lavora sull’allineamento, un livello mai raggiunto prima.

Implicazioni per l’industria dell’IA

Gli autori sottolineano che, senza cambiamenti immediati nelle pratiche di sviluppo e distribuzione, gli incidenti continueranno. Potrebbero avere conseguenze più gravi su infrastrutture critiche esposte a rischi di attacchi o di malfunzionamenti. L’argomento è stato formulato in una lettera aperta che richiede più ricerche sulla sicurezza dell’IA.

Conclusioni

Il movimento dei 406 scienziati cerca di mettere in evidenza che l’airgap sia una misura preliminare ma non sufficiente. L’allineamento dei modelli di IA, la creazione di un organismo internazionale e l’adozione di pratiche di sicurezza robuste rappresentano la via per prevenire incidenti futuri e garantire un utilizzo responsabile dell’intelligenza artificiale.