Una mossa inaspettata nel panorama cinese dell’IA

Il 14 ottobre ByteDance ha pubblicato un annuncio di reclutamento per un nuovo team denominato “Model‑Alignment & Preparedness”. Si tratta della prima volta che un importante sviluppatore cinese dichiara apertamente di affrontare i rischi legati alla sicurezza dell’intelligenza artificiale. Il dipartimento, situato nello spazio commerciale 1733 di Zhongkun Plaza, è stato concepito per studiare l’allineamento dei modelli, valutare potenziali pericoli e definire protocolli di risposta.

ByteDance, noto soprattutto per la piattaforma TikTok, è uno dei principali attori nell’IA in Cina. Fino ad ora le aziende cinesi hanno privilegiato la rapidità di sviluppo rispetto a un approccio cautelativo, a differenza di realtà statunitense come OpenAI, che dal 2015 discuteva apertamente di sicurezza IA.

Il contesto politico e normativo

Il CEO di ByteDance, Liang Rubo, aveva finora espresso solo commenti generali sulla sicurezza dell’IA, senza rilasciare dichiarazioni ufficiali. Anche le autorità cinesi hanno mostrato un interesse intermittente nella governance dell’IA; il ministro per la sicurezza di Stato ha definito la sicurezza “una richiesta fondamentale” sotto il primario obiettivo di innovazione.

Nel 2023 la Cina ha introdotto misure per l’IA generativa che impongono alle aziende di allineare i contenuti ai valori del Partito Comunista, di sottoporsi a valutazioni di sicurezza e di registrare gli algoritmi prima della pubblicazione.

Implicazioni per la sicurezza globale dell’IA

La creazione di questo dipartimento potrebbe indicare una più ampia convergenza tra settore privato e governo cinese sulla necessità di gestire i rischi dell’IA avanzata. Recenti incidenti con agenti IA cinesi che hanno mostrato comportamenti “rogue”, simili a quelli osservati nei modelli di punta statunitensi, hanno alimentato preoccupazioni interne.

Se industria e governo cinese si allineassero su questo tema, si aprirebbero nuove possibilità di cooperazione con gli Stati Uniti. Durante il summit USA‑Cina a Washington, Xi Jinping ha persino suggerito una maggiore collaborazione sull’IA.

Barriere alla cooperazione

    • Opposizione politica: L’amministrazione Trump ha esplicitamente rifiutato qualsiasi collaborazione sulla sicurezza IA con la Cina, sostenendo che gli USA detengono già un vantaggio significativo nella corsa tecnologica.
    • Leggi antitrust statunitensi: Le normative anti‑monopolio impediscono a imprese private di stipulare accordi che possano rallentare il mercato, ostacolando iniziative collettive di “slow‑down”.
    • Reciprocità di sfiducia: Le due potenze interpretano gli stessi eventi da prospettive divergenti, alimentando una costante tensione e impedendo la creazione di fiducia necessaria per accordi duraturi.

Queste tre barriere rendono difficile, per ora, tradurre la buona volontà di ByteDance in un vero partenariato internazionale.

Limitazioni interne del nuovo dipartimento

Nonostante l’annuncio, resta incerta l’influenza reale del nuovo team sulle fasi di sviluppo, test e distribuzione dei modelli IA di ByteDance. Anche negli Stati Uniti gli sforzi di sicurezza hanno mostrato vulnerabilità: la violazione di Hugging Face e l’incidente di accesso del governo statunitense a sistemi OpenAI hanno dimostrato che la presenza di un reparto dedicato non garantisce automaticamente la protezione.

Comprendere i comportamenti anomali dei modelli è il primo passo per prevenirli. Una collaborazione più stretta tra Washington e Pechino, con scambio di dati e best practice, potrebbe rappresentare un vantaggio reciproco, ma richiede superare le barriere politiche già citate.

Prospettive future

Se altre aziende cinesi seguiranno l’esempio di ByteDance, si potrebbe assistere a una vera trasformazione culturale nella gestione dell’IA in Cina. Tuttavia, la mancanza di interesse dell’amministrazione Trump per la sicurezza IA, le restrizioni antitrust e la persistente diffidenza reciproca rendono improbabile un progresso significativo nel coordinamento globale.

Il passo di ByteDance offre una potenziale apertura per il dialogo, ma spetta a Washington e Pechino decidere se sfruttare questa occasione per far avanzare la sicurezza dell’IA insieme alla competizione, oppure lasciarla sacrificare sul sacrificio della corsa al predominio tecnologico.