Che cosa sono i pesi aperti

I pesi aperti sono i parametri di un modello di intelligenza artificiale rese disponibili al pubblico senza restrizioni di accesso. A differenza dei modelli “chiusi”, dove il codice e i parametri rimangono proprietari, i pesi aperti consentono a chiunque di scaricare, analizzare e riaddestrare il modello su nuovi dataset. Questo approccio ha favorito una rapida democratizzazione dell’AI, ma ha anche introdotto una serie di sfide legate alla provenienza, alla qualità e alla licenza dei modelli.

Il panorama attuale: il caso Qwen di Alibaba

Un esempio emblematico è la famiglia Qwen di Alibaba, che su Hugging Face supera i 113 000 modelli derivati. Se si includono tutti i repository che citano Qwen nei propri tag, il numero sale oltre i 200 000, superando la somma dei modelli generati da Google e Meta messi insieme. Dietro questi numeri si nascondono imprese, laboratori di ricerca e singoli sviluppatori che hanno preso un modello pre‑addestrato e lo hanno riadattato ai propri dati, creando una rete complessa di dipendenze.

Licenze e dipendenze: il lato nascosto della libertà

La disponibilità dei pesi non implica automaticamente libertà di utilizzo. La maggior parte dei modelli è rilasciata sotto licenze open‑source come Apache 2.0, MIT o Creative Commons, ma molte volte includono clausole di “non‑uso commerciale” o limitazioni sull’uso in ambiti sensibili (ad esempio, sorveglianza o armi). Inoltre, i modelli possono incorporare componenti di terze parti (tokenizzatori, dataset di addestramento) soggetti a licenze incompatibili. Ignorare queste sfumature può generare rischi legali e di compliance.

Rischi concreti per imprese e pubbliche amministrazioni

Le organizzazioni europee devono considerare diversi scenari di rischio:

    • Dipendenza tecnologica: affidarsi a un modello la cui evoluzione è gestita da un attore esterno (Alibaba, Google, Meta) rende difficile controllare aggiornamenti, correzioni di bug o cambi di licenza.
    • Sovranità dei dati: riaddestrare un modello aperto su dati sensibili dell’azienda o della PA può implicare trasferimenti di informazioni verso server non certificati, violando normative GDPR.
    • Responsabilità legale: se un modello deriva da dataset non conformi (ad esempio, contenenti dati personali non anonimizzati), l’utente finale può essere ritenuto responsabile per eventuali violazioni.
    • Qualità e bias: modelli ri‑addestrati da terze parti possono introdurre bias non documentati, con conseguenze negative su decisioni automatizzate.

Strategie di valutazione e mitigazione

Per limitare questi rischi, le organizzazioni dovrebbero adottare un approccio sistematico:

    • Genealogia dei pesi: tracciare l’intera catena di derivazione del modello, identificando il modello originale, le versioni intermedie e i contributi di terze parti.
    • Audit delle licenze: verificare ogni componente del modello (pesi, tokenizzatore, dataset) e confrontare le licenze con le policy interne.
    • Valutazione della sicurezza: eseguire test di vulnerabilità, analisi del codice e controlli di conformità GDPR prima di integrare il modello in produzione.
    • Piani di continuità: mantenere una copia “fork” del modello con i propri processi di aggiornamento, in modo da non dipendere esclusivamente dal fornitore originale.
    • Formazione del personale: sensibilizzare i team tecnici e legali sui rischi specifici dei pesi aperti e sulle best practice di gestione.

Prospettive normative europee

L’Unione Europea sta avanzando verso una regolamentazione più stringente dell’AI, con la proposta di AI Act che classifica i sistemi ad alto rischio e richiede trasparenza sulla catena di fornitura. Per le organizzazioni, questo significa che la semplice disponibilità dei pesi non sarà più sufficiente: sarà necessario fornire documentazione dettagliata su origine, dataset di addestramento e procedure di validazione. Inoltre, la normativa prevede obblighi di audit esterni per i sistemi ad alto rischio, spingendo le imprese a implementare processi di governance più robusti.

Conclusioni

I pesi aperti rappresentano una grande opportunità per accelerare l’innovazione, ma portano con sé una serie di sfide che non possono essere trascurate. Conoscere la genealogia dei modelli, analizzare le licenze e adottare strategie di mitigazione è indispensabile per le imprese e le pubbliche amministrazioni europee che vogliono sfruttare l’AI senza compromettere la sovranità dei dati, la conformità legale e la qualità dei risultati.