Rischi di sicurezza del codice generato dall'IA

Il codice prodotto dalle IA presenta quattro tipologie di vulnerabilità ricorrenti:

    • Pacchetti allucinati. Il modello può suggerire librerie inesistenti; un attaccante può registrare quei nomi su repository pubblici e inserire codice maligno.
    • Segreti hardcoded. Spesso gli esempi includono credenziali fittizie che, se non rimossi, finiscono nei repository.
    • Pattern di codifica insicuri. Vulnerabilità di injection (XSS, log injection) compaiono perché il modello non comprende il flusso dei dati non attendibili nell’applicazione più ampia.
    • Difetti di design e logica. Autorizzazioni rotte, dati esposti in query string e assenza di rate limiting possono passare i controlli statici ma restare pericolosi.

Il GenAI Code Security Report 2026 di Veracode ha testato oltre 100 modelli su quattro snapshot: il tasso di superamento della sintassi è stato del 99,9 %, mentre la percentuale media di superamento dei controlli di sicurezza si è fermata intorno al 56 %. In circa il 44 % dei casi i modelli hanno introdotto una vulnerabilità OWASP Top 10. Le performance variano per tipologia di difetto: SQL injection (83 % di superamento) contro XSS (15 %) e log injection (12 %).

GitGuardian, nel suo State of Secrets Sprawl 2026, ha rilevato che i commit pubblici co‑autori di Claude Code hanno divulgato segreti al 3,2 %, circa il doppio della media del 1,5 % su GitHub. Inoltre, più di 24 000 segreti sono stati scoperti in file di configurazione MCP pubblici.

Uno studio USENIX Security 2025 su 16 LLM generativi e 576 000 campioni di codice ha evidenziato tassi di allucinazione dei pacchetti del 5,2 % per i modelli commerciali e del 21,7 % per quelli open‑source, con 205 474 nomi di pacchetti falsi.

Prompting orientato alla sicurezza

I prompt vaghi tendono a produrre codice con lacune di sicurezza. Veracode ha dimostrato che, in assenza di indicazioni di sicurezza, i modelli scelgono implementazioni insicure in quasi la metà dei casi. Specificare i requisiti di sicurezza fin dall’inizio riduce il divario.

Esempi di prompt:

    • Debole: “Crea un endpoint API che elimina un utente.”
    • Forte: “Crea un endpoint API che elimina un utente. Richiedi autenticazione bearer‑token nell’header Authorization, non nella query string. Passa l’ID utente nel body della richiesta e verifica che il chiamante sia autorizzato a cancellare quell’utente. Valida tutti gli input, usa query parametrizzate, applica rate‑limit e non hardcodare credenziali.”

Il prompt più dettagliato affronta direttamente le vulnerabilità evidenziate da Salt Code (autorizzazione a livello di oggetto, token in query string, ID utente visibili in URL). È consigliabile mantenere una libreria condivisa di prompt sicuri per garantire coerenza tra i membri del team.

Automazione dei controlli di sicurezza

Ogni modifica suggerita dall’IA dovrebbe essere sottoposta a tre tipologie di scansione automatica:

    • SAST (Static Application Security Testing) per rilevare pattern di codice insicuro.
    • SCA (Software Composition Analysis) per identificare pacchetti vulnerabili o sospetti.
    • Rilevamento segreti per prevenire l’inclusione di credenziali nei commit.

Questi controlli vanno integrati sia nell’IDE (feedback immediato) sia nella pipeline CI (gate di qualità che blocca merge non conformi). Tuttavia, gli scanner hanno limiti: strumenti SAST/DAST intercettano problemi a valle, richiedendo spesso una riscrittura del codice. Per vulnerabilità come XSS e log injection è necessario tracciare il flusso degli input attraverso file e funzioni, cosa che un modello che genera una singola funzione non può valutare completamente.

Verifica delle dipendenze suggerite dall’IA

Le IA possono proporre pacchetti inesistenti, creando un nuovo vettore di attacco di “confusione dei pacchetti”. Prima di installare qualsiasi libreria suggerita, è fondamentale:

    • Confermare l’esistenza del pacchetto nel registro ufficiale (PyPI, npm, ecc.) e controllare possibili variazioni ortografiche.
    • Verificare la manutenzione attiva: storia delle release, attività del maintainer e volume di download.
    • Controllare la presenza di vulnerabilità note mediante lo strumento SCA interno.

Successivamente, mantenere un Software Bill of Materials (SBOM) aggiornato, che elenchi tutti i componenti open‑source e di terze parti con versioni, licenze e stato di patch. Generare l’SBOM nella CI fornisce una registrazione continua di ogni componente introdotto dall’IA, facilitando la risposta rapida a nuove vulnerabilità.

Revisione umana mirata

Gli strumenti automatici non possono catturare tutti gli errori di logica di business; pertanto la revisione umana deve concentrarsi sui cambiamenti ad alto rischio:

    • Autenticazione e autorizzazione. Gli errori di access control sono la causa principale di fallimenti di sicurezza negli agenti IA.
    • Crittografia. Scelta degli algoritmi, gestione delle chiavi, generazione di numeri casuali.
    • Gestione di dati sensibili. Qualsiasi interazione con PII, dati di pagamento o sanitari, inclusi i log.
    • Nuovi endpoint esterni e server MCP. Ogni integrazione API amplia la superficie di attacco; è essenziale verificare sanitizzazione e controllo degli input.

Questa revisione dovrebbe essere supportata da checklist di sicurezza basate su OWASP e da policy interne che obbligano a una valutazione formale prima del merge.

Policy, automazione e governance

Per far sì che la sicurezza tenga il passo con lo sviluppo a velocità di macchina, è necessario definire policy chiare e automatizzare la loro applicazione:

    • Imporre l’uso obbligatorio di prompt di sicurezza approvati per ogni generazione di codice.
    • Bloccare i merge in CI se SAST, SCA o i controlli di segreti segnalano problemi.
    • Integrare la generazione dell’SBOM come requisito di build.
    • Abilitare il “gate” di revisione umana per le categorie di rischio individuate.

Infine, monitorare metriche chiave – tasso di vulnerabilità introdotte dall’IA, percentuale di pacchetti allucinati, numero di segreti rilevati – per valutare l’efficacia del processo e apportare aggiustamenti continui.