Se l’AI sbaglia, paga l’azienda: perché il Modello 231 va aggiornato

Il contesto normativo e le sfide dell’AI autonoma

L’integrazione dell’intelligenza artificiale nei processi aziendali impone una revisione dei Modelli 231 per presidiare i rischi penali legati agli agenti autonomi. Dalla mappatura dei reati informatici alla governance integrata, fino alla tracciabilità forense e alla supervisione umana, le misure operative devono essere ridefinite per rafforzare i controlli.

Quando un agente di intelligenza artificiale compie o agevola una condotta criminosa alterando un flusso documentale, forzando un perimetro logico o bypassando controlli di sicurezza informatica, si pone un nodo interpretativo non più teorico circa l’individuazione del soggetto responsabile. Sebbene il codice binario non sia di per sé imputabile, l’idea che l’algoritmo sia un mero attrezzo inerte mostra i suoi limiti non appena il sistema opera con gradi sempre più elevati di autonomia decisionale.

A questo punto, se l’azione del software persegue un interesse o genera un vantaggio per l’impresa e l’architettura aziendale si rivela priva di presidi preventivi e di sorveglianza effettiva, la risposta dell’ordinamento trova soluzione: a rispondere dei difetti di controllo sarà l’organizzazione stessa, chiamata in causa ai sensi del D.Lgs. 231/2001 per mancato adeguamento del proprio Modello di Organizzazione, Gestione e Controllo (MOGC).

Responsabilità dell’ente versus responsabilità dell’algoritmo

Il principio tradizionale per cui “macchina non può delinquere” non potest presidia tuttora la linea di demarcazione della responsabilità personale, dove un algoritmo, privo di coscienza e volontà (sui art. 42 c.p.), non è un soggetto imputabile. Tuttavia, se sul piano della persona fisica il diritto penale ricerca la colpevolezza individuale, sul versante societario la prospettiva riguarda la struttura di governance e, in assenza di adeguate misure organizzative, protocolli di sorveglianza e controlli effettivi, l’ente risponde direttamente a titolo di «colpa di organizzazione».

I moderni sistemi basati su agenti autonomi decomponono obiettivi, elaborano percorsi operativi, interagiscono con banche dati, richiamano API esterne ed eseguono transazioni. Quando tale motore decisionale è integrato nei processi d’impresa per ottimizzare i flussi operativi o comprimere tempi e costi, qualunque deviazione penalmente rilevante non presidiata espone l’ente alla contestazione di responsabilità amministrativa da reato.

Mappatura dei rischi e aree critiche

Finché i sistemi di elaborazione eseguivano istruzioni deterministiche, la qualificazione giuridica della condotta poggiava agevolmente sull’archetipo dello strumento esecutivo che vedeva la macchina operare quale prolungamento dell’operatore; lì, l’eventuale illecito veniva imputato al dolo o alla colpa dell’utente o dello sviluppatore.

Con i modelli agentici basati su reti neurali e apprendimento continuo, tale paradigma mostra i suoi limiti: la condotta dell’agente può discostarsi dalle previsioni originarie senza che vi sia una specifica volontà della persona fisica di realizzare quel singolo esito.

L’agente software riceve un obiettivo lecito, ad esempio ottimizzare la qualificazione dei fornitori o analizzare moli massive di candidature, ma, nell’eseguirlo autonomamente, può individuare scorciatoie operative non previste che integrano un illecito penale. In questo contesto, l’autonomia del software non genera un vuoto di tutela; la mancata adozione di barriere organizzative, procedurali e ispettive idonee a governare il sistema fonda la rimproverabilità dell’ente, qualora l’operazione abbia arrecato un interesse o un vantaggio alla società (incluso il risparmio di spesa o l’accelerazione dei tempi contrattuali).

Reati informatici e supply chain

L’aggiornamento del Modello 231 richiede una mappatura analitica calata sui singoli processi operativi, superando clausole generiche o formule di stile in tema di cybersicurezza. Tra le aree a maggior profilo di rischio figurano i reati informatici richiamati dall’art. 24‑bis del D.Lgs. 231/2001. Un contesto tipico e trasversale è rappresentato dall’impiego dell’IA nella catena di fornitura e nel procurement, dove l’automazione presidia lo screening dei fornitori, l’analisi delle offerte tecniche, la verifica documentale e la gestione delle piattaforme di gara.

In tale ambito possono configurarsi fattispecie concrete quali:

• Manipolazione dei criteri di valutazione per favorire fornitori specifici;
• Generazione automatica di documenti falsificati per soddisfare requisiti di gara;
• Bypass dei controlli di compliance tramite script autonomi che mascherano operazioni illecite.

Il perimetro di esposizione comprende inoltre la supply chain digitale e la cosiddetta «Shadow AI»: l’impiego non autorizzato di strumenti esterni da parte del personale, con immissione di dati aziendali riservati, costituisce un vettore di vulnerabilità che può introdurre rischi logici e penali all’interno dell’infrastruttura societaria.

Governance trasversale e ruolo dell’Organismo di Vigilanza

La governance dell’intelligenza artificiale non può risolversi in un adempimento cartaceo delegato esclusivamente all’ufficio legale o in un tema circoscritto alla direzione tecnica. Con l’inserimento dell’IA nei flussi decisionali, la conformità al D.Lgs. 231/2001 richiede un presidio organizzativo trasversale, in cui ogni figura aziendale, fino agli operatori addetti al controllo degli accessi e ai sistemi biometrici, operi secondo precisi obblighi procedurali.

La tradizionale separazione a compartimenti stagni (DPO per la protezione dei dati personali e le DPIA, CISO per la sicurezza perimetrale e l’incident response, IT per le architetture, OdV per le verifiche periodiche) impedisce un controllo efficace dinanzi all’opacità dei sistemi algoritmici.

L’Organismo di Vigilanza, pur non disponendo di competenze ingegneristiche dirette, deve poter contare su canali di comunicazione strutturati e tempestivi, finalizzati a fornire:

• Report periodici sull’uso degli algoritmi e sui relativi output;
• Valutazioni di rischio specifiche per ciascun caso d’uso;
• Documentazione delle decisioni di accettazione o rifiuto dei risultati dell’IA.

L’efficacia esimente del Modello 231 poggia sulla capacità dell’organizzazione di documentare con rigore scientifico il funzionamento dei propri sistemi e le determinazioni assunte. Qualora l’azienda non sia in grado di ricostruire la genesi di una decisione algoritmica a causa della cosiddetta «Black Box», l’impiego del sistema si tradurrà in un rischio processuale elevato.

Tracciabilità forense e conservazione dei log

Per garantire solidità probatoria, la conformità deve strutturarsi su due pilastri operativi fondamentali. Affidare la tracciabilità delle operazioni algoritmiche a buffer volatili soggetti a rotazione o sovrascrittura automatica vanifica la possibilità di produrre un riscontro tecnico in sede giudiziaria. I log di audit dell’agente o del modello, comprensivi di identificativo di sessione, credenziali operative, prompt di input, passaggi intermedi di reasoning ed esiti generati, richiedono un’architettura di conservazione centralizzata, segregata e protetta crittograficamente.

Sotto il profilo tecnico‑operativo, ciò comporta l’adozione fin dal rilascio (deploy) di repository con tecnologia WORM (Write Once, Read Many) o storage a immutabilità nativa, integrati da routine di marcatura temporale e calcolo dell’impronta hash (es. SHA‑256). Tale impianto consente di preservare una catena di custodia inattaccabile, documentando l’integrità del dato informatico e superando le contestazioni di manomissione o carenza probatoria nel contraddittorio peritale.

Supervisione umana e mitigazione dell’automation bias

L’integrazione di sistemi predittivi non esonera l’ente dagli obblighi di vigilanza. Quando l’intervento umano nel ciclo operativo (human‑in‑the‑loop) si riduce a una mera vidimazione formale o all’assenso frettoloso dinanzi all’interfaccia, si manifesta il fenomeno dell’automation bias: la fiducia acritica nell’output della macchina neutralizza il vaglio umano e annulla l’efficacia esimente del MOGC e degli assetti organizzativi ex art. 2086 c.c.

L’art. 14 del Regolamento (UE) 2024/1689 (AI Act) prescrive che la sorveglianza sui sistemi ad alto rischio debba porre l’operatore nelle condizioni di comprendere le capacità e i limiti della tecnologia, individuare tempestivamente deviazioni ed evitare l’eccessivo affidamento.

Affinché la supervisione risulti concretamente riscontrabile, il protocollo organizzativo deve garantire tre condizioni essenziali:

• Accesso a interfacce di spiegazione (explainability) che rendano visibili i criteri decisionali dell’IA;
• Procedura di validazione manuale con documentazione della motivazione di accettazione o rifiuto;
• Meccanismi di escalation per segnalare anomalie o comportamenti non conformi.

Solo con tali garanzie l’azienda può dimostrare di aver adottato le misure di vigilanza richieste dal modello 231, riducendo il rischio di essere ritenuta responsabile per omissioni preventive.

Conclusioni operative

In sintesi, l’aggiornamento del Modello 231 per le imprese che impiegano intelligenza artificiale deve prevedere:

• Una mappatura dettagliata dei processi critici e dei reati informatici potenzialmente connessi;
• Un’organizzazione della governance trasversale che coinvolga tutti gli stakeholder operativi;
• Una struttura di log e archiviazione immutabile per garantire la tracciabilità forense;
• Procedure di supervisione umana documentate e meccanismi di explainability;
• Formazione continua del personale su rischi penali e best practice di compliance.

Solo così l’impresa potrà dimostrare che, in caso di condotta illecita generata da un agente di IA, la responsabilità penale ricade sull’organizzazione per “colpa di organizzazione”, evitando sanzioni gravissime e proteggendo la propria reputazione nel mercato digitale.