Le organizzazioni che oggi stanno implementando sistemi di intelligenza artificiale si interrogano su quali obblighi normativi siano applicabili a tali sistemi, trovandosi di fronte a una situazione di non semplice lettura. In questo contributo si offre una panoramica limitata agli aspetti normativi che riguardano la sorveglianza umana.
Quadro normativo europeo
Il Regolamento (UE) 2026/1744, noto come Digital Omnibus sull’IA, ha modificato il Regolamento (UE) 2024/1689 (AI Act) differendo l’applicazione delle regole sui sistemi ad alto rischio. Gli obblighi di fornitori e deployer di tali sistemi entreranno in vigore dal 2 dicembre 2027 per i sistemi dell’Allegato III (es. valutazione dei rischi e determinazione dei prezzi in assicurazioni sulla vita e sanitarie, affidabilità creditizia) e dal 2 agosto 2028 per quelli dell’Allegato I (es. componenti di sicurezza in macchine, giocattoli o dispositivi medici). Tra gli obblighi differiti rientrano anche le disposizioni sulla sorveglianza umana.
Articolo 14 – Sorveglianza umana
L’articolo 14 dell’AI Act richiede che i sistemi ad alto rischio siano progettati e sviluppati con interfacce uomo‑macchina adeguate, affinché possano essere supervisionati efficacemente da persone fisiche durante l’uso. Le misure devono essere commisurate a rischi, livello di autonomia e contesto di utilizzo e possono essere integrate dal fornitore o individuate per essere attuate dal deployer (paragrafo 3).
Il fornitore deve garantire che chi sorveglia possa, ove opportuno e proporzionato (paragrafo 4):
- Comprendere capacità e limiti del sistema, monitorarne il funzionamento e individuare anomalie.
- Rimanere consapevole del rischio di eccessivo affidamento sull’output (automation bias).
- Interpretare correttamente l’output.
- Decidere di non utilizzare, ignorare o annullare l’output.
- Intervenire o arrestare il sistema in sicurezza mediante un pulsante o procedura analoga.
Attuazione nazionale: i decreti italiani
Il Governo ha esercitato la delega contenuta nell’art. 24 della L. 23 settembre 2025, n. 132 (legge italiana sull’intelligenza artificiale) adottando i primi due decreti legislativi di adeguamento all’AI Act: il D.Lgs. 160/2026, in vigore dal 30 settembre 2026, e il D.Lgs. 179/2026, in vigore dal 23 ottobre 2026.
D.Lgs. 160/2026 – Nuovi reati e responsabilità
Il decreto introduce nel codice penale l’art. 437‑bis c.p., “Omessa adozione di misure di sicurezza nei sistemi di intelligenza artificiale e alterazione illecita dei sistemi”. Il reato punisce chi omette le misure di sicurezza tecniche previste per progettazione, addestramento, produzione e immissione sul mercato di sistemi ad alto rischio, nonché chi utilizza professionalmente un sistema senza sorveglianza intenzionale, quando tale omissione crea un pericolo concreto per la vita o l’incolumità.
Lo stesso reato è inserito nel catalogo dei reati presupposto del D.Lgs. 231/2001 (art. 25‑vicies), estendendo la responsabilità anche alle persone giuridiche.
D.Lgs. 179/2026 – Sanzioni e valutazione d’impatto
Il secondo decreto disciplina le autorità competenti e il sistema sanzionatorio, prevedendo penali per la violazione degli obblighi dei deployer e per la mancata valutazione d’impatto sui diritti fondamentali (FRIA). Inoltre, introduce novità sulle azioni di risarcimento del danno, sia contrattuale che extracontrattuale, legate all’uso di sistemi di IA, anche non ad alto rischio.
Prova e onere della dimostrazione
Se una persona sostiene di aver subito un danno a causa di un sistema di IA, il giudice può ordinare l’esibizione degli elementi di prova pertinenti relativi al funzionamento del sistema. Tra questi rientrano:
- Registri di funzionamento (log) come previsto dall’art. 12 AI Act.
- Documentazione sulla gestione dei rischi (art. 9 AI Act).
- Informazioni tecniche richieste dall’art. 11 AI Act.
- Parametri e modalità di supervisione umana (art. 14 AI Act).
Quando il danno deriva dalla violazione di uno o più obblighi dell’AI Act, il nesso di causalità è presunto, salvo prova contraria.
Strategia di conformità per le organizzazioni
Il primo passo è qualificare correttamente il proprio ruolo rispetto a ciascun sistema di IA: fornitore (sviluppatore o chi immette il sistema sul mercato) o deployer (chi utilizza il sistema in ambito professionale). Solo i sistemi ad alto rischio sono soggetti agli obblighi di sorveglianza umana previsti dall’AI Act.
Le organizzazioni devono quindi:
- Identificare i sistemi soggetti a obblighi di sorveglianza.
- Definire e documentare le misure di sorveglianza umana, includendo interfacce, procedure di intervento e pulsanti di arresto.
- Redigere i log di funzionamento, la documentazione di gestione dei rischi e le specifiche tecniche richieste.
- Formare il personale incaricato della sorveglianza affinché comprenda capacità, limiti e rischi di automazione.
- Implementare un processo di monitoraggio continuo e revisione periodica delle misure di sorveglianza.
Ruolo della FRIA
La valutazione d’impatto sui diritti fondamentali (FRIA) è obbligatoria per i sistemi ad alto rischio. Essa deve includere un’analisi della necessità e dell’efficacia della sorveglianza umana, valutando l’impatto su privacy, non discriminazione e altri diritti fondamentali. Il risultato della FRIA deve essere allegato alla documentazione tecnica e tenuto a disposizione delle autorità di controllo.
Conclusioni
Nonostante il rinvio dell’applicazione delle regole dell’AI Act, le organizzazioni devono già adottare misure di sorveglianza umana documentate, per evitare responsabilità penali, civili e amministrative. I decreti italiani rafforzano la disciplina nazionale, introducendo reati specifici e un sistema sanzionatorio che rende la prova documentale un elemento cruciale in caso di contenzioso.
In sintesi, la sorveglianza umana deve essere progettata, resa effettiva e documentata fin da ora, integrando le disposizioni dell’AI Act, i decreti D.Lgs. 160/2026 e 179/2026 e la FRIA, per garantire conformità, sicurezza e tutela dei diritti fondamentali.
