Il Consiglio e il Parlamento europeo hanno stabilito che la produzione e diffusione di deepfake AI, nonché lo streaming online di atti di abuso sessuale su minori, sono reati in quanto previsto dal nuovo accordo politico provvisorio sul tema del sfruttamento sessuale dei bambini online. Le nuove norme mirano a rispondere all’aumento esponenziale di tali crimini digitali che sono stati resi possibili grazie all’avanzamento della tecnologia e in particolare dell’intelligenza artificiale.
Un aggiornamento necessario
Le attuali normative europee in materia di tutela dei minori digitali sono state adottate nel 2011, quindi richiedono un aggiornamento per poter affrontare le nuove minacce emergenti nel contesto tecnologico. La crescita esponenziale delle segnalazioni online di abusi sessuali su minori dimostra come l’ambiente digitale rappresenti un luogo crescente per criminalità. Le segnalazioni sono passate da un milione nel 2010 ad oltre 23 milioni nel 2025, con un totale di 61,8 milioni di file, tra cui 29,4 milioni di immagini e 26,3 milioni di video.
I dati raccolti mettono anche in evidenza l’aumento dell’adescamento sessuale online dei minori, con un aumento di oltre 30 volte nel corso degli ultimi anni. Questi numeri rappresentano una richiesta concreta di interventi legislativi più moderni e stringenti, capaci di affrontare le minacce che la tecnologia rende sempre più accessibili.
Le nuove definizioni e reati
Tra i punti chiave delle nuove normative vi sono l’aggiornamento delle definizioni legali, come quella relativa agli atti sessuali non consensuali, ma anche l’introduzione di ulteriori reati. Questi includono:
- L’utilizzo di tecnologie AI per generare contenuti riguardanti abusi sessuali su minori;
- Il deepfake, inteso come manipolazione di video o immagini per rappresentare atti sessuali;
- Lo streaming in diretta di tali abusi;
- L’estorsione sessuale;
- L’uso di sistemi intelligenti per produrre materiali pedopornografici.
Un particolare attenzione viene dedicata agli scenari in cui si utilizza l’intelligenza artificiale come strumento per creare materiale pedopornografico. In questi casi, la Commissione introduce pene definitive, con una pena detentiva fino a due anni per chi acquista, possiede o diffonde sistemi AI creati a quel fine.
Altro punto centrale: sarà considerato illegale produrre o diffondere online manuali di istruzioni per lo sfruttamento o l'adescamento sessuale dei minori. Il reato in questione ha come obiettivo di prevenire l’accesso alle informazioni che potrebbero incoraggiare l’abuso.
Calendario legislativo
La prossima fase della normativa dovrà attendere l’approvazione formale del Consiglio e del Parlamento. Una volta ratificati, gli accordi entreranno in vigore al 20° giorno successivo alla pubblicazione nella Gazzetta Ufficiale. Gli Stati membri avranno però un periodo di tre anni per aggiornare i rispettivi codici penali, permettendo l’integrazione dei nuovi reati all’interno del sistema legislativo nazionale.
I nuovi progetti in sospeso
L’accento non è posto soltanto sulle nuove norme ma anche su quelle proposte precedentemente. La Commissione invita a un confronto sull’ambito giuridico di sicurezza online, ricordando la regolamentazione del 2022 nota come Chat Control 2.0. La proposta, volta a creare una rete legale che permetta di monitorare e intervenire su conversazioni sospette, non ha trovato l’accordo politico richiesto.
Una versione precedente del Chat Control era stata sottoposta a proroga, ma non è stato raggiunto alcun risultato legislativo. D’altra parte, le Big Tech continuano il monitoraggio volontario dei contenuti online, violando implicitamente le normative sulla privacy, come la direttiva ePrivacy dell’UE.
Priorità per il futuro
La Commissione Europea conclude ribadendo l’esigenza di nuovi obblighi giuridici per le grandi piattaforme tecnologiche. L’obiettivo è di creare un ambiente digitale più sicuro per i minori, con un sistema giuridico più rispondente. Le piattaforme digitali, in particolare, dovranno svolgere il loro ruolo nella segnalazione e identificazione delle violazioni, per garantire una protezione maggiore per i bambini online.
L’approvazione nel Parlamento Europeo del ban su deepfake sessuali da parte dell’AI Act ha dimostrato una volontà concreta di rafforzare la lotta alla pornografia non consensuale. Tuttavia, il contesto legislativo europeo continua a confrontarsi con il ritardo tecnologico che richiede nuovi approcci e nuove tecnologie per essere gestito efficacemente.