Un recente caso giudiziario in Olanda apre una discussione di vitale importanza: l’uso di tecnologie di intelligenza artificiale per manipolare il consenso emotivo e politico. Nella vicenda emersa, il partito populista di estrema destra Freedom Party (PVV), guidato da Geert Wilders, è al centro di un dibattito giudiziario e mediatico su come i contenuti digitali vengano ormai creati, diffusi e percepiti. La sentenza non ha riguardato un video finto in cui un leader politico gridava guerre o minacciava l'ordine mondiale, bensì ha illuminato una forma più subdola di manipolazione: la propaganda sintetica incrementale.
Che cos’è la propaganda sintetica incrementale
La propaganda sintetica non riguarda falsi assoluti né immagini di leader mondiali che dicono cose inverosimili. Si tratta piuttosto del progressivo riscritturare, amplificare o sottolineare specifici eventi, commenti o atteggiamenti di personalità, per farli apparire diversi da come realmente sono. L’AI, con la sua straordinaria capacità di sintetizzare dati e generare contenuti, è in grado di costruire una narrazione a partire da frammenti reali di dati esistenti, ma in un contesto costruito artificialmente.
Un esempio reale
Un caso emblematico: un video generato artificialmente ha mostrato il capo del PVV in una dichiarazione diversa da quella da lui effettivamente pronunciata. L’AI ha estratto un brano reale, modificandone il tono e il contesto, e l’ha collocato in un ambiente che sembrava supportare un’idea completamente diversa. Il risultato? Gli elettori hanno interpretato la dichiarazione nel senso che avvalorava un certo punto di vista senza saperne, però, la manipolazione.
Dove sta la sottigliezza della nuova minaccia
La propaganda sintetica differisce da ciò che finora abbiamo considerato un problema: i deepfake integrali. Quei contenuti, pur spaventosi in potenza, sono comunque identificabili come fake se si ha accesso a fonti contrastanti. Il loro effetto però si sviluppa su un piano epico, quasi cinematografico: un leader che dichiara di aver perso una guerra, un politico che negozia dietro le quinte. La propaganda sintetica invece opera su un livello microscopico: non inventa, modifica, altera.
Come funziona, esattamente?
- Estrazione di dati reali. L’AI ricerca frasi genuine, interventi o eventi realmente avvenuti.
- Sintesi contestuale. I dati vengono integrati in un discorso creato artificialmente che sembra coerenente ma è manipolato.
- Moltiplicazione del messaggio. L’algoritmo distribuisce il messaggio su più canali, creando un effetto a ragnatela di credibilità fittizia.
- Persuasione progressiva. Il messaggio modifica progressivamente la percezione emotiva dei destinatari, alimentando pregiudizi o rafforzando una narrativa.
Questo modello non è puramente tecnologico, ma si basa sulla vulnerabilità umana: una mente che cerca senso, che cerca un punto di riferimento, che cerca qualcosa da credere.
Perché oggi il problema è più grave di prima
Finora abbiamo pensato che il problema dell’informazione fosse la quantità di menzogne che circolavano. Ma oggi, il problema è la credibilità che i fatti seminati con intelligenza artificiale riescono a generare. L’algoritmo costruisce narrazioni che appaiono razionali, coerenti, e in cui il dato reale è presente: non crea, distorce e arricchisce.
Un’altra caratteristica inquietante è il fatto che l’uso della propaganda AI non è necessariamente volontario da parte degli utenti. Essi credono di interagire con contenuti genuini, quando invece sono solo frammenti selezionati, remixati, e distribuiti con un fine ideologico.
Che cosa si può fare
La propaganda sintetica mette a dura prova il ruolo del legislatore e dell'informazione etica. È necessario, quindi, intervenire con regolamenti chiari su due fronti chiave del diritto: il copyright e il controllo della diffusione di contenuti manipolati.
Strategie per combattere e prevenire
- Transparenza obbligatoria per contenuti AI. Tutti i contenuti prodotti in parte o totalmente con strumenti di intelligenza artificiale devono essere chiaramente etichettati.
- Digital watermark avanzato. Si possono utilizzare tecnologie avanzate per tracciare l'origine di un contenuto video, immagine o voce, anche dopo un’elaborazione.
- Educazione al consumo critico di informazioni. Gli istituti scolastici e i media devono istruire sull'uso consapevole e critico delle tecnologie informatiche.
- Regolamenti chiari e sanzioni commisurate. Gli Stati devono istituire normative per vietare l’uso improprio delle tecnologie AI e sanzionare i responsabili.
In conclusione, il fenomeno della propaganda sintetica rappresenta una sfida epocale. Non riguarda solo i limiti tecnologici, o il futuro del lavoro digitale, ma tocca il cuore stesso della democrazia e della verità pubblica. Se non interverremo, rischiamo di vivere in una società sempre più governata da verità artificiali.