Il contesto attuale: IA e campagne di disinformazione

Nel pieno delle campagne elettorali, capire come si costruisce il racconto della realtà è più cruciale che mai. Internet ha rivoluzionato la comunicazione di massa alla fine del XX secolo; ora, all’inizio del XXI secolo, è l’intelligenza artificiale a rimodellare il panorama informativo, con campagne di disinformazione che superano la persuasione tradizionale.

Un recente studio intitolato Quando il racconto è un’arma, prodotto dal centro di ricerca The Positioning Room della consulenza Across, analizza i fenomeni di manipolazione più sofisticati, supportati dall’IA e capaci di infiltrarsi negli ecosistemi informativi per erodere la democrazia.

Obiettivi delle campagne

Il lavoro di Ignacio Jiménez Soler rivela che il 85 % delle campagne di disinformazione è diretto a aziende e organizzazioni, non a singoli cittadini. Una nuova strategia emergente è il LLM Grooming (addestramento di grandi modelli di linguaggio), che mira a “avvelenare” l’IA inondandola di contenuti falsi, così da farle considerare le falsità come verità e poi ingannare gli utenti finali.

Il caso Pravda: una rete russa di “verità” contaminata

Il fenomeno del LLM Grooming è stato documentato soprattutto a partire dalla Russia. Una rete moscovita chiamata Pravda – termine russo che significa “verità” e nome del storico quotidiano sovietico – ha pubblicato notizie false e propaganda per influenzare le risposte dei modelli di IA.

Inondando i risultati di ricerca con disinformazione promossa dal Cremlino, la rete ha distorto il modo in cui l’intelligenza artificiale elabora le informazioni. Nel 2024, Pravda ha pubblicato 3,6 milioni di articoli, con pochissimi lettori umani; il pubblico principale era l’IA stessa.

Strategie di inquinamento

    • Creazione massiva di contenuti falsi su temi geopolitici, soprattutto la guerra in Ucraina.
    • Utilizzo di domini e sottodomini automatizzati, quasi identici tra loro, per aumentare la visibilità nei motori di ricerca.
    • Collocazione di link verso siti stranieri che si spacciano per media locali, facilitando la diffusione di narrative pro‑russe.

Audit dei chatbot: risultati allarmanti

Una verifica condotta a fine 2024 su dieci dei principali chatbot di IA da parte di NewsGuard, piattaforma specializzata nel fact‑checking, ha evidenziato dati preoccupanti:

    • I modelli ripetono falsità con maggiore frequenza.
    • In presenza di vuoti informativi, gli attori malintenzionati forniscono le uniche informazioni disponibili.
    • Vengono ingannati da siti web esteri che simulano media locali.
    • Mostrano difficoltà nell’elaborare notizie di ultima ora.

Un’indagine sull’avvelenamento dell’IA, condotta da Anthropic in collaborazione con l’AI Security Institute del Regno Unito e l’Alan Turing Institute, ha dimostrato che solo 250 documenti maligni bastano a creare una “backdoor” in un modello di linguaggio grande, indipendentemente dal numero di parametri.

Impatto su modelli di diversa scala

Che si tratti di un modello da 13 miliardi di parametri, addestrato con più di venti volte il volume di dati di un modello da 600 milioni, entrambi risultano vulnerabili con lo stesso numero ridotto di documenti contaminati.

Il ciclo di auto‑contaminazione dell’IA

Ricercatori del American Sunlight Project hanno analizzato, a febbraio dell’anno scorso, 108 nuovi domini e sottodomini appartenenti alla rete Pravda, definendoli “un ecosistema già consolidato di pagine web automatizzate e in gran parte identiche”. Queste pagine miravano a numerosi paesi d’Europa, Africa e Asia con narrative pro‑russe sulla guerra in Ucraina.

Le loro conclusioni evidenziano una pescadilla che si morde la coda: la disinformazione si radica nell’IA, e i grandi modelli di linguaggio già avvelenati generano contenuti altrettanto viziati, che a loro volta alimentano altri sistemi di IA, creando un ciclo auto‑sostenuto.

Esempi concreti di manipolazione

    • ChatGPT, Gemini, Grok e DeepSeek sono stati testati su domande in cinque lingue riguardo l’invasione russa dell’Ucraina.
    • Quasi un quarto delle risposte citava fonti attribuite allo Stato russo, molte delle quali sanzionate dall’Unione Europea.
    • Le richieste maligne progettate per suscitare opinioni pro‑ruse includevano fonti del Cremlino nel 25 % dei casi, contro poco più del 10 % per le richieste neutre.

Gli studiosi ritengono che i modelli di IA “potrebbero essere manipolati per rafforzare punti di vista pro‑russi invece di promuovere informazioni verificate da fonti legittime”.

IA contro IA: la nuova frontiera della sicurezza informatica

Il Google Threat Intelligence Group ha pubblicato un’analisi intitolata È arrivata l’era degli attacchi autonomi. Il rapporto mostra che i cybercriminali usano l’IA per analizzare aggiornamenti software, identificare vulnerabilità specifiche risolte da ogni patch e costruire un attacco prima che le aziende possano installare la correzione, tutto senza l’intervento umano.

John Hultquist, analista capo del gruppo Google, afferma: “Difendersi da minacce a velocità di macchina con difese a velocità umana non è fattibile. Dovremo adottare una difesa agèntica – agenti di intelligenza artificiale – altrimenti rischiamo di rimanere indietro”.

Proposte di difesa

    • Sviluppare agenti IA dedicati al monitoraggio continuo di modelli di linguaggio.
    • Implementare filtri basati su rilevamento di “pattern” di avvelenamento nei dataset di addestramento.
    • Promuovere la trasparenza delle fonti utilizzate dagli LLM, con audit indipendenti.
    • Educare gli utenti a verificare le informazioni fornite dagli assistenti virtuali, soprattutto su temi sensibili.

Conclusioni: la democrazia in bilico

La capacità dell’IA di manipolare l’informazione nasce dall’inondazione deliberata di dati falsi. Quando i grandi modelli di linguaggio vengono avvelenati, l’intero ecosistema informativo ne subisce le conseguenze, amplificando la disinformazione e minando la fiducia pubblica.

Affrontare il LLM Grooming richiede un approccio multilaterale: ricerca accademica, regolamentazione, tecnologie di difesa basate su IA e una cittadinanza digitale più consapevole. Solo così sarà possibile contenere la tendenza a trasformare le intelligenze artificiali in veicoli di menzogna, preservando la verità e la democrazia nell’era digitale.