Il potere dei chatbot oltre la pubblicità tradizionale

I chatbot possono trasformare pensieri, emozioni e preferenze in dati commerciali, costruire profili psicologici e influenzare scelte politiche senza che gli utenti percepiscano la manipolazione. Questo estratto proviene dal libro La bolla dell’intelligenza artificiale, scritto da un imprenditore digitale, già parlamentare e ideatore di SPID nel 2012.

Dal punto di vista economico, il potere dei chatbot non si limita all’ovvia possibilità di promuovere o svantaggiare determinate aziende o industrie. I social media hanno affermato il modello del capitalismo di sorveglianza; lo stesso modello può essere esteso ai chatbot, monitorando e mercificando direttamente le opinioni, le passioni e la psiche degli utenti, così come vengono costantemente condivise con il compagno tecnologico.

Il monitoraggio diventa ancora più pervasivo quando l’interfaccia verso il modello linguistico e di intelligenza artificiale viene inserita in oggetti che portiamo sempre addosso – orologi, occhiali, auricolari – e che integrano informazioni ambientali con quelle individuali.

Fine della privacy delle opinioni

Così come i social hanno di fatto eliminato la privacy di milioni di persone, costringendole a mettere continuamente in piazza le proprie attività e relazioni, gli assistenti di intelligenza artificiale possono eliminare la privacy delle opinioni e dei pensieri. Anzi, le opinioni e i pensieri saranno utilizzati come nuovo materiale di apprendimento per potenziare ulteriormente il modello, con la probabilità statistica di rivelarli non soltanto alla macchina ma a terzi in grado di violarne la sicurezza, oppure di pagare il proprietario del sistema per avervi accesso (o di imporglielo).

«Quartz», nella newsletter AI & Tech del 23 dicembre 2025, scriveva:

Mark Zuckerberg ha delineato il futuro pubblicitario di Meta in una recente conferenza sui risultati finanziari, e sembra il sogno di ogni operatore di marketing. Gli inserzionisti forniranno semplicemente un obiettivo commerciale e informazioni sul pagamento, ha affermato, e l’IA penserà a tutto il resto, inclusa la generazione di video personalizzati e contenuti creativi su misura per i singoli utenti.

Per tutte le informazioni che le aziende tecnologiche già hanno su di noi, gli strumenti di intelligenza artificiale in fase di implementazione potrebbero conoscerci intimamente quanto gli amici. E a differenza degli algoritmi odierni che tengono traccia dei clic e degli acquisti, questi sistemi capiranno le tue insicurezze, le tue aspirazioni ed esattamente ciò che serve per farti cambiare idea. Quel profilo psicologico diventa quindi un prodotto venduto al miglior offerente.

Manipolazione invisibile: dal marketing alla politica

È come se Google AdWords avesse accesso agli appunti del tuo psicoterapeuta. Ciò rende la manipolazione impossibile da individuare. Quando tutti vedono lo stesso cartellone pubblicitario o spot televisivo, si può discutere se il messaggio sia manipolativo. Quando il contenuto è personalizzato, segreto e intimo, invisibile a tutti gli altri, non c’è modo di confrontarsi con altri o individuare misure manipolative.

La profilazione delle persone, dopo poche interazioni, è in grado di tracciare accuratamente emozioni, desideri, intenzioni, percezioni, conoscenze, credenze e capacità di inferenza da comunicazioni non letterali.

Modelli oscuri dei chatbot

Uno studio di maggio 2026 del Centro per la Democrazia e la Tecnologia ha esaminato le scelte di progettazione ingannevoli o manipolative che possono minare l’autonomia o il benessere dell’utente, definendole «modelli oscuri». La ricerca ha identificato una tassonomia di 37 modelli oscuri applicabili ai chatbot IA, raggruppati in cinque aree critiche:

    • Sfruttamento di dati (analogo a quanto fanno i social).
    • Design fuorviante.
    • Compromissione dell’autonomia dell’utente.
    • Falsa connessione emotiva.
    • Monetizzazione manipolativa.

A fine 2025, la MIT Review sintetizzava che i chatbot possono influenzare gli elettori meglio delle pubblicità politiche; una conversazione può cambiare le opinioni politiche delle persone.

Un team multiuniversitario di ricercatori ha spiegato su Nature che chattare con un modello di intelligenza artificiale politicamente orientato si è rivelato molto più efficace delle pubblicità tradizionali nell’orientare gli elettori, influenzando le opinioni citando fatti e prove. I ricercatori hanno scoperto che i modelli più persuasivi erano quelli che inventavano le maggiori falsità.

Prove empiriche: l’impatto sui processi elettorali

Come indicano le recenti ricerche, la linea che separa persuasione legittima e manipolazione illegittima consiste nella nostra capacità di valutare in maniera riflessiva le influenze a cui siamo esposti e di cui ci rendiamo conto quando interagiamo con tecnologie digitali. La confidenzialità e l’intimità che caratterizzano le conversazioni con i chatbot, da questo punto di vista, offrono innumerevoli occasioni di manipolazione.

In un articolo su Nature, i ricercatori hanno reclutato più di 2 300 partecipanti affinché intraprendessero una conversazione con un chatbot due mesi prima delle elezioni presidenziali americane del 2024. I sostenitori di Donald Trump che hanno chattato con un modello favorevole a Kamala Harris sono diventati leggermente più propensi a sostenere Harris, spostando verso di lei circa il 4 % degli elettori – un effetto quattro volte maggiore di quello della pubblicità politica durante le elezioni del 2016 e del 2020.

In esperimenti simili, in occasione delle elezioni canadesi e di quelle polacche del 2025, il team ha riscontrato un effetto ancora maggiore: i chatbot hanno cambiato l’atteggiamento degli elettori dell’opposizione di circa il 10 %, mentendo e inventandosi «fatti».

Uno studio del Media Lab del MIT ha mostrato che le persone che utilizzano l’IA ai fini di approfondimento di notizie, dopo un periodo iniziale con esiti positivi, vedono dopo quattro settimane una calo del 15,3 % della loro capacità di discernimento.

Meccanismi di persuasione dei LLM

Un altro studio pubblicato su Science ha indagato cosa rende questi chatbot così persuasivi. Sono stati implementati 19 LLM per interagire con quasi 77 000 partecipanti dal Regno Unito su oltre 700 questioni politiche, variando fattori come potenza computazionale, tecniche di formazione e strategie retoriche. Il modo più efficace per rendere persuasivi i modelli è stato istruirli a farcire le argomentazioni con fatti e prove (anche inventati) e a fornire esempi di conversazioni persuasive.

Il modello più persuasivo ha portato i partecipanti che inizialmente non erano d’accordo con una dichiarazione politica a dirsi d’accordo al 26,1 %.

L’aspetto forse più rilevante è che i partecipanti non si sono accorti di essere stati manipolati; quando ne sono stati informati, hanno mantenuto le loro opinioni. Informare gli elettori sul rischio di manipolazione, quindi, non è sufficiente.

Conseguenze per autonomia e responsabilità

Secondo uno studio della Wharton School dell’Università della Pennsylvania, i chatbot diventano un sistema cognitivo che opera al di fuori della mente umana; le persone con maggior fiducia nell’IA tendono ad abbandonarsi, portando a una rimodellazione dell’autonomia e della responsabilità.

I ricercatori di Google DeepMind hanno confermato che, in determinate condizioni, un LLM «è in grado di indurre cambiamenti di convinzioni e comportamenti». Nel loro documento affermano:

L’interesse per il concetto di manipolazione dannosa guidata dall’intelligenza artificiale è in crescita, ma gli attuali approcci per valutarla sono limitati. Questo documento introduce un quadro per valutare la manipolazione dannosa dell’IA attraverso studi di interazione uomo‑IA specifici del contesto.

Illustriamo l’utilità di questo quadro valutando un modello di intelligenza artificiale con 10 101 partecipanti che abbracciano interazioni in tre domini di utilizzo (politiche pubbliche, finanza e salute) e tre regioni (Stati Uniti, Regno Unito e India). Nel complesso, è stato scoperto che il modello testato può produrre comportamenti manipolativi quando viene richiesto di farlo e, in contesti sensibili, può influenzare decisioni critiche.

Questi risultati suggeriscono che la mera presenza di chatbot intelligenti non è neutrale; la loro capacità di leggere, interpretare e reagire a emozioni nascoste li rende strumenti potentissimi per la manipolazione di massa, con implicazioni profonde per la sovranità della mente e per la salute delle democrazie.