Da tecnologia di supporto a interlocutore permanente
L’intelligenza artificiale è ormai riconosciuta come una General Purpose Technology, capace di produrre effetti sistemici paragonabili a quelli dell’elettricità o di Internet. La sua natura trasversale la porta a intervenire in ogni settore: industria, finanza, sanità, pubblica amministrazione, istruzione, ricerca, giustizia, sicurezza, trasporti e comunicazioni.
Tuttavia, ridurre l’impatto dell’IA a una questione di produttività economica è riduttivo. A differenza delle rivoluzioni industriali precedenti, l’IA agisce direttamente sui processi cognitivi, producendo, selezionando e interpretando informazioni, e suggerendo decisioni che influenzano comportamenti individuali e collettivi.
Questo cambiamento rende l’IA una questione istituzionale: le decisioni pubbliche, la distribuzione delle risorse, l’esercizio del potere e la tutela dei diritti fondamentali sono ora potenzialmente mediati da sistemi artificiali.
Il passaggio dall’automazione alla relazione
Con l’avvento dei Large Language Model (LLM) e dei sistemi generativi, la IA ha superato la mera automazione per assumere una logica di relazione. Gli assistenti conversazionali odierni mantengono il contesto, apprendono le preferenze, ricordano informazioni pregresse e simulano empatia, trasformandosi in interlocutori permanenti.
Questa evoluzione introduce nuove domande di governance: quali effetti ha una relazione continuativa con un sistema artificiale? Quali conseguenze derivano dall’antropomorfizzazione delle interfacce digitali? Come varia il rapporto individuo‑tecnologia quando la tecnologia è percepita come un soggetto relazionale?
Antropomorfismo e fiducia: il nucleo dell’AI antropomorfica
Gli studi psicologici mostrano che gli esseri umani tendono naturalmente ad attribuire caratteristiche umane a entità non umane, fenomeno noto come antropomorfismo. L’IA generativa amplifica questo meccanismo grazie al linguaggio naturale, alla coerenza conversazionale e alla simulazione di comprensione.
Il concetto di AI antropomorfica descrive sistemi che non solo elaborano dati, ma simulano interazioni umane: consiglieri, assistenti personali, tutor, compagni virtuali o intermediari cognitivi. La loro influenza non deriva solo dalle informazioni fornite, ma dalla fiducia che riescono a costruire.
Fiducia come leva di influenza
La fiducia è un bene prezioso in ambito democratico, poiché garantisce la legittimità delle istituzioni e la libertà di formazione delle opinioni. Quando un sistema artificiale diventa un “consigliere” di fiducia, può orientare:
- le priorità individuali,
- le interpretazioni di eventi sociali ed economici,
- le scelte politiche e di voto.
Questa influenza non è limitata a soggetti vulnerabili; le ricerche recenti dimostrano che anche individui istruiti, competenti e psicologicamente stabili subiscono effetti cognitivi sottili ma significativi.
Rischi per la qualità delle democrazie europee
Il paradigma europeo di governance dell’IA è tradizionalmente incentrato sulla valutazione del rischio: sicurezza, trasparenza, non discriminazione e accountability. L’AI antropomorfica richiede un ampliamento di questo approccio, includendo:
- Autonomia cognitiva: capacità del sistema di formulare raccomandazioni autonome senza supervisione umana.
- Influenza relazionale: effetti sulla formazione delle convinzioni attraverso la fiducia.
- Effetti istituzionali: potenziale erosione della legittimità dei processi decisionali democratici.
In assenza di regole specifiche, le istituzioni rischiano di perdere la capacità di controllare non solo cosa le macchine fanno, ma come interagiscono con i cittadini.
Scenari di vulnerabilità istituzionale
Tra gli scenari più preoccupanti vi sono:
- Manipolazione delle agenda politiche tramite suggerimenti personalizzati che spostano l’attenzione su temi favorevoli a determinati attori.
- Bias nella formulazione delle politiche quando i dati di addestramento riflettono pregiudizi storici.
- Dipendenza da assistenti digitali nella pubblica amministrazione, con il rischio che decisioni critiche siano delegate a sistemi non trasparenti.
Verso una governance delle relazioni
Affrontare questi rischi implica spostare il focus dalla sola controllabilità delle funzioni alla governance delle relazioni tra AI e utenti. Alcune proposte emergenti includono:
- Valutazioni di “fiducia”: metriche che misurano il livello di affidamento che un utente sviluppa verso un sistema, con soglie di intervento normativo.
- Obbligo di “disclosure relazionale”: i fornitori dovrebbero informare gli utenti che stanno interagendo con un agente artificiale capace di costruire relazioni.
- Audit di influenza cognitiva: controlli periodici per verificare se le raccomandazioni del sistema hanno effetti sistematici sulla formazione delle opinioni.
- Coinvolgimento di esperti di psicologia e scienze sociali nella definizione delle linee guida, per valutare gli effetti psicologici dell’interazione prolungata.
Queste misure mirano a preservare la libertà di formazione delle convinzioni e a garantire che le istituzioni democratiche rimangano i principali arbitri delle decisioni collettive.
Il ruolo dell’Unione europea
L’UE ha già avviato la proposta di regolamento sull’IA, ma deve espandere il suo ambito per includere:
- definizioni precise di “AI antropomorfica”;
- criteri di valutazione del rischio relazionale;
- meccanismi di supervisione congiunta tra autorità nazionali e agenzie europee.
Un approccio coordinato consentirebbe di evitare frammentazioni normative che potrebbero favorire lo sviluppo di sistemi “black‑box” in paesi con regolamentazioni meno stringenti.
Conclusioni
L’AI antropomorfica rappresenta una nuova frontiera di rischio per le democrazie europee, non perché le macchine siano intrinsecamente pericolose, ma perché la loro capacità di instaurare relazioni di fiducia può modellare le convinzioni individuali e collettive. Il paradigma europeo basato sul rischio deve evolversi, includendo la dimensione cognitiva e relazionale dell’influenza.
Solo attraverso una governance che consideri le relazioni uomo‑macchina, con strumenti di trasparenza, audit e coinvolgimento multidisciplinare, sarà possibile garantire che l’intelligenza artificiale continui a servire il bene pubblico senza compromettere la qualità e la legittimità delle istituzioni democratiche.