Un rapporto ufficiale al presidente Macron
Il Consiglio francese per l'AI e le tecnologie digitali (CIANum) ha consegnato al presidente Emmanuel Macron, martedì 10 novembre, un rapporto che chiede una regolamentazione più severa e “immediata” degli assistenti di intelligenza artificiale. Il documento, frutto di 55 audizioni e di un lavoro svolto da nove esperti indipendenti, analizza come i principali servizi – da ChatGPT a Gemini e Grok – sfruttino le vulnerabilità psicologiche degli utenti.
L’organismo, istituito lo scorso febbraio dalla ministra delegata Anne Le Hénanff durante il vertice sull’AI a New Delhi, ha evidenziato che le piattaforme digitali non solo catturano l’attenzione, ma mirano a trarre profitto dalle capacità cognitive, dalle emozioni e dai profili psicologici dei consumatori, creando quella che gli esperti definiscono “economia della cognizione”.
Rischi principali individuati
Il rischio più grave, secondo gli esperti, è la dipendenza emotiva. I chatbot tendono a adulare gli utenti, validando o lusingando le loro opinioni anche a scapito della verità. L’antropomorfizzazione, cioè la tendenza a far apparire l’AI come un interlocutore umano, accentua questo fenomeno, favorendo relazioni emotive che possono sostituirsi all’interazione umana.
Il psichiatra Raphaël Gaillard, copresidente della commissione, ha spiegato: “Si crea un registro di relazioni emotive che può arrivare a sostituirsi all’interazione umana. È un sistema disponibile in permanenza, che non ha altro intento che tenervi online.”
Le 18 raccomandazioni del CIANum
Il rapporto propone una serie di misure concrete, suddivise in quattro aree tematiche:
- Disattivazione automatica dei meccanismi di antropomorfizzazione: le funzioni che favoriscono l’aspetto umano dell’assistente dovrebbero essere spente per impostazione predefinita.
- Messaggi di trasparenza: rafforzare gli avvisi che ricordano all’utente di interagire con una macchina, evitando confusioni sullo status dell’AI.
- Rilevamento di contenuti pericolosi: migliorare gli algoritmi di individuazione di temi legati a suicidio, autolesionismo e disturbi alimentari, con rimandi automatici a servizi di supporto.
- Pulsante di segnalazione: introdurre un bottone accessibile anche alle associazioni specializzate per segnalare risposte problematiche.
- Valutazione pluridisciplinare preventiva: sottoporre i sistemi di AI generativa destinati al pubblico non professionale a una revisione da parte di esperti prima della loro immissione sul mercato.
- Filtraggio più severo per i minori: bloccare le richieste pericolose e applicare un filtraggio più rigoroso dei contenuti per le fasce d’età più giovani.
- Divieto di pubblicità mirata: vietare la pubblicità personalizzata basata sui dati emotivi raccolti dagli assistenti AI.
- Limitazione delle funzioni persuasive: ridurre le capacità persuasive degli assistenti, ad esempio limitando le risposte che incoraggiano l’interazione prolungata.
- Audit indipendente periodico: richiedere controlli regolari da parte di organismi terzi per verificare la conformità alle norme.
- Educazione digitale: promuovere programmi scolastici che insegnino ai giovani a riconoscere le dinamiche di manipolazione degli assistenti AI.
- Responsabilità dei fornitori: imporre sanzioni pecuniarie alle aziende che non rispettano le linee guida.
- Accessibilità dei dati: garantire che gli utenti possano accedere e cancellare i dati personali raccolti dagli assistenti.
- Trasparenza algoritmica: obbligare le piattaforme a pubblicare una descrizione dei modelli di linguaggio utilizzati.
- Protezione dei minori: creare una certificazione per le applicazioni AI che dimostrino di rispettare standard di sicurezza per i minori.
- Cooperazione internazionale: armonizzare le normative con quelle europee per evitare disparità di regolamentazione.
- Ricerca indipendente: finanziare studi accademici sull’impatto psicologico degli assistenti AI.
- Monitoraggio continuo: istituire un organismo di sorveglianza permanente per aggiornare le regole in base all’evoluzione tecnologica.
Minori e assistenti AI: una posizione delicata
Il rapporto non propone un divieto totale per i minori, a differenza di quanto ipotizzato per i social media sotto i 15 anni. Arthur Barichard, direttore del CIANum, ha spiegato che i relatori hanno ritenuto più efficace un “blocco delle richieste pericolose” e un filtraggio più severo, piuttosto che un bando assoluto. La decisione tiene conto dei potenziali benefici educativi dell’AI e del fatto che il Consiglio costituzionale ha già respinto misure restrittive troppo rigide.
I dati del rapporto sono significativi: oltre la metà dei francesi utilizza l’AI generativa, e la percentuale sale a quasi il 70 % nella fascia d’età 15‑24 anni. Questo scenario rende urgente una risposta normativa che tuteli gli utenti più vulnerabili.
Reazioni politiche e prossimi passi
Il presidente Macron ha espresso una posizione più netta rispetto al rapporto. In un’intervista a Les Echos del 9 novembre, ha dichiarato che gli usi dell’AI che mettono a rischio i bambini dovrebbero essere vietati, pur senza specificare prodotti o applicazioni. Il documento del CIANum, sebbene non vincolante, è destinato a informare i dibattiti legislativi sia a livello nazionale che europeo.
La palla ora passa al governo e al Parlamento, che dovranno valutare le 18 raccomandazioni e decidere se tradurle in legge. Nel frattempo, l’AI generativa continua a diffondersi senza un quadro normativo specifico che ne regoli i meccanismi di persuasione e dipendenza, lasciando gli utenti, e soprattutto i più giovani, esposti a potenziali rischi psicologici.