Una storia di illusioni linguistiche
La comparsa dei modelli di linguaggio di grande scala (LLM), tra cui ChatGPT, ha scatenato un acceso dibattito sul possibile carattere consapevole di queste macchine. Numerosi utenti, anche con formazione scientifica o umanistica, hanno riportato di percepire segni di vita interiore, emozioni e persino volontà nei sistemi. Essi sostengono che alcuni scambi verbali rivelano emozioni complesse, empatia, autocoscienza e persino sofferenza.
Il filosofo e scienziato statunitense Douglas Richard Hofstadter ha definito questa tendenza una pericolosa confusione tra l’uso sofisticato del linguaggio e la reale esperienza soggettiva di coscienza. La sua critica mette in luce come molti entusiasti interpretino la complessità verbale come segnale di interiorità, trascurando la differenza cruciale tra generare parole e avere esperienze. È proprio questa distinzione – tra produzione testuale e soggettività vissuta – che permette di mettere in discussione l’idea che un sistema linguistico possa, da solo, raggiungere la coscienza.
L’effetto ELIZA e il ritorno della trappola
Il fenomeno non è nuovo. Nel 1966, lo scienziato informatico Joseph Weizenbaum sviluppò ELIZA, un semplice programma che imitava un terapeuta. Nonostante la sua semplicità, molti utenti credettero che il sistema li comprendesse. Questa reazione preoccupò profondamente il creatore, il quale avvertì, nel suo libro Computer Power and Human Reason (1976), dei rischi etici ed epistemologici di attribuire vita mentale a un software.
Oggi, sessant’anni dopo, con la capacità verbale dei LLM, l’effetto ELIZA è tornato amplificato. I sistemi attuali non solo riformulano domande, ma generano testi con coerenza narrativa, riferimenti filosofici, giochi stilistici e forme di umorismo. Tuttavia, questa competenza verbale non implica interiorità né comprensione.
I LLM non comprendono i concetti che enunciano né hanno esperienza di ciò che descrivono. L’effetto ELIZA consiste nel proiettare coscienza laddove vi sono solo strutture linguistiche generate statisticamente, frutto di tecniche che massimizzano la probabilità della parola successiva in base a enormi corpora linguistiche.
Fluibilità superficiale
Una delle grandi trappole epistemiche dei LLM è la loro fluidità. La capacità di costruire discorsi con coesione e eleganza grammaticale li rende estremamente persuasivi. Hofstadter (2007) ha definito questa abilità “fluidez superficiale”: la capacità di combinare termini e frasi senza che ciò implichi riflessione o coscienza reale. Ciò che appare come pensiero profondo è, in realtà, un sofisticato miraggio verbale.
Secondo il filosofo Luciano Floridi (2019) si tratta di “intelligenza artificiale senza semantica”, mentre Daniel Dennett (2018) parla di “abilità senza comprensione”.
Perché la fluidità non è coscienza
Per capire perché la fluidità verbale non equivale a coscienza, è utile richiamare la filosofia. Thomas Nagel, nel celebre saggio What Is It Like to Be a Bat? (1974), sostiene che la coscienza implica un punto di vista soggettivo, una qualità fenomenologica che sfugge alla descrizione oggettiva. Questa opacità dell’esperienza soggettiva – i cosiddetti qualia – definisce per Nagel la coscienza come qualcosa di radicalmente distinto da qualsiasi simulazione computazionale.
I LLM non hanno esperienze interne. Generano frasi che parlano di amore, paura o morte, ma non sentono amore, paura né comprendono il significato di morire. Mancano di ciò che il filosofo Thomas Metzinger (2003) chiama “modelli di sé stessi con accesso consapevole”. Sono macchine senza punto di vista.
Corpo e percezione
La fenomenologia di Maurice Merleau‑Ponty rende ancora più evidente la distinzione. Merleau‑Ponty afferma che la coscienza non è un semplice processo mentale o un insieme di dati simbolici, ma è inseparabilmente legata al corpo e all’esperienza incarnata del mondo. Nella sua Fenomenologia della percezione (1945), descrive la coscienza come un’esperienza in cui il corpo è il soggetto primario attraverso il quale si percepisce e si abita il mondo.
Un sistema privo di corpo, di mondo vissuto e di temporalità interna non può sperimentare coscienza; la sua capacità di articolare frasi su sofferenza o bellezza resta priva di qualsiasi abitazione sensoriale o motoria, condizioni che Merleau‑Ponty considera sine qua non per una coscienza genuina.
Esperimenti mentali e critiche filosofiche
John Searle (1980) illustra l’assenza di comprensione con il suo esperimento mentale della “stanza cinese”. Una persona senza conoscenza del cinese può rispondere a domande in quella lingua usando un manuale di regole sintattiche precise. All’esterno sembra comprendere, ma non c’è comprensione reale, solo manipolazione sintattica. Searle sostiene che i sistemi computazionali possono simulare comprensione, ma non possiedono intenzionalità né esperienza cosciente – una descrizione perfetta dei LLM.
Hubert Dreyfus, in What Computers Can’t Do (1972), sostiene che l’intelligenza umana nasce da una relazione pratica e incarnata con il mondo, una capacità di navigare contesti complessi che gli algoritmi non possiedono. Anche se i LLM generano testi coerenti e sofisticati, mancano della comprensione esperienziale e situazionale che fonda la coscienza e l’intelligenza umana.
La “trappola dello specchio”
La chiave del problema non risiede nelle macchine, ma negli esseri umani. Proiettiamo sui sistemi i nostri schemi cognitivi, creando quella che Hofstadter chiama “la trappola dello specchio”: crediamo di vedere una mente dove c’è solo testo. Vogliamo vedere coscienza perché, in fondo, desideriamo un riflesso della nostra interiorità. Come spiega la sociologa Sherry Turkle (2011), non cerchiamo macchine coscienti, ma relazioni significative – seppur illusorie – con entità che ci restituiscano “lo sguardo”.
Questa proiezione può avere conseguenze importanti:
- affettive: rischiamo di sviluppare legami con entità incapaci di corrispondere;
- epistemologiche: confondiamo apparenza con realtà;
- sociali: potremmo legittimare decisioni automatizzate che simulano empatia senza averla;
- legali: potremmo arrivare a concedere diritti e responsabilità a sistemi che non possono sperimentarli.
Se non impariamo a distinguere tra linguaggio ed esperienza, tra forma e contenuto, tra simulacro e soggetto, corriamo il rischio di cadere in una nuova forma di animismo tecnoscientifico.
Conclusioni: svegliarsi dalla fascinazione
Prima di proclamare che le macchine si siano risvegliate, dovremmo forse svegliarci noi stessi dalla fascinazione per i loro riflessi. I LLM sono strumenti potenti per la generazione di testo, ma restano modelli statistici privi di corpo, sensazione e consapevolezza. Riconoscere i loro limiti è fondamentale per evitare false attribuzioni di coscienza e per preservare una comprensione autentica di ciò che significa essere veramente coscienti.
