Il nuovo paradigma della conoscenza prodotta dall’IA

L’intelligenza artificiale può produrre conoscenze che l’uomo non riesce più a verificare una per una. La responsabilità si sposta quindi dal controllo formale alle scelte sugli usi, alla distribuzione dei rischi e ai rimedi per chi subisce il costo degli errori.

Nel ottobre 2026 OpenAI ha pubblicato centinaia di lavori matematici contenenti soluzioni a problemi teorici ancora irrisolti, generate dai propri sistemi di intelligenza artificiale. Poche settimane prima, la stessa OpenAI aveva annunciato una soluzione al problema di esistenza e regolarità delle equazioni di Navier–Stokes, uno dei problemi del millennio, rimasto aperto per circa novant’anni. Il significato e la portata di questi risultati sono ancora oggetto di verifica e discussione nella comunità scientifica, ma la reazione che hanno suscitato è già di per sé significativa.

Il commento di Terence Tao

Terence Tao, medaglia Fields e fra i più autorevoli matematici contemporanei, ha parlato della fine dell’era romantica della matematica: l’epoca degli eroi, dei ricercatori che dedicano anni, talvolta decenni, alla ricerca solitaria di una soluzione.

La questione non riguarda soltanto la matematica. Riguarda il rapporto fra conoscenza, capacità computazionale e responsabilità umana, e in particolare il modo in cui siamo disposti a regolare una tecnologia che potrebbe rendere accessibili risultati che non siamo in grado di raggiungere autonomamente.

Metafora del maestro e dell’allievo

Impieghiamo una metafora: immaginiamo un maestro e un allievo. Entrambi hanno a disposizione lo stesso patrimonio di conoscenze – libri, articoli, dimostrazioni, teorie. Il maestro procede deduttivamente: legge, comprende, formula congetture, costruisce argomenti e cerca dimostrazioni. Una congettura può riguardare un oggetto teorico nuovo, una relazione non individuata o una nuova interpretazione del mondo. Il procedimento è lento, richiede intuizione, esperienza e capacità di selezionare, fra un numero enorme di possibilità, quelle che meritano di essere esplorate.

Una vita intera può non bastare. Per la dimostrazione dell’ultimo teorema di Fermat si sono resi necessari oltre tre secoli di lavoro di intere generazioni di matematici, convinti che vi fosse un obiettivo da raggiungere che valesse questo sforzo collettivo. Una bellissima storia romantica, raccontata anche in un appassionante romanzo.

L’allievo, invece, dispone di una potenza di calcolo incomparabilmente superiore a quella del maestro e utilizza un meccanismo inferenziale di natura probabilistica. Il corpus di conoscenze diventa per lui una trama di relazioni, dipendenze e regolarità. Elementi testuali, detti word embedding, lontani fra loro possono rivelare connessioni che sfuggono a chi legge e ragiona deduttivamente secondo le modalità umane.

Come l’allievo genera conoscenza

Queste ricorrenze costituiscono condizionamenti probabilistici, che riducono l’incertezza sulla previsione del prossimo word embedding. L’allievo esplora queste connessioni, costruisce distribuzioni di probabilità e le sfrutta per produrre nuovi word embedding. In questo modo nascono contenuti mai osservati prima, perfettamente intellegibili dall’occhio umano, credibili e altamente informativi. Così lavorano le reti neurali e i modelli transformer.

Non è necessario che l’allievo comprenda ciò che produce nel senso in cui lo comprende il maestro. La sua forza risiede proprio nella capacità di esplorare uno spazio di possibilità che il maestro, per i propri limiti cognitivi e computazionali, non può percorrere.

Conseguenze pratiche e rischi emergenti

Il risultato può essere una soluzione esatta a un problema matematico rimasto irrisolto per generazioni, oppure una nuova ipotesi biologica, una strategia terapeutica o una previsione economica. In linea di principio, lo stesso paradigma può essere applicato a qualsiasi ambito in cui siano disponibili dati sufficienti e sia possibile valutare la qualità dei risultati.

Tuttavia, il metodo dell’allievo presenta inconvenienti se osservato attraverso le consuetudini umane. Non necessariamente l’allievo comprende ciò che ha generato e il maestro non dispone del tempo per leggere e comprendere tutto ciò che l’allievo produce. Inoltre, sebbene gli errori siano rari rispetto ai risultati corretti, talvolta il contenuto generato è sbagliato. L’errore, quando usato per prendere una decisione, può produrre conseguenze dannose, in ipotesi anche gravi, per alcuni o per tutti.

La distinzione tra maestro e allievo non è esaustiva dei meccanismi dell’IA, ma è una metafora utile per mettere a fuoco due modalità differenti di produzione della conoscenza: la prima procede attraverso la comprensione, la formulazione di congetture e la ricerca di dimostrazioni; la seconda sfrutta la capacità di individuare regolarità e combinazioni accessibili solo mediante una ricerca computazionale su vasta scala.

Implicazioni per la tutela dei diritti d’autore

In questa seconda modalità, ciò che appare come un atto creativo è il risultato di un’esplorazione di relazioni già presenti, in forma più o meno esplicita, nel patrimonio di conoscenze disponibile. Ciò solleva la necessità di tutelare le opere dell’ingegno di chi ha prodotto questo patrimonio, anche per mantenere vivo l’incentivo del maestro a creare nuovi contenuti.

L’effetto del metodo seguito dall’allievo è una situazione mai prima sperimentata per il genere umano: non la scarsità dei risultati, ma la loro abbondanza e la relativa incapacità del maestro, per ragioni legate all’indisponibilità di risorse computazionali e di memoria, di discernere il valore conoscitivo dei risultati.

Regolamentazione e responsabilità

Potremmo trovarci davanti a risultati affidabili che non siamo in grado di ricostruire autonomamente e a un numero di risultati tale da rendere impraticabile una verifica umana individuale. Si pone dunque il problema di come disciplinare la coesistenza tra l’allievo prolifico e potenzialmente molto bravo, ma anche pericoloso, e il maestro saggio ma lento.

Una parte rilevante della regolamentazione dell’intelligenza artificiale si fonda sull’esigenza di mantenere la centralità umana nella decisione. Tale esigenza può tradursi in due obiettivi distinti:

    • evitare che una decisione venga presa sulla base di un processo che l’essere umano non domina;
    • impedire che una decisione dannosa venga adottata senza che un soggetto umano ne sia artefice, possa spiegarla e risponderne.

Entrambi gli obiettivi sono comprensibili, ma possono essere perseguiti in modi che producono conseguenze peggiori del problema che intendono affrontare. Se non ben indirizzati, rischiano di alimentare una burocrazia del controllo: un insieme di passaggi formali che dovrebbero garantire un intervento umano significativo.

Il rischio di una bolla burocratica

Molti degli strumenti introdotti dai nuovi regolamenti europei, ad esempio, possono essere utili e, in determinati contesti, necessari. Il problema nasce quando diventano il surrogato del controllo effettivo. Si costruisce così una bolla nella quale l’organizzazione ritiene di governare il processo perché ne ha regolato formalmente le condizioni.

Il fatto di avere registri, nominato un responsabile o predisposto una procedura di notifica in caso di incidenti non significa essere in grado di comprendere o modificare il procedimento inferenziale. Si controlla il processo burocratico, non necessariamente il fenomeno.

L’essere umano che punta unicamente a essere presente nell’organigramma e a fornire documentazione può progressivamente essere marginalizzato, mentre il sistema di IA continua a generare risultati che sfuggono al controllo cognitivo tradizionale.

Verso una nuova governance dell’IA

Affrontare questa sfida richiede un approccio ibrido: combinare audit tecnico, monitoraggio continuo e responsabilità condivisa. È necessario:

    • definire protocolli di validazione basati su campioni statistici rappresentativi, anziché su verifica individuale;
    • istitire organi di revisione interdisciplinari, capaci di interpretare sia gli aspetti computazionali sia le implicazioni etiche;
    • creare meccanismi di risarcimento rapido per chi subisce le conseguenze di errori automatizzati;
    • promuovere la trasparenza algoritmica, senza però pretendere una completa comprensione umana di ogni output.

Solo così sarà possibile mantenere la centralità umana nelle decisioni critiche, senza cadere nella trappola di un controllo formale che non riesce a catturare la complessità dei sistemi intelligenti.

In conclusione, l’avanzamento dell’IA trasforma il concetto di responsabilità: non si tratta più solo di chi controlla il processo, ma di chi decide gli usi, distribuisce i rischi e garantisce rimedi efficaci. La sfida è costruire istituzioni capaci di gestire l’abbondanza di conoscenza prodotta dalle macchine, preservando al contempo la fiducia della società nella giustizia e nella trasparenza delle decisioni.