Per decenni, il libro mastro deterministico e rigido (System of Record) è stato considerato il fondamento inamovibile dei sistemi ERP. Ora, però, il management di SAP, guidato dal CEO Christian Klein, promuove un'era in cui l'interfaccia utente Joule Work, centinaia di agenti KI autonomi (Agentic AI) e il Knowledge Graph sulla piattaforma dati Hana dovrebbero gestire i processi aziendali principali con un intervento umano minimo.

Ai clienti esistenti viene suggerito che la combinazione di Knowledge Graph, consolidamento semantico e orchestrazione autonoma crei una nuova dimensione di efficienza, tracciabilità e conformità automatizzata. Tuttavia, dalla prospettiva di un cliente SAP esistente, sorge la domanda: può esistere una certezza assoluta, una tracciabilità completa e una correttezza dimostrabile in un sistema ERP KI stocastico-autonomo?

I limiti matematici dell'ERP autonomo

La risposta della teoria dell'informazione e dell'epistemologia è chiara: no. La promessa di un mondo operativo KI senza errori entra inevitabilmente in conflitto con le leggi matematiche fondamentali di David Hilbert, Kurt Gödel e Alan Turing.

Per comprendere l'entità del dibattito attuale, è utile guardare al Congresso Internazionale dei Matematici del 1928. Qui, il matematico tedesco David Hilbert formulò il suo famoso programma di ricerca, che mirava a porre tutta la matematica su un fondamento formale inamovibile. Il sogno di Hilbert si basava su tre pilastri:

    • Coerenza: la certezza assoluta che dalle assiomi del sistema non possano mai essere derivate affermazioni contraddittorie.
    • Completezza: la garanzia che ogni affermazione vera all'interno del sistema possa anche essere formalmente dimostrata.
    • Decidibilità (problema della decisione): l'esistenza di un procedimento meccanico (un algoritmo) che, per ogni affermazione arbitraria, decide in un numero finito di passaggi se è vera o falsa.

Il sistema ERP tradizionale, da R/3 a ECC fino a S/4, è stato un tentativo pratico di implementare l'ideale di Hilbert nelle operazioni aziendali. Un ERP classico è un sistema deterministico: regole fisse, chiavi di registrazione, validazioni e database coerenti garantiscono che da un input A, in condizioni identiche, segua sempre il risultato esatto e dimostrabile B.

Le implicazioni per l'ERP moderno

La contabilità generale, la conformità fiscale e la revisione contabile si basano completamente su questa aspettativa deterministica di Hilbert di assenza di contraddizioni. Quando SAP cerca di sostituire gradualmente questo sistema deterministico con agenti KI autonomi, si presuppone erroneamente che il mondo stocastico dell'IA possa integrarsi senza soluzione di continuità nell'ordine meccanizzabile di Hilbert.

Il sogno di David Hilbert si infranse negli anni 1930 e 1931 di fronte al genio del matematico austriaco Kurt Gödel. Con i suoi teoremi di incompletezza, Gödel dimostrò rigorosamente che ogni sistema formale sufficientemente potente, in grado di descrivere l'aritmetica, è o incompleto o incoerente. All'interno di un tale sistema, ci sono sempre affermazioni che sono vere ma che non possono essere né dimostrate né confutate con gli strumenti del sistema.

Per la ricerca moderna sull'IA e l'azienda autonoma SAP, questo teorema ha conseguenze sconvolgenti, chiaramente delineate in recenti lavori scientifici:

    • Le allucinazioni non sono errori di addestramento: il fenomeno delle cosiddette allucinazioni dell'IA, in cui un modello linguistico o un agente genera dati plausibili ma fattualmente errati, non è un bug temporaneo che può essere risolto con più dati di addestramento, GPU più potenti o un numero maggiore di parametri.
    • Incompletezza strutturale (Structural Hallucination): poiché i Large Language Models e gli agenti generativi si basano su teorie di apprendimento formali e modelli di calcolabilità, sono soggetti direttamente ai limiti di Gödel. Non appena un sistema KI è abbastanza complesso da prendere decisioni autonome sui processi aziendali, possiede matematicamente punti ciechi inevitabili.
    • Nessuna macchina della verità senza errori: un'IA che lavora in modo stocastico non può raggiungere fisicamente e matematicamente una probabilità di errore o di guasto esattamente pari a zero. Chi afferma che un agente KI opera nel libro mastro produttivo con "certezza assoluta" ignora le leggi fondamentali dell'informatica teorica.

Ciò che Gödel ha dimostrato per la logica matematica, Alan Turing lo ha trasferito nel 1936 con la sua costruzione matematica della macchina di Turing all'informatica e alla teoria della calcolabilità. Turing ha dimostrato l'impossibilità del problema dell'arresto: non può esistere un algoritmo universale che, per ogni programma informatico arbitrario e ogni input arbitrario, decida in anticipo se il programma si fermerà mai o rimarrà intrappolato in un loop infinito.

Se si applica la dimostrazione di Turing alla SAP Autonomous Suite e all'interazione di architetture di agenti multi-livello (Agent2Agent), si rivela il rischio operativo per il CFO e il responsabile dell'IT:

    • Un insieme di agenti KI autonomi che confrontano offerte, riorganizzano le catene di approvvigionamento o rilasciano pagamenti oltre i confini del sistema forma un sistema complesso e dinamico. È matematicamente impossibile garantire a priori, attraverso un algoritmo di verifica sovraordinato, che una rete di agenti autonomi termini correttamente in ogni stato operativo immaginabile e non esegua mai transazioni errate o dannose.
    • Il paradosso della trasparenza: mentre il codice ABAP tradizionale può essere ricostruito forensicamente riga per riga nel debugger, il ragionamento dei Large Language Models si basa su vettori ad alta dimensionalità (vedi anche il motore vettoriale sulla piattaforma dati Hana) e pesi statistici (vedi anche i modelli LLM a pesi aperti).
    • La decisione di un agente è registrabile ex post, ma non dimostrabile ex ante nel senso di Turing!

SAP è probabilmente consapevole di questa problematica a livello architettonico e dovrebbe cercare di contrastare l'incertezza stocastica dei modelli linguistici con un ancoraggio matematico-strutturale: il SAP Knowledge Graph. Costruito sull'In-Memory-Graph-Engine di Hana Cloud e su standard internazionali W3C come RDF, SPARQL e OWL, il Knowledge Graph traduce i sette milioni di campi di dati criptici e le relazioni complesse delle tabelle ERP relazionali in un'ontologia leggibile dalla macchina.

Il SAP Knowledge Graph dovrebbe agire come un traduttore semantico. Se l'assistente KI Joule o un agente autonomo elabora una richiesta, consulta il Knowledge Graph per ottenere le entità aziendali esatte (ad esempio, cliente, ordine, impianto, fornitore) e delimitare il contesto.

Attraverso questo accoppiamento di grafici di conoscenza e generazione di testo (GraphRAG), SAP dovrebbe effettivamente riuscire a ridurre drasticamente il tasso di errore rispetto ai modelli LLM puri. Le interrogazioni sul grafo forniscono relazioni di dati deterministiche. Tuttavia, anche il SAP Knowledge Graph non può superare i limiti matematici di Gödel e Turing. Fornisce una mappa perfetta dei metadati esistenti, ma non appena l'agente KI prende una decisione probabilistica, una previsione o una decisione complessa multi-hop su questa base, rientra in gioco l'incertezza stocastica del modello linguistico.

Se, inoltre, la base di dati master sottostante è incompleta o contiene errori, anche il Knowledge Graph può portare a decisioni errate. Pertanto, nonostante i progressi, l'integrazione dell'IA nei sistemi ERP rimane una sfida complessa che richiede un'attenta considerazione dei limiti matematici e delle implicazioni pratiche.