Velocità senza rotta: il rischio di un’AI mal indirizzata
Immaginate di salire su un’auto nuova, molto più potente della vecchia. Accelera in pochi secondi, consuma meno, ha un navigatore che calcola il percorso in un istante. C’è solo un dettaglio: la destinazione impostata è sbagliata. Il risultato? Arrivate nel posto sbagliato, ma molto prima di quanto avreste fatto con la vecchia utilitaria.
Con l’intelligenza artificiale nella Pubblica Amministrazione rischia di succedere esattamente questo.
Pensiamo a un Comune che decide di “fare AI”. Mette in piedi un chatbot sul sito istituzionale: funziona, risponde a qualsiasi ora, il fornitore presenta report con migliaia di conversioni gestite. Tutto bene. Poi il lunedì mattina si passa davanti allo sportello anagrafe e la coda è identica a quella di prima. Perché le domande a cui il chatbot risponde benissimo non erano quelle che generavano la coda.
Il progetto è riuscito. Il problema è rimasto. E nessuno, sulla carta, ha sbagliato qualcosa.
Processi, persone, dati: la prima triade
Negli ultimi due anni un messaggio è finalmente passato: prima dell’AI vengono i processi, le persone e i dati. Lo si sente in ogni convegno, in ogni tavolo tecnico, in ogni presentazione di progetto. Nessuno oggi si azzarderebbe a dire il contrario.
È un progresso vero. Fino a poco tempo fa si partiva dalla demo del fornitore e si cercava un problema a cui applicarla. Oggi almeno la sequenza corretta è chiara a tutti.
Ma dirlo non è farlo. Lavorando con decine di comuni, vedo processi mappati raramente, dati sparsi in gestionali che non si parlano, formazione distribuita a macchia di leopardo. Il primo livello è stato capito a parole, molto meno nella pratica.
Il quarto elemento mancante: la direzione
Eppure c’è un punto più sottile. Anche l’ente che ha fatto bene i compiti su processi, persone e dati può sbagliare tutto. Perché manca un quarto elemento, che quasi nessuno nomina: dove si vuole andare.
L’AI ha un effetto molto concreto: abbassa drasticamente il costo dell’esecuzione. Una bozza di determina, un’analisi dei dati di protocollo, un report per la giunta, la riscrittura di una procedura: attività che richiedevano giorni oggi richiedono ore, a volte minuti.
L’effetto di secondo ordine è meno visibile. Quando una cosa costa poco, se ne fa di più. Più documenti, più report, più progetti pilota, più sperimentazioni. L’output cresce in modo vistoso. Ma l’output non è l’impatto: un Comune che produce il triplo dei report non serve meglio i cittadini per questo.
Obiettivi deboli e l’effetto Goodhart
Fino a ieri la scarsità di risorse era un filtro naturale. Non potendo fare tutto, eravamo costretti a scegliere, magari male, ma a scegliere. Con l’AI quel filtro si allenta. E se non lo sostituiamo con un filtro esplicito, cioè con obiettivi chiari, ci ritroviamo con tanta attività e poco cambiamento.
Il collo di bottiglia si sposta: dall’esecuzione alla direzione. Scaricare tutta la potenza di fuoco dell’AI nella direzione sbagliata significa fare passi da gigante in direzioni inutili. E più la potenza cresce, più costa sbagliare mira.
L’obiezione è prevedibile: la PA ha già gli obiettivi. C’è il ciclo della performance, il PIAO introdotto dal DL 80/2021, che dovrebbe tenere insieme performance, fabbisogni di personale, formazione, anticorruzione, digitalizzazione.
Ma i PIAO contengono obiettivi di attività, non di risultato. “Attivare il servizio X entro dicembre” o “realizzare N corsi di formazione” misurano il fatto, non quello che è realmente migliorato. Il sistema premia l’adempimento formale, e l’AI rende questo schema ancora più fragile.
OKR: un metodo più efficace
Qui entrano in gioco gli OKR, Objectives and Key Results, nati in Intel e resi celebri da Google. L’idea è semplice, la pratica molto meno.
A questo schema conviene aggiungere un quarto elemento, spesso trascurato: i rischi. Cosa può impedirci di raggiungere il risultato? Dati che non abbiamo, competenze mancanti, effetti indesiderati su alcune fasce di cittadini.
Esempio pratico: il Comune del chatbot.
- Obiettivo: rendere i servizi anagrafici accessibili senza fare la coda.
- Risultati chiave: ridurre il tempo medio di attesa allo sportello rispetto al valore attuale, aumentare la quota di certificati ottenuti online, ridurre le telefonate di sola richiesta informazioni.
- Rischi: tempi di attesa mai misurati finora, personale non formato sui nuovi canali, cittadini anziani esclusi dal digitale.
- Iniziative: prenotazione online, revisione degli orari, comunicazione mirata, assistente AI di supporto.
Il chatbot può tornare in scena, ma cambia ruolo: non è più l’obiettivo, è uno strumento al servizio di un risultato misurabile. E se dopo tre mesi non muove i numeri, si corregge o si ferma.
Le trappole delle metriche facili
La legge di Goodhart ricorda che quando una misura diventa un obiettivo, smette di essere una buona misura. Con l’AI il rischio si amplifica: ottimizza in fretta qualsiasi cosa le si chieda di ottimizzare. Se il risultato chiave è “numero di conversazioni del chatbot”, le conversazioni aumenteranno, ma serviranno a qualcosa?
Spesso si cade nella scorciatoia delle metriche facili: si misura ciò che è comodo da contare invece di ciò che conta. Accessi al portale invece di pratiche concluse, corsi erogati invece di competenze acquisite.
Tre abitudini per un’AI efficace
Non serve un nuovo piano né un nuovo documento da approvare entro una scadenza. Servono tre abitudini:
- Integrare gli OKR con il PIAO, rendendoli il motore operativo trimestrale.
- Definire risultati chiave realmente legati all’impatto sui cittadini.
- Identificare e monitorare i rischi, correggendo rapidamente le iniziative inefficaci.
Gli OKR non devono diventare un documento parallelo al PIAO, ma il suo motore operativo. Il PIAO dice cosa l’ente si impegna a fare nell’anno; gli OKR, con cadenza trimestrale, dicono se lo sta facendo davvero e cosa va corretto.
Conclusioni: dalla potenza all’impatto
Per anni ci siamo chiesti se la PA fosse pronta per l’AI. Poi abbiamo capito che la domanda giusta era: sono pronti i processi, le persone, i dati? Ora la domanda si sposta ancora: sappiamo dove vogliamo andare?
In un mondo in cui eseguire costa sempre meno, la capacità che vale di più è scegliere. Scegliere cosa fare e, soprattutto, cosa non fare. L’analisi, la definizione degli obiettivi, dei rischi e delle iniziative non sono un esercizio da manuale di management: sono il punto in cui si decide se la potenza dell’AI produrrà valore pubblico o solo rumore.
Il prossimo livello da osservare con attenzione, quindi, non è quante amministrazioni avranno progetti di AI, ma quante avranno meno errori, meno attività inutili e più risultati concreti per i cittadini.