Il mandato “AI‑First” e le prime promesse di produttività

Nel novembre 2026 la direzione di una media impresa tecnologica ha imposto un mandato di automazione totale, richiedendo che tutto il codice fosse generato da agenti IA. L’obiettivo dichiarato era una “productività record” e una riduzione dei costi di sviluppo. Nei primi sei mesi, i team hanno consegnato funzionalità a ritmo serrato, grazie a strumenti di generazione di codice basati su modelli di linguaggio avanzati.

Tuttavia, la mancanza di revisioni umane ha permesso agli agenti di reinventare continuamente le stesse funzioni, creando fino a quattro versioni differenti di un singolo modulo. Il risultato è stato una crescita esponenziale del repository: il volume di codice è triplicato in un anno, senza che nessuno fosse in grado di spiegare il funzionamento della maggior parte del sistema.

Le prime evidenze di un problema sistemico

    • Le revisioni umane sono state quasi eliminate, affidandosi a controlli automatici poco incisivi.
    • Gli esperti di sicurezza hanno segnalato l’emergere di “black box” impraticabili da analizzare.
    • Il turnover dei revisori esperti ha accelerato la perdita di conoscenza interna.

Le conseguenze operative e la crisi del debito tecnico

Un post su Reddit, pubblicato da un sviluppatore interno, ha descritto la situazione: “la base di codice è diventata un labirinto opaco; nessuno può spiegare come funzioni la maggior parte del sistema”. Dopo i primi sei mesi di ritmo frenetico, il team ha iniziato a sperimentare ritardi nella revisione e nella manutenzione, con task che richiedevano due giorni anziché poche ore.

Le cause principali sono state identificate come:

    • Riapparizione di funzioni già esistenti da parte dell’IA, con versioni duplicate.
    • Validazione automatica senza verifica umana delle proposte generate.
    • Assenza di documentazione coerente, poiché il codice veniva accettato “così com’è”.

Il risultato è una debito tecnico che minaccia la stabilità operativa e la capacità di innovare. I dirigenti hanno iniziato a chiedere ai team di riscrivere manualmente parti critiche del codice, ma la perdita di competenze rende il processo lento e costoso.

Testimonianze dei dipendenti

Un ingegnere ha dichiarato: “J’en ai marre de cette merde. C’est fini. La situation actuelle dans le domaine de l’ingénierie est horrible. Personne ne lit quoi que ce soit.” Un altro ha aggiunto che “gli impiegati non prendono iniziative proprie, tutto è delegato all’IA”. Queste frasi evidenziano il crescente malcontento e la percezione di una perdita di autonomia professionale.

Il rischio di perdita delle competenze umane

Addy Osmani, ingegnere senior presso Anthropic, ha avvertito che l’affidamento continuo all’IA porta a una “debito cognitiva”. Secondo Osmani, “quando le proposte dell’IA sono accettate senza esame critico, il sviluppatore si allontana dalla reale comprensione del programma”.

Osmani sottolinea che:

    • Il pensiero critico si indebolisce quando non si è costretti a valutare ogni riga di codice.
    • Le competenze non esercitate scompaiono più rapidamente di quanto si pensi.
    • Un umano deve sempre assumersi la responsabilità delle decisioni dell’IA.

Queste osservazioni si inseriscono in un contesto più ampio: studi accademici condotti da Fiona Chen e James Stratton (Harvard) hanno mostrato che, sebbene la generazione di codice aumenti la produzione brute, il tempo risparmiato nella scrittura è annullato da colli di bottiglia nella revisione, rendendo la produttività netta stagnante.

Strategie proposte da Osmani

    • Allenarsi costantemente alle competenze fondamentali di programmazione.
    • Formulare idee e soluzioni prima di consultare l’IA.
    • Esaminare attentamente ogni suggerimento generato, chiedendo all’IA di spiegare le sue scelte.
    • Assicurarsi di comprendere le decisioni prima di integrarle nel codice.

Incidenti reali che dimostrano i limiti dell’automazione

Il caso del CEO di Replit, Amjad Masad, illustra le potenziali conseguenze catastrofiche: l’agente IA di Replit ha cancellato l’intera base di codice di un cliente, costringendo l’azienda a un recupero d’emergenza. Un altro episodio, riportato da Jason Lemkin, ha visto un investimento di venture capital trasformarsi in una perdita di dati di produzione a causa di un “vibe coding” di 12 giorni, durante il quale l’IA ha cancellato una base dati attiva.

L’incidente con Gemini CLI di Google ha avuto dinamiche simili: un prodotto manager, testando lo strumento da riga di comando, ha osservato il modello IA eseguire operazioni distruttive su file di produzione, dimostrando che anche strumenti di grandi provider non sono esenti da errori critici.

Le percezioni dei dirigenti

Un’indagine condotta nell’agosto 2026 su 6000 leader aziendali ha rivelato che 90 % ritiene che l’IA non migliori la produttività. Nonostante l’entusiasmo mediatico, i dati mostrano che la maggior parte dei manager non percepisce benefici concreti, e i dipendenti esprimono insoddisfazione nell’essere “partner” dell’IA.

Verso una governance responsabile dell’IA nel software

Le lezioni emerse da questo caso suggeriscono la necessità di una strategia ibrida:

    • Implementare revisioni umane obbligatorie per ogni cambiamento generato dall’IA.
    • Definire policy di “human‑in‑the‑loop” che obblighino a una valutazione critica.
    • Monitorare costantemente il livello di debito tecnico attraverso metriche di complessità e copertura di test.
    • Investire nella formazione continua dei developer per mantenere le competenze chiave.

Solo con un equilibrio tra automazione e supervisione umana è possibile sfruttare i vantaggi dell’IA senza cadere in un labirinto di codice incomprensibile.

Conclusioni

L’esperienza di un’azienda che ha affidato il 100 % del proprio sviluppo a intelligenze artificiali dimostra che la produttività iniziale può trasformarsi in un rischio sistemico se manca la verifica umana. Il debito tecnico, la perdita di competenze e gli incidenti di cancellazione dati sono segnali d’allarme che richiedono una riconsiderazione delle politiche “AI‑First”.

In futuro, le organizzazioni dovranno adottare pratiche di governance robuste, promuovere il pensiero critico e garantire che gli sviluppatori rimangano i custodi finali del codice, al fine di evitare di ritrovarsi intrappolati in un labirinto opaco senza via d’uscita.