Metodologia e risultati generali
Abbiamo testato lo stesso workflow di pianificazione viaggi, composto da cinque agenti (parser, ricerca voli, report meteo, consigli attività e pianificatore finale), su 13 framework di orchestrazione agente e ripetuto ogni esecuzione 100 volte, per un totale di 1 300 run.
Tutti i framework hanno completato con successo il compito in 100 esecuzioni ciascuno. Tuttavia, le metriche di latenza e utilizzo di token variano notevolmente:
- LangGraph è risultato 2,2 volte più veloce di CrewAI.
- LangChain e AutoGen hanno mostrato differenze di 8‑9 volte nell’efficienza dei token rispetto a CrewAI.
Queste discrepanze riflettono decisioni architetturali fondamentali su come ogni framework orchetra i flussi di lavoro multi‑agente, instrada i messaggi, gestisce lo stato e coordina i trasferimenti tra agenti.
Analisi fase per fase del ciclo di vita degli agenti
Agente parser
L’agente parser effettua una semplice estrazione di testo con complessità minima. In tutti i framework la latenza è quasi identica, indicando che la fase di parsing non è un fattore discriminante.
Agente di ricerca voli
Qui emergono differenze significative sia in latenza sia in consumo di token. L’agente utilizza l’API di ricerca voli e presenta una “brezza agente‑strumento”, ossia il tempo intercorso tra l’avvio dell’agente e la chiamata effettiva allo strumento.
Nel caso di CrewAI, 5 secondi dei 9 secondi totali di latenza sono attribuibili a questa brezza. Altri framework, come LangGraph, LangChain e AutoGen, mostrano chiamate quasi istantanee (meno di un millisecondo).
Agente reportero meteo
Il pattern di latenza e consumo di token rispecchia quello del ricercatore di voli, confermando che la “brezza agente‑strumento” è il principale colpevole delle variazioni di performance.
LangChain: gestione della memoria
LangChain genera più token e latenza rispetto agli altri framework, eccetto CrewAI. Questo perché conserva l’intero storico della conversazione e i passaggi intermedi, creando un sovraccarico nei workflow multi‑agente.
LangGraph: architettura basata su grafi
LangGraph si distingue per la rapidità e il minimo utilizzo di token. Trasmette solo i deltai di stato necessari tra i nodi, evitando la ripetizione di interi storici conversazionali, riducendo così sia i token sia la latenza.
Performance degli agenti di attività e pianificazione
Agente di attività
Quando non vengono invocati strumenti, tutti i framework convergono su latenza compresa tra 6‑8 secondi e consumo di token tra 650‑744. La variazione è dovuta quasi esclusivamente al tempo di generazione del LLM, con un overhead di orchestrazione trascurabile.
Agente pianificatore di viaggi
Questo agente sintetizza i risultati dei quattro agenti precedenti (parser, ricerca voli, meteo, consigli attività). La gestione del contesto da parte dei framework mette in luce differenze architetturali:
- CrewAI passa l’intera uscita di ogni agente al pianificatore tramite parametri di contesto, fornendo al LLM tutti i token prodotti più la descrizione del compito. Il risultato è un itinerario dettagliato di 5 339 token.
- LangChain comprime o riassume le uscite intermedie, riducendo la verbosità. L’output finale è di 3 187 token, più conciso ma ancora sostanzioso.
- AutoGen adotta una strategia simile, con un risultato di 3 316 token.
- LangGraph utilizza i delta di stato tra nodi, ottenendo l’output più efficiente di 2 589 token.
Queste scelte influiscono direttamente sulla quantità di dati che il modello deve processare, determinando latenza e costi.
La brezza agente‑strumento: cause e implicazioni
La “brezza agente‑strumento” è il tempo tra la ricezione del compito da parte dell’agente e l’invocazione effettiva dello strumento. In CrewAI, la brezza di 5 secondi nel ricercatore di voli è dovuta a un processo di deliberazione interno, dove l’agente ragiona prima di chiamare get_flights.
CrewAI non offre la possibilità di disattivare questa deliberazione, mentre LangGraph, LangChain e AutoGen eseguono chiamate dirette, riducendo la brezza a meno di un millisecondo.
LangChain e LangGraph supportano agenti in stile ReAct (Thought → Action → Observation). Il “Thought” è una generazione testuale interna al LLM e non costituisce un ciclo di deliberazione separato; i token generati sono inclusi nella singola chiamata al modello.
Tempi di transizione tra agenti
Abbiamo misurato la latenza media tra la fine di un agente e l’avvio del successivo su 100 esecuzioni. Le differenze risultano trascurabili a livello di millisecondi. Ciò indica che le architetture dei framework influenzano soprattutto:
- l’esecuzione delle chiamate a strumenti;
- la gestione del contesto e della memoria.
Il tempo dedicato al passaggio tra agenti è quasi irrilevante.
Cos’è l’orchestrazione agente‑centric?
L’orchestrazione agente‑centric coordina agenti IA autonomi all’interno di un sistema unificato per completare compiti complessi e strutturati su più domini. Essa consente a più agenti di collaborare come un team virtuale, dove:
- alcuni agenti raccolgono dati;
- altri li analizzano;
- pochi eseguono decisioni operative.
La layer di orchestrazione garantisce comunicazione, pianificazione delle attività e cooperazione efficace.
Orchestrazione vs automazione tradizionale
A differenza degli script di automazione statici, l’orchestrazione agente‑centric sfrutta modelli generativi di IA per adattarsi al contesto, riducendo al minimo l’intervento umano e garantendo un’esecuzione fluida in sistemi eterogenei.
Pattern di orchestrazione agente
I pattern di orchestrazione si distinguono per il modo in cui gli agenti sono coordinati:
- Pattern gerarchico: un singolo agente manager o router assegna compiti, controlla il flusso di lavoro e assicura il raggiungimento degli obiettivi. Il manager funge da “cervello” centrale.
- Pattern peer‑to‑peer: elimina il punto di controllo unico; più agenti interagiscono direttamente, completando insieme compiti complessi. Questo aumenta resilienza e flessibilità collaborativa.
Entrambi i pattern hanno implementazioni specifiche nei framework analizzati; ad esempio, CrewAI utilizza un modello più gerarchico, mentre LangGraph favorisce un approccio peer‑to‑peer basato su grafi.
