Architetture multi-agent in ambito enterprise: studio e prototipazione di un framework modulare per agenti AI

Questa tesi propone e valuta un’architettura enterprise-oriented per sistemi AI multi-agente basati su LLM, centrata su due capability trasversali: un Model Gateway (in Go) per l’instradamento/normalizzazione delle invocazioni e un Catalog per la gestione dei metadati dei modelli (capacità, versioni, mapping ruolo↔modello), oltre ad altre implementazioni di moduli ritenuti fondamentali per la creazione di un MVP dell’architettura. Le componenti sono integrate in una demo multi-agente sviluppata con Agno (Python), con Recupero di Conoscenza (RAG) su PostgreSQL/pgvector, in cui due agenti specializzati cooperano su una KB condivisa. La valutazione sperimentale confronta due pipeline (con e senza Gateway): test end-to-end su AWS App Runner tramite Gatling e analisi locale dei tempi RAG/tool. I risultati mostrano assenza di overhead significativo introdotto dal Model Gateway; in diversi casi si osserva una lieve riduzione della latenza mediana/p50 rispetto all’accesso diretto, pur a fronte di funzionalità aggiuntive (routing, osservabilità, tracciamento costi). I tempi per-call del RAG risultano sostanzialmente equivalenti; le differenze di durata complessiva per run sono spiegate dal numero di ricerche effettuate dagli agenti e dal costo del primo retrieval, confermando la natura non deterministica delle pipeline LLM+RAG. I contributi includono: (i) schema architetturale e tassonomia delle capability, (ii) implementazione di Model Gateway e Catalog e degli altri moduli citati, (iii) demo multi-agente con RAG, (iv) metodologia di misura E2E e per segmento. Tra gli sviluppi futuri: Prompt Lifecycle Manager, Policy & Governance Engine (routing adattivo, fallback, budget), osservabilità end-to-end con OpenTelemetry, ottimizzazioni RAG (ANN, caching, re-ranking) e benchmark su scala. Nel complesso, il Gateway abilita model agnosticism e governance senza sacrificare le prestazioni, offrendo una base concreta per la produzione.