Sviluppo di un prototipo di sistema RAG on premise su cluster Docker Swarm

I Large Language Models (LLM) sono modelli di apprendimento automatico progettati per l'elaborazione del linguaggio naturale e trovano una delle loro principali applicazioni nello sviluppo di chatbot. È possibile migliorare le capacità di tali sistemi per un dominio applicativo specifico mediante l'approccio architetturale di Retrieval-Augmented Generation (RAG), che permette al modello LLM di attingere ad una base di conoscenza ulteriore sul dominio in oggetto. L'obiettivo di questa tesi è l'implementazione di un prototipo di sistema RAG che sia realizzato da microservizi containerizzati e dispiegati su più macchine virtuali locali con risorse limitate. A seguito della presentazione delle tecnologie utilizzate, è svolta l'analisi dei requisiti del sistema e sono discusse le scelte effettuate di conseguenza in merito alla distribuzione delle risorse e al dispiegamento dei servizi. Successivamente, è descritto il processo implementativo del sistema, dalla configurazione delle macchine virtuali fino al deployment dei servizi. Infine, sono presentati e commentati i risultati ottenuti.