Progettazione e sviluppo di un chatbot basato su tecniche RAG per la divulgazione di informazioni sulle specie marine

Il presente lavoro descrive la progettazione, l'implementazione e la valutazione comparativa di un chatbot basato su architettura Retrieval-Augmented Generation (RAG) per la divulgazione di informazioni sulle specie marine dei mari italiani, sviluppato nell'ambito dell'applicazione FinSpot. L'adozione dell'architettura RAG risponde alla necessità di vincolare le risposte del sistema a una base documentale verificata, al fine di ridurre il rischio di allucinazioni tipico dei modelli linguistici standalone. Il sistema è stato realizzato interamente in ambiente locale tramite LlamaIndex, Ollama, ChromaDB e Streamlit. Sono state sviluppate tre varianti del chatbot con diverse combinazioni di modelli di embedding e Large Language Model: nomic-embed-text con Phi-3 mini, mxbai-embed-large con Qwen 2.5, e mxbai-embed-large con Phi-3 mini. La valutazione è stata condotta su dieci domande di test attraverso cinque metriche pesate: tempo di risposta, aderenza documentale, identificazione della specie, completezza e gestione del contesto. La configurazione nomic-embed-text e Phi-3 mini si è rivelata la soluzione ottimale, dimostrando che configurazioni teoricamente superiori non garantiscono necessariamente i migliori risultati quando velocità e risorse computazionali costituiscono vincoli fondamentali.