Cheshire Cat AI: framework per la creazione di chatbot specializzati

L’uso dei chatbot basati su Large Language Models (LLM) sta rivoluzionando il mondo del lavoro. La creazione di assistenti virtuali specializzati in un singolo compito risulta fondamentale per ricoprire la ”coda lunga”, ovvero casi d’uso ampiamente specifici. Questo studio mira ad analizzare le metodologie allo stato dell’arte per la verticalizzazione degli LLM, confrontandone aspetti negativi e positivi. Le soluzioni attualmente disponibili richiedono specialisti, spesso rendendo il processo costoso. Tuttavia, progetti come il Cheshire Cat AI permettono di modificare il comportamento standard di un modello implementando plugin specifici. È stata analizzata l’architettura del framework ed è stato codificato un plugin, per dimostrarne la semplicità d’uso. Gli sviluppatori del Cheshire Cat AI prevedono l’implementazione della multimodalità e la riduzione delle allucinazioni attraverso l’uso di Knowledge Graphs. Inoltre, essendo il progetto open source, è possibile contribuire al core, oppure caricare i propri plugin nel registro pubblico. Il plugin ccat_groups realizzato per lo studio è disponibile e può essere installato facilmente.