BlenderBot 2.0: Studio e Modellazione di un Chatbot basato su Transformers

I Transformers hanno raggiunto lo stato dell’arte in qualsiasi ambito del Natural Language Processing (NLP) e del Natural Language Understanding (NLU), in questo lavoro di tesi è stata studiata l’architettura originale e alcune delle migliorie apportate a questa nel corso degli ultimi anni. In una seconda fase è stato studiato un Chat Bot rivoluzionario reso pubblico nel Luglio del 2021, chiamato Blender Bot 2.0. Questo bot di Facebook è sia capace di sfruttare una memoria a lungo termine facilmente estendibile e sostituibile per immagazzinare informazioni sui propri interlocutori e sul mondo esterno, sia di effettuare ricerche online quando posto di fronte a quesiti di cui non è sicuro di conoscere la risposta. Il tutto è stato osservato non solo in termini di qualità dei risultati generati dai modelli, ma anche da un punto di vista di risorse impiegate. L’obiettivo è stato quello di minimizzare il consumo di memoria e il tempo necessario per addestrare i modelli, in modo da poter rendere accessibili le loro abilità su larga scala anche in presenza di hardware economici, diminuendo conseguentemente i costi per chiunque voglia farci affidamento; un grande passo per singoli individui appassionati, ma soprattutto per aziende interessate ad impiegarli in un contesto produttivo.