Analisi delle Vulnerabilità dei Chatbot basati su Large Language Models

Questa tesi affronta il tema della sicurezza nelle applicazioni basate su LLM. Nel dettaglio vengono affrontati i seguenti temi: - Integrazione degli AI Agents nel Web: una descrizione sul come le vulnerabilità introdotte dagli AI Agents si integrano con le classiche vulnerabilità web. Vengono riportate le differenze di approccio richieste dalla GenAI cybersecurity rispetto alla cybersecurity classica. Inoltre, vengono trattati alcuni aspetti introduttivi relativi alle vulnerabilità dei chatbot con LLM integrato. - Una Panoramica sulla Sicurezza degli LLM: fornisce una panoramica completa sui possibili approcci di attacco, sulle strategie di difesa e sui vari metodi di valutazione, focalizzati sulla sicurezza delle conversazioni con un LLM. - Vulnerabilità degli LLM: in cui vengono descritte alcune delle vulnerabilità più note, ad oggi, presenti negli AI Agents. Sono, inoltre, forniti esempi pratici di scenari di attacco insieme a strategie e tecniche per mitigarli. - Automatizzare la Ricerca di Vulnerabilità: un’analisi su come automatizzare la ricerca di vulnerabilità utilizzando tecniche di LLM Red Teaming, evidenziando anche i limiti ad esse correlati. - Conclusioni: si discute lo stato dell’arte relativo ai chatbot dotati di intelligenza artificiale, ponendo enfasi sulla direzione intrapresa nel settore e sui possibili sviluppi futuri. In generale, l’obiettivo è quello di esplorare i concetti fondamentali legati ai Large Language Models e alla Generative AI dal punto di vista della sicurezza informatica, affrontando gli argomenti da diverse prospettive e fornendo una guida chiara e approfondita per coloro che desiderano comprendere le vulnerabilità e le strategie di protezione ad esse associate.