Metodologie di attacco ai Large Language Models

Negli ultimi anni, i Large Language Model (LLM) hanno rappresentato una rivoluzione nell’elaborazione del linguaggio naturale grazie alle loro capacità generative e alla comprensione del contesto. Tuttavia questi modelli sono vulnerabili a diversi tipi di attacchi che possono comprometterne la sicurezza e l’affidabilità. Questo studio vuole formalizzare il concetto degli attacchi ai Large Language Model dando una caratterizzazione matematica al problema. Gli esperimenti condotti dimostrano la facilità con cui tali attacchi possono manipolare il comportamento del modello, evidenziando rischi per l’integrità e la sicurezza per i proprietari e gli utilizzatori. Questa tesi, inoltre, affronta ed esplora le principali metodologie di attacco ai LLM sperimentando approfonditamente le tecniche di Prompt Injection e Data Poisoning.