Prompt hacking per la disinformazione politica: strategie di attacco e di difesa

Il 2024 rappresenta una delle annate elettorali più importanti degli ultimi decenni: oltre due miliardi di persone (più della metà della popolazione adulta mondiale) saranno chiamate alle urne nei prossimi mesi per votare. È esattamente in periodi come questi che la disinformazione tende a diffondersi più agevolmente. I processi democratici sono costantemente minacciati dalle fake news, che ultimamente stanno circolando in rete con facilità disarmante grazie anche all’utilizzo improprio di strumenti dotati di intelligenza artificiale. Secondo il Global Risk Report 2024, proprio la combinazione di disinformazione e intelligenza artificiale costituisce il maggior rischio nel breve termine. In particolare, gli esperti intervistati si interrogano sulla sicurezza dell’IA, data la presenza di alcune tipologie efficaci di attacco, come il prompt hacking. A tal proposito, questo studio vuole testare l’efficacia delle tecniche di prompt injection nella creazione di disinformazione in ambito politico, per capire meglio le vulnerabilità dei LLM e poter suggerire delle possibili contromisure. Oltre l’analisi dei risultati ottenuti e le relative considerazioni sulle strategie difensive, è previsto, in questo elaborato, anche un caso di studio per mettere alla prova le potenzialità dell’intelligenza artificiale nella creazione di una vera campagna di disinformazione nei confronti di un personaggio politico.