Progettazione e sviluppo di un framework per la valutazione di sistemi di deepfake detection di immagini

Negli ultimi anni, l'evoluzione del deep learning ha rivoluzionato la generazione automatica di contenuti digitali, rendendo possibile la creazione di deepfake sempre più realistici. Sebbene questa innovazione apra nuove opportunità creative, comporta anche gravi rischi di manipolazione dell’informazione, rendendo imprescindibile lo sviluppo di sistemi di deepfake detection affidabili. Questa tesi si concentra sulle difficoltà legate alla rilevazione dei deepfake, proponendo un benchmark innovativo per misurare l'efficacia dei sistemi di rilevamento, con l’obiettivo di fornire uno strumento standardizzato e replicabile per il confronto delle prestazioni dei modelli di classificazione applicati sia a immagini sintetiche che reali. Il lavoro è suddiviso in diverse sezioni, a partire da un'analisi approfondita delle principali categorie di modelli generativi, come le Generative Adversarial Network, gli Autoencoder e i Diffusion Model, sottolineando i vantaggi e le criticità di ciascuno. Successivamente, viene trattato il tema del riconoscimento delle immagini sintetiche, esaminando le loro peculiarità, come artefatti visivi e pattern di compressione, che le distinguono dalle immagini naturali. Infine, viene presentato il benchmark completo che integra un database eterogeneo di immagini reali e sintetiche, supportato da tecniche di data augmentation e valutato tramite apposite metriche. I risultati dei modelli di classificazione valutati evidenziano la necessità di aggiornare costantemente i dataset e perfezionare le tecniche di classificazione per far fronte all’evoluzione delle tecnologie di generazione.