Robustezza dei sistemi di watermarking per immagini generate

La diffusione di modelli generativi ad alta fedeltà ha reso urgente lo sviluppo di sistemi capaci di verificare la provenienza delle immagini sintetiche. Per affrontare questo problema sono stati sviluppati sistemi di watermarking neurale invisibile, integrati nella pipeline di generazione o applicati immediatamente dopo la sintesi, la cui robustezza agli attacchi di rimozione resta ancora poco caratterizzata in modo sistematico. Questa tesi analizza due sistemi rappresentativi dello stato dell'arte: SynthID di Google DeepMind, il cui funzionamento è modellato, secondo il reverse engineering disponibile, mediante una chiave di fase fissa, e PixelSeal di Meta, che incorpora il watermark come residuo additivo appreso nel dominio dei pixel. Per ciascun sistema si valuta una strategia di rimozione differente. Per SynthID si impiega la pipeline di rimozione proposta da reverse-SynthID, di cui si misura l'efficacia sul dataset sperimentale. Per PixelSeal si addestra una rete U-Net di denoising in due configurazioni, con e senza un termine avversariale derivato dal detector non aggiornato durante l'addestramento; la sua robustezza è inoltre valutata, in modo indipendente, attraverso una batteria di attacchi tradizionali. I risultati mostrano che entrambi i sistemi mostrano un'elevata robustezza. SynthID risulta ampiamente resistente sulle immagini generate esclusivamente dal prompt testuale, mentre evidenzia una riduzione della robustezza sulle immagini generate anche da un'immagine di riferimento. PixelSeal mantiene prestazioni elevate sulla quasi totalità degli attacchi tradizionali e resiste all'attacco neurale, conservando una bit accuracy media nettamente sopra la soglia di affidabilità del recupero del payload. L'analisi evidenzia come l'aumento dell'efficacia degli attacchi tende ad accompagnarsi a un costo visivo non trascurabile, delineando un equilibrio tra robustezza e impercettibilità osservato nei sistemi esaminati.