Metodi numerici per il problema di Dictionary Learning

Il problema di Dictionary Learning (DL) si basa sul concetto matematico di "sparsità" e sull’interesse nel rappresentare i vettori-colonna di una matrice Y, chiamati segnali di training e che costituiscono i dati del problema, come combinazione lineare del più piccolo numero di colonne, chiamate atomi, di una stessa matrice D, detta dizionario. La scelta di quale dizionario utilizzare non è univoca e dipende dal tipo di approccio che si adotta. Nell’approccio classico, la forma del dizionario viene scelta euristicamente sulla base dei dati da rappresentare e può essere determinata, per esempio, ricorrendo a trasformazioni matematiche ricorrenti in teoria dei segnali, come la DCT. Un approccio più moderno, invece, prevede di costruire, o meglio "allenare", il dizionario usando la stessa classe di segnali da approssimare. Il DL è un modello matematico per quest’ultimo approccio. Nonostante risulti più costoso dal punto di vista computazionale, perché la mancanza di una struttura in D non consente di usare algoritmi veloci per la sua creazione, spesso risulta migliore, perché si adatta in maniera automatica ad ogni specifica applicazione, come ad es. nella trattazione di segnali che derivano da immagini digitali e che non possono, in generale, essere generati da sorgenti descrivibili analiticamente. Per questo motivo, oltre ad essere interessante da un punto di vista teorico, a partire dalla fine degli anni ’90 il problema DL ha riscosso un enorme successo. Infatti, è applicabile in numerosi ambiti, che vanno dalla teoria dei segnali al più recente e gettonato image processing. Obiettivo di questo lavoro di tesi è descrivere il problema DL da un punto di vista teorico e numerico, presentando dapprima la sua formulazione matematica ed una serie di algoritmi di ottimizzazione atti a risolverlo numericamente e, successivamente, mostrando e discutendo i risultati ottenuti dall’applicazione di alcuni di questi metodi a dati artificiali e alle immagini digitali.