Low-rank matrix factorization: from linear to nonlinear models

Il presente lavoro è la rielaborazione dello studio condotto durante un tirocinio della durata di tre mesi, che ha avuto luogo presso la Facultè Polytechnique di Mons in Belgio. La tesi tratta in dettaglio e amplia l'articolo G. Seraghiti, A. Awari, A. Vandaele, M. Porcelli and N. Gillis, "Accelerated Algorithms for Nonlinear Matrix Decomposition with the ReLU function", MLSP 2023, 17-20 September, 2023, Rome. Lo stage si inserisce all'interno di un progetto europeo ERC dell'Università di Mons, coordinato dal Prof. Nicolas Gillis. Il tema principale del progetto riguarda lo studio di modelli per la decomposizione di matrici mediante altre matrici di rango più basso. Tale problema è ricorrente in molte applicazioni tra cui la compressione di dati, la rimozione del rumore da immagini o segnali e nell'ambito del machine learning. Un esempio di tale decomposizione è la ben nota NMF (Nonnegative Matrix Factorization), trattata nel capitolo due del presente lavoro, la quale approssima la matrice contenente i dati con fattori non negativi. La NMF sfrutta l'ipotesi di linearità tra le variabili del modello approssimante. Abbandonando questa ipotesi e inserendo una funzione non lineare nelle decomposizione di basso rango, è possibile formulare il cosiddetto problema NMD (Non linear Matrix Decomposition), che costituisce l'oggetto principale di questo elaborato. Il problema NMD viene introdotto, cercando di fornire alcune chiavi di lettura e possibili interpretazioni intuitive che giustifichino l'utilità di tale decomposizione. Inoltre, vengono presentati i metodi già esistenti per risolvere questo problema e i due nuovi algoritmi: A-NMD e 3B-NMD. Infine, vengono confrontati i vari metodi per la risoluzione del problema NMD su varie tipologie di dati. Vengono messi in evidenza i vantaggi dell'utilizzo dei nuovi algoritmi rispetto a quelli già esistenti, sia dal punto di vista dell'accuratezza della soluzione che sotto l'aspetto computazionale.