Compromesso tra Rilevabilità di Anomalie e Compressione per un Autoencoder Basato su Stimatori di Entropia

L’obiettivo di questa tesi è lo studio del compromesso tra la rilevazione delle anomalie e la compressione, attraverso un Autoencoder, realizzato mediante una regolarizzazione della funzione di perdita della rete neurale basata su stimatori di entropia. Il contesto considerato è quello dell’Internet of Things, dove si vuole definire una trasmissione efficiente del segnale dai nodi verso il cloud. L’Autoencoder riduce la dimensione del dato mediante una compressione lossy ottimizzata in ricostruzione. Questo comporta una perdita di informazione, tale da rendere meno efficaci delle elaborazioni sul segnale compresso, in particolare la rilevazione di anomalie. Si propone pertanto una soluzione basata sull’introduzione di concetti tratti dalla Teoria dell’Informazione. Si definisce una misura di distinguibilità tra due distribuzioni di probabilità, attraverso la quale si dimostra come sia possibile migliorare le prestazioni in rilevazione di anomalie riducendo l’entropia del segnale compresso nel caso normale. Si considera una stima di entropia come termine di regolarizzazione della funzione di costo di un Autoencoder. In particolare, è adottato uno stimatore di entropia di Renyi di ordine 2, basato su kernel Gaussiano tale da ricavare una stima della densità di probabilità secondo finestratura di Parzen. Si metterà a confronto l’approccio proposto con metodi di regolarizzazione allo stato dell’arte, basati su norma L1 ed L2. Il metodo è stato validato su segnali ECG, sui quali saranno iniettate tipologie di anomalie verificabili in applicazioni reali. Si alleneranno su questo dataset diversi modelli di Autoencoder, variandone il parametro di regolarizzazione. Si studierà infine, attraverso opportune metriche, come l’approccio proposto sia in grado di determinare un’ottimizzazione del compromesso tra le prestazioni in rilevazione di anomalie e in ricostruzione.