Federated Learning: un approccio ibrido tra centralizzazione e decentralizzazione

Il federated learning è emerso come un promettente modello distribuito che permette ad un ampio numero di client di partecipare collettivamente al training di un modello di machine learning, senza compromettere la privacy dei dati usati per il training, mantenendoli al sicuro alla fonte. Questo è un modello diametralmente opposto a quello del machine learning tradizionale in cui viene curato un unico dataset globale in cui vengono raccolti tutti i dati. Questa tesi si pone di studiare empiricamente come diversi gradi di ibridazione di approccio da quello completamente federato a quello completamente centralizzato influiscono sulle performance del modello allenato. Lo studio è stato condotto su due dataset di benchmark, il FEMNIST e l’UCI Human Activity Recognition (HAR) e permettendo di analizzare sia una CNN (Convolutional Neural Network) e una MLP (Multi Layer Perceptron) entrambe di dimensioni contenute. Sono state provate diverse combinazioni di percentuali di condivisione dei dataset (da 0%, setting completamente federato al 100%, setting completamente centralizzato), di strategie di condivisione dei dati (scegliendo alcuni client di cui rendere i dataset condivisi o prendendo alcuni elementi dai dataset di tutti i client) e di diversi algoritmi di ottimizzazione. I risultati sperimentali verificano che alte performance sono raggiungibili anche in contesti completamente federati, anche se al costo di un maggiore numero di cicli di training.