Implementazione di una architettura di bilanciamento del carico per microservizi tramite tecniche di Machine Learning

Viene presentata un'architettura a microservizi che permette di parametrizzare la logica di bilanciamento, che, in questo caso utilizza con successo tecnologie di Machine Learning per minimizzare la latenza. Dopo aver approfondito gli argomenti principali da tenere in considerazione per implementare scenari di bilanciamento del carico e le peculiarità dei microservizi, ne viene mostrata la sua implementazione. L'architettura proposta utilizza tecnologie il più semplici possibili per poter concentrare l'attenzione del lettore sulle tecniche ed i procedimenti per realizzare il progetto. Inizialmente viene utilizzato l'algoritmo di "regressione lineare" per individuare la funzione di previsione del tempo di risposta in relazione al "task" e al numero di richieste in fase di processamento sui nodi del sistema. In base alla funzione ottenuta, viene modificato il dataset e viene utilizzato "decision tree" per ottenere l'insieme delle scelte per indirizzare le richieste. In conclusione, viene utilizzata l'architettura implementata in precedenza per valutare l'algoritmo ottenuto. Viene presentato quindi un paragone, a parità di test, tra la nostra funzione di bilanciamento creata ed un algoritmo statico come Round Robin.