Explainable AI: tassonomia e analisi di modelli spiegabili per il Machine Learning

La complessità dei modelli di Deep Learning ha permesso di ottenere risultati sbalorditivi in termini di accuratezza. Tale complessità è data sia dalla struttura non lineare e multistrato delle reti neurali profonde, sia dal loro elevato numero di parametri calcolati. Tuttavia, questo causa grandi difficoltà nello spiegare il processo decisionale di una rete neurale, che in alcuni contesti è però essenziale. Di fatto, per permettere l’accesso alle tecnologie di Deep Learning e Machine Learning anche ai settori critici - ovvero quei settori in cui le decisioni hanno un peso importante, quali l’ambito medico, economico, politico, giudiziario e così via - è necessario che le predizioni dei modelli siano avvalorate da una spiegazione. L’ Explainable AI (XAI) è il campo di studi che si occupa di sviluppare metodi per fornire spiegazioni alle decisioni effettuate da un modello predittivo. Questo lavoro di tesi raccoglie, organizza ed esamina i principali studi dei ricercatori di XAI in modo da facilitare l’avvicinamento a questa disciplina in rapido sviluppo. Si spiegherà a cosa, a chi e quando serve XAI; sarà mostrata la tassonomia degli attuali metodi utilizzati; si descriveranno e analizzeranno i limiti di alcuni tra gli algoritmi di maggior successo: tecniche basate sul gradiente ascendente sull’input, Deconvolutional Neural Network, CAM e Grad-CAM, LIME, SHAP; si discuterà brevemente dei metodi di valutazione di un modello XAI; si mostrerà il confronto tra l’ allenamento basato sul campionamento nello spazio latente e l’allenamento basato sul calcolo o stima del likelihood; si indicheranno tre librerie open-source di rilievo per la programmazione di modelli spiegabili.