Soluzioni digitali e integrazione di modelli spiegabili a supporto delle diagnosi mediche

Iniziare a usare modelli veramente interpretabili per decisioni ad alto rischio può risolvere parte delle mancanze che ci sono attualmente sull’uso della xAI nella medicina. In questo lavoro di tesi sono stati studiati due modelli a prototipi spiegabili (ProtoPNet e ProtoTree) a supporto delle diagnosi mediche. Questi adottano un approccio molto intuitivo alla previsione identificando elementi che sembrano familiari (i prototipi). Anche in questo caso c'è ancora bisogno di un certo livello di interpretazione umana, tuttavia questi modelli hanno un reasoning process spiegabile che riesce ad imitare in parte quello di un clinico. Tra questi ProtoTree unisce i vantaggi di una rete deep con quelli di un albero decisionale guadagnando sia in accuratezza che in interpretabilità; inoltre eredita da ProtoPNet il ragionamento a prototipi. Si è poi valutata l’applicabilità dei due modelli su due compiti di classificazione binaria di diagnosi di melanoma e di polmonite. I risultati sono stati valutati in base alle metriche di classificazione e alla capacità di fornire agli utenti finali spiegazioni plausibili sia locali che globali, attraverso la visualizzazione di prototipi e di alberi. Dai risultati preliminari si è anche visto come sia possibile addestrare questi modelli complessi con algoritmi di ottimizzazione più standard del deep learning, senza perdere in accuratezza. In un contesto di elevata responsabilità dovrebbe esserci anche una metrica di valutazione dei prototipi. Si è quindi fatto un tentativo di spiegare un prototipo aggiungendoci delle informazioni quantitative relative a caratteristiche visive che secondo le neuroscienze sono importanti per l'occhio umano. Infine è stata proposta una soluzione digitale pensata per un’eventuale prosecuzione di questo lavoro a scopo di ricerca in un contesto distribuito. Tutte le ricerche da cui si è preso spunto per lo svolgimento del lavoro di tesi sono in bibliografia.