Analisi della complessità di reti neurali generate tramite algoritmi genetici

L'enorme quantità di dati sviluppata tramite le infrastrutture moderne richiede strumentazioni di analisi sempre più precise, rapide e performanti. Per questo negli ultimi anni i metodi del machine learning hanno visto un'esplosione nella ricerca e nell'utilizzo di algoritmi mano a mano più efficienti per ogni disciplina. Due tra le numerose famiglie di tecniche appartenenti alla sfera del machine learning sono reti neurali e algoritmi genetici. Il progetto di tesi presentato ha come obiettivo quello di verificare la possibilità di evolvere la struttura di una rete neurale attraverso un algoritmo genetico in modo da automatizzarne il processo di costruzione, che ad oggi consiste in un procedimento di trial and error. La simulazione programmata consiste nell'evoluzione di una popolazione iniziale randomica di neural network tramite le tipiche metodologie di un algoritmo genetico, adattate al caso particolare di una funzione senza un predeterminato numero di variabili, il quale diventa un parametro della ricerca. Le reti verranno addestrate e valutate nella separazione di due classi di punti in dataset artificiali per verificare la bontà dell'algoritmo. Dopodiché lo studio si concentrerà sull'analisi del come e quando la rumorosità dei dati influenzi la complessità della rete ottenuta dall'algoritmo genetico, la quale viene misurata attraverso specifiche caratteristiche. La classificazione nei dataset testati è buona utilizzando un classico controllo binario del successo nella risposta della rete (giusto/sbagliato) tuttavia è migliore utilizzando un particolare metro di valutazione chiamato logarithmic loss. Lo studio sulla complessità della rete mostra una rilevante dipendenza di questa dalla rumorosità del dataset; inoltre, risulta che la separazione tra train test e test set nell'addestramento è sufficiente a regolarizzare la complessità della rete senza altri tipi di penalizzazione.