Introduzione alle Reti Neurali Profonde e alla Discesa Stocastica del Gradiente

L'elaborato è un'introduzione alle reti neurali profonde e alla discesa stocastica del gradiente. Inizialmente vengono introdotti metodi matematici quali classificazione e regressione. Inoltre si prendono in esame le reti neurali e due tipologie diverse di neuroni. In seguito si analizza il modo in cui le reti trasmettono informazioni tramite un algoritmo detto retropropagazione. Questo è efficiente quando le sue derivate vengono calcolate tramite l'utilizzo di metodi come la discesa del gradiente che permette di ottimizzare gli errori. Infine si considerano i vari tipi di gradiente e gli algoritmi che rendono tali metodi più efficaci e veloci per la convergenza.