Predizione degli Effetti Avversi dei Farmaci Tramite Reti Neurali Artificiali

All’atto pratico è stata applicata una grid search per il dimensionamento degli iperparametri, ricercando tra le diverse configurazioni di:
• numero di strati nascosti (”hidden”) nella rete,
• numero di neuroni per strato,
• numero di epoche di apprendimento,
• ”step” (o passo) di apprendimento,
• metodo di apprendimento,
• funzione di attivazione.

I primi due parametri sono architetturali e definiscono la struttura e la profondità della rete. Il numero di epoche di apprendimento definisce il numero di iterazioni che il modello deve eseguire, ovvero il numero di volte che il Training Set viene presentato alla rete durante la fase di addestramento. Dopo ogni ciclo la rete neurale aggiusta i suoi parametri. Il passo di apprendimento descrive di quanto variano i pesi ad ogni iterazione, ovvero la ”velocità di discesa” lungo la superficie dell’errore. Il metodo di apprendimento definisce il modo in cui i parametri della rete vengono ottimizzati. I due metodi principali per gli MLP sono SGD, ”Stochastic Gradient Descent”, e ”Adam optimizer”. Entrambi minimizzano la funzione di errore, tramite discesa sul gradiente. In altre parole stimano i valori ottimi dei parametri, determinando la traiettoria massima di discesa per giungere al minimo della funzione errore. Adam aggiorna questo meccanismo introducendo un dimensionamento dello step di apprendimento adattativo e automatico, per ogni variabile di input. Infine, il ruolo principale della funzione di attivazione è quello di trasformare la somma degli input pesati ad un certo neurone in un valore di uscita da inviare al successivo livello o in output. Lo scopo della funzione di attivazione è quello di aggiungere non linearità alla rete neurale. Supponendo di avere una rete neurale senza le funzioni di attivazione, ogni neurone eseguirà solo una trasformazione lineare sugli input, utilizzando i pesi [18]. D’altro canto una rete neurale con neuroni dotati di una funzione di attivazione non lineare può approssimare una qualsiasi funzione reale, limitata e continua.