Impact of Encoding Techniques on the Classification of Raw Time-Variant Signals with Spiking Neural Networks

Le Spiking Neural Networks (SNN) rappresentano la terza generazione di reti neurali, la cui tecnologia trae ispirata al cervello umano. L'analisi preliminare effettuata in opere allo stato dell'arte neuromorfiche evidenzia una serie di vantaggi nell'uso di queste tecnologie rispetto alle moderne tecniche utilizzate per l'analisi dei dati. Poich¿ l'informazione viene elaborata sotto forma di un impulso elettrico chiamato anche spike, e sfruttando una struttura neurale sparsamente connessa e un'elaborazione asincrona dei neuroni, queste reti promettono di essere la soluzione all'enorme consumo energetico delle ANN, mantenendo delle accuracy competitive. Procedendo con un'analisi completa di una pipeline di machine learning sull'analisi di campioni sensoristici, ho analizzato le fasi di preelaborazione, codifica, modellazione e classificazione in chiave neuromorfica. Come prima cosa ho selezionato due tipi di set di dati di segnali variabili nel tempo, per la codifica nel dominio dello spike, il Free Spoken Digit (FSD) e il WISDM. Effettuando un'analisi delle tipologie di dati trattati, ho delineato una prima classificazione, basata sull'organizzazione delle informazioni, individuando le classi temporale, spaziale o una combinazione dei due, definendo le classi di Dati temporali, Temporal data, Spatial Data e Spatial- Temporal Data. Questo mi ha permesso di identificare le caratteristiche di un segnale per poter scegliere la tecnica di elaborazione. Facendo riferimento alle tecniche bio-inspired, sono stato in grado di identificare una pletora di tecniche di preelaborazione e codifica, in grado di codificare segnali audio, video, olfattivi, tattili, ecc., che possono essere suddivisi in classi, come la classe Rate Encoding in cui le informazioni ¿ codificato nel numero di picchi per unit¿ di tempo e nella codifica temporale in cui l'informazione ¿ inclusa nel numero di spike, nell'intervallo tra due spike, ecc.. Applicando queste tecniche ai dati temporali e spaziali, ho individuato criteri specifici per la scelta della tecnica pi¿ idonea. Come terza fase, ho implementato un processo di costruzione e formazione SNN, basato sul metodo Transfer Learning, eseguito addestrando una rete neurale artificiale ANN e quindi impiegando i pesi per una controparte spiking. Nello specifico, in questo lavoro, questa procedura ¿ stata adottata per passare da una rete neurale convoluzionale CNN a una CNN spiking. I dati per addestrare la rete CNN, sono ottenuti attraverso la produzione del sonogramma, una rielaborazione dei dati di picco convertiti in un'immagine. Infine, l'ultimo passaggio implementato ¿ la codifica del sonogramma attraverso il rate coding, in modo da rendere l'informazione idonea all'elaborazione SNN. Questo metodo potrebbe sembrare laborioso, tuttavia questi passaggi mi hanno permesso di definire un criterio di valutazione univoco delle varie tecniche di codifica. Osservando degli accuracy dei test, ¿ stata registrata una precisione del 98% per determinati tipi di codifica, mentre l'8% in altri casi, ci¿ conferma che alcune tecniche di codifica sono specificamente implementabili per i dati temporali mentre altre per i dati spaziali. Una volta individuate le tecniche pi¿ performanti, ho deciso di condurre ulteriori indagini, sulle tecniche di riduzione delle sinapsi, riscontrando che l¿accuracy della rete ridotta supera le capacit¿ di classificazione rispetto a quella completa, come nel caso del WISDM per il quale ho osservato un incremento di accuratezza partendo da 86.7% fino al 95%.