Sviluppo e test di applicazioni di Deep Learning su acceleratori hardware embedded = Development and test of Deep Learning applications on embedded hardware accelerators

Al giorno d'oggi, è possibile osservare i prodotti dello sviluppo dell'Intelligenza Artificiale sia nella vita ordinaria che lavorativa. Finora, il progresso di tali tecniche ha sempre richiesto che alle spalle vi sia una macchina dotata di un'elevata capacità computazionale, ma, con lo sviluppo delle nuove tecnologie, si è affermato il concetto di "Inference at the Edge", ovvero Inferenza alla periferia, cioè permettere a dispositivi, i quali normalmente non sono capaci di sfruttare le tecniche di Intelligenza Artificiale, più in particolare, di Deep Learning, di eseguire la fase di inferenza in tempo reale senza alcun supporto esterno, se non dei dispositivi embedded di supporto, garantendo privacy, consumi e costi ridotti ed esecuzione in tempo reale. Lo scopo di questa tesi è lo sviluppo e il test di algoritmi e applicazioni di Machine Learning e Deep Learning eseguendo, successivamente, la fase di inferenza su uno di questi dispositivi, la Intel Neural Compute Stick 2 (NCS2), dispositivo sviluppato da Intel dalle fattezze di una chiavetta USB ma che all'interno nasconde un hardware capace di eseguire la fase di inferenza per un modello di rete neurale artificiale, e valutarne le prestazioni. La tesi si articola in tre parti. La prima parte propone un'introduzione al tema dell'Intelligenza Artificiale, spiegando i concetti di Machine Learning e Deep Learning e i loro fondamenti teorici e matematici in un approfondimento sulle reti neurali convoluzionali con un focus sul tema dell’Object Detection. La seconda parte riguarda l’analisi della NCS2 e, in particolare, delle sue specifiche hardware e software, i passi necessari per la corretta installazione, l’analisi delle sue prestazioni rispetto a dispositivi analoghi sviluppati da altre società e infine l’esposizione dello sviluppo di un’applicazione che segue il paradigma Client-Server, in cui un mittente richiede la classificazione di un’immagine e il destinatario, sfruttando la NCS2 e le reti a sua disposizione, esegue la fase di inferenza fornendo al mittente il risultato. La terza parte, nucleo di questa tesi, riguarda l'utilizzo della NCS2 con reti neurali addestrate, tramite la tecnica del Transfer Learning, per il tema dell'Agricoltura di Precisione, in particolare per la viticoltura. Essa consiste nell’illustrazione dei software utilizzati e dei presupposti necessari al loro corretto funzionamento, nonché dei risultati ottenuti addestrando dei modelli di reti neurali artificiali nell'identificazione di grappoli d'uva in una vigna e nel riconoscimento di foglie di vite malate. Infine, vi è una parte di analisi delle prestazioni dei modelli utilizzando la NCS2. La tesi si articola in 6 capitoli e ha l'obiettivo di illustrare le competenze di base per il Machine Learning e il Deep Learning, ed in particolare per l'Object Detection, di illustrare la corretta installazione del dispositivo NCS2 e dimostrare come la NCS2 sia utile per un tema attuale come l'agricoltura di precisione, invogliando a prendere in considerazione lo sviluppo di applicazioni con il supporto di dispositivi simili o, magari, proseguire il lavoro di questa tesi.