Sviluppo e test di algoritmi di deep learning su hardware ottimizzato per machine learning = Development and testing of deep learning applications on machine learning optmized hardware

L’intelligenza artificiale ha avuto dei grandi progressi nel corso degli ultimi anni grazie all’avanzamento tecnologico. Tutt’ora è uno dei settori più attivi della ricerca. Ci sono una grande varietà di applicazioni che consentono di risolvere delle problematiche che prima erano impossibili da gestire. Tuttavia, la maggior parte delle applicazioni di intelligenza artificiale sviluppate al momento richiedono molta potenza computazionale, perciò si utilizzano computer desktop o server che hanno bisogno di una moderata potenza elettrica. Perciò oggi giorno si ha bisogno di sistemi scalabili e che richiedano meno risorse. Tutta la community tecnologica condivide questa visione, per questo i maggiori produttori di hardware hanno iniziato il supporto per soluzioni per lo sviluppo di questo tipo di idee. Tra varie soluzioni, una è la serie di hardware prodotta dalla Intel, la Movidius Neural Compute Stick, per l’ottimizzazione di algoritmi di Deep Learning. La NCS si sfrutta attraverso il toolkit OpenVINO e supporta tutti i framework open-source più famosi per il Machine Learning. Lo scopo di questa tesi è quella di riuscire a creare delle applicazioni e dare un’idea su come utilizzare algoritmi di ML su dispositivi con poca potenza computazionale con l’ausilio della Neural Compute Stick 2 della Intel. Ai fini della composizione di questa tesi, oltre alle dovute configurazioni per lavorare con la NCS 2, sono stati effettuati diversi benchmark per identificare le prestazioni e le potenzialità che potrebbe avere questo strumento.