polito.it
Politecnico di Torino (logo)

Training and Optimization of Neural Networks for Embedded Systems

Francesco Ricci

Training and Optimization of Neural Networks for Embedded Systems.

Rel. Andrea Calimera. Politecnico di Torino, Corso di laurea magistrale in Ingegneria Elettronica (Electronic Engineering), 2020

Abstract:

Recenti pubblicazioni sulla ricerca automatizzata di reti neurali (NAS: Neural Architecture Search) hanno raggiunto prestazioni superiori allo stato dell’arte in molti problemi di Visione Artificiale (Computer Vision), come ad esempio il riconoscimento di immagini. Tuttavia, la maggior parte dei lavori esistenti esegue una ricerca ottimizzata solo per l'accuratezza del modello, ignorando le specifiche caratteristiche dell’hardware sul quale verrà eseguita l’inferenza, come spazio di archiviazione, latenza e consumo energetico. Spesso tali NAS richiedono una grande quantità di risorse computazionali per scoprire nuove architetture neurali, oppure limitano lo spazio di ottimizzazione per ridurre la complessità della ricerca. In questa tesi, viene inizialmente introdotto il problema della ricerca automatizzata di reti neurali (NAS) e viene fornita una rassegna delle pubblicazioni più recenti. Supportato da un rinnovato interesse nella comunità dei ricercatori, viene proposto un NAS basato sul network pruning (compressione di rete), che ottimizza sia per accuratezza che per dimensioni del modello. L’algoritmo di compressione all’interno del NAS viene utilizzato per riconfigurare la topologia di reti neurali esistenti, oppure può essere utilizzato per scoprire nuovi modelli all’interno uno spazio di ricerca proposto.

Relators: Andrea Calimera
Academic year: 2019/20
Publication type: Electronic
Number of Pages: 57
Additional Information: Tesi secretata. Fulltext non presente
Subjects:
Corso di laurea: Corso di laurea magistrale in Ingegneria Elettronica (Electronic Engineering)
Classe di laurea: New organization > Master science > LM-29 - ELECTRONIC ENGINEERING
Aziende collaboratrici: UNSPECIFIED
URI: http://webthesis.biblio.polito.it/id/eprint/15320
Modify record (reserved for operators) Modify record (reserved for operators)