polito.it
Politecnico di Torino (logo)

DEEP LEARNING AT THE EDGE Optimizations of object detection models for embedded devices

Ivan Murabito

DEEP LEARNING AT THE EDGE Optimizations of object detection models for embedded devices.

Rel. Andrea Calimera, Antonio Defina. Politecnico di Torino, Corso di laurea magistrale in Ingegneria Informatica (Computer Engineering), 2022

[img]
Preview
PDF (Tesi_di_laurea) - Tesi
Licenza: Creative Commons Attribution Non-commercial No Derivatives.

Download (8MB) | Preview
[img] Archive (ZIP) (Documenti_allegati) - Other
Licenza: Creative Commons Attribution Non-commercial No Derivatives.

Download (754kB)
Abstract:

Gli algoritmi di deep learning, nello specifico quelli relativi alla visione artificiale come gli object detector, sono sempre piu' usati per prendere decisioni in diverse discipline . Tuttavia questi modelli hanno un costo computazionale molto elevato ed e' una sfida eseguirli su dispositivi con risorse hardware limitate in tempo reale. l'approccio piu' semplice per portare l'intelligenza all'edge e' quello di usare il device solo per acquisizione dati e demandare al cloud la computazione, quest'approccio non e' utilizzabile per applicazioni near-real time per via della latenza e inoltre puo' portare a problemi di consumo e impatto ambientale dei datacenters . Lo scopo di questa tesi e' quello di analizzare, applicare e valutare le principali tecniche di ottimizzazione e compressione di modelli di object detection basati su reti neurali convoluzionali, per renderli adatti al deploy su dispositivi embedded con microprocessore. Nello specifico sono state analizzate due tecniche principali: Quantizzazione, il quale scopo e' migliorare le performance del modello in termini di velocita' di inferenza; e Knowledge Distillation che punta a migliorare le prestazioni del modello in termini di accuratezza. Sono stati effettuati diversi esperimenti con diversi modelli e metodi di ottimizzazione, alcuni valutati direttamente sul device. I risultati ci suggeriscono che con queste tecniche e' possibile ottimizzare modelli di object detector migliorandone il tempo di latenza ed accuratezza.

Relators: Andrea Calimera, Antonio Defina
Academic year: 2021/22
Publication type: Electronic
Number of Pages: 100
Subjects:
Corso di laurea: Corso di laurea magistrale in Ingegneria Informatica (Computer Engineering)
Classe di laurea: New organization > Master science > LM-32 - COMPUTER SYSTEMS ENGINEERING
Aziende collaboratrici: FONDAZIONE LINKS
URI: http://webthesis.biblio.polito.it/id/eprint/22605
Modify record (reserved for operators) Modify record (reserved for operators)