AML Security - A comprehensive framework for machine learning attacks

IA e ML non sono sicuri, molti attacchi sono possibili e oggigiorno poche persone sono realmente consce dei rischi che queste tecnologie possono comportare. L’obiettivo di questa tesi è l’esplorazione dell’Adversarial Machine Learning, la disciplina che studia attacchi e difese contro i modelli di machine learning. In particolare, dopo un’introduzione su IA e le sue minacce, nel secondo capitolo è presente una discussione riguardo l’AML. Sono riportati dettagli riguardo obiettivi e target di un attaccante, caratteristiche di attacco e possibili difese. Nel terzo capitolo, quindi, viene presentato il security framework nelle sue due parti principali, Security by design e Security assessment. La prima contiene best practices e consigli per l’implementazione sicura di modelli di ML, la seconda illustra i passi da compiere per testare la robustezza di un modello agli attacchi di AML. Dopodiché, nel quarto capitolo vengono presentati gli use-case prodotti durante il periodo di tesi analizzando gli attacchi e le difese scelte con dettagli riguardo il codice implementato. Terminano il documento dei pensieri finali sul lavoro svolto e le possibili future direzioni.