Dalla fine degli anni ’80 del Novecento ai primi anni 2000, una serie di passi avanti negli algoritmi utilizzati e il superamento di alcuni limiti tecnologici, ha permesso la grande diffusione delle reti neurali fino alla nascita del deep learning come è noto ai giorni nostri. Questo ha incrementato la necessità di comprendere il funzionamento interno delle reti neurali, sia per poter agire più consapevolmente nello sviluppo delle stesse, sia per poterle utilizzare anche negli ambiti più critici, dove la definizione di “black-box”, fino ad allora attribuita alle reti, non risultava sufficiente. Se negli ultimi anni sono state perciò introdotte svariate tecniche di visualizzazione, in grado di fornire rappresentazioni delle reti neurali utili proprio per aumentarne la comprensibilità, pochi invece risultano gli strumenti disponibili per la loto l’integrazione nel processo di sviluppo o di utilizzo di una rete: la necessità di dover scrivere del codice ad-hoc e la mancanza di implementazioni di riferimento per tali tecniche ne scoraggia spesso l’utilizzo, soprattutto da parte di utenti meno esperti.