Bias dei dati e propagazione nei sistemi automatici di decisione: misurazione e tecniche di mitigazione Ai giorni d’oggi è sempre più diffusa all’interno dei processi decisionali la presenza di sistemi di decisione automatica basati sui dati. Essi vengono utilizzati per prendere scelte anche in ambiti significativi come quello giudiziario o occupazionale. L’accrescere dell’utilizzo di questi sistemi pone una crescente preoccupazione per il loro potenziale impatto discriminatorio. In particolare, i sistemi di apprendimento automatico addestrati su dati sbilanciati, corrono il rischio di perpetuare tali stereotipi presenti all’interno della società. Una delle sfide centrali è quella di determinare in un primo momento se i modelli utilizzati mostrano pregiudizi discriminatori ma in seconda istanza quello di cercare di evitare questo comportamento anomalo.