Tecniche di Explainable Artificial Intelligence e Uncertainty Quantification nella Classificazione EEG delle Fasi del Sonno = Explainable Artificial Intelligence and Uncertainty Quantification Techniques in EEG-Based Sleep Stage Classification

La classificazione delle fasi del sonno gioca un ruolo fondamentale in ambito clinico, ma l’approccio manuale tradizionale è costoso in termini di tempo ed esposto a errori causati dalla soggettività del processo. Per superare questi limiti, negli ultimi anni sono stati sviluppati metodi automatici basati su tecniche di deep learning. Tuttavia, nonostante le elevate performance, questi modelli presentano difficoltà nell'essere applicati in ambito clinico per la loro natura di “scatola nera”, che limita la fiducia nelle predizioni a causa della mancanza di una spiegazione del processo decisionale. In questo lavoro, si propone un approccio innovativo che combina quantificazione dell’incertezza (UQ) ed Explainable Artificial Intelligence (XAI) per migliorare l’affidabilità e l’interpretabilità delle predizioni di una rete CNN+BiLSTM allenata per la classificazione automatica delle fasi del sonno. Per affrontare le sfide legate alla classificazione delle fasi del sonno e all’impiego del deep learning in ambito clinico pratico, viene applicato il Monte Carlo Dropout (MCD) per stimare l’incertezza associata alle predizioni e definita una soglia di incertezza che consente di identificare e rimuovere i campioni meno affidabili, migliorando così significativamente le metriche di performance, soprattutto della fase N1, la cui classificazione è sempre stata la più critica. Parallelamente, vengono utilizzati metodi XAI (GradCAM, GradCAM++ e ScoreCAM) per generare heatmap per la localizzazione delle caratteristiche salienti per il processo decisionale. Si è adottata una nuova versione dell’indice CO (Confidence Optimization) Score, che ha permesso di valutare la capacità discriminativa dei diversi approcci XAI. I risultati dimostrano che il metodo ScoreCAM, in combinazione con il CO Score, è il più efficace nel distinguere tra campioni correttamente classificati e misclassificati, contribuendo a migliorare ulteriormente le performance complessive del modello. Con un’accuratezza che supera lo stato dell’arte, l’approccio proposto presenta una soluzione interpretabile e affidabile per la classificazione automatica delle fasi del sonno, aprendo nuove prospettive per l’applicazione clinica dei modelli di deep learning.