Rilevamento e Mitigazione di Allucinazioni in Large Language Models = Detecting and Mitigating Hallucinations in Large Language Models

Questa tesi affronta il problema del rilevamento e della mitigazione delle allucinazioni nei modelli linguistici di grandi dimensioni. Partendo dalla baseline MALTO sviluppata per la competizione Mu\-SHROOM, proponiamo una pipeline a livello di token che opera esclusivamente in inferenza. L'approccio combina le probabilità prodotte da un modello di riferimento, punteggi di Natural Language Inference e controlli opzionali di fluenza o rigenerazione locale tramite un modello GPT-2 leggero. Ogni token riceve un punteggio di allucinazione e, se necessario, viene mascherato e rigenerato. La valutazione avviene sul set di validazione Mu\-SHROOM composto da 50 esempi, senza partizioni di training o validation. Confrontiamo tre varianti. La versione No Fluency sfrutta solo probabilità e NLI, ottenendo la miglior Intersection\-over\-Union. La variante Fluency introduce una soglia di perplessità con un modello GPT-2 e ottiene la correlazione più alta con le annotazioni umane. L'opzione "Mask" con l'utilizzo di un modello piccolo (GPT-2) rigenera in modo mirato gli span sospetti; è conservativa ma consente correzioni immediate. L'analisi qualitativa evidenzia errori tipici come scambi di entità o affermazioni prive di supporto, mentre i risultati quantitativi mostrano i compromessi tra copertura, fluidità del testo e costo computazionale. La tesi si chiude delineando possibili sviluppi futuri, tra cui modelli NLI multilingui, mascheramento guidato dall'attenzione, dataset più ampi e strumenti di visualizzazione per aumentare la fiducia negli output dei modelli.