AI Guardrail per il PDCA: un framework per il monitoraggio e il miglioramento continuo delle soluzioni di Generative AI = AI Guardrail for PDCA: A Framework for the Monitoring and Continuous Improvement of Generative AI Solutions

L’Intelligenza Artificiale Generativa si è negli ultimi anni affermata come una delle tecnologie più promettenti per la trasformazione digitale delle imprese. All’entusiasmo iniziale, focalizzato sulle rivoluzionarie potenzialità della tecnologia piuttosto che sull’indagine e gestione dei potenziali rischi emergenti, è seguita una fase di maggiore consapevolezza, che ha evidenziato la necessità di approcci efficaci e strutturati di monitoraggio e controllo delle applicazioni Generative AI. La proposta dell’AI Act da parte della Commissione Europea è il risultato di questa nuova esigenza, ma nella pratica organizzativa i processi di monitoraggio per la Generative AI sono ancora un terreno inesplorato: stanno emergendo ma non sono consolidati né ampiamente documentati, complice la giovane età della tecnologia. La presente tesi contribuisce alla formalizzazione di tali processi, proponendo la piattaforma AI Guardrail, sviluppata da Sprint Reply per un primario gruppo assicurativo, come impianto di governance e controllo operativo delle soluzioni basate su Generative AI. L’obiettivo è quello di evolvere la piattaforma da un insieme di presidi di monitoraggio a un’infrastruttura capace di chiudere il ciclo del miglioramento continuo, collegando in modo sistematico la fase di verifica a quella di azione secondo la logica del framework Plan–Do–Check–Act (PDCA). Coerentemente con quanto già presente in Guardrail, il contributo di questo lavoro per aiutare a colmare la distanza tra monitorare (Check) e agire (Act) si concretizza nell’introduzione di: (1) un sistema di alerting basato su soglie dinamiche adattive che riflettono l’andamento reale dei sistemi e abilitano interventi tempestivi quando emergono deviazioni significative; (2) un sistema di mail reporting automatico destinato agli stakeholder esecutivi che integra una sintesi diagnostica generata artificialmente in modo da ridurre il tempo tra rilevazione e decisione; (3) un’analisi di Pareto per orientare e massimizzare l’impatto delle azioni di aggiornamento della Knowledge Base; (4) la proposta di un sistema di ticketing automatico per azioni correttive finalizzate al miglioramento continuo delle applicazioni Generative AI. I risultati dimostrano la capacità della piattaforma AI Guardrail di supportare la sorveglianza e il miglioramento continuo delle soluzioni di Generative AI in contesti enterprise regolamentati, contribuendo alla definizione di buone pratiche operative per la gestione e la governance dell’intelligenza artificiale generativa.