🤖 machine learning

Feature Attribution-Based Explainability Analysis of Deep Learning Models in Predictive Process Monitoring

Questo articolo propone un metodo di spiegabilità post-hoc locale per i modelli di deep learning nel monitoraggio predittivo dei processi che utilizza un algoritmo di segmentazione consapevole del controllo di flusso per generare spiegazioni SHAP a livello di segmento, bilanciando efficacemente l'efficienza computazionale con la capacità di catturare le dinamiche del controllo di flusso sottostanti e identificare punti di cambiamento critici nei log degli eventi.

Autori originali: Kseniya Sahatova, Rafael Seidi Oyamada, Xuefei Lu, Johannes De Smedt

Pubblicato 2026-07-21

📖 4 min di lettura☕ Lettura da pausa caffè

CC BY 4.0

Autori originali: Kseniya Sahatova, Rafael Seidi Oyamada, Xuefei Lu, Johannes De Smedt

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di essere un detective che cerca di risolvere un mistero, ma invece di una scena del crimine, la tua scena del crimine è una traccia digitale di attività aziendali. Questo campo è chiamato Monitoraggio Predittivo dei Processi. Pensalo come un GPS per il flusso di lavoro di un'azienda: osserva un caso (come una domanda di prestito o una richiesta di permesso) mentre si muove da un passaggio all'altro, cercando di indovinare dove finirà. Il prestito verrà approvato? Il progetto finirà in tempo? Per fare questo, le aziende utilizzano potenti cervelli informatici chiamati modelli di Deep Learning. Questi modelli sono come studenti super intelligenti che hanno letto milioni di storie passate e possono individuare schemi che agli umani sfuggono. Ma ecco il problema: questi modelli sono delle "scatole nere". Ti danno la risposta, ma non ti dicono perché pensano che sia quella. È come un insegnante che ti dà un voto su un test ma si rifiuta di mostrarti quali risposte erano giuste o sbagliate. Per questo motivo, le persone spesso hanno paura di affidare loro decisioni importanti. Per risolvere questo problema, gli scienziati utilizzano strumenti di Spiegabilità. Questi sono come delle torce che illuminano il pensiero del modello, evidenziando quali parti specifiche della storia sono state più importanti. Tuttavia, le vecchie torce erano o troppo focalizzate (mostravano ogni singolo piccolo passaggio, il che è opprimente e confuso) o troppo sfuocate (sfocavano l'intera storia in un unico grande ammasso, perdendo i dettagli).

Questo articolo introduce un nuovo modo di puntare quella torcia, specificamente per i processi aziendali. Gli autori, Kseniya Sahatova e il suo team, si sono resi conto che le storie aziendali non sono solo elenchi casuali di eventi; hanno un ritmo e un flusso, come i capitoli di un libro. Propongono un metodo che suddivide un lungo e disordinato registro di processi in "capitoli" significativi o segmenti, basandosi su come le attività si susseguono naturalmente. Invece di chiedere: "Questo singolo e-mail è stato importante?" o "L'intero file è stato importante?", chiedono: "Questa specifica fase del processo è stata importante?".

Per testare la loro idea, hanno costruito un processo aziendale "finto" dove sapevano esattamente dove avvenivano i colpi di scena (la "verità di base"). Hanno scoperto che il loro nuovo metodo poteva individuare questi colpi di scena con una precisione superiore al 90%, molto meglio rispetto al semplice esame dei singoli passaggi. Quando hanno provato il metodo su dati reali provenienti dalle domande di prestito di una banca olandese e dalle attività amministrative di un comune, i risultati sono stati ancora più interessanti. Per le domande di prestito, il loro metodo mostrava chiaramente che un percorso fluido e strutturato portava all'approvazione, mentre un particolare schema di "creazione ripetuta di offerte" era un enorme segnale d'allarme che portava al rifiuto. Era come trovare un particolare espediente narrativo in un film che segnala sempre una tragedia.

L'articolo suggerisce che questo approccio a "livello di segmento" è il punto di equilibrio ideale. Non è matematicamente perfetto come guardare ogni singolo evento (che è la cosa più fedele alla matematica grezza del modello), ma è molto più facile da comprendere per gli esseri umani. Raggruppa gli eventi correlati, permettendoti di vedere la storia dietro la previsione. Tuttavia, gli autori avvertono con cura che questo funziona meglio quando il processo aziendale ha una struttura chiara. Se un processo è super caotico e ogni caso è totalmente diverso, il metodo potrebbe confondersi e dividere la storia in troppi piccoli pezzi privi di significato. Ma per i processi che hanno un flusso logico, questa nuova spiegazione "basata sui capitoli" ci aiuta a fidarci dell'IA mostrandoci esattamente quali parti del viaggio hanno guidato l'esito.

Riepilogo Tecnico: Analisi di Spiegabilità Basata sull'Attribuzione delle Caratteristiche nel Monitoraggio Predittivo dei Processi

1. Definizione del Problema

Il Monitoraggio Predittivo dei Processi (PPM) utilizza modelli di deep learning, come le Reti Neurali Ricorrenti (RNN) e i Transformer, per prevedere gli esiti, il tempo residuo o le sequenze di attività future di processi aziendali in corso. Sebbene questi modelli raggiungano elevate prestazioni predittive catturando le dipendenze sequenziali nei log degli eventi, la loro natura di "black-box" ostacola la fiducia e l'adozione in ambienti operativi critici.

Gli esistenti metodi di spiegabilità, in particolare le tecniche di attribuzione delle caratteristiche come SHAP (Shapley Additive Explanations) e LIME, affrontano un dilemma quando applicati al PPM:

Spiegazioni a livello di evento: Assegnare l'importanza ai singoli eventi spesso produce intuizioni frammentate che non riescono a rivelare il comportamento significativo del processo o il contesto più ampio dell'esecuzione.
Spiegazioni a livello di traccia: Aggregare l'intera traccia in un'unica unità introduce una perdita di informazioni e oscura quali parti specifiche dell'esecuzione guidino la previsione.
Limitazioni delle serie temporali: Sebbene la letteratura sulle serie temporali offra metodi di segmentazione per raggruppare osservazioni adiacenti, questi approcci generici spesso non rispettano i vincoli specifici del controllo del flusso, la semantica delle attività e la temporizzazione irregolare intrinseca nei log degli eventi dei processi aziendali. Possono dividere fasi coerenti del processo o fondere comportamenti non correlati.

Di conseguenza, esiste la necessità di un approccio di spiegabilità che bilanci l'efficienza computazionale con la preservazione del contesto locale del controllo del flusso, permettendo agli stakeholder di comprendere quali fasi del processo influenzino una previsione.

2. Metodologia

Gli autori propongono un metodo di spiegabilità post-hoc locale che integra un algoritmo di segmentazione consapevole del controllo del flusso con il calcolo dei valori SHAP a livello di segmento.

2.1 Segmentazione della Traccia Consapevole del Controllo del Flusso

Il nucleo della metodologia è un algoritmo che partiziona una traccia in sottosequenze coerenti (segmenti) basandosi sui cambiamenti nelle probabilità di transizione.

Relazione di Seguito Diretto (DFR): L'algoritmo costruisce prima un Grafo di Seguito Diretto (DFG) dal log degli eventi per derivare le probabilità di transizione empiriche tra le attività.
Funzione di Costo: Per una data traccia, l'algoritmo assegna un costo ai potenziali segmenti. Le transizioni frequenti nel log contribuiscono con un costo basso, mentre le transizioni rare o non viste incorrono in una penalità ( $\gamma$ ). Il costo di un segmento $s$ è definito come la somma dei logaritmi negativi delle probabilità delle sue transizioni:
$C(s) = \sum_{i=1}^{m-1} c(a_i, a_{i+1})$
dove $c(a_i, a_{i+1}) = -\log T[a_i, a_{i+1}]$ se la transizione esiste, e $\gamma$ altrimenti.
Rilevamento dei Punti di Cambiamento: L'algoritmo utilizza l'algoritmo PELT (Pruned Exact Linear Time) per rilevare i punti di cambiamento che minimizzano una funzione obiettivo penalizzata. Questa funzione bilancia il costo totale della segmentazione rispetto a un termine di penalità ( $\beta k$ ) per il numero di segmenti, prevenendo la sovra-segmentazione. L'iperparametro $\beta$ è selezionato tramite ricerca a griglia per minimizzare il Criterio di Informazione di Akaike (AIC).
Risultato: La traccia viene partizionata in segmenti dove ogni segmento rappresenta una fase di comportamento coerente del controllo del flusso locale.

2.2 Calcolo SHAP a Livello di Segmento

Una volta segmentate le tracce, il metodo tratta ogni segmento come un'unità interpretabile singola per il calcolo del valore SHAP, piuttosto che come singoli eventi.

Definizione di Coalizione: Un vettore di coalizione $z \in \{0, 1\}^k$ è definito per $k$ segmenti. $z_l=1$ indica che il segmento mantiene i suoi valori originali, mentre $z_l=0$ indica che viene sostituito da un valore di base (derivato dalla moda degli attributi categorici e dalla media degli attributi numerici nei dati di addestramento).
Perturbazione: Il modello viene valutato su tracce perturbate in cui specifici segmenti vengono mascherati e sostituiti dal valore di base.
Valori SHAP: Viene applicato KernelSHAP per calcolare i valori di Shapley per ogni segmento, soddisfacendo la proprietà di efficienza secondo cui la somma delle attribuzioni dei segmenti equivale alla differenza tra la previsione del modello e la previsione di base.

3. Configurazione Sperimentale

Lo studio valuta il metodo proposto utilizzando:

Dataset:
- Un dataset sintetico generato dal simulatore SimBank, caratterizzato da punti di cambiamento di verità fondamentale (cancellazione vs accettazione degli esiti) per validare l'accuratezza della segmentazione.
- Due benchmark del mondo reale: BPIC15 (processi amministrativi municipali olandesi) e BPIC17 (domande di prestito di istituti finanziari).
Modello Predittivo: Classificatori di sequenza basati su LSTM addestrati su prefissi a lunghezza fissa (30 eventi) per prevedere esiti binari (es. accettato vs cancellato).
Baseline:
- Attribuzione per evento: SHAP standard a livello di evento.
- Segmentazione basata sulla distribuzione: Un metodo che raggruppa gli eventi in base a finestre temporali e definizioni di sessione (adattato dai sistemi di raccomandazione).
Metriche di Valutazione:
- Qualità della Segmentazione: RandIndex, Precision, Recall e F1-score (dati sintetici); Rilevanza Entropica (ER) e copertura del pattern (dati reali).
- Fedeltà della Spiegazione: Cambiamento Relativo della Previsione (RPC) tramite perturbazione. Questa misura quanto cambia la previsione quando i segmenti importanti (alto SHAP) vengono perturbati rispetto ai segmenti non importanti.

4. Risultati Chiave

4.1 Qualità della Segmentazione

Dati Sintetici: L'algoritmo proposto ha raggiunto un alto accordo con i punti di cambiamento della verità fondamentale, con punteggi RandIndex superiori a 0,9 e F1-score dell'89% (casi cancellati) e dell'87,4% (casi accettati).
Dati Reali (BPIC17): Il metodo ha identificato fasi coerenti del processo. Per i casi accettati, i primi 10 pattern di segmentazione coprivano l'81,4% delle tracce, indicando strutture di controllo del flusso stabili. La Rilevanza Entropica (ER) è scesa significativamente da 37,81 (log completo) a 6,68 (segmentato), indicando che i segmenti catturano pattern deterministici e comprimibili altamente stabili.
Dati Reali (BPIC15): A causa dell'elevata variabilità e delle basse probabilità di transizione tra molte coppie di attività, l'algoritmo ha prodotto segmenti molto fini (media di 2 eventi per segmento). Ciò suggerisce che i log con alta variabilità del controllo del flusso limitano la capacità di formare pattern segmentati generalizzabili.

4.2 Fedeltà della Spiegazione

Analisi di Perturbazione: I valori SHAP a livello di segmento hanno dimostrato un'alta fedeltà. Perturbare i segmenti più importanti (top-k, che coprono circa il 40% della traccia) ha causato cambiamenti significativi nella previsione (alto RPCI), mentre perturbare i segmenti non importanti ha avuto un effetto minimo (basso RPCU).
Confronto: Sebbene l'attribuzione per evento mostrasse una granularità leggermente superiore, i metodi a livello di segmento (sia basati sulla distribuzione che sul controllo del flusso) hanno fornito una separazione più netta tra le parti importanti e quelle non importanti della traccia. I metodi per evento a volte hanno interrotto le dipendenze locali perturbando eventi isolati, portando a cambiamenti di previsione inaspettati.

4.3 Intuizioni Qualitative

Casi Accettati (BPIC17): I segmenti contenenti transizioni fluide (es. Concept $\to$ Complete application) hanno costantemente spinto le previsioni verso l'accettazione (valori SHAP negativi).
Casi Cancellati (BPIC17): I segmenti che coinvolgevano la creazione ripetuta di offerte hanno ricevuto alti valori SHAP positivi, spingendo fortemente le previsioni verso la cancellazione. Ciò ha identificato un collo di bottiglia specifico (generazione ripetuta di offerte) associato al fallimento.
Interpretabilità: Il metodo ha collegato con successo le previsioni del modello a fasi concrete del processo (es. "completamento della domanda" vs "creazione dell'offerta") piuttosto che a eventi isolati.

5. Significato e Rivendicazioni

Il documento sostiene che il metodo proposto offre una via di mezzo utile tra le spiegazioni a livello di evento (granulari) e quelle a livello di traccia (grossolane).

Preservazione del Contesto: Raggruppando le attività in base alla dinamica del controllo del flusso, il metodo preserva il contesto locale necessario per interpretare perché un'attività influenzi un esito.
Comprensibilità: Mitiga l' "interleaving" (intercalazione) di eventi importanti e non importanti, rendendo le spiegazioni più comprensibili per gli stakeholder del processo.
Dipendenza dalla Struttura del Log: Gli autori notano con modestia che l'efficacia del metodo è contingente sulla struttura del log degli eventi. I log con moderata variabilità del controllo del flusso (come BPIC17) producono segmenti significativi e confrontabili, mentre i log altamente variabili (come BPIC15) produciano una segmentazione fine e specifica per ogni caso, limitando la generalizzazione.
Utilità Pratica: L'approccio consente l'identificazione di fasi specifiche del processo (punti di cambiamento) che guidano i casi verso gli esiti previsti, supportando il decision-making mirato e il rilevamento dei colli di bottiglia senza richiedere la piena trasparenza del modello.

Lo studio conclude che, sebbene le attribuzioni per evento rimangano leggermente più fedeli grazie alla loro granularità, le spiegazioni a livello di segmento migliorano significativamente l'interpretabilità dei modelli di deep learning nel PPM, allineandosi ai vincoli strutturali dei processi aziendali.