Combining Abstract Argumentation and Machine Learning for Efficiently Analyzing Low-Level Process Event Streams

Questo lavoro propone un approccio neuro-simbolico efficiente in termini di dati che combina un taggatore di sequenze basato sull'apprendimento automatico con un framework di argomentazione astratta per interpretare accuratamente flussi di eventi di processo a basso livello e raffinare le interpretazioni candidate utilizzando conoscenze a priori, superando così i limiti della scarsità di dati e della complessità computazionale.

L'essenziale

Immagina di cercare di comprendere una storia, ma di avere a disposizione solo un elenco di azioni grezze e di basso livello invece della trama effettiva.

Il Problema: Il Divario di "Traduzione"
Pensa al percorso di un paziente in ospedale. Un registro informatico potrebbe registrare una sequenza di azioni minuscole e specifiche: "Paziente toccato", "Prelievo di sangue", "Misurazione della pressione", "Inserimento dell'ago". Questi sono gli eventi di basso livello.

Tuttavia, un medico o un responsabile non vogliono vedere un elenco di azioni minuscole; vogliono conoscere la storia di alto livello: "Preparazione", "Ricovero" e "Pre-operatorio".

Il problema è che un'azione minuscola (come "Prelievo di sangue") potrebbe verificarsi durante qualsiasi di quelle tre grandi fasi. È come vedere un personaggio in un film prendere una tazza. Sta bevendo caffè prima di una riunione? Sta versando tè per un ospite? O sta semplicemente riordinando? Senza contesto, è un gioco di indovinelli. Se si indovina male, l'intera storia delle cure del paziente viene compromessa.

I Vecchi Metodi per Risolverlo
Il documento descrive due modi precedenti per risolvere il problema, entrambi con difetti:

1. L'Approccio "Regolamento Rigido" (Argomentazione Astratta):
   Immagina un detective molto rigoroso e logico che conosce tutte le regole dell'ospedale.

   • Regola: "Il pre-operatorio deve avvenire dopo il Ricovero."
   • Regola: "Non puoi iniziare il Pre-operatorio se non hai terminato la Preparazione."
     Questo detective controlla ogni possibile storia rispetto alle regole. Se una storia viola una regola, viene scartata.
   • Il Difetto: A volte le regole sono troppo lasche. Il detective potrebbe dire: "Beh, tecnicamente, questo potrebbe essere Ricovero, o potrebbe essere Pre-operatorio, o potrebbe essere Preparazione". Il detective ti fornisce un elenco enorme di 50 possibilità. È accurato, ma è schiacciante e lento da calcolare.

2. L'Approccio "Riconoscitore di Modelli" (Apprendimento Automatico):
   Immagina uno studente che ha letto migliaia di storie di pazienti del passato.

   • Come funziona: Lo studente vede "Prelievo di sangue" e ricorda: "Oh, nell'80% delle storie che ho letto, questo è avvenuto durante il Ricovero."
   • Il Difetto: Questo studente ha bisogno di un'enorme biblioteca di storie passate per imparare. Se lo studente non ha visto abbastanza esempi, potrebbe indovinare male. Inoltre, non conosce le regole rigide. Potrebbe indovinare "Pre-operatorio" per un evento "Prelievo di sangue" anche se le regole dicono che il Pre-operatorio non può ancora avvenire.

La Nuova Soluzione: Il Team-Up "Neuro-Simbolico"
Gli autori propongono una collaborazione tra il Detective Rigido (Ragionatore) e il Riconoscitore di Modelli (Apprendimento Automatico). Chiamano questo approccio "neuro-simbolico".

Ecco come lavorano insieme in tempo reale:

1. La Prima Ipotesi: Il Riconoscitore di Modelli (Apprendimento Automatico) guarda l'evento corrente e la storia di ciò che è accaduto prima. Dice: "Sono sicuro per l'80% che sia Ricovero, per il 15% che sia Preparazione e per il 5% che sia Pre-operatorio". Fornisce un elenco classificato delle storie più probabili.
2. Il Controllo di Realtà: Il Detective Rigido (Ragionatore) prende questo breve elenco e lo verifica rispetto alle regole rigide.
   • "Aspetta", dice il Detective. "Le regole dicono che il Pre-operatorio non può ancora avvenire. Quindi, quell'ipotesi del 5% è impossibile. La cancello."
   • "Inoltre", aggiunge il Detective, "le regole dicono che non puoi avere due Ricoveri consecutivi in questo momento. Quindi anche quell'ipotesi del 15% è invalida."
3. La Risposta Finale: Il sistema presenta all'utente solo le opzioni valide, classificate in base a quanto il Riconoscitore di Modelli riteneva probabili.

Perché è una Grande Novità
Il documento afferma che questa collaborazione risolve le debolezze dei vecchi metodi:

• È Più Veloce e Chiara: Invece che il Detective ti fornisca 50 possibilità confuse, il Riconoscitore di Modelli le riduce alle prime 3, e il Detective conferma solo quali di quelle 3 sono legali. Ottieni un breve elenco classificato delle migliori risposte.
• Funziona con Meno Dati: Il Riconoscitore di Modelli ha solitamente bisogno di migliaia di esempi per imparare bene. Ma poiché il Detective Rigido è lì per correggere gli errori, il Riconoscitore di Modelli non deve essere perfetto. Anche se lo studente non ha letto molti libri, il Detective può comunque impedirgli di commettere errori sciocchi. Gli esperimenti del documento mostrano che anche con pochissimi esempi di addestramento, questo team performa molto meglio dello studente da solo.
• Spiega il "Perché": Se il sistema rifiuta un'idea, il Detective può spiegare perché (ad esempio, "Ho rifiutato 'Pre-operatorio' perché le regole dicono che 'Preparazione' deve avvenire prima").

In Sintesi
Il documento presenta un sistema che combina l'intuizione di un modello di apprendimento automatico (che indovina basandosi sui modelli) con la logica di un sistema basato su regole (che verifica i fatti). Questo crea uno strumento abbastanza intelligente da indovinare la storia giusta, abbastanza veloce da farlo in tempo reale e abbastanza rigoroso da garantire che la storia abbia senso secondo le regole. È particolarmente utile quando non si hanno abbastanza esempi passati per insegnare tutto a un computer da solo.

Sommario tecnico

Sintesi Tecnica: Combinare Argomentazione Astratta e Apprendimento Automatico per Analizzare Efficientemente Flussi di Eventi di Basso Livello

1. Definizione del Problema

Il documento affronta la sfida dell'astrazione dei log nel Process Mining, in particolare l'interpretazione di flussi di eventi di basso livello in attività aziendali di alto livello. In molti scenari moderni (ad esempio, Fabbriche Intelligenti, Sanità), le tracce di processo consistono in azioni grezze di basso livello (eventi) che non hanno una mappatura diretta e uno-a-uno con le attività di processo di alto livello. Esiste invece spesso una relazione molti-a-molti tra tipi di eventi e tipi di attività, creando un "divario di astrazione".

Questo divario porta a un problema di interpretazione: determinare quale istanza di attività di alto livello ha generato un specifico evento di basso livello. Le soluzioni esistenti presentano due limitazioni principali:

1. Gli approcci basati sulla conoscenza (ad esempio, Framework di Argomentazione Astratta o AAF) possono gestire vincoli complessi e fornire spiegazioni, ma possono produrre troppe interpretazioni plausibili quando i vincoli sono lassi, portando a un sovraccarico informativo e a costi computazionali elevati.
2. Gli approcci basati sugli esempi (ad esempio, taggatori di sequenze di Apprendimento Automatico supervisionato) possono classificare le interpretazioni probabili, ma spesso falliscono quando i dati di addestramento sono scarsi, rumorosi o insufficienti a catturare comportamenti di processo complessi, e mancano di meccanismi per imporre vincoli di dominio rigorosi o fornire spiegazioni logiche per le interpretazioni rifiutate.

Il documento propone un approccio neuro-simbolico per combinare i punti di forza di entrambi i paradigmi: utilizzare l'Apprendimento Automatico (ML) per fornire interpretazioni candidate probabilistiche e consapevoli del contesto, e l'Argomentazione Astratta per raffinare queste candidate sulla base di conoscenze di dominio formali, garantendo la validità e fornendo spiegazioni.

2. Metodologia

Il framework proposto integra due componenti AI distinte: un Taggatore di Tracce (ML) e un Motore di Ragionamento basato su AAF (Simbolico).

2.1 Componenti

• Il Taggatore di Tracce (M): Un modello di Apprendimento Automatico sub-simbolico (nello specifico, un modello di etichettatura di sequenze) addestrato su tracce di log annotate. Prevede una distribuzione di probabilità sulle possibili attività per un evento corrente $e_{curr}$, considerando il contesto degli eventi precedenti nella traccia. Sono state testate due architetture:
  • $M_A$: Un'architettura basata su LSTM che cattura le dipendenze sequenziali.
  • $M_B$: Un'architettura di Rete Neurale Profonda (DNN) che utilizza finestre di lunghezza fissa di embedding di eventi.
• Il Motore di Ragionamento basato su AAF (R): Un modulo basato sulla conoscenza derivato dai Framework di Argomentazione Astratta. Codifica:
  • Mappature a livello di tipo: Relazioni tra tipi di eventi e tipi di attività (inclusi stadi del ciclo di vita come primo, intermedio, ultimo).
  • Modelli di processo dichiarativi: Vincoli temporali (ad esempio, deve, non, precedenza) definiti su istanze di attività.
    Il motore di ragionamento costruisce un AAF in cui gli argomenti rappresentano interpretazioni candidate e gli attacchi rappresentano conflitti con la conoscenza di dominio. Le interpretazioni valide corrispondono alle estensioni preferite dell'AAF.

2.2 Il Flusso di Lavoro Ibrido (Analisi Online)

Il contributo principale è un algoritmo interattivo e online (Algoritmo 1) che elabora una traccia in esecuzione in modo incrementale:

1. Aggiornamento Iniziale: Il motore di ragionamento aggiorna il proprio AAF interno con tutte le interpretazioni candidate derivate dalle mappature globali a livello di tipo.
2. Previsione ML: Il taggatore di tracce $M$ prevede una distribuzione di probabilità $p_d$ per l'evento corrente $e_{curr}$ basandosi sul contesto della traccia.
3. Revisione Basata sulla Conoscenza: Il motore di ragionamento $R$ filtra le previsioni ML. Qualsiasi attività ritenuta non valida dalla conoscenza di dominio (cioè non presente in alcuna interpretazione valida dell'AAF) vede la sua probabilità impostata a zero.
4. Smussamento e Normalizzazione: Per prevenire lo scenario in cui il modello ML assegna probabilità zero a tutti i candidati validi, viene applicata una procedura di smussamento simile a quella di Laplace alle probabilità rimanenti, che vengono poi normalizzate.
5. Raffinamento AAF: Il motore di ragionamento ricostruisce l'AAF utilizzando solo le attività con probabilità non zero (i top-$k$ candidati). Questo riduce significativamente lo spazio di ricerca per il risolutore di argomentazione.
6. Output: Il sistema presenta all'utente un elenco classificato delle interpretazioni valide più probabili e consente query interattive (ad esempio, "Questo evento è l'inizio dell'attività A?") e spiegazioni sul motivo per cui altre interpretazioni sono state rifiutate.

3. Contributi Chiave

Il documento rivendica due contributi principali:

1. Interpretazione Migliorata tramite Classifica: Sfruttando la conoscenza guidata dai dati, l'approccio presenta le interpretazioni degli eventi in modo classificato e parziale (top-$k$), affrontando il problema del sovraccarico informativo intrinseco negli approcci di ragionamento puro quando i vincoli sono lassi.
2. Efficienza dei Dati Migliorata: Sfruttando la conoscenza del modello di processo (vincoli), l'approccio migliora le prestazioni dei metodi di astrazione basati sugli esempi in scenari in cui i dati di addestramento annotati sono scarsi o insufficienti per apprendere una caratterizzazione rigorosa del processo.

Gli autori posizionano questo come una strategia neuro-simbolica in cui il modello ML agisce come un meccanismo "apprendimento per il ragionamento" per accelerare l'esplorazione, mentre il motore di ragionamento agisce come un meccanismo "ragionamento per l'apprendimento" per correggere e validare le previsioni ML.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su dataset sintetici (ispirati a un processo reale di un'agenzia regionale italiana) con lunghezze di traccia variabili e livelli di incertezza di mappatura (relazioni molti-a-molti).

• Accuratezza e Robustezza: L'approccio ibrido (Taggatore + Motore di Ragionamento) ha costantemente superato il Taggatore da solo e il Motore di ragionamento da solo in termini di accuratezza, precisione, richiamo e punteggio F1. In particolare, quando il Taggatore ha performato male (ad esempio, a causa di un'architettura complessa come $M_A$ o dati limitati), il Motore di ragionamento ha aumentato significativamente le prestazioni.
• Efficienza dei Dati: Negli esperimenti in cui la dimensione del set di addestramento è stata ridotta (dal 100% al 20%), l'approccio ibrido ha mantenuto un'accuratezza significativamente più alta rispetto al Taggatore da solo. La curva di prestazioni del metodo ibrido è stata molto più piatta, dimostrando robustezza alla scarsità di dati.
• Riduzione del Sovraccarico Informativo: L'approccio ha ridotto sostanzialmente il numero di interpretazioni candidate che un analista deve considerare. Per tracce di lunghezza 60, la riduzione del sovraccarico informativo (misurata come differenza nella posizione di classifica dell'attività corretta) è stata superiore a 20 alternative rispetto all'uso del solo Motore di ragionamento.
• Tempo di Calcolo: Sebbene l'approccio ibrido sia più lento del solo Taggatore (a causa del passaggio di ragionamento), il tempo medio di previsione è rimasto intorno a 1 secondo, considerato fattibile per contesti di analisi dei processi aziendali. Il sovraccarico computazionale del Taggatore stesso è stato trascurabile rispetto al processo di ragionamento.

5. Significato e Novità

Il documento afferma che questo lavoro rappresenta il primo tentativo di sfruttare un approccio neuro-simbolico in un contesto di process mining per l'analisi esplorativa interattiva di tracce di basso livello.

Le distinzioni chiave rispetto alle soluzioni neuro-simboliche esistenti includono:

• Ambito dei Vincoli: I vincoli comportamentali abbracciano sia le variabili di input (eventi passati) che di output (evento corrente), mentre molte approcci esistenti vincolano solo l'output.
• Applicazione in Runtime: I vincoli sono applicati in runtime durante la sessione di interpretazione, piuttosto che durante l'addestramento del modello. Ciò consente flessibilità, permettendo agli utenti di modificare i vincoli senza riaddestrare il modello ML.
• Capacità di Query: Il framework supporta query espressive orientate al processo e fornisce spiegazioni per le interpretazioni rifiutate, andando oltre la semplice stima di probabilità o la generazione di campioni.

Gli autori concludono che questo framework fa avanzare lo stato dell'arte consentendo una cooperazione efficace human-in-the-loop, combinando la velocità e la consapevolezza del contesto dell'ML con l'affidabilità e la spiegabilità del ragionamento simbolico, in particolare in applicazioni ingegneristiche complesse dove i dati possono essere limitati o i processi scarsamente strutturati.

6. Limitazioni e Lavori Futuri

Gli autori riconoscono che l'approccio dipende dalla disponibilità di conoscenza di dominio (vincoli). Se i vincoli sono troppo pochi o inesistenti, il motore di ragionamento non può guidare efficacemente il taggatore. Inoltre, se i dati annotati sono estremamente scarsi, anche il metodo ibrido potrebbe faticare.

Le direzioni per lavori futuri identificate includono:

• Apprendimento Semi-supervisionato: Utilizzare tracce di log non etichettate con una funzione di perdita di regolarizzazione dell'entropia per migliorare l'addestramento del taggatore.
• Apprendimento Attivo: Sviluppare strategie per selezionare le tracce non etichettate più informative per l'annotazione da parte di esperti al fine di migliorare il modello del taggatore.
• Vincoli Probabilistici: Investigare meccanismi per incorporare direttamente conoscenza di dominio probabilistica (ad esempio, "L'attività A segue B nell'80% dei casi") nell'AAF, poiché il framework attuale gestisce solo vincoli deterministici.