Combining Abstract Argumentation and Machine Learning for Efficiently Analyzing Low-Level Process Event Streams

Dieser Beitrag schlägt einen dateneffizienten neuro-symbolischen Ansatz vor, der einen maschinellen Lern-Sequenztagger mit einem abstrakten Argumentationsrahmen kombiniert, um niedrigstufige Prozess-Ereignisströme präzise zu interpretieren und Kandidateninterpretationen unter Verwendung von Vorwissen zu verfeinern, wodurch die Grenzen der Datenknappheit und der rechnerischen Komplexität überwunden werden.

Das Wesentliche

Stellen Sie sich vor, Sie versuchen, eine Geschichte zu verstehen, haben aber nur eine Liste roher, niedrigstufiger Aktionen anstelle der eigentlichen Handlung.

Das Problem: Die „Übersetzungs"-Lücke
Denken Sie an den Ablauf eines Krankenhauspatienten. Ein Computerprotokoll könnte eine Abfolge winziger, spezifischer Aktionen aufzeichnen: „Patient berührt", „Blut entnommen", „Druck gemessen", „Nadel eingeführt". Dies sind die niedrigstufigen Ereignisse.

Ein Arzt oder Manager möchte jedoch keine Liste winziger Aktionen sehen; er möchte die hochstufige Geschichte wissen: „Vorbereitung", „Stationäre Aufnahme" und „Vor der Operation".

Das Problem besteht darin, dass eine winzige Aktion (wie „Blut entnommen") in jedem dieser drei großen Abschnitte stattfinden könnte. Es ist, als würde man in einem Film eine Figur eine Tasse aufnehmen sehen. Trinkt sie Kaffee vor einem Meeting? Schenkt sie einem Gast Tee ein? Oder räumt sie gerade auf? Ohne Kontext ist es ein Ratespiel. Wenn man falsch rät, wird die gesamte Geschichte der Patientenversorgung durcheinandergebracht.

Die alten Lösungsansätze
Die Arbeit beschreibt zwei frühere Wege, dieses Problem zu lösen, die beide Mängel aufwiesen:

1. Der „Strengen Regelwerk"-Ansatz (Abstrakte Argumentation):
   Stellen Sie sich einen sehr strengen, logischen Detektiv vor, der alle Regeln des Krankenhauses kennt.

   • Regel: „Vor der Operation muss nach der stationären Aufnahme stattfinden."
   • Regel: „Man kann nicht mit der Vor-Operation beginnen, wenn man die Vorbereitung nicht abgeschlossen hat."
     Dieser Detektiv prüft jede mögliche Geschichte gegen die Regeln. Wenn eine Geschichte eine Regel bricht, wird sie verworfen.
   • Der Mangel: Manchmal sind die Regeln zu locker. Der Detektiv könnte sagen: „Nun, technisch gesehen könnte dies eine stationäre Aufnahme sein, oder es könnte eine Vor-Operation sein, oder es könnte eine Vorbereitung sein." Der Detektiv gibt Ihnen eine riesige Liste von 50 Möglichkeiten. Sie ist genau, aber sie ist überwältigend und langsam zu berechnen.

2. Der „Mustererkennungs"-Ansatz (Maschinelles Lernen):
   Stellen Sie sich einen Schüler vor, der Tausende vergangener Patientengeschichten gelesen hat.

   • Funktionsweise: Der Schüler sieht „Blut entnommen" und erinnert sich: „Ah, in 80 % der Geschichten, die ich gelesen habe, geschah dies während der stationären Aufnahme."
   • Der Mangel: Dieser Schüler benötigt eine riesige Bibliothek vergangener Geschichten, um zu lernen. Wenn der Schüler nicht genügend Beispiele gesehen hat, könnte er falsch raten. Außerdem kennt er die strengen Regeln nicht. Er könnte für ein „Blut entnommen"-Ereignis „Vor der Operation" raten, obwohl die Regeln besagen, dass die Vor-Operation noch nicht stattfinden kann.

Die neue Lösung: Das „Neuro-symbolische" Team
Die Autoren schlagen eine Zusammenarbeit zwischen dem strengen Detektiv (Reasoner) und dem Mustererkennungs-System (Maschinelles Lernen) vor. Sie nennen dies einen „neuro-symbolischen" Ansatz.

So arbeiten sie in Echtzeit zusammen:

1. Der erste Versuch: Der Mustererkennungs-Algorithmus (Maschinelles Lernen) betrachtet das aktuelle Ereignis und die Historie dessen, was zuvor geschah. Er sagt: „Ich bin zu 80 % sicher, dass dies eine stationäre Aufnahme ist, zu 15 % eine Vorbereitung und zu 5 % eine Vor-Operation." Er liefert eine sortierte Liste der wahrscheinlichsten Geschichten.
2. Der Realitätscheck: Der strenge Detektiv (Reasoner) nimmt diese kurze Liste und prüft sie gegen die harten Regeln.
   • „Warten Sie", sagt der Detektiv. „Die Regeln besagen, dass die Vor-Operation noch nicht stattfinden kann. Also ist diese 5 %-Schätzung unmöglich. Ich streiche sie."
   • „Außerdem", fügt der Detektiv hinzu, „die Regeln besagen, dass man gerade nicht zwei stationäre Aufnahmen hintereinander haben kann. Also ist auch diese 15 %-Schätzung ungültig."
3. Die endgültige Antwort: Das System präsentiert dem Benutzer nur die gültigen Optionen, sortiert nach der Wahrscheinlichkeit, die der Mustererkennungs-Algorithmus für sie hielt.

Warum dies eine große Sache ist
Die Arbeit behauptet, dass diese Zusammenarbeit die Schwächen der alten Methoden löst:

• Es ist schneller und klarer: Anstatt dass der Detektiv Ihnen 50 verwirrende Möglichkeiten liefert, reduziert der Mustererkennungs-Algorithmus dies auf die Top 3, und der Detektiv bestätigt lediglich, welche dieser 3 legal sind. Sie erhalten eine kurze, sortierte Liste der besten Antworten.
• Es funktioniert mit weniger Daten: Der Mustererkennungs-Algorithmus benötigt normalerweise Tausende von Beispielen, um gut zu lernen. Aber da der strenge Detektiv da ist, um die Fehler zu korrigieren, muss der Mustererkennungs-Algorithmus nicht perfekt sein. Selbst wenn der Schüler nicht viele Bücher gelesen hat, kann der Detektiv ihn immer noch davon abhalten, dumme Fehler zu machen. Die Experimente der Arbeit zeigen, dass dieses Team selbst mit sehr wenigen Trainingsbeispielen deutlich besser abschneidet als der Schüler allein.
• Es erklärt „Warum": Wenn das System eine Idee ablehnt, kann der Detektiv erklären, warum (z. B. „Ich habe 'Vor der Operation' abgelehnt, weil die Regeln besagen, dass 'Vorbereitung' zuerst stattfinden muss").

Kurz gesagt
Die Arbeit stellt ein System vor, das die Intuition eines maschinellen Lernmodells (das auf Mustern basiert) mit der Logik eines regelbasierten Systems (das gegen Fakten prüft) kombiniert. Dies schafft ein Werkzeug, das intelligent genug ist, um die richtige Geschichte zu erraten, schnell genug, um dies in Echtzeit zu tun, und streng genug, um sicherzustellen, dass die Geschichte gemäß den Regeln Sinn ergibt. Es ist besonders nützlich, wenn man nicht genügend vergangene Beispiele hat, um einem Computer alles allein beizubringen.

Technische Zusammenfassung

Technische Zusammenfassung: Kombination abstrakter Argumentation und maschinellem Lernen zur effizienten Analyse von Low-Level-Prozess-Ereignisströmen

1. Problemdefinition

Die Arbeit adressiert die Herausforderung der Log-Aggregation im Process Mining, insbesondere die Interpretation von Low-Level-Ereignisströmen in hochlevelige Geschäftsaktivitäten. In vielen modernen Szenarien (z. B. Smart Factories, Gesundheitswesen) bestehen Prozessspuren aus rohen, low-level Aktionen (Ereignisse), die keine direkte, eins-zu-eins-Zuordnung zu hochleveligen Prozessaktivitäten aufweisen. Stattdessen besteht häufig eine Viele-zu-Viele-Beziehung zwischen Ereignistypen und Aktivitätstypen, was eine „Abstraktionslücke" erzeugt.

Diese Lücke führt zu einem Interpretationsproblem: Es muss ermittelt werden, welche hochlevelige Aktivitätsinstanz ein spezifisches Low-Level-Ereignis generiert hat. Bestehende Lösungen stoßen auf zwei primäre Einschränkungen:

1. Wissensbasierte Ansätze (z. B. Abstrakte Argumentationsframeworks oder AAFs) können komplexe Constraints handhaben und Erklärungen liefern, liefern jedoch bei losen Constraints oft zu viele plausible Interpretationen, was zu Informationsüberflutung und hohen Rechenkosten führt.
2. Beispielbasierte Ansätze (z. B. überwachte Machine-Learning-Sequenz-Tagger) können wahrscheinliche Interpretationen rangieren, versagen jedoch häufig, wenn Trainingsdaten knapp, verrauscht oder unzureichend sind, um komplexe Prozessverhalten zu erfassen, und ihnen fehlen Mechanismen, um strenge Domänen-Constraints durchzusetzen oder logische Erklärungen für abgelehnte Interpretationen zu liefern.

Die Arbeit schlägt einen neuro-symbolischen Ansatz vor, um die Stärken beider Paradigmen zu kombinieren: Maschinelles Lernen (ML) liefert kontextbewusste, probabilistische Kandidaten-Interpretationen, während abstrakte Argumentation diese Kandidaten basierend auf formalem Domänenwissen verfeinert, um Gültigkeit sicherzustellen und Erklärungen zu liefern.

2. Methodik

Das vorgeschlagene Framework integriert zwei unterschiedliche KI-Komponenten: einen Trace Tagger (ML) und einen AAF-basierten Reasoner (Symbolisch).

2.1 Komponenten

• Der Trace Tagger (M): Ein sub-symbolisches Machine-Learning-Modell (speziell ein Sequenz-Tagging-Modell), das auf annotierten Log-Spuren trainiert wurde. Es sagt eine Wahrscheinlichkeitsverteilung über mögliche Aktivitäten für ein aktuelles Ereignis $e_{curr}$ voraus, wobei der Kontext vorheriger Ereignisse in der Spur berücksichtigt wird. Zwei Architekturen wurden getestet:
  • $M_A$: Eine auf LSTM basierende Architektur, die sequenzielle Abhängigkeiten erfasst.
  • $M_B$: Eine Deep-Neural-Network-(DNN)-Architektur, die feste Fenster von Ereignis-Embeddings verwendet.
• Der AAF-basierte Reasoner (R): Ein wissensbasiertes Modul, das auf Abstrakten Argumentationsframeworks basiert. Es kodiert:
  • Typ-Level-Zuordnungen: Beziehungen zwischen Ereignistypen und Aktivitätstypen (einschließlich Lebenszyklusphasen wie first, intermediate, last).
  • Deklarative Prozessmodelle: Temporale Constraints (z. B. must, not, precedence), die über Aktivitätsinstanzen definiert sind.
    Der Reasoner konstruiert ein AAF, in dem Argumente Kandidaten-Interpretationen darstellen und Angriffe Konflikte mit Domänenwissen repräsentieren. Gültige Interpretationen entsprechen den preferred extensions des AAF.

2.2 Der hybride Workflow (Online-Analyse)

Der Kernbeitrag ist ein interaktiver, Online-Algorithmus (Algorithmus 1), der eine laufende Spur inkrementell verarbeitet:

1. Initiale Aktualisierung: Der Reasoner aktualisiert sein internes AAF mit allen Kandidaten-Interpretationen, die aus globalen Typ-Level-Zuordnungen abgeleitet wurden.
2. ML-Vorhersage: Der Trace Tagger $M$ sagt eine Wahrscheinlichkeitsverteilung $p_d$ für das aktuelle Ereignis $e_{curr}$ basierend auf dem Spurkontext voraus.
3. Wissensbasierte Revision: Der Reasoner $R$ filtert die ML-Vorhersagen. Jede Aktivität, die als ungültig durch das Domänenwissen eingestuft wird (d. h. nicht in einer gültigen Interpretation des AAF vorhanden ist), erhält eine Wahrscheinlichkeit von null.
4. Glättung und Normalisierung: Um den Fall zu verhindern, dass das ML-Modell allen gültigen Kandidaten eine Wahrscheinlichkeit von null zuweist, wird ein Laplace-ähnliches Glättungsverfahren auf die verbleibenden Wahrscheinlichkeiten angewendet, die anschließend normalisiert werden.
5. AAF-Verfeinerung: Der Reasoner baut das AAF nur mit den Aktivitäten mit nicht-null-Wahrscheinlichkeiten (den Top-$k$-Kandidaten) neu auf. Dies reduziert den Suchraum für den Argumentationslöser erheblich.
6. Ausgabe: Das System präsentiert dem Benutzer eine rangierte Liste der wahrscheinlichsten gültigen Interpretationen und ermöglicht interaktive Abfragen (z. B. „Ist dieses Ereignis der Start der Aktivität A?") sowie Erklärungen, warum andere Interpretationen abgelehnt wurden.

3. Hauptbeiträge

Die Arbeit beansprucht zwei Hauptbeiträge:

1. Verbesserte Interpretation durch Rangierung: Durch die Nutzung datengestützten Wissens präsentiert der Ansatz Ereignis-Interpretationen in einer rangierten, partiellen Form (Top-$k$) und adressiert damit das Informationsüberflutungsproblem, das reinen Reasoning-Ansätzen bei losen Constraints inhärent ist.
2. Verbesserte Dateneffizienz: Durch die Nutzung von Prozessmodellwissen (Constraints) verbessert der Ansatz die Leistung beispielbasierter Aggregationsmethoden in Szenarien, in denen annotierte Trainingsdaten knapp oder unzureichend sind, um eine enge Charakterisierung des Prozesses zu erlernen.

Die Autoren positionieren dies als neuro-symbolische Strategie, bei der das ML-Modell als Mechanismus „Lernen für Reasoning" dient, um die Exploration zu beschleunigen, während der Reasoner als Mechanismus „Reasoning für Lernen" fungiert, um ML-Vorhersagen zu korrigieren und zu validieren.

4. Experimentelle Ergebnisse

Experimente wurden auf synthetischen Datensätzen durchgeführt (inspiriert von einem realen Prozess einer italienischen Regionalbehörde) mit variierenden Spur-Längen und unterschiedlichen Niveaus an Zuordnungsunsicherheit (Viele-zu-Viele-Beziehungen).

• Genauigkeit und Robustheit: Der hybride Ansatz (Tagger + Reasoner) übertraf konsistent sowohl den Tagger allein als auch den Reasoner allein in Bezug auf Genauigkeit, Präzision, Recall und F1-Score. Bemerkenswert ist, dass der Reasoner die Leistung signifikant steigerte, wenn der Tagger schlecht abschnitt (z. B. aufgrund einer komplexen Architektur wie $M_A$ oder begrenzter Daten).
• Dateneffizienz: In Experimenten, bei denen die Größe des Trainingsdatensatzes reduziert wurde (von 100 % auf 20 %), behielt der hybride Ansatz eine signifikant höhere Genauigkeit bei als der Tagger allein. Die Performanzkurve der hybriden Methode war viel flacher und demonstrierte Robustheit gegenüber Datenknappheit.
• Reduktion der Informationsüberflutung: Der Ansatz reduzierte die Anzahl der Kandidaten-Interpretationen, die ein Analyst berücksichtigen muss, erheblich. Für Spuren der Länge 60 betrug die Reduktion der Informationsüberflutung (gemessen als Differenz in der Rangposition der korrekten Aktivität) über 20 Alternativen im Vergleich zur alleinigen Verwendung des Reasoners.
• Berechnungszeit: Obwohl der hybride Ansatz langsamer ist als der Tagger allein (aufgrund des Reasoning-Schritts), blieb die durchschnittliche Vorhersagezeit bei etwa 1 Sekunde, was im Kontext der Geschäftsprozessanalyse als machbar gilt. Der Rechenaufwand des Taggers selbst war im Vergleich zum Reasoning-Prozess vernachlässigbar.

5. Bedeutung und Neuheit

Die Arbeit behauptet, dass diese Arbeit den ersten Versuch darstellt, einen neuro-symbolischen Ansatz im Process-Mining-Kontext für die interaktive explorative Analyse von Low-Level-Spuren zu nutzen.

Wesentliche Unterscheidungsmerkmale zu bestehenden neuro-symbolischen Lösungen umfassen:

• Constraint-Umfang: Die Verhaltens-Constraints umfassen sowohl Eingabe- (Vergangene Ereignisse) als auch Ausgabevariablen (aktuelles Ereignis), während viele bestehende Ansätze nur die Ausgabe einschränken.
• Laufzeit-Enforcement: Constraints werden während der Interpretationssitzung in Laufzeit durchgesetzt, nicht während des Modelltrainings. Dies ermöglicht Flexibilität, sodass Benutzer Constraints ändern können, ohne das ML-Modell neu zu trainieren.
• Abfragefähigkeiten: Das Framework unterstützt ausdrucksstarke, prozessorientierte Abfragen und liefert Erklärungen für abgelehnte Interpretationen und geht damit über einfache Wahrscheinlichkeitsschätzungen oder Stichprobengenerierung hinaus.

Die Autoren schließen, dass dieses Framework den Stand der Technik voranbringt, indem es eine effektive Human-in-the-Loop-Kooperation ermöglicht, die Geschwindigkeit und Kontextbewusstsein von ML mit der Zuverlässigkeit und Erklärbarkeit symbolischen Reasonings kombiniert, insbesondere in komplexen Ingenieursanwendungen, in denen Daten begrenzt oder Prozesse lose strukturiert sein können.

6. Einschränkungen und zukünftige Arbeiten

Die Autoren räumen ein, dass der Ansatz auf der Verfügbarkeit von Domänenwissen (Constraints) beruht. Wenn Constraints zu wenige oder nicht vorhanden sind, kann der Reasoner den Tagger nicht effektiv lenken. Zusätzlich kann selbst der hybride Ansatz Schwierigkeiten haben, wenn annotierte Daten extrem knapp sind.

Zukünftige Arbeitsrichtungen umfassen:

• Semi-überwachtes Lernen: Nutzung ungelabelter Log-Spuren mit Entropie-Regularisierungs-Verlust, um das Tagger-Training zu verbessern.
• Active Learning: Entwicklung von Strategien zur Auswahl der informativsten ungelabelten Spuren für die Experten-Annotation, um das Tagger-Modell zu verbessern.
• Probabilistische Constraints: Untersuchung von Mechanismen zur direkten Einbeziehung probabilistischen Domänenwissens (z. B. „Aktivität A folgt B in 80 % der Fälle") in das AAF, da das aktuelle Framework nur deterministische Constraints handhabt.