Feature Attribution-Based Explainability Analysis of Deep Learning Models in Predictive Process Monitoring
Dieses Paper schlägt eine lokale Post-hoc-Erklärbarkeitsmethode für Deep-Learning-Modelle in der prädiktiven Prozessüberwachung vor, die einen kontrollflussbewussten Segmentierungsalgorithmus nutzt, um segmentweise SHAP-Erklärungen zu generieren, wodurch die Recheneffizienz effektiv mit der Fähigkeit in Einklang gebracht wird, zugrunde liegende Kontrollflussdynamiken zu erfassen und kritische Änderungspunkte in Ereignisprotokollen zu identifizieren.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie sind ein Detektiv, der versucht, ein Rätsel zu lösen, aber anstelle eines Tatorts ist Ihr Tatort eine digitale Spur geschäftlicher Aktivitäten. Dieses Feld wird Predictive Process Monitoring genannt. Denken Sie an es wie ein GPS für den Workflow eines Unternehmens: Es beobachtet einen Fall (wie einen Kreditantrag oder eine Genehmigungsanfrage), während er von Schritt zu Schritt wandert, und versucht zu erraten, wo er enden wird. Wird der Kredit genehmigt? Wird das Projekt rechtzeitig abgeschlossen sein? Um dies zu tun, nutzen Unternehmen leistungsstarke Computergehirne, die man Deep Learning-Modelle nennt. Diese Modelle sind wie superintelligente Studenten, die Millionen vergangener Geschichten gelesen haben und Muster erkennen können, die Menschen entgehen. Aber hier ist der Haken: Diese Modelle sind „Black Boxes“. Sie geben Ihnen die Antwort, aber sie sagen Ihnen nicht, warum sie so denken. Es ist, als würde ein Lehrer Ihnen eine Note für einen Test geben, aber sich weigern, Ihnen zu zeigen, welche Antworten richtig oder falsch waren. Aus diesem Grund haben Menschen oft Angst, ihnen wichtige Entscheidungen anzuvertrauen. Um dies zu beheben, nutzen Wissenschaftler Explainability-Tools (Erklärbarkeitswerkzeuge). Diese sind wie Taschenlampen, die auf das Denken des Modells leuchten und hervorheben, welche spezifischen Teile der Geschichte am wichtigsten waren. Die alten Taschenlampen waren jedoch entweder zu stark herangezoomt (sie zeigten jeden einzelnen winzigen Schritt, was überwältigend und verwirrend ist) oder zu weit herausgezoomt (sie verschwammen die ganze Geschichte zu einem einzigen großen Klumpen, wodurch die Details verloren gingen).
Dieses Paper stellt eine neue Art vor, diese Taschenlampe zu halten, speziell für Geschäftsprozesse. Die Autorin Kseniya Sahatova und ihr Team erkannten, dass Geschäftsgeschichten nicht nur zufällige Listen von Ereignissen sind; sie haben einen Rhythmus und einen Fluss, wie Kapitel in einem Buch. Sie schlagen eine Methode vor, die ein langes, unübersichtliches Prozessprotokoll in aussagekräftige „Kapitel“ oder Segmente unterteilt, basierend darauf, wie die Aktivitäten natürlich aufeinanderfolgen. Anstatt zu fragen: „War diese eine E-Mail wichtig?“ oder „War die ganze Akte wichtig?“, fragen sie: „War diese spezifische Phase des Prozesses wichtig?“
Um ihre Idee zu testen, bauten sie einen „fiktiven“ Geschäftsprozess, bei dem sie genau wussten, wo die Wendepunkte der Handlung passierten („Ground Truth“). Sie fanden heraus, dass ihre neue Methode diese Wendepunkte mit über 90 % Genauigkeit erkennen konnte, was viel besser war als nur einzelne Schritte zu betrachten. Als sie ihre Methode auf echte Daten von Kreditanträgen einer niederländischen Bank und administrativen Aufgaben einer Kommune anwandten, waren die Ergebnisse noch interessanter. Für die Kreditanträge zeigte ihre Methode deutlich, dass ein glatter, strukturierter Pfad zur Genehmigung führte, während ein spezifisches Muster aus „wiederholtem Erstellen von Angeboten“ ein großes Warnsignal war, das zur Ablehnung führte. Es war, als fände man ein bestimmtes Erzählmittel in einem Film, das immer eine Tragödie ankündigt.
Das Paper legt nahe, dass dieser „Segment-Ebene“-Ansatz der „Sweet Spot“ ist. Er ist mathematisch nicht so perfekt wie die Betrachtung jedes einzelnen Ereignisses (was der Rohmathematik des Modells am treuesten wäre), aber er ist für Menschen viel leichter zu verstehen. Er gruppiert zusammengehörige Ereignisse, sodass man die Geschichte hinter der Vorhersage sehen kann. Die Autoren weisen jedoch vorsichtig darauf hin, dass dies am besten funktioniert, wenn der Geschäftsprozess eine klare Struktur hat. Wenn ein Prozess super chaotisch ist und jeder Fall völlig anders ist, könnte die Methode verwirrt werden und die Geschichte in zu viele winzige, bedeutungslose Teile zerlegen. Aber für Prozesse, die einen logischen Ablauf haben, hilft diese neue „kapitelbasierte“ Erklärung uns dabei, der KI zu vertrauen, indem sie uns genau zeigt, welche Teile der Reise das Ergebnis gelenkt haben.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.