🤖 machine learning

Feature Attribution-Based Explainability Analysis of Deep Learning Models in Predictive Process Monitoring

Cet article propose une méthode d'explicabilité post-hoc locale pour les modèles d'apprentissage profond dans la surveillance prédictive des processus qui utilise un algorithme de segmentation sensible au flux de contrôle afin de générer des explications SHAP au niveau du segment, équilibrant efficacement l'efficacité computationnelle avec la capacité à capturer la dynamique du flux de contrôle sous-jacent et à identifier les points de changement critiques dans les journaux d'événements.

Auteurs originaux : Kseniya Sahatova, Rafael Seidi Oyamada, Xuefei Lu, Johannes De Smedt

Publié 2026-07-21

📖 4 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Kseniya Sahatova, Rafael Seidi Oyamada, Xuefei Lu, Johannes De Smedt

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous êtes un détective tentant de résoudre un mystère, mais au lieu d'une scène de crime, votre scène de crime est une trace numérique d'activités commerciales. Ce domaine s'appelle la Surveillance Prédictive des Processus (Predictive Process Monitoring). Considérez cela comme un GPS pour le flux de travail d'une entreprise : il observe un dossier (comme une demande de prêt ou une demande de permis) à mesure qu'il passe d'une étape à l'autre, en essayant de deviner où il finira par arriver. Le prêt sera-t-il approuvé ? Le projet sera-t-il terminé à temps ? Pour ce faire, les entreprises utilisent de puissants cerveaux informatiques appelés modèles de Deep Learning. Ces modèles sont comme des étudiants super intelligents qui ont lu des millions d'histoires passées et peuvent repérer des motifs que les humains ne voient pas. Mais voici le hic : ces modèles sont des « boîtes noires ». Ils vous donnent la réponse, mais ils ne vous disent pas pourquoi ils pensent cela. C'est comme un professeur qui vous donnerait une note à un examen mais refuserait de vous montrer quelles réponses étaient bonnes ou mauvaises. À cause de cela, les gens ont souvent peur de leur confier des décisions importantes. Pour corriger cela, les scientifiques utilisent des outils d'Explicabilité. Ce sont comme des lampes de poche qui éclairent la pensée du modèle, mettant en évidence les parties spécifiques de l'histoire qui ont le plus compté. Cependant, les anciennes lampes de poche étaient soit trop zoomées (montrant chaque petite étape minuscule, ce qui est accablant et déroutant), soit trop dézoomées (floutant toute l'histoire en un gros bloc, ce qui fait perdre les détails).

Cet article introduit une nouvelle façon de braquer cette lampe de poche, spécifiquement pour les processus métier. Les auteurs, Kseniya Sahatova et son équipe, ont réalisé que les histoires commerciales ne sont pas de simples listes d'événements aléatoires ; elles ont un rythme et un flux, comme les chapitres d'un livre. Ils proposent une méthode qui décompose un journal de processus long et désordonné en « chapitres » ou segments significatifs, basés sur la manière dont les activités se suivent naturellement. Au lieu de demander : « Est-ce que cet e-mail unique a compté ? » ou « Est-ce que tout le dossier a compté ? », ils demandent : « Est-ce que cette phase spécifique du processus a compté ? »

Pour tester leur idée, ils ont construit un processus métier « fictif » où ils savaient exactement où se trouvaient les rebondissements de l'intrigue (la « vérité terrain »). Ils ont découvert que leur nouvelle méthode pouvait repérer ces rebondissements avec une précision de plus de 90 %, bien meilleure qu'en regardant simplement les étapes individuelles. Lorsqu'ils l'ont testée sur des données réelles provenant des demandes de prêt d'une banque néerlandaise et des tâches administratives d'une municipalité, les résultats étaient encore plus intéressants. Pour les demandes de prêt, leur méthode montrait clairement qu'un chemin fluide et structuré menait à l'approbation, tandis qu'un schéma spécifique de « création répétée d'offres » était un énorme signal d'alarme menant au rejet. C'était comme trouver un ressort scénaristique spécifique dans un film qui annonce toujours une tragédie.

L'article suggère que cette approche par « niveau de segment » est le juste milieu. Elle n'est pas aussi mathématiquement parfaite que l'examen de chaque événement individuel (qui est la plus fidèle aux mathématiques brutes du modèle), mais elle est beaucoup plus facile à comprendre pour les humains. Elle regroupe les événements liés, de sorte que vous puissiez voir l' histoire derrière la prédiction. Cependant, les auteurs notent prudemment que cela fonctionne mieux lorsque le processus métier possède une structure claire. Si un processus est super chaotique et que chaque cas est totalement différent, la méthode pourrait s'embrouiller et diviser l'histoire en trop de petites pièces insignifiantes. Mais pour les processus qui ont un flux logique, cette nouvelle explication par « chapitres » nous aide à faire confiance à l'IA en nous montissant exactement quelles parties du voyage ont orienté l'issue.

Résumé technique : Analyse d'explicabilité basée sur l'attribution de caractéristiques dans la surveillance de processus prédictive

1. Énoncé du problème

La surveillance de processus prédictive (PPM - Predictive Process Monitoring) utilise des modèles d'apprentissage profond, tels que les réseaux de neurones récurrents (RNN) et les Transformers, pour prévoir les résultats, le temps restant ou les séquences d'activités futures des processus métier en cours. Bien que ces modèles atteignent des performances prédictives élevées en capturant les dépendances séquentielles des journaux d'événements, leur nature de « boîte noire » entrave la confiance et l'adoption dans les environnements opérationnels à enjeux élevés.

Les méthodes d'explicabilité existantes, particulièrement les techniques d'attribution de caractéristiques comme SHAP (Shapley Additive Explanations) et LIME, sont confrontées à un dilemme lorsqu'elles sont appliquées à la PPM :

Explications au niveau de l'événement : L'attribution d'une importance à chaque événement individuel produit souvent des informations fragmentées qui ne parviennent pas à révéler un comportement de processus significatif ou le contexte plus large de l'exécution.
Explications au niveau de la trace : L'agrégation de l'intégralité de la trace en une seule unité entraîne une perte d'information et occulte les parties spécifiques de l'exécution qui pilotent la prédiction.
Limitations des séries temporelles : Bien que la littérature sur les séries temporelles propose des méthodes de segmentation pour regrouper des observations adjacentes, ces approches génériques échouent souvent à respecter les contraintes spécifiques de contrôle de flux, la sémantique des activités et la temporalité irrégulière inhérentes aux journaux d'événements de processus métier. Elles peuvent diviser des étapes de processus cohérentes ou fusionner des comportements sans rapport.

Par conséquent, il existe un besoin pour une approche d'explicabilité qui équilibre l'efficacité computationnelle avec la préservation du contexte de contrôle de flux local, permettant aux parties prenantes de comprendre quelles phases de processus influencent une prédiction.

2. Méthodologie

Les auteurs proposent une méthode d'explicabilité post-hoc locale qui intègre un algorithme de segmentation sensible au contrôle de flux avec un calcul de valeurs SHAP au niveau du segment.

2.1 Segmentation de trace sensible au contrôle de flux

Le cœur de la méthodologie est un algorithme qui partitionne une trace en sous-séquences cohérentes (segments) basées sur les changements de probabilités de transition.

Relation de suivi direct (DFR - Directly-Follows Relation) : L'algorithme construit d'abord un graphe de suivi direct (DFG - Directly-Follows Graph) à partir du journal d'événements pour dériver les probabilités de transition empiriques entre les activités.
Fonction de coût : Pour une trace donnée, l'algorithme attribue un coût aux segments potentiels. Les transitions fréquentes dans le journal contribuent à un coût faible, tandis que les transitions rares ou inédites incorrent une pénalité ( $\gamma$ ). Le coût d'un segment $s$ est défini comme la somme des logarith négatifs des probabilités de ses transitions :
$C(s) = \sum_{i=1}^{m-1} c(a_i, a_{i+1})$
où $c(a_i, a_{i+1}) = -\log T[a_i, a_{i+1}]$ si la transition existe, et $\gamma$ sinon.
Détection de points de changement : L'algorithme utilise l'algorithme PELT (Pruned Exact Linear Time) pour détecter les points de changement qui minimisent une fonction d'objectif pénalisée. Cette fonction équilibre le coût total de segmentation par rapport à un terme de pénalité ( $\beta k$ ) pour le nombre de segments, évitant ainsi la sur-segmentation. L'hyperparamètre $\beta$ est sélectionné via une recherche par grille pour minimiser le critère d'information d'Akaike (AIC).
Résultat : La trace est partitionnée en segments où chaque segment représente une phase de comportement de contrôle de flux local cohérent.

2.2 Calcul de SHAP au niveau du segment

Une fois les traces segmentées, la méthode traite chaque segment comme une unité interprétable unique pour le calcul de la valeur SHAP, plutôt que comme des événements individuels.

Définition de la coalition : Un vecteur de coalition $z \in \{0, 1\}^k$ est défini pour $k$ segments. $z_l=1$ indique que le segment conserve ses valeurs d'origine, tandis que $z_l=0$ indique qu'il est remplacé par une valeur de référence (dérivée du mode pour les attributs catégoriels et de la moyenne pour les attributs numériques dans les données d'entraînement).
Perturbation : Le modèle est évalué sur des traces perturbées où des segments spécifiques sont masqués et remplacés par la valeur de référence.
Valeurs SHAP : KernelSHAP est appliqué pour calculer les valeurs de Shapley, satisfaisant la propriété d'efficacité où la somme des attributions de segments est égale à la différence entre la prédiction du modèle et la prédiction de référence.

3. Dispositif expérimental

L'étude évalue la méthode proposée en utilisant :

Jeux de données :
- Un jeu de données synthétique généré par le simulateur SimBank, présentant des points de changement de vérité terrain connus (annulation vs acceptation des résultats) pour valider la précision de la segmentation.
- Deux références du monde réel : BPIC15 (processus administratifs d'une municipalité néerlandaise) et BPIC17 (demandes de prêt d'institutions financières).
Modèle prédictif : Classificateurs de séquences basés sur LSTM entraînés sur des préfixes de longueur fixe (30 événements) pour prédire des résultats binaires (ex: accepté vs annulé).
Lignes de base (Baselines) :
- Attribution par événement : SHAP standard au niveau de l'événement.
- Segmentation basée sur la distribution : Une méthode regroupant les événements selon des fenêtres temporelles et des définitions de sessions (adaptée des systèmes de recommandation).
Métriques d'évaluation :
- Qualité de la segmentation : RandIndex, Précision, Rappel et F1-score (données synthétiques) ; Pertinence Entropique (ER) et couverture de motifs (données réelles).
- Fidélité de l'explication : Changement de prédiction relatif (RPC - Relative Prediction Change) via la perturbation. Cela mesure à quel point la prédiction change lorsque les segments importants (SHAP élevé) sont perturbés par rapport aux segments non importants.

4. Résultats clés

4.1 Qualité de la segmentation

Données synthétiques : L'algorithme proposé a obtenu un accord élevé avec les points de changement de vérité terrain, avec des scores RandIndex dépassant 0,9 et des F1-scores de 89 % (cas annulés) et 87,4 % (cas acceptés).
Données réelles (BPIC17) : La méthode a identifié des phases de processus cohérentes. Pour les cas acceptés, les 10 principaux motifs de segmentation couvraient 81,4 % des traces, indiquant des structures de contrôle de flux stables. La Pertinence Entropique (ER) a chuté de manière significative de 37,81 (log complet) à 6,68 (segmenté), indiquant que les segments capturent des motifs hautement déterministes et compressibles.
Données réelles (BPIC15) : En raison de la haute variabilité et des faibles probabilités de transition entre de nombreuses paires d'activités, l'algorithme a produit des segments très fins (moyenne de 2 événements par segment). Cela suggère que les journaux présentant une forte variabilité de contrôle de flux limitent la capacité à former des motifs de segments généralisables.

4.2 Fidélité de l'explication

Analyse de perturbation : Les valeurs SHAP au niveau du segment ont démontré une grande fidélité. La perturbation des segments les plus importants (couvrant ~40 % de la trace) a entraîné des changements de prédiction significatifs (RPCI élevé), tandis que la perturbation des segments non importants a eu un effet minimal (RPCU faible).
Comparaison : Bien que l'attribution par événement présente une granularité légèrement supérieure, les méthodes par segment (tant basées sur la distribution que sur le contrôle de flux) ont fourni une séparation plus nette entre les parties importantes et non importantes de la trace. Les méthodes par événement perturbent parfois les dépendances locales en perturbant des événements isolés, entraînant des changements de prédiction inattendus.

4.3 Aperçus qualitatifs

Cas acceptés (BPIC17) : Les segments contenant des transitions fluides (ex: Concept $\to$ Complete application) poussaient systématiquement les prédictions vers l'acceptation (valeurs SHAP négatives).
Cas annulés (BPIC17) : Les segments impliquant la création répétée d'offres ont reçu des valeurs SHAP positives élevées, poussant fortement les prédictions vers l'annulation. Cela a permis d'identifier un goulot d'étranglement spécifique (génération d'offres répétée) associé à l'échec.
Interprétabilité : La méthode a réussi à lier les prédictions du modèle à des phases de processus concrètes (ex: « achèvement de la demande » vs « création d'offre ») plutôt qu'à des événements isolés.

5. Signification et affirmations

L'article affirme que la méthode proposée offre un juste milieu utile entre les explications par événement (fines) et les explications par trace (grossières).

Préservation du contexte : En regroupant les activités selon la dynamique de contrôle de flux, la méthode préserve le contexte local nécessaire pour interpréter pourquoi une activité influence un résultat.
Compréhensibilité : Elle atténue l'« entrelacement » d'événements importants et non importants, rendant les explications plus compréhensibles pour les parties prenantes des processus.
Dépendance à la structure du journal : Les auteurs notent modestement que l'efficacité de la méthode dépend de la structure du journal d'événements. Les journaux avec une variabilité de contrôle de flux modérée (comme BPIC17) produisent des segments comparables et significatifs, tandis que les journaux à haute variabilité (comme BPIC15) produisent une segmentation fine et spécifique à chaque cas, limitant la généralisation.
Utilité pratique : L'approche permet d'identifier des phases de processus spécifiques (points de changement) qui orientent les cas vers les résultats prédits, soutenant ainsi la prise de décision ciblée et la détection de goulots d'étranglement sans nécessiter une transparence totale du modèle.

L'étude conclut que, bien que les attributions par événement restent légèrement plus fidèles en raison de leur granularité, les explications par segment améliorent considérablement l'interprétabilité des modèles de deep learning dans la PPM en s'alignant sur les contraintes structurelles des processus métier.