Résumé technique : Des graphes aux gradients : Attribution structurelle inspirée de la physique pour les systèmes cyber-physiques IoT et au-delà

1. Énoncé du problème

L'intelligence artificielle interprétable est cruciale pour les domaines à haut risque comme les systèmes cyber-physiques (CPS) et l'Internet des objets industriel (IIoT), où la compréhension des causes profondes des comportements du système est essentielle pour la sécurité et le diagnostic. Les méthodes d'explicabilité traditionnelles reposent souvent sur des associations corrélationnelles ou des modèles causaux structurels (SCM) qui nécessitent des graphes causaux dirigés explicites. Cependant, la récupération de tels graphes dirigés est fréquemment impraticable dans les CPS hybrides à grande échelle, caractérisés par :

• Boucles de rétroaction et observabilité partielle : rendant la directionnalité causale difficile à identifier à partir de données observationnelles.
• Types de variables hybrides : mélangeant des variables continues (ex: lectures de capteurs) et discrètes (ex: états d'actionneurs).
• Problèmes de scalabilité : les outils d'explicabilité basés sur les graphes existants (ex: GNNExplainer) luttent contre la complexité computationnelle et la robustesse à mesure que la dimensionnalité du système augmente.
• Spécification erronée du modèle : sensibilité aux changements de distribution et aux conditions adverses.

L'article soutient que, bien que l'inférence causale soit souhaitable, l'exigence stricte de récupérer une structure causale dirigée limite l'applicabilité dans les environnements industriels réels complexes.

2. Méthodologie

Les auteurs proposent un nouveau cadre d'attribution basé sur l'énergie, inspiré de la mécanique statistique. Au lieu de modéliser des chaînes causales dirigées, le système est représenté comme un modèle graphique non dirigé défini par un paysage énergétique.

Concepts clés

• Fonction d'énergie ($E(x)$) : L'état du système $x$ est modélisé par une distribution de Boltzmann $p(x) = \frac{1}{Z} \exp(-\beta E(x))$.
  • Les valeurs d'énergie faibles correspondent à des configurations cohérentes avec un comportement normal du système.
  • Les valeurs d'énergie élevées correspondent à des états anormaux, adverses ou déviants.
  • La fonction d'énergie est décomposée en potentiels unaires $\phi_i(x_i)$ (contraintes intrinsèques) et en potentiels de paires $\phi_{ij}(x_i, x_j)$ (interactions), permettant au modèle de gérer des domaines hybrides continus et discrets.
• Mécanismes d'attribution : Le cadre quantifie l'influence des variables à travers trois perspectives complémentaires :
  1. Sensibilité locale (premier ordre) : Calcule l'amplitude du gradient de la fonction d'énergie par rapport à une variable ($\Delta_i = |\frac{\partial E(x)}{\partial x_i}|$). Cela mesure la sensibilité de l'état énergétique du système aux perturbations locales.
  2. Attribution globale (Énergie libre et Entropie) : Utilise les concepts d'énergie libre ($F(x_i)$) et d'entropie conditionnelle pour évaluer comment la fixation d'une variable $x_i$ remodèle la distribution de probabilité globale. Cela capture les variables qui poussent systématiquement le système vers des régimes stables ou instables à travers toute la distribution, et pas seulement à un point précis.
  3. Courbure de second ordre : Analyse la matrice Hessienne de la fonction d'énergie pour mesurer la stabilité des influences et les effets d'interaction entre les variables ($\gamma_{ij}$). Cette méthode est appliquée sélectivement aux variables les mieux classées pour équilibrer le coût computationnel et l'interprétabilité.

Pipeline de calcul

Le cadre utilise l'estimation de Monte Carlo (spécifiquement Metropolis-Hastings) pour approximer les espérances conditionnelles et les entropies, qui sont intraitables dans les espaces hybrides de haute dimension. L'algorithme se déroule en trois phases :

1. Calculer les sensibilités de gradient locales pour toutes les variables.
2. Estimer les contributions globales d'énergie libre et d'entropie via l'échantillonnage.
3. Affiner les explications pour les $k$ variables les plus influentes en utilisant les scores de courbure de second ordre.

3. Principales contributions

L'article présente trois contributions principales :

1. Formulation d'un cadre basé sur l'énergie : Une méthode d'attribution sensible aux dépendances, fondée sur des représentations graphiques non dirigées et la mécanique statistique. Elle fournit des explications interprétables pour les systèmes cyber-physiques hybrides sans nécessiter la récupération d'un graphe causal dirigé.
2. Évaluation empirique sur SWaT : Une évaluation approfondie sur le banc d'essai industriel SWaT (Secure Water Treatment). L'étude démontre la capacité du cadre à identifier avec précision les variables contributrices dominantes et leurs effets en aval lors d'attaques cyber-physiques réalistes (ex: un spoofing de capteur menant au débordement d'un réservoir).
3. Supériorité en termes de scalabilité et de précision : Une analyse comparative montrant que la méthode proposée atteint une précision d'explication plus élevée et une meilleure scalabilité computationnelle de manière significative par rapport aux méthodes basées sur les graphes de pointe comme GNNExpliner, particulièrement à mesure que la taille du système augmente.

4. Résultats expérimentaux

Le cadre a été testé sur le jeu de données SWaT, qui comprend des mesures de capteurs hétérogènes, des états d'actionneurs et des signaux de commande.

• Précision de l'attribution :
  • Précision@k : La méthode basée sur l'énergie a atteint une Précision@1 quasi parfaite à mesure que la taille du système augmentait, identifiant correctement la cause profonde (le capteur compromis) au premier rang. En revanche, la Précision@1 de GNNExplainer est restée proche de zéro pour toutes les tailles de système.
  • AUC-PR : La méthode proposée a maintenu un AUC-PR (Aire sous la courbe Précision-Rappel) systématiquement plus élevé que GNNExplainer. Alors que la performance de GNNExplifier se dégradait brusquement avec l'augmentation de la dimensionnalité du système, la méthode basée sur l'énergie est restée robuste.
• Robustesse aux perturbations :
  • Soumis à un bruit gaussien additif, le cadre basé sur l'énergie a maintenu un score de robustesse élevé (stabilité des scores d'attribution).
  • GNNExplainer a montré une détérioration rapide de sa robustesse et une plus grande variabilité, probablement en raison de sa dépendance à l'optimisation de masques spécifiques à l'instance sur des données bruitées.
• Scalabilité :
  • Temps d'exécution : Le cadre proposé a démontré une scalabilité linéaire $O(nMd)$(où$n$ est le nombre de variables, $M$ le nombre d'échantillons, $d$ le degré du graphe) dans les graphes creux.
  • Comparaison : GNNExplainer a présenté une scalabilité super-quadratique $O(Kn^2)$, entraînant des temps d'exécution nettement plus longs à mesure que le nombre de variables augmentait.

5. Signification et affirmations

L'article positionne sa contribution comme un passage d'une explicabilité centrée sur le modèle (expliquer un prédicteur entraîné) à une explicabilité centrée sur le système (expliquer la dynamique générative sous-jacente du système physique).

• Interprétabilité fondée sur des principes : En exploitant la mécanique statistique, le cadre offre un mécanisme unifié d'attribution qui est robuste au bruit et aux conditions adverses, évitant la nature "boîte noire" des expliqueurs dépendants de l'entraînement.
• Gestion des systèmes hybrides : La méthode intègre naturellement les variables continues et discates mixtes, un défi courant dans l'IIoT que de nombreuses méthodes existantes peinent à relever.
• Utilité pratique : Les auteurs affirment que le cadre permet un diagnostic de panne plus rapide et plus fiable dans les infrastructures critiques, réduisant potentiellement les temps d'arrêt et les risques de sécurité. Il fournit des explications "sensibles aux dépendances" qui soutiennent l'interprétation humaine et les tâches de diagnostic en aval.
• Limites et portée : Les auteurs précisent explicitement que les attributions résultantes ne sont pas destinées à récupérer pleinement la dynamique générative sous-jacente du système ou un graphe causal dirigé au sens de Pearl. Au lieu de cela, elles fournissent des explications structurelles précieuses où la directionnalité causale est inférée par la connaissance du domaine et la progression temporelle des incidents, plutôt que simplement apprise à partir de données observationnelles.

Le travail conclut que cette approche offre une alternative évolutive et interprétable pour l'attribution structurelle dans des environnements complexes et réels, s'étendant au-delà de l'IoT industriel à d'autres systèmes socio-techniques.