🤖 machine learning

OperatorSHAP: Fast and Accurate Shapley Value Estimation for Neural Operators

L'article introduit OperatorSHAP, une méthode agnostique de la grille qui permet une estimation rapide et précise des valeurs de Shapley pour les opérateurs neuronaux en établissant un cadre théorique dans l'espace des fonctions et en démontrant des explications cohérentes et transférables à travers diverses résolutions et tailles de grille.

Auteurs originaux : Joshua Stiller, Santo M. A. R. Thies, Felix Czaja, Eyke Hüllermeier

Publié 2026-06-29

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Joshua Stiller, Santo M. A. R. Thies, Felix Czaja, Eyke Hüllermeier

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le gros problème : Le prévisionneur météo « boîte noire »

Imaginez que vous avez une IA super intelligente qui prédit la météo ou calcule la charge maximale qu'un pont peut supporter. Cette IA est un Opérateur Neuronal. Contrairement à une IA normale qui regarde une grille fixe de pixels (comme une photo), cette IA est spéciale : elle peut comprendre des formes et des motifs, qu'ils soient dessinés sur une petite serviette ou sur un immense panneau publicitaire. Elle ne se soucie pas de la taille de la grille ; elle comprend simplement le flux des données.

Cependant, il y a un piège. Quand cette IA fait une prédiction (par exemple : « Ce pont supportera 5 tonnes »), personne ne sait pourquoi. Quelle partie de l'entrée a été déterminante ? Était-ce la vitesse du vent ? La forme du pont ? La température ?

Dans le monde de l'IA, nous utilisons un outil appelé Valeurs de Shapley pour répondre à cela. Considérez les Valeurs de Shapley comme un moyen de répartir équitablement un « prix » (la prédiction) entre tous les « joueurs » (les points de données d'entrée) en fonction de la contribution de chacun.

Le Problème :

C'est trop lent : Calculer la répartition équitable pour chaque point de donnée prend une éternité. C'est comme essayer de compter chaque grain de sable sur une plage pour voir lesquels sont les plus importants.
C'est trop rigide : Les outils rapides existants (comme FastSHAP) ne fonctionnent que si le sable est disposé selon une grille parfaite et uniforme. Mais dans le monde réel (physique, ingénierie), les données proviennent souvent de formes irrégulières et désordonnées (comme un cylindre avec des capteurs placés de manière aléatoire). Les outils actuels se cassent quand la grille n'est pas parfaite.

La Solution : OperatorSHAP

Les auteurs présentent OperatorSHAP. Voyez cela comme un « traducteur universel » capable d'expliquer instantanément les décisions de l'IA, peu importe le désordre ou l'irrégularité de la grille de données.

Voici comment ils ont procédé, décomposé en trois concepts simples :

1. Le jeu des « Joueurs Infinis » (Aumann–Shapley)

Habituellement, les valeurs de Shapley comptent des joueurs discrets (Joueur 1, Joueur 2, Joueur 3). Mais en physique, l'espace est continu. Vous n'avez pas le « Point 1 » et le « Point 2 » ; vous avez un flux continu d'air ou de chaleur.

Les auteurs ont réalisé qu'au lieu de compter des joueurs, ils devaient traiter l'entrée comme un fluide continu. Ils ont utilisé un concept mathématique appelé valeurs d'Aumann–Shapley, ce qui revient à mesurer la « densité » de l'importance à travers une rivière plutôt que de compter les poissons individuellement. Cela leur permet de gérer n'importe quelle forme ou taille de grille sans être confus.

2. Le « Détective Entraîné » (Explicateur Amorti)

Normalement, pour expliquer une prédiction, il faut effectuer un calcul massif. C'est comme embaucher un détective pour résoudre un crime spécifique, puis en embaucher un nouveau pour le crime suivant.

OperatorSHAP entraîne un seul « Détective IA » (un modèle explicateur).

Entraînement : Ils enseignent à ce détective en lui montrant des milliers d'exemples et en lui demandant : « Si nous cachons cette partie de l'entrée, de combien la prédiction change-t-elle ? »
La Magie : Une fois entraîné, ce détective peut regarder n'importe quelle nouvelle entrée (même sur une grille irrégulière et étrange) et recracher instantanément l'explication en une seconde. Il n'a pas besoin de tout recalculer à partir de zéro à chaque fois.

3. L'Indépendance de la Grille (Le « Métamorphe »)

La plupart des expliqueurs sont comme des chaussures qui ne font que du 42. Si vous avez un pied de taille 38 ou 45 (une grille de résolution différente), la chaussure ne convient pas.

OperatorSHAP est comme une paire de chaussures magiques qui s'étirent pour s'adapter à n'importe quel pied. Parce qu'il a été entraîné sur le concept de « fluide » des valeurs d'Aumann–Shapley, il peut prendre une entrée avec 16 points de données, 1 024 points de données, ou un maillage désordonné de 5 000 points, et fournir une explication correcte sans avoir besoin d'être réentraîné.

Ce qu'ils ont trouvé (Les Résultats)

L'article a testé cela sur divers problèmes de physique, comme la chaleur circulant dans le métal, l'air se déplaçant autour d'un cylindre et les ondes de l'eau.

Vitesse : OperatorSHAP est de plusieurs ordres de grandeur plus rapide que les anciennes méthodes. Alors que d'autres méthodes pourraient prendre des heures pour expliquer une seule simulation complexe, OperatorSHAP le fait en une fraction de seconde.
Précision : Même s'il est rapide, il est tout aussi précis que les méthodes lentes et parfaites.
Flexibilité : Ils l'ont entraîné sur une taille de grille, et il a fonctionné parfaitement sur des grilles beaucoup plus grandes ou plus petites sans aucun travail supplémentaire. Il a même fonctionné sur le jeu de données de « flux de cylindre » où les capteurs étaient placés sur des grilles irrégulières et changeantes.

L'essentiel à retenir

L'article affirme qu'OperatorSHAP est une nouvelle façon de rendre compréhensibles les modèles d'IA physique complexes. Il combine une théorie mathématique profonde (traiter l'espace comme un flux continu) avec une astuce d'entraînement pratique (enseigner à une seule IA à expliquer toutes les grilles).

Cela signifie que dans des domaines comme l'ingénierie structurelle ou la prévision météorologique, où les données sont souvent désordonnées et les décisions critiques, nous pouvons désormais obtenir des explications rapides, fiables et indépendantes de la grille pour comprendre pourquoi une IA a fait une prédiction spécifique.

Résumé Technique : OperatorSHAP

Énoncé du Problème

Les opérateurs neuronaux sont conçus pour apprendre des applications entre des espaces de fonctions, offrant une flexibilité indépendante de la grille essentielle aux applications physiques impliquant des équations aux dérivées partielles (EDP). Ces modèles peuvent accepter des entrées échantillonnées sur des grilles irrégulières ou des résolutions variables (par exemple, 128 contre 1 024 points) sans réentraînement. Cependant, l'interprétation de ces modèles reste un défi majeur.

Dans les domaines physiques critiques pour la sécurité (par exemple, l'évaluation de la charge structurelle, les alertes météorologiques), la compréhension des prédictions du modèle est vitale. Bien que les valeurs de Shapley fournissent une méthode d'attribution théoriquement solide satisfaisant des axiomes désirables, leur coût computationnel lors de l'inférence est prohibitif. Les expliqueurs amortis existants, tels que FastSHAP, sont limités aux entrées homogènes (grilles fixes et régulières). Ils ne peuvent pas traiter directement les grilles hétérogènes et les géométries irrégulières courantes dans les données scientifiques (par exemple, les maillages non structurés provenant de placements de capteurs ou de raffinements adaptatifs). De plus, définir des valeurs de Shapley amorties sur des grilles hétérogènes est non trivial car les attributions dépendent à la fois du nombre total de joueurs et des distances spatiales entre les joueurs voisins.

Méthodologie

Les auteurs introduisent OperatorSHAP, une méthode d'attribution et une procédure d'entraînement indépendantes de la grille qui étendent l'estimation de Shapley amortie aux opérateurs neuronaux. L'approche comble le fossé entre les valeurs de Shapley discrètes et les espaces de fonctions continus par les étapes suivantes :

1. Cadre Théorique : Valeurs d'Aumann–Shapley

L'article établit un fondement théorique en connectant les jeux d'opérateurs neuronaux à la valeur d'Aumann–Shapley, une extension des valeurs de Shapley aux jeux avec un nombre infini de joueurs (espaces de mesure non atomiques).

Jeux d'opérateurs lisses : Les auteurs définissent un « jeu d'opérateur lisse » où l'espace d'entrée est un espace de Sobolev $H^s$ (avec $s > d/2$ ). En utilisant des masques lisses (fonctions de type bump) pour partitionner le domaine spatial, ils garantissent que l'opérateur est de classe Fréchet différentiable.
Classe pNA : Ils prouvent que ces jeux d'opérateurs lisses appartiennent à la classe pNA (jeux avec des représentations de dimension finie via des mesures non atomiques). Cela garantit l'existence d'une valeur d'Aumann–Shapley unique, calculable via une formule diagonale impliquant la dérivée de Fréchet.
Connexion avec les Gradients Intégrés : La valeur d'Aumann–Shapley dérivée est montrée comme étant équivalente à une formule de Gradient Intégré (IG) à valeurs de fonctions, où l'attribution est l'intégrale de la dérivée directionnelle le long d'un chemin allant d'une ligne de base vers l'entrée.

2. Expliqueur Amorti Indépendant de la Grille

Pour rendre ces valeurs exploitables en termes de calcul, les auteurs proposent d'entraîner un expliqueur d'opérateur neuronal (par exemple, un FNO) pour approximer la densité d'Aumann–Shapley.

Objectif d'Entraînement : L'expliqueur $\Phi_\theta$ est entraîné en utilisant une perte de type FastSHAP. Au lieu de calculer les valeurs de Shapley pour chaque échantillon individuellement, l'expliqueur produit un champ d'attribution continu $\phi$ pour une entrée donnée $u$ .
Discrétisation : Pendant l'entraînement, le champ de sortie continu est intégré sur des régions de coalition spécifiques (partitions) pour produire des valeurs discrètes. La perte minimise l'erreur quadratique moyenne (MSE) pondérée entre ces valeurs intégrées et les vraies valeurs de coalition $v(S)$ .
Indépendance de la Grille : Parce que l'expliqueur est un opérateur neuronal, il apprend une application de l'espace des fonctions vers l'espace des fonctions. Il peut être entraîné sur des échantillons avec des résolutions de grille variables et des maillages irréguliers. Une fois entraîné, le même modèle peut générer des attributions pour des entrées sur n'importe quelle résolution de grille sans réentraînement, apprenant efficacement la densité d'Aumann–Shapley sous-jacente.

Principales Contributions

Fondements Théoriques : L'article fournit un cadre mathématique rigoureux pour les attributions dans les espaces de fonctions, démontrant que les jeux d'opérateurs neuronaux lisses admettent des valeurs d'Aumann–Shapley bien définies. Il connecte ces valeurs à la formule diagonale et aux gradients intégrés.
Expliqueur Amorti Indépendant de la Grille : Les auteurs proposent une procédure d'entraînement (Algorithme 1) qui permet d'entraîner des expliqueurs de type FastSHAP sur des grilles irrégulières et hétérogènes. Cela permet de générer des attributions de type Shapley pour les opérateurs neuronaux à travers des résolutions arbitraires.
Validation Empirique : La méthode est validée sur neuf jeux de données d'EDP (incluant des grilles structurées 1D/2D et des benchmarks MeshGraphNets). Les résultats montrent qu'OperatorSHAP produit des attributions cohérentes avec les approximateurs de Shapley discrets de pointe (RegressionMSR) à travers les résolutions, tout en offrant des vitesses d'inférence nettement plus rapides.

Résultats Expérimentaux

Les auteurs ont évalué OperatorSHAP par rapport à KernelSHAP, RegressionMSR et les Gradients Intégrés sur diverses EDP (Burgers, Chaleur, Shallow Water, etc.) et des jeux de données MeshGraphNets.

Qualité de l'Attribution : À travers des résolutions allant de $n=16$ à $n=1024$ , OperatorSHAP a atteint des corrélations de Pearson et des RMSE normalisés (NRMSE) comparables ou supérieurs à RegressionMSR. Notamment, alors que les méthodes classiques nécessitaient un nouvel exécution à chaque résolution, OperatorSHAP utilise un seul modèle entraîné pour toutes les résolutions.
Vitesse d'Inférence : OperatorSHX est des ordres de grandeur plus rapide que les bases de référence. Il renvoie des attributions complètes en une seule passe avant (forward pass) avec un budget par échantillon nul, alors que les bases de référence nécessitent des milliers d'évaluations du backbone par échantillon.
Transférabilité : L'expliqueur entraîné a transféré avec succès à travers les tailles de grille sans réentraînement, maintenant une haute fidélité aux attributions de référence même lorsque la structure de la grille d'entrée changeait (par exemple, de 64 à 1024 points).
Limites : Les auteurs notent que si l'amortissement économise du temps d'inférence, le coût d'entraînement initial est important. De plus, pour des nombres de joueurs très faibles, les méthodes classiques avec de faibles budgets peuvent surpasser OperatorSHAP, mais cet écart s'accentue considérablement à mesure que la résolution augmente.

Signification

L'article affirme qu'OperatorSHAP permet l'application pratique des explications de la valeur de Shapley dans les sciences physiques, où les données sont intrinsèquement hétérogènes et indépendantes de la grille. En connectant la valeur de Shapley discrète à la valeur d'Aumann–Shapley continue, les auteurs fournissent une justification théorique pour l'entraînement d'expliqueurs sur des espaces de fonctions. Cela permet d'interpréter les opérateurs neuronaux sur des maillages irréguliers et des résolutions variables — une capacité auparavant indisponible pour les expliqueurs amortis. Ce travail suggère que pour les applications industrielles nécessitant un support décisionnel à haut débit et à enjeux élevés (par exemple, les alertes météorologiques en temps réel ou la surveillance structurelle), les expliqueurs amortis comme OperatorSHAP sont une étape nécessaire vers une interprétabilité de l'IA évolutive et fiable dans les systèmes dynamiques.