Attribution via Distributional Paths for Information Revelation

Résumé Technique : Attribution via des Chemins Distributionnels pour la Révélation d'Information

Énoncé du Problème
Les méthodes d'attribution de caractéristiques visent à expliquer les prédictions d'un modèle en attribuant des scores d'importance aux caractéristiques d'entrée. Deux approches dominantes, SHAP (Shapley Additive exPlanations) et Integrated Gradients (IG), satisfont toutes deux la propriété de complétude, garantissant que les attributions somment la variation de la sortie du modèle entre un état de référence et l'entrée. Cependant, les deux présentent des limitations distinctes :

• SHAP repose sur des opérations de révélation de caractéristiques discrètes et combinatoires. Il traite les caractéristiques comme étant soit totalement inconnues, soit totalement observées, créant une intervention discontinue qui manque de révélation d'information graduelle.
• IG définit un chemin continu dans l'espace d'entrée (par exemple, une ligne droite entre une ligne de base et l'entrée). Cette approche évalue le modèle point par point le long d'une trajectoire qui peut traverser des régions sémantiquement insignifiantes de l'espace d'entrée. Par conséquent, IG est susceptible de présenter des « artefacts de chemin », tels que des « ombres », où les caractéristiques rencontrées tôt dans la trajectoire (près de la ligne de base) influencent de manière disproportionnée l'attribution de l'entrée finale, même si ces caractéristiques sont non pertinentes pour la prédiction spécifique.

Le problème central est que les méthodes de chemin standard intègrent la réponse brute du modèle à des points spécifiques de l'espace d'entrée sans contrôler la résolution ou l'incertitude à laquelle les caractéristiques sont interrogées.

Méthodologie : Reveal-IG
Les auteurs proposent Reveal-IG, une méthode qui élève le cadre d'attribution par chemin de l'espace d'entrée vers un espace de distributions de sondage structurées. Au lieu de traverser une trajectoire de valeurs d'entrée brutes, Reveal-IG traverse une trajectoire de distributions de probabilité qui se concentrent progressivement autour de l'entrée d'intérêt ($x^\star$).

1. Formulation du Chemin Distributionnel :
   La méthode définit un chemin à travers un espace de distributions de sondage $q_\theta(z | x^\star)$, paramétrées par $\theta$. La quantité décomposée est l'espérance de la réponse du modèle :
   $$G(\theta; x^\star) = \mathbb{E}_{z \sim q_\theta(\cdot|x^\star)}[f(z)]$$
   L'attribution est obtenue en intégrant les gradients de cette réponse espérée le long du chemin des distributions :
   $$\Delta G = \int_S \nabla_\theta \mathbb{E}_{z \sim q_\theta(z|x^\star)}[f(z)] \cdot d\theta$$
   Cela conserve la propriété de complétude des intégrales de chemin mais l'applique à la réponse espérée plutôt qu'à la sortie brute.

2. Conception du Sondage (Probe Design) :

• Données d'Image : Le sondage est une distribution gaussienne factorisée sur les canaux de pixels. Le chemin commence par une référence large (incertitude élevée, ex: $\mu=0, \sigma=1$) et se termine par un sondage concentré autour de l'image observée. La variance de l'extrémité ($\sigma_{final}$) peut être fixée ou choisie de manière adaptative en fonction de l'échelle de bruit où le logit cible du modèle reste stable.
• Données Tabulaires : Puisque l'interpolation linéaire dans l'espace tabulaire est souvent sémantiquement invalide, le sondage est défini sur des distributions marginales empiriques issues des données d'entraînement. Un noyau de similitude contrôlé par la température effectue la transition de la distribution marginale empirique vers une distribution concentrée autour de la valeur de la caractéristique observée $x^\star_i$. Le chemin est défini par une diminution de la température, révélant ainsi l'information de la caractéristique de manière graduelle.

3. Estimation du Gradient :
   Les gradients sont calculés par rapport aux paramètres du sondage $\theta$, et non par rapport aux valeurs d'entrée.

• Pour les modèles différentiables et les sondages gaussiens, l'astuce de reparamétrage ($z = \mu + \sigma\epsilon$) permet une estimation efficace du gradient via la différenciation automatique.
• Pour les modèles non différentiables (ex: ensembles d'arbres) ou les données tabulaires avec des sondages empiriques, la méthode utilise un estimateur boîte noire. Elle échantillonne des valeurs de caractéristiques à partir de l'ensemble d'entraînement et les pondère selon la distribution du sondage, permettant l'estimation du gradient sans nécessiter la différentiabilité du modèle.

Contributions Clés

• Intégration de Chemin Élevée (Lifted Path Integration) : Le papier introduit un cadre où l'intégrale de chemin est effectuée sur un espace de distributions structurées plutôt que sur des points d'entrée bruts. Cela permet de contrôler la « résolution » à laquelle les caractéristiques sont interrogées.
• Révélation d'Information Continue : Reveal-IG fournit un analogue continu de la révélation de caractéristiques discrète de SHAP, remplaçant l'inclusion abrupte de caractéristiques par un chemin différentiable d'un sondage à haute incertitude vers un sondage concentré.
• Adaptabilité au Domaine : Le cadre est instancié pour la classification d'images (en utilisant des sondages gausiens) et la régression tabulaire (en utilisant des sondes marginales empiriques), démontrant que la vue « élevée » offre un langage commun pour l'attribution à travers des domaines ayant des structures géométriques différentes.
• Atténuation des Artefacts : En moyennant les réponses du modèle sur des distributions larges lors des premières étapes du chemin, la méthode dilue l'influence des structures distantes ou adjacentes à la ligne de base qui causent typiquement les artefacts d'« ombre » dans l'IG standard.

Résultats Expérimentaux

• Diagnostics Synthétiques : Dans des expériences contrôlées en 2D, Reveal-IG évite les artefacts d'« ombre » observés dans l'IG (où l'attribution est influencée par des caractéristiques éloignées du point d'intérêt) et le biais structurel aligné sur les axes de SHAP. Il produit des champs d'attribution qui interpolent entre les extrêmes de SHAP et d'IG en fonction de la granularité du chemin de révélation.
• Classification d'Images (ImageNet) : Évalué sur ResNet-50 et ViT-B/16, Reveal-IG atteint des performances de pointe ou proches du sommet de l'état de l'art.
  • Il surpasse significativement les bases de référence sur les métriques utilisant le signe des attributions (ex: Insertion/Suppression de Preuve Positive et Sensibilité-n), indiquant une meilleure distinction entre les caractéristiques qui soutiennent versus celles qui suppriment la classe cible.
  • Il reste compétitif sur les métriques basées sur la magnitude (ex: RMA), bien que des méthodes comme Blur-IG et IDG soient de solides concurrentes pour les tâches de saillance non signées.
  • L'analyse de l'accumulation de l'attribution le long du chemin montre que Reveal-IG assigne la majeure partie de l'attribution tardivement dans la trajectoire (lorsque le sondage se concentre), tandis qu'IG assigne une grande partie de son attribution tôt, près de la ligne de base.
• Régression Tabulaire : Évalué sur les jeux de données Bike Sharing, California Housing et Wine Quality.
  • Reveal-IG est systématiquement performant sur les métriques d'insertion directionnelle (cohérence de l'attribution signée) et de sensibilité-max (stabilité).
  • Bien que KernelSHAP et l'ablation de caractéristiques soient compétitifs sur les métriques de suffisance/exhaustivité (métriques natives aux méthodes de perturbation), Reveal-IG offre un compromis favorable, fournissant une performance native à la perturbation avec une stabilité nettement plus élevée et un chemin plus naturel pour les données tabulaires évitant les interpolations linéaires invalides.

Signification et Revendications
Le papier affirme que Reveal-IG reformule l'attribution par chemin comme un problème de lissage. Alors que des méthodes comme Blur-IG lissent l'espace d'entrée (du grossier au fin), Reveal-IG lisse la réponse du modèle en intégrant les prédictions sur des distributions avec une incertitude décroissante.

Les auteurs soutiennent que le choix de l'espace du chemin détermine quelles parties du comportement entrée-sortie du modèle sont incorporées dans l'explication. En passant de l'espace d'entrée à l'espace de distribution, Reveal-IG permet :

1. Une Résolution Contrôlée : La capacité d'interroger le modèle à différentes échelles d'information.
2. Des Sondes Spécifiques au Domaine : La flexibilité de définir des sondes qui respectent la structure des données (ex: marginales empiriques pour les données tabulaires) sans imposer des interpolations géométriques arbitraires.
3. La Robustesse : Une réduction des artefacts dépendants du chemin, menant à des attributions plus stables et sémantiquement significatives, particulièrement concernant le signe de l'importance des caractéristiques.

Le papier reconnaît des limites, notamment un coût de calcul accru (environ 7 fois plus lent que l'IG pour les images et jusqu'à 1000 fois pour les données tabulaires en raison de l'échantillonnage de Monte Carlo) et l'hypothèse de distributions factorisées qui ignore les corrélations entre les caractéristiques. Cependant, il pose que ce compromis permet d'obtenir un cadre d'attribution plus robuste et interprétable, particulièrement pour les tâches où le signe de l'attribution est critique.