Enhancing Visual Feature Attribution via Weighted Integrated Gradients

Énoncé du problème

Les gradients intégrés (Integrated Gradients - IG) constituent une méthode fondamentale pour l'attribution de caractéristiques dans l'IA explicable (XAI), particulièrement pour la vision par ordinateur. Cependant, leur efficacité dépend fortement du choix d'une image de base (référence). Dans les tâches de vision à haute dimension, il n'existe pas de base universellement « neutre » ; les choix courants (par exemple, noir, blanc ou bruit aléatoire) produisent souvent des explications incohérentes ou bruitées.

Pour atténuer cela, les gradients attendus (Expected Gradients - EG) moyennent les attributions d'IG sur plusieurs bases. Bien que l'EG réduise la sensibilité au choix d'une seule base, il repose sur une limitation critique : il assigne des poids uniformes à toutes les bases, supposant implicitement qu'elles sont toutes également informatives. Les auteurs soutiennent que dans les modèles de vision complexes, les bases varient considérablement en termes de pertinence pour un intrant spécifique. La moyenne uniforme peut permettre à des bases de faible qualité ou bruitées de diluer l'attribution finale, conduisant à des explications instables et moins fidèles.

Méthodologie : Gradients Intégrés Pondérés (WG)

Le papier propose les Gradients Intégrés Pondérés (Weighted Integrated Gradients - WG), une extension principielle de l'IG qui assigne des poids dépendants de l'intrant à différentes bases en fonction de leur adéquation pour expliquer un intrant spécifique.

1. Mesure de l'adéquation non supervisée ($D_\alpha$) :
WG introduit un critère non supervisé pour évaluer l'adéquation de la base sans nécessiter d'annotations manuelles ou de connaissances métier. Il définit un score de « fitness » (adéquation) basé sur la perturbation :

• Définition : $D_\alpha$ est le nombre minimum de caractéristiques qui doivent être masquées pour réduire le score de sortie du modèle à $\alpha\%$ de sa valeur originale.
• Logique : Une base ayant un $D_\alpha$ plus faible est considérée comme plus « apte » car moins de caractéristiques doivent être supprimées pour impacter significativement la confiance du modèle. Cela implique que la base met efficacement en évidence les caractéristiques influentes.
• Pondération : Le poids $w_k$ pour la $k$-ième base est inversement proportionnel à son score d'adéquation ($w_k \propto 1/D_\alpha$). Les bases qui produisent des explications plus fidèles (faible $D_\alpha$) reçoivent des poids plus élevés.

2. Calcul efficace (Algorithme 1) :
Le calcul de $D_\alpha$ via une recherche exhaustive est prohibitivement coûteux en calcul ($O(n)$). Les auteurs proposent une stratégie de recherche binaire qui tire parti de la monotonicité de la réduction du score lors de la suppression de caractéristiques. En masquant de manière itérative les caractéristiques basées sur les scores d'importance (par exemple, les attributions d'IG), l'algorithme atteint une complexité temporelle de $O(\log n)$ par base.

3. Justification théorique :

• Propriétés axiomatiques : WG préserve les axiomes fondamentaux de l'IG (invariance d'implémentation et sensibilité) et satisfait une propriété de complétude généralisée.
• Analyse probabiliste : Sous l'hypothèse d'une Monotonicité de la Pertinence de l'Adéquation Proxy Attendue (c'est-à-dire que les bases avec de meilleurs scores d'adéquation ont tendance à placer plus de masse de probabilité sur les caractéristiques réellement pertinentes), les auteurs prouvent que WG augmente la pertinence attendue de l'attribution agrégée par rapport à la moyenne uniforme (EG).
• Garanties d'échantillonnage fini : Le papier fournit un théorème montrant que lorsque WG atteint une marge de pertinence positive sur la pertinence moyenne de l'EG, la fraction de pertinence empirique se concentre au-dessus de la moyenne de l'EG à un taux exponentiel.

Principales contributions

1. Formulation : Les auteurs reformulent la sélection de base dans l'IG comme un problème de pondération dépendant de l'intrant, allant au-delà de l'hypothèse uniforme de l'EG.
2. Mécanisme : Ils proposent un score d'adéquation basé sur la perturbation et non supervisé ($D_\alpha$) pour estimer l'utilité de la base et dériver des poids adaptatifs.
3. Analyse : Ils fournissent une analyse théorique montrant que, sous des hypothèses de monotonicité spécifiques, l'agrégation pondérée par l'adéquation produit une masse de pertinence attendue plus élevée que la moyenne uniforme.
4. Évaluation empirique : Ils évaluent WG à travers diverses architectures (convolutions et Transformers) sur des jeux de données standards (ImageNet, COCO), rapportant à la fois les gains de fidélité d'attribution et le surcoût computationnel.

Résultats expérimentaux

Les auteurs ont évalué WG par rapport à l'EG en utilisant sept modèles de base (DenseNet121, MobileNetV2, ResNet50/101, VGG16/19, et ViT-B/16).

• Métriques :
  • AUC de Suppression (Plus bas est mieux) : Mesure la rapidité avec laquelle la confiance du modèle chute lorsque les caractéristiques les plus attribuées sont supprimées. WG surpasse systématiquement l'EG, avec des améliorations relatives allant de 19,36 % à 36,01 % selon les modèles.
  • AUC de Recouvrement (Plus haut est mieux) : Une métrique supervisée mesurant l'alignement spatial avec les masques de segmentation de vérité terrain. WG montre des améliorations allant de 5,69 % à 18,55 %.
• Qualité Visuelle : L'analyse qualitative (cartes de saillance) indique que WG produit des attributions plus nettes et plus focalisées sur les objets principaux par rapport à l'EG.
• Compromis : Les auteurs notent explicitement que WG entraîne un coût de calcul supplémentaire dû à l'étape d'évaluation de l'adéquation (environ 5,7$\times$ plus lent que l'EG selon leurs mesures).

Signification et affirmations

Le papier positionne WG non pas comme une alternative plus rapide à l'EG, mais comme un compromis entre attribution et fidélité. Sa principale importance réside dans :

• Fiabilité : En décrédibilisant de manière adaptative les bases de faible qualité, WG garantit des attributions plus fiables sans curation manuelle des bases.
• Approche principielle : Il offre un mécanisme fondé sur les données pour traiter le « problème de la base » dans l'attribution par chemin, dépassant l'hypothèse que toutes les bases contribuent de manière égale.
• Applicabilité : La méthode est particulièrement adaptée aux contextes où l'amélioration de la qualité de l'explication justifie le temps d'exécution supplémentaire, améliant l'utilisabilité de l'XAI dans les applications de vision critiques.

Les auteurs maintiennent un ton modeste concernant leurs affirmations théoriques, reconnaissant que les garanties probabilistes reposent sur une hypothèse de « proxy attendu », et que la monotonicité de l'adéquation-pertinence est vérifiée empiriquement mais n'est pas garantie pour chaque instance d'intrant individuelle. Ils concluent que WG est un pas vers des explications plus claires et plus fiables pour les systèmes de deep learning, à condition que le surcoût computationnel soit acceptable pour l'usage spécifique.