GRALIS: A Unified Canonical Framework for Linear Attribution Methods via Riesz Representation

Ce papier présente GRALIS, un cadre mathématique unifié fondé sur le théorème de représentation de Riesz qui établit une forme canonique pour les méthodes d'attribution linéaire, satisfaisant simultanément 13,5 des 14 propriétés axiomatiques et fournissant des garanties formelles de complétude, de convergence et d'interactions multi-échelles que les méthodes individuelles d'IA explicable ne possèdent pas.

L'essentiel

Imaginez que vous possédez un programme informatique très intelligent, mais mystérieux, une « boîte noire » (un réseau de neurones profond) qui examine une image d'un échantillon de tissu mammaire et décide s'il est bénin ou malin. Vous savez ce qu'il a décidé, mais vous n'avez aucune idée pourquoi. C'est comme un médecin qui vous donne un diagnostic mais refuse de vous montrer la radiographie ou d'expliquer son raisonnement.

Pour résoudre ce problème, les scientifiques ont inventé des outils d'« IA explicable » (XAI). Imaginez ces outils comme différents traducteurs essayant d'expliquer la logique de la boîte noire. Cependant, jusqu'à présent, ces traducteurs parlaient des langues complètement différentes :

• GradCAM pointe les « points chauds » sur l'image en utilisant des gradients.
• SHAP joue à un jeu du genre « et si on supprimait cette caractéristique ? ».
• LIME construit une carte simple et locale autour de l'image spécifique.
• Integrated Gradients trace un chemin depuis une image vide jusqu'à l'image réelle.

Le problème ? Vous ne pouviez pas comparer leurs réponses. C'était comme essayer de comparer une carte dessinée en miles à une autre dessinée en kilomètres sans formule de conversion.

Voici GRALIS : Le Traducteur Universel

Cet article présente GRALIS (Gradient-Riesz Averaged Locally-Integrated Shapley). Imaginez GRALIS non pas seulement comme un nouvel outil, mais comme un cadre maître qui prouve que tous ces différents traducteurs parlent en réalité la même langue fondamentale, simplement avec différents accents.

Voici l'idée centrale, décomposée avec des analogies simples :

1. La « Recette Universelle » (La Forme Canonique)

Les auteurs ont découvert que si vous enlevez les astuces spécifiques de GradCAM, SHAP, LIME et Integrated Gradients, ils suivent tous exactement la même recette mathématique. Ils calculent tous simplement une moyenne pondérée des contributions.

Imaginez que vous préparez un smoothie pour expliquer la décision de l'IA.

• Les Ingrédients ($\Delta$) : Ce sont les « contributions marginales ». Dans quelle mesure l'ajout d'une caractéristique spécifique (comme un pixel ou un groupe de pixels) a-t-il changé l'avis de l'IA ?
• Le Livre de Recettes ($w$) : C'est la « fonction de pondération ». Elle décide quelle importance accorder à chaque ingrédient.
• Le Mixeur ($Q$) : C'est l'« espace d'index ». C'est le récipient où tout est mélangé.

GRALIS prouve que n'importe quelle façon équitable, linéaire et continue d'expliquer la décision de l'IA doit ressembler à cette recette de smoothie. Cela repose sur un célèbre théorème mathématique appelé le Théorème de Représentation de Riesz, qui dit essentiellement : « Si vous voulez mesurer quelque chose de manière équitable et continue, vous devez le faire de cette façon. »

2. Réparer les « Outils Défectueux »

L'article souligne que les anciens outils présentaient des défauts spécifiques, comme une voiture avec un pneu à plat ou un moteur cassé :

• GradCAM possédait un filtre « ReLU » (un filtre qui coupe les valeurs négatives). Les auteurs affirment que ce filtre brise les mathématiques, rendant la comparaison avec les autres outils impossible. Ils proposent une version « linéarisée » (GradCAM-lin) qui supprime ce filtre, permettant de l'adapter à la recette universelle.
• LIME échouait souvent à additionner jusqu'à la prédiction totale (comme un budget qui ne s'équilibre pas). GRALIS corrige cela en s'assurant que l'axiome de « complétude » est respecté.
• SHAP ignorait la « courbure » (la façon dont les caractéristiques interagissent de manière fluide). GRALIS comble ce vide en examinant le chemin entre les caractéristiques, et non pas seulement les points de départ et d'arrivée.

3. Le « Jeu des Coalitions »

L'une des découvertes les plus intéressantes de l'article est la façon dont il gère les interactions.
Imaginez un projet d'équipe où le succès dépend de la façon dont les gens travaillent ensemble.

• Les anciennes méthodes demandaient généralement : « Dans quelle mesure la Personne A a-t-elle contribué ? »
• GRALIS demande : « Dans quelle mesure la Personne A a-t-elle contribué lorsqu'elle travaillait avec la Personne B ? Et qu'en est-il lorsque A, B et C travaillent ensemble ? »

Il fait cela en transformant l'image en un jeu coopératif. Il regroupe les pixels en « coalitions » (comme des superpixels) et calcule exactement combien chaque groupe ajoute au score final. L'article prouve mathématiquement que GRALIS calcule ces « valeurs d'interaction » exactement, et non comme une approximation.

4. La Vue « Multi-échelle »

Parfois, vous devez regarder une image de loin (la vue d'ensemble) et parfois de près (les détails).

• Les anciennes méthodes choisissaient généralement une seule échelle.
• GRALIS possède une fonctionnalité appelée MS-GRALIS (Multi-Scale GRALIS). Il examine l'image à différents niveaux de détail (comme zoomer et dézoomer) et les combine en utilisant des « poids optimaux ». C'est comme un photographe qui prend un plan large, un plan moyen et un gros plan, puis les mélange parfaitement pour que vous ne manquiez aucun détail important.

5. La « Preuve » (Théorèmes)

L'article ne se contente pas de dire « cela fonctionne » ; il fournit sept théorèmes formels (preuves mathématiques) qui garantissent :

• Complétude : Les explications s'additionnent à 100 % de la décision.
• Convergence : Si vous exécutez le calcul plusieurs fois, la réponse se rapproche de plus en plus de la vérité (avec une borne d'erreur connue).
• Unicité : Il n'existe qu'une seule façon correcte d'écrire cette formule.
• Interaction : Il calcule correctement comment les caractéristiques s'influencent mutuellement.

6. L'« Essai Routier »

Les auteurs ont testé cela sur un ensemble de données réel d'images de cancer du sein (BreaKHis). Ils ne se sont pas contentés de dire « cela a l'air bien » ; ils ont vérifié si le retrait des parties « importantes » mises en évidence par l'IA modifiait réellement la prédiction de l'IA.

• Résultat : Lorsqu'ils ont retiré les zones les plus mises en évidence, la confiance de l'IA dans un diagnostic de « malin » a chuté de manière significative (96 % du temps). Cela prouve que l'outil trouve réellement les bons endroits et ne fait pas que deviner.

Résumé

GRALIS est une unification mathématique qui déclare : « Toutes ces différentes façons d'expliquer l'IA sont en réalité la même chose, simplement vues à travers des lentilles différentes. » Il fournit un cadre unique et rigoureux qui corrige les défauts des anciens outils, permet de les comparer équitablement et garantit que les explications sont mathématiquement saines, complètes et capables de détecter comment les caractéristiques fonctionnent ensemble.

C'est comme réaliser enfin que tous les différents dialectes d'une langue sont en réalité la même langue, et que nous avons maintenant un dictionnaire qui les traduit tous parfaitement.

Résumé technique

Résumé technique : GRALIS – Un cadre canonique unifié pour les méthodes d'attribution linéaires

1. Énoncé du problème

Le domaine de l'IA explicable (XAI) pour les réseaux de neurones profonds est actuellement fragmenté. Les méthodes d'attribution les plus en vue, telles que GradCAM, SHAP, LIME et les Intégrales de Gradient (IG), reposent sur des fondements théoriques distincts, ce qui les rend formellement incomparables. Cette fragmentation conduit à une sélection empirique plutôt que rigoureuse des méthodes, où les cartes d'attribution issues de différentes techniques ne peuvent être systématiquement comparées ni combinées.

Les tentatives antérieures d'unification de ces méthodes ont été partielles :

• Ancona et al. ont établi que les méthodes basées sur le gradient (comme GradCAM) peuvent être exprimées sous une forme linéaire « gradient × entrée », mais n'ont pas prouvé que cette structure était nécessaire, ni inclus SHAP ou LIME.
• Covert et Lee ont unifié LIME, SHAP et IG via des jeux de Shapley, mais ont exclu GradCAM car son ReLU post-agrégation viole la linéarité requise par leur cadre.

Par conséquent, six lacunes structurelles subsistent dans la littérature :

1. Lignes de base arbitraires : IG repose sur une ligne de base fixe, modifiant drastiquement les résultats selon ce choix.
2. Courbure ignorée : SHAP compare les coalitions mais ignore le chemin (la courbure) les reliant.
3. Absence de complétude : Les coefficients LIME ne somment pas nécessairement à la différence de sortie du modèle.
4. Limitation spatiale : GradCAM est confiné aux cartes de caractéristiques des CNN et ne s'applique pas aux couches denses ou aux Transformers.
5. Interactions manquantes : La plupart des méthodes produisent des attributions marginales, échouant à capturer les interactions intégrées entre caractéristiques.
6. Absence d'agrégation multi-échelle : Aucune méthode n'agrège les attributions à travers les niveaux d'abstraction avec des poids mathématiquement optimaux.

2. Méthodologie : Le cadre GRALIS

L'article propose GRALIS (Gradient-Riesz Averaged Locally-Integrated Shapley), un cadre mathématique qui unifie les méthodes d'attribution additives linéaires sous une structure canonique unique dérivée du théorème de représentation de Riesz.

La forme canonique

GRALIS postule que chaque fonctionnel d'attribution additif, linéaire et continu dans $L^2(Q, \mu)$ admet une représentation canonique unique :
$$\phi_i(f, x, x') = \int_Q w(q) \cdot \Delta_i(f, x, x', q) \, d\mu(q)$$
Où :

• $Q$ est l'espace d'indexation d'intégration (par exemple, chemins, coalitions ou cartes de caractéristiques).
• $w(q)$ est une fonction de poids.
• $\Delta_i$ est la contribution marginale de la caractéristique $i$.

Cette forme englobe les méthodes existantes comme cas particuliers :

• GradCAM-lin : Une version linéarisée de GradCAM (supprimant le ReLU post-agrégation) où $Q$ représente les canaux et les positions.
• SHAP : Où $Q$ représente les coalitions.
• LIME : Où $Q$ représente les perturbations locales.
• Intégrales de Gradient : Où $Q$ représente les chemins d'intégration.

Composants algorithmiques clés

1. Chemins d'intégration conditionnés : Contrairement à l'IG standard qui intègre sur un chemin global, GRALIS intègre sur des chemins conditionnés à des coalitions spécifiques $S$. Les caractéristiques hors de $S$ restent à la ligne de base pendant l'intégration, capturant ainsi la courbure spécifique à cette coalition.
2. GRALIS-MC : Pour répondre à la complexité exponentielle des valeurs de Shapley exactes ($O(2^n)$), l'article introduit une approximation de Monte Carlo. Cela réduit la complexité à $O(m \cdot n \cdot k)$ avec une borne d'erreur explicite combinant l'erreur d'échantillonnage de Monte Carlo ($O(1/\sqrt{m})$) et l'erreur d'intégration de Riemann ($O(1/k)$).
3. Valeurs d'interaction : GRALIS induit un jeu coopératif $v_G$ à partir de l'espace continu via une projection mesurable $\rho$. Il calcule les valeurs d'interaction de Shapley (SIV) exactement sur ce jeu induit en utilisant la transformée de Möbius, plutôt que de les approximer.
4. Extension multi-échelle (MS-GRALIS) : Pour les modèles à plusieurs couches, GRALIS agrège les attributions en utilisant des poids $\lambda_\ell$ dérivés du poids par variance inverse, minimisant ainsi la variance totale de l'attribution.

3. Contributions clés et garanties théoriques

L'article établit sept théorèmes formels qui fournissent des garanties absentes dans les méthodes individuelles :

• T1 (Forme canonique unifiée) : Prouve via le théorème de Riesz que la forme intégrale $(Q, w, \Delta)$ est la représentation nécessaire et unique pour tout fonctionnel d'attribution additif, linéaire et continu.
• T2 (Complétude exacte) : Garantit que la somme des attributions égale la différence entre la sortie du modèle et la ligne de base ($f(x) - f(x')$).
• T3 (Convergence) : Fournit une borne de convergence pour GRALIS-MC, montrant des termes d'erreur explicites pour l'échantillonnage et la discrétisation du chemin.
• T4 (SIV exacts) : Démontre que GRALIS calcule les valeurs d'interaction de Shapley exactement sur le jeu coopératif induit $v_G$, évitant la circularité ou l'approximation souvent rencontrées dans l'estimation des interactions.
• T5 (ANOVA de Hoeffding) : Montre que, sous l'indépendance des caractéristiques, les termes GRALIS coïncident avec la décomposition fonctionnelle de Hoeffding.
• T6 (Indices de Sobol) : Établit que les indices de sensibilité de Sobol sont un cas limite local de GRALIS.
• T7 (Optimisation multi-échelle) : Prouve que le poids par variance inverse fournit les poids optimaux pour l'agrégation multi-échelle.

Justification algébrique : L'annexe X utilise la transformée de Möbius pour justifier rigoureusement la correspondance entre l'intégrale continue GRALIS et les valeurs d'interaction de Shapley discrètes, prouvant que GRALIS construit un jeu coopératif valide $v_G$ et calcule les SIV exactement sur celui-ci.

4. Validation expérimentale

L'article rapporte une validation préliminaire sur une tâche de classification d'histologie mammaire utilisant le jeu de données BreaKHis (1 187 images) et un modèle DenseNet-121 entraîné avec distillation de connaissances.

• Implémentation : Utilisation de la segmentation par superpixels SLIC ($n_{seg} \approx 25$), 30 permutations de Monte Carlo avec échantillonnage antithétique, et 10 étapes d'intégration.
• Fidélité : Évaluée via la suppression de superpixels. Pour les images malignes, la suppression des superpixels à attribution la plus élevée a réduit la confiance maligne dans 96 % des cas (baisse moyenne de +0,025 à +0,027). Pour les images bénignes, l'effet était symétrique et théoriquement cohérent (la suppression de preuves bénignes augmentait la confiance maligne).
• Métriques :
  • SAL (Saliency) : 0,762 (identification de régions sémantiquement cohérentes).
  • Compacité ($\phi_{active}$) : 0,39, soit une amélioration de 19 fois par rapport aux variantes dans l'espace des caractéristiques.
  • AUC de suppression : Les estimations préliminaires montrent un AUC positif pour les images malignes et un AUC négatif symétrique pour les images bénignes, cohérent avec la structure conditionnelle à la classe.

Note : Les auteurs déclarent explicitement qu'une comparaison complète avec des méthodes de référence (GradCAM, KernelSHAP, LIME, IG) est prévue pour un article complémentaire.

5. Importance et affirmations

L'article affirme que GRALIS résout la fragmentation de la XAI en fournissant une justification mathématique unificatrice pour les méthodes d'attribution linéaires. Son importance réside dans :

1. Unification formelle : C'est le premier cadre à englober simultanément GradCAM (linéarisé), SHAP, LIME et IG sous une seule forme canonique nécessaire.
2. Complétude structurelle : Il satisfait un ensemble plus large de propriétés axiomatiques (13,5/14 dans la comparaison structurelle de l'article) que toute méthode existante, incluant la complétude, la sensibilité, la localité et les interactions exactes.
3. Rigueur théorique : Il va au-delà de l'observation empirique pour prouver que la linéarité est une nécessité structurelle pour les attributions additives, résolvant le « fossé » entre les méthodes basées sur le gradient et les méthodes théoriques des jeux.
4. Optimalité : Il fournit les premiers poids optimaux dérivés mathématiquement pour l'agrégation multi-échelle.

Les auteurs adoptent une position modeste concernant la portée expérimentale, reconnaissant que la validation actuelle est une preuve de concept sur un seul jeu de données et une seule architecture. Ils soulignent que les contributions théoriques (Théorèmes 1 à 7) tiennent inconditionnellement sous les conditions de linéarité et de continuité énoncées, indépendamment des résultats empiriques. Le cadre ne couvre pas les méthodes non linéaires (par exemple, GradCAM standard avec ReLU, cartes d'attention) car elles tombent en dehors des conditions de représentation de Riesz, une limitation que les auteurs notent explicitement pour un travail futur.