💻 computer science

FAME: Feature Activation Map Explanation on Image Classification and Face Recognition

Ce papier présente FAME, une nouvelle méthode d'IA explicable qui combine la manipulation d'entrées pilotée par le gradient avec l'analyse de l'activation des caractéristiques pour générer des cartes d'attribution compétitives pour la classification d'images et la reconnaissance faciale, tout en démontrant que les hypothèses traditionnelles de la cartographie d'activation de classe échouent dans les réseaux profonds.

Auteurs originaux : Xinyi Zhang, Manuel Günther

Publié 2026-05-13

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Xinyi Zhang, Manuel Günther

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous possédiez un robot IA super-intelligent qui examine des photos et vous dit ce qu'il voit, comme identifier un ours dans une forêt ou confirmer que deux photos montrent la même personne. Le problème, c'est que ce robot est une « boîte noire ». Il vous donne la réponse, mais il ne vous dit pas pourquoi il le pense. A-t-il vu le nez de l'ours ? Son pelage ? Ou peut-être s'est-il simplement trompé à cause de l'herbe verte en arrière-plan ?

Ce papier présente un nouvel outil appelé FAME (Feature Activation Map Explanation) pour nous aider à jeter un coup d'œil dans le cerveau du robot et voir exactement quelles parties de la photo comptent le plus.

Voici comment le papier l'explique, en utilisant des analogies simples :

L'Ancienne Méthode : Le « Jeu de Devinettes »

Avant FAME, il existait deux façons principales d'essayer de comprendre ces robots :

La « Carte Dézoomée » (CAM/Grad-CAM) : Imaginez que le robot découpe la photo en une minuscule grille de tuiles. Il examine chaque tuile et déclare : « Cette tuile est importante ! » Ensuite, il étire cette petite grille jusqu'à la taille de la photo originale pour vous montrer où se trouvent les points importants.
- Le Défaut : Les auteurs ont découvert que pour des robots profonds et complexes, cette « grille » ne correspond pas réellement à un seul petit endroit de la photo. Une seule tuile dans le cerveau du robot pourrait regarder l'oreille de l'ours et l'arbre derrière lui en même temps. Étirer la grille crée une carte floue et trompeuse. C'est comme essayer de deviner les ingrédients d'une soupe en regardant seulement la cuillère que vous avez prise au milieu ; vous risquez de manquer les carottes au fond ou les herbes sur le dessus.
La « Gratte-et-Vérifie » (Méthodes de Perturbation) : Cette méthode tente de comprendre le robot en recouvrant aléatoirement des parties de la photo de carrés noirs ou de bruit, puis en voyant si le robot se trompe.
- Le Défaut : C'est un peu malhabile. Si vous recouvrez une partie du visage d'un carré noir, vous créez un bord net et artificiel qui pourrait confondre le robot pour de mauvaises raisons. C'est comme essayer de comprendre comment fonctionne un moteur de voiture en lui lançant des pierres au hasard pour voir ce qui casse. C'est désordonné et repose sur la chance.

La Nouvelle Méthode : FAME (Le « Sculpteur Guidé »)

Les auteurs ont créé FAME pour combiner le meilleur des deux mondes. Au lieu de deviner ou de gratter l'image au hasard, FAME agit comme un sculpteur guidé.

Voici comment cela fonctionne :

L'Objectif : FAME demande au robot : « Quelle est le plus petit changement que je peux apporter à cette photo pour vous faire changer d'avis ? »
Le Processus : Il utilise les propres mathématiques internes du robot (les gradients) pour pousser doucement les pixels de l'image. Il ne lance pas simplement du bruit aléatoire ; il pousse les pixels exactement dans la direction qui confondrait le robot.
Le Résultat : Les zones où le robot avait besoin du plus de « poussées » pour changer d'avis sont les parties les plus importantes. Si le robot était sûr d'avoir vu un ours, mais qu'un tout petit changement au niveau du nez de l'ours le fait dire « Je ne sais pas », alors le nez était la clé.

FAME prend ces « poussées » (qui ressemblent à une carte rugueuse et bruyante) et les lisse avec un flou doux, créant une carte de chaleur propre et facile à lire qui montre exactement où le robot regarde.

Qu'Ont-ils Découvert ?

L'équipe a testé FAME sur deux grandes tâches : la Classification d'Images (nommer des objets) et la Reconnaissance Faciale (faire correspondre des visages).

Prouver que les Anciennes Cartes sont Fausse : Ils ont montré que pour des robots profonds et modernes, l'ancienne méthode de la « Carte Dézoomée » est peu fiable. Le cerveau du robot connecte des parties éloignées de l'image entre elles, donc supposer qu'une petite tuile de grille équivaut à un petit endroit de la photo est faux.
Meilleur pour la Reconnaissance Faciale : Lorsqu'il s'agissait de faire correspondre deux visages, FAME était bien meilleur que la concurrence.
- Si une personne portait des lunettes de soleil, FAME ignorait correctement les lunettes de soleil et se concentrait sur les yeux et le front.
- Si la photo était prise sous un angle étrange, FAME trouvait toujours les caractéristiques correspondantes (comme la racine du nez).
- D'autres méthodes étaient souvent confuses par l'arrière-plan ou les lunettes de soleil, mais FAME restait concentré sur le visage.

La Conclusion

FAME est une nouvelle façon plus intelligente d'expliquer l'IA. Au lieu de deviner ou de briser l'image au hasard, il « pousse » doucement l'IA pour révéler ce qu'elle regarde réellement. Les auteurs ont constaté que cette méthode produit des cartes d'importance plus claires et plus précises que les outils précédents, en particulier pour les réseaux de neurones profonds et complexes.

Note : Le papier mentionne que, comme FAME doit effectuer cette étape de « poussée » pas à pas, il est actuellement plus lent que les autres méthodes, mais les résultats sont plus précis.

Résumé Technique : FAME – Explication de la Carte d'Activation des Caractéristiques

Énoncé du Problème

Les modèles d'apprentissage profond, en particulier dans la classification d'images (IC) et la reconnaissance faciale (FR), atteignent une grande précision mais fonctionnent comme des « boîtes noires », masquant le raisonnement sous-jacent à leurs prédictions. Les méthodes existantes d'IA explicable (XAI) se divisent en deux catégories principales, chacune présentant des limitations significatives :

Cartographie d'Activation de Classe basée sur le Gradient (CAM) : Des méthodes comme Grad-CAM calculent des attributions basées sur les activations des cartes de caractéristiques et les rééchantillonnent à la résolution de l'image. Cette approche repose sur l'hypothèse que les éléments de la carte de caractéristiques sont influencés uniquement par les régions de pixels sous-jacentes (champs récepteurs locaux). Les auteurs soutiennent que cette hypothèse échoue dans les réseaux profonds où les champs récepteurs sont grands, se chevauchent et sont non locaux, conduisant à des cartes d'attribution trompeuses.
Méthodes basées sur la Perturbation : Des techniques comme CorrRISE perturbent les images d'entrée avec des patches fixes (par exemple, des carrés noirs ou du bruit) pour observer les changements de sortie. Ces méthodes introduisent souvent des bords artificiels ou échouent à supprimer l'information efficacement (car les réseaux modernes gèrent bien les entrées floues). De plus, elles reposent sur un masquage aléatoire stochastique et des paramètres définis manuellement, manquant d'une approche fondée sur des principes pour la perturbation.

Méthodologie : Explication de la Carte d'Activation des Caractéristiques (FAME)

Les auteurs proposent FAME, un cadre unifié qui fait le pont entre les paradigmes basés sur le gradient et ceux basés sur la perturbation. FAME est construit sur la Synthèse de Cible d'Origine par Couche (LOTS), une technique d'attaque adversaire initialement conçue pour modifier des images afin de forcer un réseau vers une sortie cible spécifique à une certaine couche.

Mécanisme Central

Au lieu d'utiliser des patches fixes ou un simple rééchantillonnage de gradient, FAME traite la génération d'une carte d'attribution comme un problème d'optimisation :

Perturbation Itérative : En partant d'une image d'entrée $x$ , FAME met à jour itérativement l'image vers $\bar{x}$ en utilisant des gradients normalisés pour minimiser une fonction de perte spécifique $\mathcal{L}$ par rapport à une cible $t$ à une couche de réseau choisie.
$\bar{x} \leftarrow \bar{x} - \eta \frac{\nabla_{\bar{x}}}{\max |\nabla_{\bar{x}|}}$
où $\nabla_{\bar{x}} = \frac{\partial \mathcal{L}(f^l(\bar{x}) \mid t^l)}{\partial \bar{x}}$ .
Dérivation de l'Attribution : La carte d'attribution est dérivée de la différence absolue entre l'image originale et l'image perturbée : $\Delta x = |\bar{x} - x|$ .
Lissage : La carte de perturbation au niveau des pixels résultante est lissée à l'aide d'un noyau gaussien et normalisée par le maximum pour produire la carte d'attribution finale $e \in [0, 1]^{H \times W}$ .

Adaptations Spécifiques aux Tâches

FAME adapte la fonction de perte et la cible en fonction de la tâche :

Analyse de la Carte de Caractéristiques : Pour tester la validité des hypothèses CAM, la cible est fixée à zéro pour des éléments spécifiques de la carte de caractéristiques $a[k]$ . La perte $\mathcal{L}_a = \|a[k] - 0\|_1$ identifie quels pixels d'entrée doivent être supprimés pour annuler une activation de caractéristique spécifique.
Classification d'Images : La perte est définie directement sur le logit d'une classe cible ( $L_{cls} = z_o$ ), en rétropropageant vers l'entrée pour mettre en évidence les pixels critiques pour cette prédiction de classe.
Reconnaissance Faciale : La méthode minimise ou maximise le score de similarité $s$ $s$ entre une image de galerie ( $x_g$ $x_{g}$ ) et une image de sonde ( $x_p$ $x_{p}$ ).
- Similaire ( $e^+$ ) : Minimiser la similarité ( $L_+ = s$ ) pour trouver les régions soutenant la correspondance.
- Dissimilaire ( $e^-$ ) : Maximiser la similarité ( $L_- = 1-s$ ) pour trouver les régions causant le non-appariement.
- Contrairement aux méthodes apparentées (par exemple FGGB), FAME ne nécessite pas de seuillage arbitraire pour séparer les régions similaires et dissimilaires.

Contributions Clés

Réfutation des Hypothèses CAM : L'article fournit des preuves empiriques que l'hypothèse des champs récepteurs locaux dans les méthodes basées sur CAM ne tient pas pour les réseaux profonds. En utilisant FAME, les auteurs démontrent que les éléments de la carte de caractéristiques dans les réseaux profonds (par exemple IResNet101) agrègent des informations provenant de grandes régions décalées et se chevauchant de l'entrée, rendant le simple rééchantillonnage peu fiable.
Cadre Unifié : FAME offre une approche unique basée sur l'optimisation applicable aux tâches IC et FR sans nécessiter de modifications architecturales spécifiques à la tâche ou de sélection manuelle de seuils.
Perturbation Principée : En utilisant des perturbations pilotées par le gradient plutôt que des patches fixes, FAME évite d'introduire des artefacts artificiels (comme des bords nets provenant de carrés noirs) et fournit une interprétation plus naturelle de la manière dont les changements d'entrée affectent les sorties du réseau.

Résultats Expérimentaux

Les auteurs ont évalué FAME sur ImageNet (IC) et trois jeux de données de Reconnaissance Faciale (AR Face, SCface, CFP) en utilisant diverses architectures (ResNet, VGG, ConvNeXt, IResNet).

Classification d'Images

Qualitatif : FAME produit des cartes d'attribution plus compactes et sémantiquement pertinentes par rapport à Grad-CAM et Grad-CAM-EW, qui mettent souvent en évidence des régions de fond diffuses ou se concentrent uniquement sur des parties spécifiques (par exemple, juste la tête d'un oiseau).
Quantitatif : Sur ImageNet, FAME obtient des scores d'Intersection sur Union (IoU) compétitifs, légèrement inférieurs à FullGradCAM mais surpassant les variantes standard de Grad-CAM. Crucialement, dans les évaluations ROAD-Delete (mesurant la dégradation des performances à mesure que les pixels saillants sont supprimés), FAME obtient les scores les plus élevés à de faibles ratios de suppression (10 % et 30 %), indiquant qu'il identifie les pixels les plus critiques pour la décision du modèle plus efficacement que ses concurrents.

Reconnaissance Faciale

Qualitatif : FAME génère des cartes spatialement cohérentes qui s'alignent avec l'intuition humaine. Pour les visages occlus (par exemple, écharpes, lunettes de soleil), FAME se concentre correctement sur les indices d'identité visibles (yeux, front) tout en ignorant les zones occluses. En revanche, des méthodes comme CorrRISE et FGGB produisent souvent des cartes bruyantes ou mettent en évidence des régions de fond non pertinentes.
Quantitatif : À travers plusieurs protocoles FR et profondeurs de réseau, FAME surpasse constamment Grad-CAM, CorrRISE et FGGB dans les deux métriques Delete (chute de précision) et Insert (récupération de précision). Notamment, FAME obtient les scores d'Insertion les plus élevés (jusqu'à 96,7 % sur CFP), démontrant sa capacité à identifier les régions qui, une fois restaurées, récupèrent rapidement la précision de vérification.

Signification et Revendications

L'article revendique que FAME fournit un cadre basé sur l'optimisation et adaptatif à la tâche qui produit des explications stables et pertinentes pour le modèle. Sa signification principale réside dans :

Correction des Idées Reçues : Il remet en question la dépendance au rééchantillonnage spatial naïf dans les réseaux profonds, montrant que les architectures plus profondes encodent des modèles intégrés globalement plutôt que des caractéristiques localisées.
Robustesse : FAME démontre une robustesse supérieure aux variations de pose, d'occlusion et de résolution par rapport aux méthodes XAI de l'état de l'art.
Généralité : Il élimine le besoin de seuils arbitraires (une limitation de FGGB) et de paramètres de perturbation fixes (une limitation de CorrRISE), offrant une approche plus principée de l'attribution.

Les auteurs reconnaissent que FAME est computationnellement plus lent que les méthodes basées sur le gradient en raison de sa nature itérative, mais suggèrent que la vitesse peut être améliorée par un arrêt anticipé ou des tailles de pas plus grandes avec un impact minimal sur la qualité. Un travail futur est proposé pour étendre FAME aux architectures de transformateurs et aux tâches de détection d'objets.