💻 computer science

TTE-CAM: Built-in Class Activation Maps for Test-Time Explainability in Pretrained Black-Box CNNs

Ce papier présente TTE-CAM, un cadre innovant qui transforme des réseaux de neurones convolutifs préentraînés en modèles auto-explicables en remplaçant leur couche de classification, permettant ainsi de conserver leurs performances prédictives tout en générant des cartes d'activation de classe fidèles et intégrées pour l'interprétabilité en temps d'essai.

Auteurs originaux : Kerol Djoumessi, Philipp Berens

Publié 2026-03-31

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Kerol Djoumessi, Philipp Berens

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

🏥 Le Problème : L'Expert qui ne parle pas

Imaginez un médecin très brillant, disons le Dr. CNN, qui est capable de diagnostiquer des maladies sur des radiographies ou des images de l'œil avec une précision incroyable, parfois même meilleure que les humains. C'est un génie de la prédiction.

Mais il y a un gros problème : le Dr. CNN est muet.

Quand il dit "C'est une pneumonie", il ne vous explique pas pourquoi. Il ne pointe pas du doigt la zone infectée sur l'image. Pour un médecin humain, c'est comme si un collègue vous donnait un diagnostic sans aucune justification. Dans un hôpital, où des vies sont en jeu, on ne peut pas se fier à quelqu'un qui ne peut pas expliquer sa logique. C'est ce qu'on appelle une "boîte noire".

🛠️ L'Approche Ancienne : Le Traducteur de Poche

Jusqu'à présent, les scientifiques ont essayé de deux façons pour faire parler ce médecin :

La méthode "Post-achat" (Post-hoc) : On prend le Dr. CNN, et on lui colle derrière un traducteur spécial (un algorithme d'explication). Ce traducteur regarde ce que le médecin a vu et essaie de deviner ce qu'il pensait.
- Le problème : C'est comme demander à un ami de deviner ce que vous avez pensé en regardant votre visage. Ce n'est pas toujours exact, et le "traducteur" peut se tromper ou inventer des choses. Ce n'est pas une explication vraie, c'est une approximation.
La méthode "Re-entraînement" : On construit un nouveau médecin dès le début qui est obligé de parler en même temps qu'il diagnostique.
- Le problème : C'est long, coûteux, et souvent, ce nouveau médecin est moins brillant que le Dr. CNN original. On perd en performance pour gagner en clarté.

💡 La Solution Magique : TTE-CAM (Le Médecin qui s'explique tout seul)

Les auteurs de ce papier, Kerol et Philipp, ont eu une idée géniale : transformer le Dr. CNN en un médecin qui s'explique tout seul, sans le rééduquer et sans perdre sa précision.

Ils ont utilisé une astuce architecturale appelée TTE-CAM. Voici comment cela fonctionne avec une analogie simple :

L'Analogie du Chef Cuisinier et de la Recette

Imaginez que le Dr. CNN est un chef cuisinier qui prépare un plat complexe (le diagnostic).

À la fin de sa préparation, il a tous les ingrédients (les détails de l'image) dans un grand bol.
Traditionnellement, il prend ce bol, le mélange dans une machine (une couche de neurones "fully connected") qui lui donne un seul résultat : "C'est bon" ou "C'est raté". On ne voit jamais les ingrédients individuels.

Ce que fait TTE-CAM :
Au lieu de jeter les ingrédients dans la machine finale, les chercheurs ont simplement remplacé la machine par un tamis spécial (une couche de convolution 1x1).

Ce tamis est fabriqué exactement avec les mêmes poids que l'ancienne machine (ils n'ont rien réappris au chef !).
Quand le chef passe ses ingrédients dans ce tamis, au lieu d'avoir juste un résultat final, le tamis projette une ombre lumineuse sur la table.
Cette ombre montre exactement quels ingrédients (quelles zones de l'image) ont été les plus importants pour décider du résultat.

✨ Pourquoi c'est génial ?

Zéro perte de talent : Le Dr. CNN garde exactement la même précision qu'avant. Il n'a pas besoin de réapprendre à cuisiner.
Explication native : L'explication (l'ombre lumineuse) n'est pas ajoutée après coup. Elle est intrinsèque au processus. Le diagnostic et l'explication sont la même chose. C'est comme si le chef vous montrait le plat en disant : "Regarde, c'est parce que j'ai mis beaucoup de sel ici que c'est salé."
Rapidité : Contrairement aux anciennes méthodes qui devaient faire plusieurs passes pour comprendre chaque détail, TTE-CAM donne le diagnostic et l'explication en un seul coup d'œil (une seule passe).

📊 Les Résultats : Ça marche vraiment ?

Les chercheurs ont testé cette idée sur deux types de maladies :

La rétinopathie diabétique (sur des photos de l'œil).
La pneumonie (sur des radios de poitrine).

Le verdict :

Le Dr. CNN transformé (TTE-CAM) a gardé son niveau d'expert (95% de réussite pour la pneumonie).
Ses explications (les zones lumineuses sur l'image) étaient aussi précises, voire meilleures, que celles des "traducteurs" complexes utilisés auparavant.
Sur les images, on voyait clairement que le modèle se concentrait sur les taches de la rétine ou les zones infectées des poumons, exactement là où les médecins humains regardent.

🚀 En Résumé

Ce papier nous dit qu'on n'a pas besoin de choisir entre un modèle intelligent et un modèle explicable.

Grâce à TTE-CAM, on peut prendre un modèle d'intelligence artificielle très puissant (une "boîte noire") et, en changeant simplement la dernière étape de son cerveau, le transformer en un modèle transparent qui nous montre ses preuves en même temps qu'il donne son verdict. C'est comme donner des lunettes à un expert pour qu'il puisse enfin nous montrer ce qu'il voit.

1. Problématique

Les réseaux de neurones convolutifs (CNN) atteignent des performances de pointe dans l'analyse d'images médicales, mais leur nature de « boîte noire » limite leur adoption dans des contextes cliniques à haut risque où l'interprétabilité est cruciale. Les approches existantes se heurtent à un compromis fondamental :

Méthodes post-hoc : Elles génèrent des cartes de saillance (ex: GradCAM, IG) après l'entraînement. Bien qu'utiles, elles sont par définition inexactes (unfaithful) car les explications ne sont pas directement utilisées pour produire la prédiction finale.
Architectures intrinsèquement interprétables : Elles sont fidèles (la prédiction découle directement de l'explication), mais nécessitent souvent un réentraînement complexe ou sacrifient les performances prédictives.

Le défi ouvert consiste à transformer des CNN pré-entraînés performants en modèles auto-explicables sans réentraînement ni perte de précision.

2. Méthodologie : TTE-CAM

Les auteurs proposent TTE-CAM (Test-Time Explainability via Class Activation Maps), un cadre qui reformule l'architecture de la tête de classification d'un CNN pré-entraîné pour intégrer nativement les cartes d'activation de classe (CAM).

Principe de base : La méthode remplace la couche entièrement connectée (FCL) finale par une couche de convolution 1×1 avec $C$ filtres (où $C$ est le nombre de classes).
Transfert de poids : Étant donné qu'une FCL est mathématiquement équivalente à une convolution 1×1, les poids de classification pré-entraînés sont directement transférés à cette nouvelle couche convolutionnelle sans aucune phase de réentraînement (fine-tuning).
Fonctionnement :
1. La couche de convolution 1×1 pondère les cartes de caractéristiques (feature maps) de la couche précédente, générant ainsi des CAMs intégrées (Built-in CAMs).
2. Ces cartes sont moyennées spatialement pour calculer les scores de classe.
3. Un softmax est appliqué pour obtenir la prédiction finale.
Avantage clé : Contrairement aux méthodes post-hoc qui nécessitent plusieurs passes avant/arrière (rétropropagation) ou des perturbations, TTE-CAM génère l'explication et la prédiction en une seule passe avant (forward pass).

3. Contributions Clés

Pont entre performance et interprétabilité : TTE-CAM permet de conserver les performances prédictives exactes d'un modèle « boîte noire » pré-entraîné tout en fournissant des explications fidèles et intégrées.
Élimination du surcoût computationnel : Contrairement aux méthodes post-hoc (comme GradCAM ou ScoreCAM) qui nécessitent des calculs supplémentaires par classe ou par échantillon, TTE-CAM est aussi rapide que l'inférence standard.
Fidélité mécanique : L'explication (la carte d'activation) est le seul input de la décision finale, garantissant que la prédiction est entièrement basée sur les zones d'attention révélées.

4. Résultats Expérimentaux

L'évaluation a été menée sur deux tâches d'imagerie médicale :

Rétinopathie diabétique (DR) : Classification binaire (Non-DR vs DR) sur le dataset Kaggle Fundus.
Pneumonie : Détection sur le dataset RSNA Chest X-Ray (CXR).

Performances Prédictives :
Le remplacement de la FCL par une convolution 1×1 a préservé exactement les performances du modèle original :

DR : Précision (Acc) = 0,899 ; AUC = 0,923.
Pneumonie (CXR) : Précision (Acc) = 0,953 ; AUC = 0,988.

Qualité des Explications :
TTE-CAM a été comparé à cinq méthodes post-hoc (CAM, ScoreCAM, LayerCAM, GradCAM, Integrated Gradients) sur des métriques quantitatives (k=10) :

Précision Top-k (Top-k Precision) : TTE-CAM obtient des résultats comparables à CAM et compétitifs avec les autres méthodes (ex: 0,33 sur Fundus, 0,12 sur CXR).
Sensibilité Top-k (Top-k Sensitivity) : Mesure la chute de probabilité après masquage des zones pertinentes. TTE-CAM montre une sensibilité similaire aux autres méthodes (ex: 0,629 sur Fundus).
Précision d'activation (Activation Precision) : Fraction d'activations dans les boîtes de délimitation (bounding boxes) ground-truth. Les résultats sont cohérents avec les méthodes post-hoc.

Analyse Visuelle (Fig. 1) :
Les cartes générées par TTE-CAM sont qualitativement similaires à celles de CAM standard et mettent en évidence les zones pathologiques (lésions rétiniennes ou opacités pulmonaires) avec une précision comparable aux méthodes post-hoc les plus avancées.

5. Signification et Conclusion

Impact Clinique : TTE-CAM offre une solution pratique pour déployer des modèles d'IA interprétables dans des environnements cliniques sans sacrifier la précision ni nécessiter un réentraînement coûteux.
Efficacité : La capacité à fournir des explications fidèles en une seule passe avant rend la méthode particulièrement adaptée aux applications en temps réel.
Limitations et Perspectives :
- Comme toutes les méthodes basées sur CAM, la résolution des cartes peut être grossière (limitant la localisation fine, observée sur les images de fondus).
- La méthode est contrainte aux architectures où le nombre de canaux de la dernière carte de caractéristiques correspond à la taille d'entrée du classifieur (ex: ResNet, DenseNet), excluant certaines architectures comme VGG.
- Les auteurs suggèrent d'étendre ce mécanisme aux Vision Transformers (ViT) pour obtenir des cartes d'attention intégrées.

En résumé, TTE-CAM démontre qu'il est possible de transformer des CNN pré-entraînés en modèles auto-explicables de manière élégante et efficace, comblant le fossé entre les approches post-hoc inexactes et les architectures interprétables coûteuses.