Unsupervised Causal Prototypical Networks for De-biased Interpretable Dermoscopy Diagnosis

Each language version is independently generated for its own context, not a direct translation.

🩺 Le Problème : Le Médecin IA qui se fait avoir par les apparences

Imaginez que vous avez créé un super-médecin robot (une Intelligence Artificielle) capable de diagnostiquer des maladies de la peau en regardant des photos de grains de beauté (dermoscopie). Ce robot est très intelligent, mais il a un gros défaut : il est un "boîte noire". On ne sait pas pourquoi il prend une décision.

Pire encore, ce robot a tendance à tricher. Il apprend par des raccourcis.

L'analogie du chapeau : Imaginez que votre robot apprend à reconnaître les maladies. Il remarque que sur toutes les photos de "mélanome" (un cancer dangereux), il y a souvent un chapeau en arrière-plan (parce que les patients portent souvent un chapeau quand ils vont chez le dermatologue).
Au lieu de regarder la tache elle-même, le robot se dit : "Ah, il y a un chapeau ? C'est sûrement un cancer !"
C'est ce qu'on appelle un biais. Le robot se fie à l'environnement (le chapeau, la lumière, la peau autour) plutôt qu'à la vraie maladie. C'est dangereux car si le patient n'a pas de chapeau, le robot peut se tromper.

💡 La Solution : CausalProto, le Détective de la Vérité

Les chercheurs ont créé un nouveau système appelé CausalProto. Pour le comprendre, imaginons-le comme un détective très méticuleux qui ne se laisse jamais berner par le décor.

Voici comment il fonctionne, étape par étape :

1. Le Grand Tri (Le "Filtre Magique")

Le détective a deux lunettes spéciales :

Lunette Causale : Elle ne regarde que la tache elle-même (la vraie maladie).
Lunette "Bruit" : Elle regarde tout le reste (le chapeau, la lumière, la couleur de la peau autour).

Le but est de séparer ces deux visions. Le système utilise une astuce mathématique (appelée "goulot d'étranglement de l'information") pour forcer les deux lunettes à ne jamais se parler. Si la lunette "Bruit" voit un chapeau, la lunette "Causale" doit l'ignorer totalement. C'est comme si on séparait le signal de la radio du bruit de fond.

2. La Bibliothèque de Preuves (Les "Prototypes")

Au lieu de mémoriser des millions de photos floues, le détective crée deux petites bibliothèques :

La Bibliothèque des Vraies Maladies : Il y met des exemples purs de ce à quoi ressemble un vrai cancer, sans aucun chapeau ni bruit autour.
La Bibliothèque des "Faux Amis" : Il y met des exemples de tout ce qui peut tromper (les chapeaux, les ombres, les reflets).

Quand une nouvelle photo arrive, le robot ne compare pas la photo à tout ce qu'il a vu. Il compare la partie "maladie" de la photo à sa Bibliothèque des Vraies Maladies.

3. L'Intervention Magique (Le "Do-Calculus")

C'est la partie la plus intelligente. Souvent, les robots se disent : "Si je vois un chapeau, c'est un cancer."
CausalProto fait une expérience mentale : "Et si j'enlevais le chapeau de la photo ?"

Il utilise une technique mathématique appelée intervention (ou do-calculus). Il imagine virtuellement tous les scénarios possibles où le "bruit" (le chapeau) changerait, mais où la maladie resterait la même. En faisant la moyenne de tous ces scénarios, il annule l'effet du chapeau.

Résultat : Le robot ne décide plus en fonction du décor, mais uniquement de la tache elle-même.

🏆 Pourquoi c'est génial ?

C'est plus juste : Le robot ne se trompe plus à cause des chapeaux ou de la lumière. Il est plus précis que les meilleurs robots actuels.
C'est transparent : Quand le robot dit "C'est un cancer", il peut montrer : "Regardez, voici 3 photos de vrais cancers qui ressemblent exactement à celle-ci, et voici pourquoi je ne regarde pas le chapeau." C'est comme un médecin qui vous montre son dossier médical.
Pas de compromis : D'habitude, quand on rend un robot plus transparent, il devient moins précis. Ici, CausalProto est à la fois plus transparent ET plus précis.

🎯 En résumé

Imaginez que vous essayez d'apprendre à un enfant à reconnaître un chat.

Les vieux robots disent : "Si ça a des moustaches et qu'il est dans un salon avec un canapé, c'est un chat." (Ils se trompent s'il y a un chien dans le salon).
CausalProto dit : "Oublions le salon. Regardons juste les yeux, les oreilles et la fourrure. Peu importe où il est, si ça ressemble à un chat, c'est un chat."

C'est une avancée majeure pour la médecine, car cela permet de faire confiance à l'IA pour des décisions vitales, en sachant qu'elle ne se laisse pas berner par les apparences trompeuses.

Each language version is independently generated for its own context, not a direct translation.

1. Problématique

L'analyse automatique des images de dermoscopie par l'apprentissage profond a connu un grand succès, mais elle se heurte à deux obstacles majeurs :

Nature de « boîte noire » : Les modèles standards manquent de transparence, ce qui limite leur adoption dans des environnements cliniques critiques où la confiance et l'explicabilité sont requises.
Apprentissage par raccourcis (Shortcut Learning) et biais de sélection : Les réseaux de prototypes (Prototypical Networks), bien qu'interprétables par nature, sont vulnérables aux biais présents dans les données cliniques réelles. Ils ont tendance à encoder des artefacts environnementaux (confondants) plutôt que les véritables caractéristiques pathologiques. Cela crée des « chemins de porte dérobée » (backdoor paths) où des preuves visuelles spurious (trompeuses) dictent le diagnostic, rendant les décisions peu fiables et les prototypes interprétables contaminés.

L'objectif est donc de développer un modèle qui maintient une haute précision diagnostique tout en fournissant une interprétabilité visuelle pure, sans subir le compromis traditionnel entre précision et interprétabilité.

2. Méthodologie : CausalProto

Les auteurs proposent CausalProto, un réseau de prototypes causaux non supervisé, structuré autour d'un Modèle Causal Structurel (SCM). L'approche vise à purifier la chaîne de preuves visuelles en découplant les caractéristiques pathologiques des artefacts environnementaux.

A. Architecture et Découplage (Information Bottleneck)

Le modèle utilise un encodeur à double branche pour mapper l'image d'entrée $X$ vers deux espaces latents découplés :

$Z_C$ (Latent Causal) : Représente les attributs pathologiques réels.
$Z_S$ (Latent Spurious) : Représente les artefacts environnementaux (bruit, biais de sélection).

Pour garantir l'orthogonalité stricte entre ces deux espaces sans nécessiter d'annotations environnementales, le modèle impose une contrainte de Goulot d'Information (Information Bottleneck). Il minimise l'information mutuelle $I(Z_C; Z_S)$ entre les deux variables latentes en utilisant une approximation de la borne supérieure vCLUB (Variational Contrastive Log-Ratio Upper Bound). Cela force le réseau à ignorer les corrélations spurious lors de l'extraction des caractéristiques causales.

B. Espaces de Prototypes Distincts

Le modèle apprend deux bibliothèques de prototypes séparées :

Prototypes Causaux ( $P_C$ ) : Capturent les motifs pathologiques purs. Chaque prototype est contraint d'être une projection d'une instance réelle d'entraînement, assurant une interprétabilité visuelle directe (cas similaires).
Prototypes Spurious ( $P_S$ ) : Modélisent les artefacts environnementaux sous forme d'un dictionnaire non supervisé.

C. Intervention Causale et Ajustement Backdoor

Lors de l'inférence, au lieu de prédire simplement $P(Y|X)$ (qui reste biaisé), le modèle applique un ajustement backdoor via le calcul do de Pearl pour estimer la probabilité interventionnelle $P(Y | do(X))$.

La méthode marginalise le bruit environnemental en effectuant un pooling d'espérance sur le dictionnaire de prototypes spurious ( $P_S$ ).
Cette opération est réalisée efficacement grâce à l'approximation NWGM (Normalized Weighted Geometric Mean), qui moyenne les distributions de probabilité sur les différents contextes environnementaux capturés par $P_S$ .
Le résultat final est une prédiction débiaisée, basée uniquement sur les preuves causales $Z_C$ .

3. Contributions Clés

Définition du mécanisme de génération de preuves spurious : Identification formelle de la vulnérabilité des réseaux de prototypes aux facteurs de confusion dans les tâches de vision médicale.
Découplage orthogonal strict : Réalisation d'une séparation parfaite entre les caractéristiques pathologiques et environnementales via une approximation variationnelle de l'information mutuelle, sans supervision externe.
Intervention causale non supervisée : Introduction d'une bibliothèque de prototypes de confusion comme dictionnaire causal, permettant un ajustement backdoor efficace via le calcul do et le pooling NWGM.
Résolution du compromis Précision-Interprétabilité : Démonstration qu'il est possible d'obtenir une interprétabilité visuelle transparente et une haute précision diagnostique simultanément, surpassant les modèles standards.

4. Résultats Expérimentaux

Les expériences ont été menées sur trois jeux de données de lésions cutanées : HAM10000, ISIC 2019 et PAD-UFES-20.

Performance Diagnostique : CausalProto atteint des performances de pointe (SOTA), surpassant les meilleurs modèles de base (y compris les modèles causaux robustes comme CausalVAE et les modèles black-box comme ResNet-50).
- Sur HAM10000, il obtient une Précision Équilibrée (Balanced Accuracy) de 80,5 % et un F1-score de 78,0 %, contre respectivement 76,4 % et 74,1 % pour CausalVAE.
Qualité de l'Interprétabilité :
- Pureté des prototypes : Le modèle maintient une pureté de prototype très élevée (0,82 sur HAM10000), indiquant que les prototypes correspondent bien à des cas cliniques cohérents, contrairement aux modèles baselines qui mélangent des artefacts.
- Découplage : La mesure NMI (Normalized Mutual Information) entre les facteurs causaux et spurious est minimisée (0,07), confirmant le succès du découplage.
Études d'ablation :
- La suppression de la pénalité d'information mutuelle (w/o MI) ou la fusion des espaces de prototypes entraîne une chute drastique de la précision et une perte de pureté, prouvant que le découplage est essentiel.
- La suppression de l'ajustement causal (w/o do-calc) montre que même avec un bon découplage, l'inférence sans intervention causale reste sujette aux raccourcis.

5. Signification et Impact

CausalProto représente une avancée significative pour l'IA médicale en dermatologie :

Confiance Clinique : En fournissant des explications visuelles basées sur des preuves pathologiques pures (et non sur des artefacts), le modèle s'aligne sur le raisonnement des experts, favorisant l'adoption clinique.
Robustesse : La méthode élimine la dépendance aux biais de sélection inhérents aux données réelles, rendant le modèle plus robuste dans des environnements variés.
Fondation pour l'IA de confiance : L'article démontre que l'intégration de l'inférence causale dans l'apprentissage par prototypes permet de surmonter le dilemme classique entre performance et transparence, posant les bases pour le déploiement d'IA fiables dans des environnements à haut risque.

En résumé, CausalProto transforme le diagnostic de dermoscopie d'un ajustement de probabilités conditionnelles observées vers un raisonnement interventionnel, garantissant que les décisions sont guidées par la pathologie réelle et non par le bruit environnemental.