Résumé technique : GCE-MIL : Preuves fidèles et récupérables pour l'apprentissage multiple d'instances en imagerie de lames entières

1. Énoncé du problème

En pathologie computationnelle, les images de lames entières (WSI) sont généralement traitées à l'aide de l'apprentissage multiple d'instances (MIL), où une lame est traitée comme un « sac » de milliers de patches de tissu, et la supervision n'est disponible qu'au niveau de la lame. Les modèles MIL standard basés sur l'attention (par exemple, ABMIL, CLAM, TransMIL) agrègent les caractéristiques des patches pour prédire les étiquettes au niveau de la lame. Bien que ces modèles visualisent souvent les poids d'attention comme des « preuves » de leurs prédictions, l'article soutient que cette pratique confond deux objectifs distincts : la précision de la classification et la qualité des preuves.

Les auteurs identifient trois défaillances systématiques lorsque les poids d'attention sont utilisés comme preuves :

1. Insuffisance : Le maintien uniquement des patches les plus attendus échoue souvent à préserver la prédiction originale. Sur 9 jeux de données, le maintien des seuls patches top-k d'attention fait baisser le Macro-F1 d'une moyenne de 0,078 par rapport au sac complet.
2. Inutilité : La suppression des patches les plus attendus a souvent peu d'impact sur la prédiction, indiquant que le modèle repose sur des informations redondantes ailleurs. La suppression des top-k d'attention ne modifie le Macro-F1 que de 0,033 en moyenne.
3. Irrécupérabilité : Il existe un écart significatif entre les scores d'attention continus appris pendant l'entraînement et les sous-ensembles discrets extraits lors de l'inférence. Pour ABMIL standard, cet écart continu-discret (C-D) est de 0,029, ce qui signifie que la preuve discrète ne représente pas fidèlement le signal continu.

De plus, l'article note que les preuves WSI sont souvent non uniques ; une seule lame peut contenir plusieurs ensembles disjoints de patches qui sont individuellement suffisants pour le diagnostic, pourtant les mécanismes d'attention standard les réduisent en un seul classement, échouant à capturer cette ambiguïté structurelle.

2. Méthodologie : GCE-MIL

Les auteurs proposent GCE-MIL (Grounded Continuous Evidence MIL), un wrapper agnostique de l'architecture de base conçu pour optimiser directement la qualité des preuves plutôt que de la traiter comme un sous-produit de la classification. Le cadre est construit sur trois critères : Suffisance, Nécessité et Récupérabilité (S/N/R).

Composants principaux

1. Ancrage sémantique (Traitement de la Nécessité) :

   • Au lieu d'apprendre la sélection uniquement à partir des gradients de classification, GCE-MIL ancre la sélection des patches dans des concepts sémantiques spécifiques au domaine (par exemple, « pléomorphisme nucléaire », « activité mitotique »).
   • Il utilise une banque de $M=8$ embeddings de texte figés dérivés de TITAN, un modèle vision-langage en pathologie.
   • Un adaptateur de faible rang et un réseau pont cartographient les caractéristiques des patches vers l'espace des ancres. Le sélecteur est entraîné pour s'assurer que les patches sélectionnés s'alignent sur ces concepts diagnostiques, empêchant la sélection de régions visuellement saillantes mais non pertinentes.

2. Sélecteur continu avec couverture Noisy-OR (Traitement de la Suffisance) :

   • Le modèle emploie un sélecteur continu $\pi \in [0, 1]^N$ pour déterminer l'inclusion des patches.
   • Pour agréger les preuves à travers plusieurs concepts diagnostiques, le cadre utilise la couverture Noisy-OR plutôt que le pooling moyen ou l'attention. Pour une ancre spécifique $m$, la couverture est calculée comme $v_m(\pi) = 1 - \prod_i (1 - \pi_i r_{im})$.
   • Ce mécanisme modélise les patches comme des canaux de preuve indépendants avec des rendements marginaux décroissants. Il est prouvé être sous-modulaire monotone, ce qui permet une optimisation gloutonne rationnelle. Cela garantit que le sous-ensemble sélectionné couvre les concepts diagnostiques nécessaires sans redondance.

3. Récupération discrète par seuil plus réparation (Traitement de la Récupérabilité) :

   • À l'inférence, le sélecteur continu est converti en un sous-ensemble discret via une procédure de seuil plus réparation.
   • D'abord, les patches sont seuillés (par exemple, $\pi_i > 0,5$). Si le sous-ensemble résultant ne parvient pas à atteindre un objectif de couverture (par exemple, 95 % de la couverture des ancres), un algorithme de réparation gloutonne ajoute des patches basés sur le gain marginal exact de l'utilité Noisy-OR.
   • Cela garantit que le sous-ensemble discret est une récupération fidèle du sélecteur continu, minimisant l'écart C-D.

Objectif d'entraînement

Le wrapper est entraîné conjointement avec l'architecture de base hôte en utilisant une perte composite :
$$L = L_{task} + \lambda_b L_{budget} + \lambda_g L_{ground}$$

• $L_{task}$ : La perte de classification ou de survie originale (préservant la capacité prédictive).
• $L_{budget}$ : Impose la parcimonie (par exemple, sélectionner ~5 % des patches) pour favoriser la Suffisance.
• $L_{ground}$ : Aligner le sélecteur avec les réponses des ancres Noisy-OR pour favoriser la Nécessité.
• Recuit de température : La température du sélecteur est recuite de 1,0 à 0,4 pendant l'entraînement pour pousser la distribution des portes vers un régime bimodal, facilitant la récupération discrète.

Modes d'injection

GCE-MIL est un wrapper plug-in qui s'adapte à différentes architectures de base :

• Architectures basées sur l'attention (ABMIL, CLAM) : Injecté comme un biais de logit d'attention ($\alpha_i \leftarrow \alpha_i + \log \pi_i$).
• Architectures basées sur les tokens (TransMIL, DTFD-MIL) : Injecté comme une repondération des caractéristiques ($h_i \leftarrow \pi_i \cdot h_i$).
• Architectures hybrides/multi-chemins : Une combinaison des deux.

3. Contributions clés

1. Formalisation de la qualité des preuves : L'article définit et opérationnalise trois critères (Suffisance, Nécessité, Récupérabilité) pour évaluer les preuves MIL, démontrant que les méthodes standard basées sur l'attention échouent sur les trois.
2. Diagnostic de sous-ensemble minimal : Une analyse récursive sur le jeu de données BRACS révèle que 72,67 % des lames de validation admettent au moins deux sous-ensembles suffisants disjoints, motivant le besoin d'une sélection de preuves au-delà d'un seul classement d'attention.
3. Cadre GCE-MIL : Un wrapper modulaire intégrant l'ancrage sémantique, la couverture Noisy-OR et la récupération discrète. Il est conçu pour être orthogonal aux architectures de base existantes, les améliorant sans remplacer leurs mécanismes d'agrégation centraux.
4. Évaluation complète : La méthode est évaluée sur une grille de 9 $\times$ 9 (9 architectures de base $\times$ 9 jeux de données), couvrant à la fois la classification (BRACS, PANDA, TCGA-BRCA, TCGA-NSCLC) et la prédiction de survie (TCGA-LUAD, STAD, UCEC, KIRP, KIRC).

4. Résultats

L'évaluation démontre que l'optimisation pour S/N/R améliore à la fois la qualité des preuves et, dans de nombreux cas, les performances prédictives.

• Performances prédictives : Sur 81 configurations, GCE-MIL améliore le Macro-F1 moyen de 0,024 et l'indice C de 0,014. Les plus grands gains sont observés sur des tâches difficiles et à grain fin (par exemple, classification à 7 classes BRACS), où le Macro-F1 ABMIL passe de 0,634 à 0,703 (+6,9 points).
• Qualité des preuves (Diagnostics d'intervention) :
  • Suffisance : Le maintien des preuves GCE ne modifie le score du sac complet que de 0,004, contre une baisse de 0,078 pour les top-k d'attention.
  • Nécessité : La suppression des preuves GCE entraîne une baisse de performance de 0,176, contre seulement 0,033 pour les top-k d'attention.
  • Récupérabilité : L'écart continu-discret est réduit de 0,029 (ABMIL) à 0,004–0,005 avec GCE.
• Efficacité : Avec un préfiltrage optionnel des tuiles (saut des patches non sélectionnés avant l'extraction de caractéristiques), l'inférence est jusqu'à 5 fois plus rapide tout en conservant 0,989 fois l'utilité du sac complet. Même avec des caractéristiques mises en cache, le temps d'agrégation MIL est réduit à 0,22 fois l'original.
• Localisation : Sur le jeu de données CAMELYON-16, l'ajout de GCE améliore les scores Dice (par exemple, TransMIL de 0,103 à 0,398) et les scores FROC, indiquant une meilleure alignement spatial avec les régions tumorales annotées.

5. Importance et affirmations

L'article affirme que GCE-MIL comble un fossé fondamental dans le MIL : l'hypothèse selon laquelle la précision de la classification implique des preuves fidèles. En optimisant explicitement pour la Suffisance, la Nécessité et la Récupérabilité, la méthode produit des preuves qui sont :

• Autonomes : Les patches sélectionnés seuls préservent la prédiction.
• Critiques : La suppression des patches sélectionnés dégrade la prédiction.
• Fidèles : La preuve discrète à l'inférence correspond au signal continu appris pendant l'entraînement.

Les auteurs soulignent que GCE-MIL est un wrapper plutôt qu'une architecture de base de remplacement, le rendant applicable à un large éventail d'architectures MIL existantes. Les résultats suggèrent que la qualité des preuves n'est pas simplement une préoccupation d'interprétabilité a posteriori, mais un facteur qui, lorsqu'il est optimisé, peut améliorer la robustesse et la précision du modèle prédictif sous-jacent, en particulier dans des scénarios diagnostiques complexes et multi-concepts. Le travail met également en évidence que les mécanismes d'attention standard échouent souvent à capturer la nature non unique et multi-source des preuves pathologiques, une limitation que GCE-MIL atténue grâce à son approche basée sur la couverture.