Résumé Technique : Découverte de groupes latents pour une classification robuste via les Arbres de Classification Neuronaux (NCT)

1. Énoncé du Problème

Les réseaux de neurones profonds exploitent fréquemment des corrélations spécieuses — des caractéristiques corrélées aux étiquettes dans l'ensemble d'entraînement mais dépourvues de validité causale — pour atteindre une précision moyenne élevée. Ce comportement entraîne une dégradation disproportionnée des performances sur les sous-groupes sous-représentés lorsque ces corrélations changent au moment du test (par exemple, classer des oiseaux en se basant sur l'arrière-plan plutôt que sur les caractéristiques de l'oiseau).

Bien que les méthodes existantes telles que le Group Distributionally Robust Optimization (Group DRO) ou les techniques d'inférence de pseudo-groupes (ex. JTT, GEORGE) améliorent la précision du pire groupe (worst-group accuracy), elles souffrent d'une limite critique : le manque d'interprétabilité. Ces méthodes ajustent les paramètres du réseau pour atténuer le biais, mais lors de l'inférence, elles ne produisent qu'une prédiction de classe. Elles ne révèlent pas à quel sous-groupe latent un échantillon spécifique appartient, ni ne séparent structurellement les caractéristiques conflictuelles. De plus, de nombreuses méthodes robustes reposent sur des annotations de groupes fines et coûteuses ou sur des étiquettes de groupes de validation, qui sont souvent indisponibles dans les scénarios réels.

2. Méthodologie : Arbres de Classification Neuronaux (NCT)

Les auteurs proposent les Arbres de Classification Neuronaux (NCT), un cadre qui encode la structure des sous-groupes directement dans l'architecture en forme d'arbre du modèle. Au lieu d'utiliser de manière transitoire des signaux de difficulté pour le repondérage, le NCT préserve le partitionnement des données comme étant l'architecture elle-même lors de l'inférence.

Mécanisme Central

La méthode repose sur l'observation que la difficulté d'entraînement est un indicateur fiable de l'identité du groupe sémantique. Les échantillons alignés avec des corrélations spécieuses sont "faciles" à apprendre, tandis que les contre-exemples (groupes minoritaires) sont "difficiles".

1. Routage Itératif :

   • Le processus commence par une tête de classification standard.
   • À chaque itération $t$, les échantillons sont acheminés vers des nœuds enfants en fonction de la justesse de la prédiction par rapport au nœud assigné.
   • Branche Facile : Les échantillons correctement classés progressent vers l'enfant d'indice pair ($2j$).
   • Branche Difficile : Les échantillons mal classés progressent vers l'enfant d'indice impair ($2j+1$).
   • Ce routage est déterministe et piloté par la dynamique d'entraînement. La chaîne binaire des décisions de routage ($d^{(1)}_i d^{(2)}_i \dots$) encode l'historique de la difficulté d'entraînement de l'échantillon.

2. Architecture de Caractéristiques Hiérarchique :

   • Le NCT utilise un backbone partagé $f_\theta$ et une hiérarchie de têtes de classification.
   • Flux de Caractéristiques : Contra-irement aux arbres standards qui rejettent les couches précédentes, le NCT conserve toutes les têtes des itérations antérieures. Une tête enfant à l'itération $t$ reçoit en entrée la représentation de son nœud parent à $t-1$, garantissant que les têtes spécialisées opèrent sur des caractéristiques conditionnées par la sémantique du parent.
   • Capacité Asymétrique : Pour gérer la complexité des partitions "difficiles", les enfants difficiles utilisent un bloc linéaire–ReLU–dropout, tandis que les enfants faciles utilisent une couche linéaire plus simple.

3. Optimisation et Stabilité :

   • Perte Auxiliaire : Pour éviter l'oubli catastrophique des représentations parentales lors de l'entraînement des nœuds enfants, une perte auxiliaire est imposée sur les nœuds parents pendant l'entraînement des enfants.
   • Entraînement en Deux Phases : Chaque itération implique de figer le backbone pour adapter les nouvelles têtes, suivi d'un affinement (fine-tuning) de l'ensemble du réseau pour résoudre les nœuds difficiles auparavant inséparables.

4. Contrôle de la Profondeur (Non supervisé) :

   • Puisqu'aucune étiquette de groupe n'est disponible, le NCT utilise un critère de Pseudo Worst-Group Accuracy (pWGA) pour déterminer quand arrêter d'approfondir l'arbre.
   • Il groupe les échantillons de validation par leur ancêtre de l'itération-2 et suit la précision minimale à travers ces groupes.
   • Une borne d'arrêt précoce de type tolérance de Wilson garantit que l'arbre cesse de croître lorsque la pWGA ne s'améliore plus de manière significative, évitant ainsi le surapprentissage du bruit.
   • Fusion de Nœuds Sparses : Les enfants difficiles avec très peu d'échantillons sont fusionnés avec leurs frères "faciles" pour maintenir la fiabilité statistique.

3. Principales Contributions

Le papier expose quatre contributions majeures :

1. L'Architecture comme Partition : Contrairement aux travaux précédents qui utilisent des signaux de justesse de manière transitoire pour le repondérage, le NCT préserve la partition basée sur la difficulté comme l'architecture d'inférence. Chaque feuille encode à la fois la classe prédite et le chemin de difficulté, fournissant une cartographie transparente entre l'architecture et la structure latente des données.
2. Sélection de Profondeur Non Supervisée : L'introduction d'un critère pWGA avec une borne de tolérance de Wilson permet au modèle de déterminer de manière autonome la profondeur optimale de l'arbre sans nécessiter d'annotations de groupe.
3. Motivation Théorique :
   • Récupération des Minorités : Les auteurs prouvent (Théorème 4.2) que sous l'hypothèse d'un "biais de simplicité" (les réseaux de neurones apprennent d'abord les caractéristiques simples), l'ensemble des échantillons mal classés lors de la première itération est enrichi d'échantillons de sous-groupes minoritaires.
   • Séparation Structurelle : Ils démontrent (Théorème 4.4) que lorsqu'il existe un conflit de caractéristiques (les hypothèses optimales pour les groupes faciles et difficiles diffèrent), la séparation structurelle via des classificateurs distincts produit un écart positif de risque minimax par rapport à un classificateur unique unifié.
4. Preuves Empiriques : Les expériences sur cinq benchmarks montrent que le NCT isole systématiquement les sous-groupes minoritaires dans les branches "difficiles" tout en atteignant une précision du pire groupe (WGA) compétitive face aux bases de référence de l'état de l'art.

4. Résultats Expérimentaux

Les auteurs ont évalué le NCT sur cinq benchmarks : Waterbirds (biais d'arrière-plan), CelebA (biais démographique), ISIC (artefacts d'acquisition), UMNIST (biais d'identité de chiffres) et CMNIST (biais de couleur).

• Robustesse : Le NCT atteint une précision du pire groupe (WGA) compétitive ou supérieure aux bases de référence solides. Notamment, sur le jeu de données ISIC, le NCT est en tête sur tous les niveaux de supervision (y compris Group DRO) bien qu'il n'utilise aucune étiquette de groupe d'entraînement. Sur Waterbirds et CelebA, il égale ou dépasse légèrement les méthodes supervisées par validation comme JTT et DFR.
• Découverte de Groupes Latents : L'analyse quantitative des "taux de capture de l'itération-2" révèle que le NCT route avec succès les sous-groupes minoritaires vers les branches difficiles. Par exemple :
  • Waterbirds : 82 % du sous-groupe minoritaire "oiseau-terrestre-sur-eau" est routé vers la branche difficile.
  • CelebA : 73 % du sous-groupe "homme-blond" est routé vers la branche difficile.
  • ISIC : 47 % du sous-groupe "bénin-sans-patch" est isolé dans la branche difficile.
• Interprétabilité : Une analyse qualitative utilisant LayerGradCAM confirme que les feuilles "faciles" s'appuient sur des indices spécieux (ex. arrière-plan aquatique, taches de couleur), tandis que les feuilles "difficiles" déplacent l'attention vers des caractéristiques sémantiques (ex. corps de l'oiseau, limites de la lésion).

5. Signification et Revendications

Le papier positionne le NCT comme une étape importante vers une robustesse transparente. Sa revendication principale est que la structure des groupes latents d'un jeu de données peut être récupérée sous la forme même de l'architecture du modèle, découverte sans supervision et rendue visible lors de l'inférence.

• Interprétabilité : Contrairement aux optimiseurs robustes "boîte noire", le NCT fournit une explication structurelle pour ses prédictions. Le chemin emprunté vers une feuille indique explicitement si un échantillon était "facile" (probablement aligné avec des corrélations spécieuses) ou "difficile" (probablement un cas minoritaire ou un contre-exemple).
• Modestie sur les Limites : Les auteurs reconnaissent que le routage repose sur l'hypothèse du "biais de simplicité" ; si les caractéristiques minoritaires sont elles-mêmes faciles à apprendre, le routage peut échouer à les isoler. De plus, la règle de sélection de la profondeur dépend du fait que la pWGA soit un bon proxy de la véritable WGA, ce qui peut être imparfait en cas de fort déséquilibre de classe.
• Directions Futures : Le papier suggère d'étendre le NCT au domaine du langage et d'explorer des signaux de routage plus riches que la simple justesse (ex. critères basés sur le gradient ou l'attribution).

En résumé, le NCT offre un cadre où la robustesse est obtenue non seulement en ajustant les poids, mais en décomposant architecturalment les données en sous-groupes, rendant ainsi le traitement des biais latents par le modèle explicite et interprétable.