Résumé Technique : Une Unification Géométrique de l'Apprentissage de Concepts avec les Cônes de Concepts

Énoncé du Problème

L'article traite du défi de l'interprétation des réseaux de neurones profonds en jetant un pont entre deux paradigmes dominants mais distincts de l'apprentissage de concepts : les Modèles à Goulot d'Étranglement de Concepts (CBM - Concept Bottleneck Models) et les Autoencodeurs Parcimonieux (SAE - Sparse Autoencoders).

• Les CBM sont des méthodes supervisées qui imposent l'interprétabilité en alignant les activations du modèle sur des concepts étiquetés par l'humain. Bien qu'ils fournissent une structure sémantique explicite, ils reposent sur des taxonomies prédéfinies qui peuvent être incomplètes ou mal alignées avec les représentations internes du modèle.
• Les SAE sont des méthodes non supervisées qui découvrent des concepts émergents en apprenant des représentations linéaires parcimonieuses sur un dictionnaire surcomplet. Bien qu'ils soient extensibles, ils souffrent de non-identifiabilité : de nombreux dictionnaires différents peuvent reconstruire les activations avec une erreur similaire, ce qui rend difficile la détermination de la pertinence des concepts appris. De plus, les SAE sont instables, où de légères variations des hyperparamètres (parcimonie, taille du dictionnaire) produisent des décompositions radicalement différentes.

Actuellement, il n'existe aucune manière principled pour comparer ces approches supervisées et non supervisées, ni pour évaluer si un SAE non supervisé a découvert des concepts "plausibles" et pertinents pour l'humain sans disposer d'une vérité de terrain complète.

Méthodologie : Le Cadre des Cônes de Concepts

Les auteurs proposent un cadre géométrique unifié basé sur l'apprentissage de dictionnaire et les cônes de concepts pour analyser les deux paradigmes.

1. Unification Géométrique

L'article pose que les CBM et les SAE résolvent le même problème inverse : décomposer des vecteurs d'activation en combinaisons linéaires non négatives de directions de concepts.

• Vue de l'apprentissage de dictionnaire : Les deux méthodes apprennent un dictionnaire (les lignes sont des directions de concepts) et des codes (coefficients).
• Non-négativité : Les deux imposent des codes non négatifs ($c \geq 0$). Dans les CBM, cela est imposé par la fonction d'activation (ex: sigmoid/ReLU) ; dans les SAE, il s'agit d'une contrainte explicite.
• Cône de Concept : L'ensemble de toutes les activations possibles représentables par un dictionnaire $D$ forme un cône de concept, défini comme l'enveloppe conique des atomes du dictionnaire :
  $$C_D = \{ v \in \mathbb{R}^d : v = \alpha^\top D, \alpha \in \mathbb{R}^c_+ \}$$
  Cette géométrie unifie les deux approches : elles diffèrent non pas par la structure qu'elles apprennent, mais par la manière dont elles sélectionnent le cône spécifique.

2. Ancrage Partiel via les CBM

Puisque les SAE sont non-identifiables, les auteurs utilisent les CBM comme ancres géométriques partielles. L'hypothèse centrale est qu'une décomposition SAE "bonne" devrait contenir les directions de concepts apprises par un CBM au sein de son propre cône de concept. Plus précisément, un sous-ensemble d'atomes SAE devrait pouvoir reconstruire les concepts CBM via des combinaisons parcimonieuses et non négatives. Cela ne nécessite pas un alignement parfait un-à-un, mais plutôt que la structure humainement plausible existe dans l'espace de représentation du SAE.

3. Opérationnalisation : Métriques

Pour quantifier l'alignement entre le cône SAE ($C_{SAE}$) et le cône CBM ($C_{CBM}$), les auteurs introduisent une suite de métriques complémentaires :

• Couverture (Coverage) : Mesure l'étendue de laquelle les directions de concepts CBM se situent dans le cône SAE. Elle est calculée en résolvant un problème de reconstruction non négative parcimonieuse pour chaque concept CBM par rapport au dictionnaire SAE. Une couverture élevée implique que le SAE peut représenter les concepts CBM.
• Alignement Géométrique ($\rho_{geom}$) : Mesure la similitude directionnelle entre les atomes individuels du SAE et les concepts CBM (en utilisant la corrélation). Une version top-$k$ permet des correspondances de type un-vers-plusieurs ou plusieurs-vers-un.
• Alignement d'Activation ($\rho_{act}$) : Mesure si les concepts SAE et CBM s'activent sur des échantillons de données similaires, en tenant compte des différences d'encodeurs et de seuils.
• Prédictibilité de Régression ($R^2$) : Ajuste une application linéaire des activations SAE vers les activations CBM pour mesurer la préservation globale de l'information.
• Accord au niveau de l'échantillon (Sample-level Agreement) : Calcule la précision, le rappel et le score F1 basés sur les concepts les plus actifs (top-$k$) pour chaque échantillon, en mappant les indices SAE vers les concepts CBM.

Les auteurs soulignent qu'aucune métrique unique n'est suffisante ; par exemple, une couverture élevée peut survenir avec des dictionnaires aléatoires (inflation artificielle), tandis qu'un alignement géométrique élevé ne garantit pas des modèles d'activation significatifs.

Contributions Clés

1. Cadre Unifié : Démontre que les CBM et les SAE sont des instances d'une même structure géométrique (apprentissage d'un cône dans l'espace d'activation via l'apprentissage de dictionnaire non négatif).
2. Hypothèse d'Alignement Partiel : Formalise l'idée qu'un SAE est plausible si un sous-ensemble parcimonieux de ses atomes peut récupérer des concepts CBM validés indépendamment, servant de test de cohérence contre la non-identifiabilité.
3. Métriques de Diagnostic : Introduit un ensemble de métriques (Couverture, Alignement Géométrique/Activation, $R^2$, Accord au niveau de l'échantillon) et fournit des clarifications théoriques sur ce que chacune mesure et ses limites.
4. Directives Empiriques : À travers des benchmarks étendus, identifie les "points idéaux" (sweet spots) dans la conception des SAE (parcimonie et facteurs d'expansion) qui récupèrent le mieux la structure pertinente pour l'humain.

Résultats Expérimentaux

Les auteurs ont évalué leur cadre sur des architectures de vision (ResNet-50, ViT, DINOv2) entraînées sur ImageNet et CUB (Caltech-UCSD Birds). Ils ont comparé diverses variantes de SAE (Vanilla, TopK, BatchTopK, JumpReLU, Matching Pursuit, Archetypal).

• Test de Cohérence (Sanity Check) : Les SAE entraînés ont montré un bien meilleur alignement avec les CBM que les SAE initialisés aléatoirement. Notamment, les SAE aléatoires présentaient une Couverture artificiellement élevée mais un alignement et un $R^2$ faibles, confirmant que la couverture seule est insuffisante et doit être couplée à d'autres métriques.
• Variantes de SAE : Les SAE JumpReLU et Vanilla ont généralement obtenu une couverture supérieure et un alignement géométrique compétitif. L'analyse Archetypal a montré de meilleurs scores F1.
• Compromis de Parcimonie : Il existe une tension entre la parcimonie et la complétude. Une parcimonie agressive (très peu d'unités actives) produit un alignement géométrique élevé (prototypes localisés) mais une couverture plus faible. Une parcimonie plus souple améliore la couverture et la reconstruction mais disperse la structure. Un régime de parcimonie intermédiaire (environ 0,01–0,05 % d'unités actives) a fourni le meilleur équilibre.
• Facteur d'Expansion : Augmenter la taille du dictionnaire (facteur d'expansion) a amélioré la couverture et le $R^2$ jusqu'à un certain point. Un facteur de 2x a été identifié comme un point idéal ; au-delà, l'alignement directionnel commence à se diffuser.
• Analyse par Couche : Dans ResNet-50, les couches plus profondes (spécifiquement la Couche 4, après le pooling final) ont montré le plus fort alignement sémantique avec les concepts CBM, capturant des caractéristiques de haut niveau. Les couches inférieures capturent des attributs de bas niveau (bords, couleurs) qui s'alignent géométriquement mais manquent de correspondance sémantique avec la taxonomie CBM.

Signification et Revendications

L'article affirme fournir une base géométrique principled pour évaluer la découverte de concepts non supervisée. En traitant les CBM non pas comme une vérité de terrain, mais comme un "ancrage sémantique partiel", ce travail offre une alternative structurée aux pratiques existantes d'évaluation des SAE.

Les auteurs soutiennent que l'interprétabilité ne nécessite pas de choisir entre la supervision (CBM) et la découverte (SAE). Au lieu de cela, la voie à suivre consiste à harmoniser les deux : utiliser les concepts supervisés pour valider et guider la découverte non supervisée au sein d'un cadre géométrique commun. Cette approche permet aux chercheurs d'identifier les biais inductifs (tels que des mécanismes de parcimonie spécifiques ou des ratios d'expansion) qui produisent systématiquement des dictionnaires de concepts plus plausibles et alignés avec l'humain.

Le travail conclut que bien que les CBM ne soient pas des vérités de terrain parfaites (en raison du biais humain et des limites d'annotation), ils fournissent un point de référence nécessaire pour distinguer les décompositions significatives des possibilités infinies autorisées par la non-identifiabilité. Les métriques proposées servent d'outils de diagnostic pour naviguer dans les compromis entre expressivité et interprétabilité dans les réseaux de neurones modernes.