Résumé Technique : Structurer la Parcimonie : Les Featurizers à Parcimonie par Blocs (Block-Sparse Featurizers)

1. Énoncé du Problème

Les méthodes d'interprétabilité actuelles, en particulier les Autoencodeurs Creux (SAE - Sparse Autoencoders), décomposent les activations des réseaux de neurones en combinaisons parsemées de directions isolées (atomes). Cette approche suppose que les concepts sont représentés par des vecteurs uniques dans l'espace d'activation. Cependant, des travaux récents suggèrent que les concepts neuronaux possèdent souvent une géométrie interne, se manifestant sous forme de variétés de faible dimension, de régions convexes ou de caractéristiques denses plutôt que de directions isolées.

Cela crée un décalage entre la phénoménologie des représentations neuronales (structurées, multidimensionnelles) et l'appareil utilisé pour les analyser (directions isolées). L'article postule que traiter les concepts comme une direction unique force une vision « fragmentée » où un seul concept est morcelé en de nombreux atomes, échouant ainsi à capturer la géométrie intrinsèque et la variation continue au sein d'un concept.

2. Méthodologie

2.1 Fondement Théorique : La Parcimonie Structurée

Les auteurs proposent les Featurizers à Parcimonie par Blocs (BSF - Block-Sparse Featurizers) pour combler ce fossé. S'appuyant sur la littérature de la parcimonie structurée (spécifiquement la parcimonie de groupe), ils émettent l'hypothèse que les activations neuronales sont générées comme une somme parcimonieuse de variétés de faible dimension.

• Processus de Génération de Données (DGP) : Une activation $x$ est modélisée comme $x = \sum_{i \in S} m_i + \epsilon$, où $m_i$ réside sur une variété $M_i$ et $S$ est un petit ensemble de facteurs actifs.
• Dérivation Bayésienne : En plaçant un a priori de type "spike-and-slab" sur des blocs de coordonnées (où le "slab" est une distribution uniforme sur une boule dans $\mathbb{R}^b$), l'estimation du Maximum A Posteriori (MAP) conduit naturellement à une pénalité de parcimonie par blocs (norme $\ell_{2,0}$). Cette pénalité impose la parcimonie à travers des groupes de directions tout en permettant une variation dense à l'intérieur d'un groupe actif.
• Interprétation Géométrique : Contra s'aux SAE qui sélectionnent des directions uniques, les BSF sélectionnent des sous-espaces. L'« atome » est le sous-espace lui-même, et le code au sein du bloc représente la position sur la variété.

2.2 Trois Variantes de Featurizers à Parcimonie par Blocs

L'article implémente trois architectures distinctes pour instancier ce principe :

1. BSF Vanille : Utilise un encodeur et un décodeur linéaires. La parcimonie est imposée par un opérateur de projection dure ($\Pi_k$) qui ne conserve que les $k$ blocs ayant les plus grandes normes $\ell_2$.
2. BSF Grassmannienne : Impose que les directions au sein d'un bloc soient orthonormales (les blocs du décodeur résident sur la variété de Stiefel). L'encodeur est lié à la transposée du décodeur ($z = \gamma x D^\top$), et la parcimonie est imposée via $\Pi_k$. Cela modélise explicitement le bloc comme un sous-espace.
3. BSF Lasso de Groupe : Utilise un encodeur linéaire avec une fonction d'activation de seuillage doux ($sh_\theta$) qui réduit les normes des blocs vers zéro. La parcimonie est induite via une pénalité $\ell_{2,1}$ dans la fonction de perte, relaxant la contrainte dure pour un objectif plus lisse.

2.3 Cadre d'Évaluation

• Validation Synthétique : Un modèle de jouet contrôlé où des variétés de vérité terrain (cercles, sphères, tore) sont enchâssées et sommées. La récupération est mesurée par la capacité d'un seul bloc à reconstruire la contribution spécifique de la variété ($R^2$).
• Analyse du Monde Réel : Appliqué à DINOv3 (modèle de fondation de vision), InceptionV1 et SDXL (modèle de diffusion).
• Métriques :
  • Longueur de Description Minimale (MDL) : Utilisée pour comparer les BSF aux SAE. Le coût inclut les bits pour le support (quels blocs s'activent), le code (coordonnées à l'intérieur des blocs), le résidu et le dictionnaire.
  • Rang Stable (Stable Rank) : Utilisé pour quantifier la dimensionnalité intrinsèque des caractéristiques récupérées.
  • Tâches Aval (Downstream Tasks) : Sondage linéaire sur la classification, la segmentation et l'estimation de la profondeur.
  • Pilotage de Manifold (Manifold Steering) : Intervention dans l'espace d'activation pour contrôler la génération d'images.

3. Contributions Clés

1. Alignement Théorique : L'article connecte formellement l'hypothèse selon laquelle les concepts sont des variétés à la littérature de la parcimonie structurée, dérivant la parcimonie par blocs comme le modèle correspondant pour un mélange additif de variétés.
2. Implémentation Algorithmique : Introduction de trois variantes de BSF (Vanille, Grassmannienne, Lasso de Groupe) qui dépassent l'hypothèse du « une direction par concept ».
3. Preuves Quantitatives :
   • Analyse MDL : Les BSF décrivent les activations de manière plus compacte que les SAE. La dimension de bloc optimale se situe entre 2 et 4 dimensions, suggérant que les concepts sont intrinsèquement multidimensionnels.
   • Récupération Synthétique : Les BSF récupèrent des superpositions de variétés additives avec une haute fidélité ($R^2 \approx 0,93-0,97$), tandis que les SAE standards fragmentent ces structures ($R^2 \approx 0,53$).
4. Découverte de Manifolds de Concepts :
   • InceptionV1 : A démontré que les neurones détecteurs de courbes et les caractéristiques des SAE sont en réalité des fragments d'une seule variété de courbe continue. Le BSF récupère cela comme une région connectée et révèle des modes de Fourier d'ordre supérieur (ex: invariance à 180°) auparavant obscurcis.
   • DINOv3 : A découvert des variétés correspondant à des attributs physiques de scènes comme l'éclairage et les ombres, qui suivent l'illumination de manière cohérente à travers différentes identités d'objets.
   • SDXL : A identifié des variétés pour des objets spécifiques (ex: bretzels) où le pilotage au sein du sous-espace du bloc produit des variations sémantiquement cohérentes, contrairement au pilotage le long de directions isolées.

4. Résultats

• Efficacité de Reconstruction : À un seuil de distorsion fixe (déterminé par la tolérance de performance de la tâche), les BSF atteignent des longueurs de description plus faibles que les SAE. La description la plus efficace se produit lorsque les dimensions de bloc sont comprises entre 2 et 4, même si des capacités plus grandes sont disponibles.
• Dimensionnalité des Caractéristiques : L'analyse du rang stable révèle que les concepts récupérés dans DINOv3 sont typiquement de dimension 2 à 4, confirmant que les blocs ne sont pas simplement des directions sur-paramétrées mais utilisent leur géométrie interne.
• Cohérence Spatiale : Les cartes de concepts des BSF sont nettement plus lisses (énergie de Dirichlet et variation totale plus faibles) que les cartes SAE, indiquant qu'elles suivent mieux les attributs de scène contigus.
• Pilotage de Manifold (Manifold Steering) : Dans SDXL, le pilotage le long de la géométrie de la variété apprise (en utilisant des cartes de Kohonen pour traverser le sous-espace) génère des images qui varient de manière fluide le long des dimensions internes du concept (ex: changer la forme d'un bretzel) sans dégrader la qualité de l'image, un exploit difficile avec les directions isolées des SAE.

5. Signification et Revendications

L'article affirme que la parcimonie par blocs est le biais inductif correct pour décomposer les représentations neuronales lorsque celles-ci sont structurées comme des variétés de faible dimension.

• Connexion avec les Neurosciences : Ce travail s'aligne sur les modèles de neurosciences visuelles (ex: le modèle d'énergie, les cellules complexes) où les caractéristiques sont portées par des groupes coordonnés de neurones plutôt que par des unités uniques ajustées. Les BSF récupèrent le comportement des « cellules complexes » en conservant la coordonnée interne (phase/géométrie) plutôt que de l'éliminer pour l'invariance.
• Paradigme de l'Interprétabilité : Les auteurs soutiennent qu'un featurizer est une hypothèse sur le processus de génération de données. En faisant correspondre la structure du featurizer (blocs) à la géométrie des représentations (variétés), on peut récupérer des concepts plus riches et plus cohérents.
• Limites et Portée : L'article note modestement que la parcimonie par blocs n'est pas un atome universel pour toutes les modalités (ex: le langage ou la vidéo pourraient nécessiter des structures différentes comme des blocs temporels ou hiérarchiques). La contribution est spécifique au cas où les représentations sont des mélanges additifs de variétés de faible dimension, une propriété observée dans les modèles visuels testés.

En résumé, cet article fournit un argument théorique et empirique pour passer de featurizers basés sur des « directions » à des featurizers basés sur des « régions » (par blocs), démontrant que ce changement permet de récupérer la géométrie interne des concepts, d'améliorer l'efficacité de la description et de permettre un contrôle plus précis des modèles génératifs.