Revealing the core dimensions underlying representations in brains, behavior and AI

Résumé technique : Révélation des dimensions fondamentales sous-jacentes aux représentations dans les cerveaux, les comportements et l'IA

Énoncé du problème
L'étude des représentations en neurosciences, en psychologie et en intelligence artificielle repose largement sur la caractérisation de la manière dont les stimuli sont organisés les uns par rapport aux autres, généralement via des matrices de similarité. Si des méthodes telles que l'Analyse de Similarité Représentationnelle (RSA) permettent de comparer ces matrices entre différents systèmes, elles ne permettent pas de retrouver les dimensions sous-jacentes qui génèrent les similarités observées. À l'inverse, les techniques de réduction de dimensionnalité telles que le Mise à l'Échelle Multidimensionnelle (MDS), l'Analyse en Composantes Principales (ACP) et le t-SNE peuvent résumer les données, mais produisent souvent des axes difficiles à interpréter comme des propriétés représentatives significatives. De plus, les méthodes existantes peinent à relever deux contraintes pratiques critiques : (1) la dimensionnalité de l'espace représentatif est généralement inconnue, et (2) les données empiriques de similarité sont souvent éparses ou incomplètes (par exemple, des jugements comportementaux où toutes les paires de stimuli ne sont pas comparées). Les approches actuelles échouent à résoudre conjointement les problèmes de récupération de dimensions interprétables, de détermination du nombre nécessaire de dimensions et d'apprentissage à partir de données incomplètes sans déformer la structure de similarité par imputation.

Méthodologie : Factorisation de Représentation Basée sur la Similarité (SRF)
Les auteurs introduisent la Factorisation de Représentation Basée sur la Similarité (SRF), un cadre computationnel général conçu pour récupérer des plongements de faible dimension, non négatifs et interprétables directement à partir de matrices de similarité.

• Formulation de base : La SRF est fondée sur la Factorisation de Matrice Non Négative Symétrique (SNMF). Elle modélise une matrice de similarité symétrique et non négative $S \in \mathbb{R}^{n \times n}_{\ge 0}$ comme le produit d'une matrice de plongement de rang faible $W$ et de sa transposée : $S \approx WW^\top$, où $W \in \mathbb{R}^{n \times r}_{\ge 0}$ et $r \ll n$. La contrainte de non-négativité favorise des facteurs additifs et basés sur les parties, qui sont souvent plus interprétables que les composantes soustractives de l'ACP.
• Gestion des données incomplètes : Contrairement à la factorisation de matrice standard, la SRF opère directement sur les entrées observées sans imputer les valeurs manquantes. Elle définit un masque binaire $M$ où $M_{ij}=1$ si la similarité $S_{ij}$ est observée. La fonction objectif minimise la norme de Frobenius de l'erreur de reconstruction uniquement sur les entrées observées : $\min_{W \ge 0} \frac{1}{2} \| M \odot (S - WW^\top) \|_F^2$. Cela permet au modèle d'apprendre à partir de graphes épars (par exemple, des associations de mots) et de prédire des similarités non observées.
• Optimisation : Les auteurs emploient la Méthode des Multiplicateurs de Direction Alternée (ADMM) pour résoudre le problème d'optimisation. Ils fournissent des preuves théoriques concernant la convergence de l'algorithme et la stabilité de la solution en cas de mauvaise spécification du rang.
• Sélection de la dimensionnalité : Pour résoudre le problème de la dimensionnalité inconnue $r$, la SRF utilise un protocole de validation croisée spécialisé. Étant donné que les entrées d'une matrice de similarité sont statistiquement dépendantes (couplées par la structure de rang faible), une validation croisée standard entrée par entrée peut entraîner une fuite d'information et des estimations de rang gonflées. La SRF utilise un schéma de « rétention restreinte » qui garantit que l'ensemble d'entraînement reste en dessous du seuil de complétion de matrice, empêchant ainsi que l'ensemble de validation ne soit implicitement déterminé par l'ensemble d'entraînement. Le rang optimal est sélectionné au minimum de la courbe d'erreur de validation.

Résultats clés
L'article valide la SRF par le biais de simulations et d'applications sur divers ensembles de données empiriques :

1. Performance des simulations :

   • Précision de récupération : La SRF récupère avec précision les dimensions latentes de vérité terrain à partir de matrices de similarité synthétiques, même lorsque les dimensions sont diffuses ou se chevauchent.
   • Robustesse au bruit : La méthode maintient une haute précision de récupération sous des niveaux modérés de bruit de mesure.
   • Données manquantes : La SRF surpasse nettement les bases de référence d'imputation standard (k-plus proches voisins et imputation médiane) dans la prédiction des similarités retenues et la récupération des dimensions sous-jacentes, en particulier dans les régimes sous-déterminés où les observations sont moins nombreuses que les paramètres.
   • Détection du rang : L'approche de validation croisée pour la sélection du rang surpasse les méthodes traditionnelles comme le test de Scree et l'Analyse Parallèle de Horn pour identifier la véritable dimensionnalité.

2. Puissance statistique :

   • Dans les tests d'hypothèse, la SRF démontre une puissance statistique supérieure à celle de la RSA. En décomposant la matrice de similarité en dimensions distinctes, la SRF permet aux chercheurs de tester des hypothèses spécifiques contre la dimension qui leur correspond le mieux, plutôt que contre la matrice de similarité complète et bruyante. Cet avantage est plus prononcé pour les dimensions contribuant une faible variance à la structure globale, qui sont souvent masquées dans la RSA.

3. Applications empiriques :

   • Ensembles de données : La SRF a été appliquée à des jugements comportementaux (THINGS, ensembles de données Peterson, Mur-92), des enregistrements neuronaux (cortex IT de macaque, IRMf humaine issue de NSD), des activations de réseaux de neurones profonds (CLIP) et des associations sémantiques (Small World of Words, SWOW).
   • Interprétabilité : La méthode a récupéré des dimensions stables et interprétables dans tous les domaines. Les exemples incluent les distinctions animé/inanimé dans la reconnaissance d'objets, les regroupements taxonomiques chez les animaux, les caractéristiques perceptives (couleur) et sémantiques (animé) dans CLIP, et des thèmes abstraits (par exemple, force physique, affection) dans les associations de mots.
   • Généralisation : Les dimensions dérivées du graphe d'association de mots SWOW, bien qu'éparses, ont prédit avec succès des évaluations comportementales indépendantes (par exemple, valence, éveil, concrétude) issues des Normes de Glasgow, démontrant que les dimensions récupérées capturent des informations sémantiques généralisables.
   • Efficacité : Dans la tâche « l'intrus » de THINGS, la SRF a atteint une précision de prédiction comportementale comparable au modèle de réseau de neurones SPoSE de l'état de l'art, mais avec environ la moitié du nombre de dimensions (35 contre 66).

Signification et affirmations
L'article positionne la SRF comme une méthode polyvalente qui comble le fossé entre l'analyse descriptive de similarité et la compréhension mécaniste. Sa signification principale réside dans sa capacité à dépasser les comparaisons scalaires de matrices de similarité pour identifier les facteurs spécifiques qui organisent les représentations.

• Cadre unifié : La SRF unifie les forces de l'analyse basée sur la similarité (comparaison des systèmes via un format commun) avec la capacité d'inférer les dimensions latentes générant cette structure.
• Gestion de la sparsité : En apprenant directement à partir de données incomplètes sans imputation, la SRF permet l'analyse d'ensembles de données qui étaient auparavant difficiles à traiter, tels que les réseaux d'association de mots à grande échelle ou les jugements comportementaux épars.
• Inférence améliorée : La méthode offre un outil plus sensible pour les tests d'hypothèse confirmatoires par rapport à la RSA, en particulier pour la détection de dimensions à faible variance.
• Interprétabilité : La nature non négative et basée sur les parties des plongements récupérés facilite l'interprétation directe, soutenant les théories sur les mécanismes cérébraux, les propriétés des stimuli et les défaillances des modèles.

Les auteurs concluent que la SRF fournit une approche générale et fondée sur des principes pour découvrir, comprendre et exploiter les dimensions sous-jacentes aux représentations dans les cerveaux, les comportements et l'IA, applicable partout où les relations par paires sont éparses ou partiellement observées.