🤖 machine learning

Bridging Functional and Representational Similarity via Usable Information

Cet article présente un cadre unifié qui quantifie la similarité des représentations à travers le prisme de l'information utilisable, établissant des liens formels entre les performances de fusion et l'information mutuelle conditionnelle tout en démontrant que la similarité des représentations est relative à la capacité prédictive et qu'elle est suffisante mais non nécessaire pour la similarité fonctionnelle.

Auteurs originaux : Antonio Almudévar, Alfonso Ortega

Publié 2026-05-29

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Antonio Almudévar, Alfonso Ortega

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous avez deux chefs différents (réseaux de neurones) qui ont tous deux appris à préparer un plat spécifique, comme une lasagne parfaite. Vous voulez savoir : Ces deux chefs utilisent-ils réellement la même « recette » dans leur esprit, ou arrivent-ils simplement au même résultat délicieux par des méthodes totalement différentes ?

Ce papier, intitulé « Bridging Functional and Representational Similarity via Usable Information », est un guide pour répondre à cette question. Il propose une nouvelle façon de mesurer à quel point deux modèles d'IA sont réellement similaires en examinant les « informations utilisables » qu'ils contiennent, plutôt qu'en comparant simplement leurs résultats bruts.

Voici la décomposition de leurs résultats à l'aide d'analogies simples :

1. Les deux façons de comparer les chefs

Les auteurs soutiennent que nous examinons généralement la similarité de deux manières différentes, mais que nous les confondons souvent :

Similarité fonctionnelle (Le « test du goût ») : Cela pose la question : « Si je donne les notes du Chef A au Chef B, le Chef B peut-il toujours préparer la lasagne ? » Si le Chef B peut prendre les notes intermédiaires du Chef A et terminer le travail parfaitement, ils sont fonctionnellement similaires. Peu importe si leurs notes semblent différentes sur le papier ; ce qui compte, c'est si l'information est utilisable pour obtenir le résultat.
Similarité représentationnelle (La « vérification du cahier ») : Cela pose la question : « Le Chef A et le Chef B écrivent-ils leurs notes exactement avec la même écriture et le même format ? » Cela examine la structure interne des données. Si leurs notes sont géométriquement identiques, ils sont représentationnellement similaires.

2. La grande découverte : le problème de la « rue à sens unique »

Le papier révèle un défaut crucial dans la façon dont nous testons habituellement ces chefs. Nous essayons souvent de traduire les notes du Chef A dans le style du Chef B (un processus appelé « assemblage » ou « stitching ») et voyons si cela fonctionne.

La découverte : Cette traduction est souvent une rue à sens unique.
L'analogie : Imaginez que le Chef A écrit des notes dans un journal intime détaillé et haute définition. Le Chef B écrit dans un carnet de croquis grossier. Vous pouvez facilement traduire le journal en croquis (vous perdez des détails, mais l'idée principale reste). Mais vous ne pouvez pas traduire le croquis grossier en un journal détaillé car l'information a été perdue dans le croquis.
La leçon : Pour affirmer véritablement que deux modèles sont similaires, vous devez pouvoir traduire dans les deux sens. Si vous ne pouvez aller que de A vers B, mais pas de B vers A, ils ne sont pas véritablement fonctionnellement similaires. Le papier prouve que l'« assemblage » est intrinsèquement asymétrique.

3. L'« observateur » compte (Qui lit les notes ?)

Le papier introduit un concept fascinant : La similarité dépend de qui lit les notes.

L'analogie : Imaginez une carte complexe.
- Si vous êtes un observateur rigide (quelqu'un qui ne comprend que les lignes droites et les angles droits), deux cartes peuvent sembler complètement différentes et inutiles pour vous.
- Si vous êtes un observateur flexible (quelqu'un qui comprend les courbes, les angles et les formes 3D), ces mêmes deux cartes peuvent sembler identiques.
La leçon : Deux modèles d'IA peuvent sembler très différents à un outil mathématique simple (comme une ligne droite), mais si vous utilisez un outil plus puissant (un réseau de neurones complexe) pour les lire, ils pourraient s'avérer être exactement les mêmes. La « similarité » n'est pas un fait absolu ; elle dépend de la complexité de l'outil que vous utilisez pour la mesurer.

4. La hiérarchie : Le « tableau complet » vs la « tâche spécifique »

Les auteurs établissent une hiérarchie claire entre les deux types de similarité :

La similarité représentationnelle est la « clé maître » : Si deux modèles ont exactement les mêmes notes internes (similarité représentationnelle), ils sont garantis de pouvoir résoudre n'importe quelle tâche que vous leur lancez, de la plus difficile à la plus facile.
La similarité fonctionnelle est la « clé spécifique » : Si deux modèles peuvent résoudre une tâche spécifique (comme identifier un chat), ils sont fonctionnellement similaires pour cette tâche. Cependant, ils peuvent avoir jeté d'autres informations (comme la couleur du pelage du chat) qui ne sont pas nécessaires pour cette tâche spécifique.
L'essentiel : Avoir la « clé maître » (similarité représentationnelle) garantit que vous avez la « clé spécifique » (similarité fonctionnelle). Mais avoir la « clé spécifique » ne garantit pas que vous avez la clé maître. Vous pourriez être capable d'ouvrir la porte d'entrée (résoudre la tâche) sans avoir le plan complet de la maison (la représentation complète).

5. Les vieux outils sont en fait de nouveaux outils déguisés

Enfin, le papier examine les outils standards que les scientifiques utilisent aujourd'hui (comme CKA, RSA et l'assemblage).

La découverte : Ce ne sont pas de simples astuces mathématiques aléatoires. Ils mesurent en fait des « informations utilisables » sous des contraintes spécifiques.
L'analogie : Considérez ces outils comme différents types de règles. Une règle standard mesure la longueur. Un mètre ruban flexible mesure les courbes. Le papier montre que lorsque nous utilisons ces différentes « règles », nous demandons essentiellement aux modèles : « Pouvez-vous résoudre ce problème si vous n'êtes autorisé à utiliser que des lignes droites ? » ou « Pouvez-vous le résoudre si vous pouvez utiliser des courbes ? »
Le résultat : Le papier prouve que ces outils standards sont en fait très bons pour estimer la quantité d'« informations utilisables » partagées entre les modèles, à condition de comprendre quel type de « règle » (ou famille prédictive) vous utilisez.

Résumé

En bref, ce papier nous dit :

Ne vérifiez pas seulement une direction : Pour voir si deux modèles d'IA sont vraiment similaires, vous devez pouvoir traduire leurs connaissances dans les deux sens.
Le contexte est roi : La similarité dépend de la complexité du « lecteur ». Un lecteur simple peut voir deux modèles comme différents, tandis qu'un lecteur complexe les voit comme identiques.
Le tout contre la partie : Si deux modèles sont identiques dans leur structure interne, ils peuvent tout faire. Mais s'ils peuvent faire une chose spécifique, ils peuvent encore être très différents intérieurement.
Les vieux outils sont utiles : Les façons standards dont nous mesurons la similarité des IA sont en fait valables, mais elles mesurent des types spécifiques d'« informations utilisables » en fonction de la complexité des outils que nous utilisons.

Résumé Technique : Relier la Similarité Fonctionnelle et la Similarité Représentationnelle via l'Information Utilisable

Énoncé du Problème

Le domaine de l'apprentissage profond repose fortement sur la comparaison des représentations neuronales internes pour comprendre comment différents systèmes traitent l'information, transfèrent des connaissances et organisent des structures. Cependant, la littérature manque actuellement d'un cadre unifié pour définir et mesurer la « similarité » entre les représentations. Les approches existantes sont généralement bifurquées en deux catégories faiblement définies :

Similarité Fonctionnelle : Évaluer si les représentations soutiennent les mêmes comportements en aval (par exemple, via l'assemblage de modèles ou des sondes linéaires).
Similarité Représentationnelle : Évaluer si les représentations encodent l'information d'entrée de la même manière structurelle (par exemple, via CKA, RSA ou l'analyse de Procruste).

Ces concepts ont été étudiés de manière isolée, entraînant un décalage entre les méthodes fonctionnelles (axées sur la performance de la tâche) et les métriques géométriques (axées sur l'alignement de l'espace des caractéristiques). De plus, les métriques standard manquent souvent d'un fondement théorique rigoureux concernant ce que l'information est réellement comparée ou comment la capacité de l'observateur (le modèle prédictif) influence la mesure.

Méthodologie

Les auteurs proposent un cadre unifié fondé sur la Théorie de l'Information Utilisable (Xu et al., 2020). Cette théorie restreint le flux d'information à une « famille prédictive » spécifique $\mathcal{V}$ , reconnaissant que toute dépendance statistique dans une représentation n'est pas exploitable par un modèle en aval de capacité limitée.

Cadre Théorique

L'article redéfinit la similarité à travers le prisme de l'information mutuelle conditionnelle et des enveloppes de Markov :

Similarité Fonctionnelle : Deux représentations $Z_1$ et $Z_2$ sont fonctionnellement similaires par rapport à une tâche $Y$ si elles forment des enveloppes de Markov mutuelles. Cela implique $I(Y; Z_2 | Z_1) = I(Y; Z_1; Z_2) = 0$ . Les auteurs formalisent l'Assemblage de Modèle (Model Stitching) comme un mécanisme pour estimer cela : si $Z_1$ peut être assemblé dans $Z_2$ sans perte de performance, $Z_1$ contient toutes les informations pertinentes pour la tâche de $Z_2$ . Crucialement, ils prouvent que cette relation est inhéremment asymétrique ; une similarité fonctionnelle robuste nécessite un assemblage bidirectionnel.
Similarité Représentationnelle : Définie comme une similarité fonctionnelle où la tâche $Y$ est l'entrée $X$ elle-même ( $I(X; Z_2 | Z_1) = 0$ ). Cela implique que les représentations contiennent des informations identiques sur l'entrée.
Hiérarchie de Granularité : Les auteurs établissent une relation monotone : la similarité sur une tâche complexe garantit la similarité sur toute tâche dérivée plus grossière. Par conséquent, la similarité représentationnelle (reconstruction de l'entrée) est la condition la plus forte, garantissant la similarité fonctionnelle pour toutes les tâches dérivées.

Méthodologie Empirique

Pour valider ces affirmations théoriques, les auteurs ont mené une étude empirique à grande échelle impliquant :

Échelle : 58 modèles entraînés à travers 14 architectures distinctes (incluant des modèles Linéaires, des CNN comme ResNet, DenseNet, ShuffleNet et MobileNet) et 6 jeux de données (MNIST, CIFAR-10/100, SVHN, Tiny-ImageNet, ImageNet).
Comparaisons : 12 459 comparaisons distinctes couche à couche.
Familles d'Assemblage : L'étude a utilisé trois familles spécifiques d'assembleurs (familles prédictives $\mathcal{V}$ $V$ ) pour tester l'impact de l'expressivité :
1. Affine : Applications linéaires non contraintes.
2. Orthogonale + Mise à l'échelle Isotrope : Contraintes de type Procruste.
3. Orthogonale : Contraintes de rotation strictes.
Métriques : Les auteurs ont comparé les métriques standard (CKA, RSA, SVCCA) à leurs scores proposés basés sur l'information utilisable (erreur de reconstruction normalisée).

Contributions Clés

Cadre Unifié via l'Information Utilisable : L'article relie théoriquement l'assemblage de modèles à l'information mutuelle conditionnelle utilisable. Il démontre que la similarité fonctionnelle n'est pas une propriété absolue mais est définie relativement à la capacité de la famille prédictive $\mathcal{V}$ .
Réinterprétation des Métriques Standard : Les auteurs montrent empiriquement et théoriquement que les métriques géométriques standard (CKA, RSA, Procruste) ne sont pas des mesures arbitraires mais des estimateurs spécifiques d'information utilisable sous des contraintes spécifiques (par exemple, transformations orthogonales).
La Hiérarchie de la Similarité :
- Asymétrie : Ils prouvent que l'assemblage est inhéremment asymétrique ; un seul assembleur directionnel est insuffisant pour affirmer une similarité fonctionnelle.
- Suffisance vs Nécessité : Ils démontrent que la similarité représentationnelle est une condition suffisante mais non nécessaire pour la similarité fonctionnelle. Les représentations peuvent être fonctionnellement similaires (résolvant la même tâche) tout en étant représentationnellement distinctes (encodant différentes variables parasites).
- Granularité de la Tâche : Ils établissent que la similarité représentationnelle (reconstruction de l'entrée) est la limite de la granularité maximale, garantissant la similarité fonctionnelle pour toutes les tâches plus grossières.

Résultats Expérimentaux

Asymétrie de l'Assemblage : L'analyse de 12 459 paires a révélé une distribution à queue lourde des différences de précision entre les assembleurs directs et inverses, confirmant que la similarité fonctionnelle est fréquemment asymétrique. Une représentation contient souvent les informations d'une autre sans que l'inverse soit vrai.
Monotonie de la Similarité Représentationnelle : L'étude a validé que les scores de similarité représentationnelle augmentent à mesure que la famille prédictive devient plus expressive. Les représentations qui apparaissent distinctes sous des contraintes de Procruste rigides (Orthogonales) apparaissent souvent presque identiques sous des transformations Affines plus expressives.
Alignement des Métriques : Les métriques standard ont montré une forte corrélation avec les scores d'information utilisable proposés. Plus précisément, CKA ( $R^2=0,937$ ) et RSA ( $R^2=0,912$ ) s'alignaient étroitement avec la similarité représentationnelle dérivée des assembleurs Orthogonaux + Mise à l'échelle, soutenant l'hypothèse que ces métriques agissent comme des proxies pour l'information utilisable sous des groupes de transformations spécifiques.
Validation de la Hiérarchie : En utilisant CIFAR-100 (classes fines vs superclasses grossières), les auteurs ont confirmé que la similarité fonctionnelle sur une tâche grossière borne systématiquement supérieurement la similarité sur la tâche fine.
Suffisance de la Similarité Représentationnelle : À mesure que la similarité représentationnelle approchait de 1,0, la probabilité de similarité fonctionnelle convergait vers 1,0. Cependant, une forte similarité fonctionnelle a été fréquemment observée même avec une faible similarité représentationnelle, confirmant que la similarité représentationnelle n'est pas une condition nécessaire.

Importance et Revendications

L'article prétend résoudre le décalage entre la similarité fonctionnelle et la similarité représentationnelle en ancrant les deux dans la théorie de l'information utilisable. Les auteurs soutiennent que la similarité n'est pas une propriété intrinsèque des représentations seules, mais est relative aux contraintes computationnelles de la famille prédictive utilisée pour les comparer.

En unifiant ces concepts, l'article fournit une justification théorique rigoureuse expliquant pourquoi les métriques standard fonctionnent et dans quelles conditions elles échouent. Il déplace le paradigme de la recherche d'une métrique de similarité « universelle » vers la définition explicite de la famille prédictive $\mathcal{V}$ qui dicte ce que « similaire » signifie pour une application spécifique. Le travail conclut que si la similarité représentationnelle garantit la similarité fonctionnelle sur toutes les tâches, l'inverse n'est pas vrai, soulignant que les modèles peuvent atteindre une performance de tâche identique grâce à des représentations internes fondamentalement différentes.