Résumé Technique : TopoAlign

Énoncé du Problème

Les réseaux de neurones encodent les entrées sous forme de vecteurs de haute dimension (représentations) qui capturent les structures et les sémantiques pertinentes pour la tâche. Une tâche fondamentale dans l'analyse de ces modèles est l'alignement des représentations, qui mesure le degré de similarité des représentations produites par différents modèles, couches ou conditions d'entraînement pour les mêmes entrées. Cette analyse est cruciale pour comprendre la dynamique d'apprentissage des modèles, éclairer la conception des architectures, guider la sélection de modèles et évaluer la robustesse.

Les approches existantes pour quantifier l'alignement reposent principalement sur des propriétés géométriques, telles que les matrices de similarité par paires, les comparaisons basées sur les voisins (par exemple, les k-plus proches voisins) ou la similarité des clusters. Bien que ces méthodes fournissent des scores scalaires agrégés, elles obscurcissent souvent les motifs structurels nuancés et offrent un aperçu limité de l'organisation globale des espaces de représentation. De plus, les outils d'analyse visuelle qui existent se concentrent souvent sur les distances point par point ou nécessitent une inspection manuelle des correspondances, manquant de méthodes systématiques pour comparer les structures topologiques des représentations entre différents modèles.

Méthodologie : TopoAlign

Pour pallier ces limitations, les auteurs proposent TopoAlign, un cadre d'analyse visuelle conscient de la topologie qui compare les représentations de modèles en analysant les graphes Mapper, une technique issue de l'Analyse Topologique des Données (TDA). Le cadre fonctionne selon un flux de travail multi-échelle, descendant :

1. Entrée et Construction du Graphe

Étant donné un jeu de données d'entrée partagé $D$ et deux modèles (ou couches) $f_1$ et $f_2$, le système extrait les représentations $Z_1$ et $Z_2$. Il construit deux graphes Mapper, $G_1$ et $G_2$, en utilisant des configurations de paramètres identiques (fonction de filtrage, chevauchement d'intervalles et algorithme de clustering tel que DBSCAN) pour garantir une résolution comparable.

• Les nœuds représentent des clusters de points de données.
• Les arêtes désignent des intersections non vides (chevauchements) entre ces clusters.
• Le système utilise la norme $\ell_2$ comme fonction de filtrage par défaut pour capturer les variations de magnitude dans les représentations.

2. Optimisation Conjoints par Forces Dirigées (Alignement Global)

Pour permettre une comparaison visuelle directe, TopoAlign construit un graphe Mapper conjoint ($G_{joint}$) en introduisant des arêtes inter-graphes entre les nœuds de $G_1$ et $G_2$ qui partagent des points de données communs.

• Objectif : Calculer des mises en page 2D coordonnées pour les deux graphes simultanément.
• Mécanisme : Le système minimise une fonction d'énergie $L(p)$ qui équilibre :
  • Forces intra-graphe : Forces d'attraction standard (de type ressort) et de répulsion (de type particule) pour préserver la structure interne de chaque graphe individuel.
  • Forces d'alignement inter-graphe : Un terme qui rapproche les nœuds partageant des points de données. La force de cette attraction est pondérée par la similarité de Jaccard des sous-ensembles de données et contrôlée par un paramètre $\lambda$.
• Résultat : Une visualisation côte à côte où les régions structurellement similaires sont spatialement alignées, révélant les différences topologiques globales (par exemple, ramification, boucles, séparation de composants).

3. Découverte Automatique d'Alignements Locaux

Le système identifie automatiquement les correspondances locales entre les deux graphes en utilisant un clustering spectral conscient de l'alignement sur le graphe conjoint.

• Clustering : Les nœuds sont partitionnés en groupes où les connexions intra-graphe sont denses et les connexions inter-graphes relient les régions correspondantes.
• Visualisation : Chaque paire d'alignement local identifiée est visualisée à l'aide de Bubble Sets.
  • Opacité de l'ombrage : Encode la similarité de Jaccard (alignement du contenu).
  • Ondulation de la frontière : Encode le score de silhouette (cohérence structurelle).
• Cela permet aux utilisateurs d'identifier et d'évaluer rapidement la qualité des alignements locaux sans inspection manuelle.

4. Requêtes de Motifs d'Alignement

Les paires d'alignement local sont catégorisées en cinq motifs canoniques basés sur la manière dont les composants se mappent entre les deux sous-graphes :

• Un-à-un : Représentation de fonctionnalité cohérente.
• Éventail (Fan-out) : Un seul composant se divise en plusieurs (indiquant un raffinement ou une désintrication).
• Convergence (Fan-in) : Plusieurs composants fusionnent en un seul (indiquant une agrégation).
• Croisement : Réorganisation complexe et partiellement chevauchante.
• Disparition/Apparition : Fonctionnalités présentes dans un seul modèle uniquement.
  Les utilisateurs peuvent filtrer et explorer les alignements basés sur ces motifs.

5. Inspection Fine Multi-échelle (Vue Membrane)

Pour inspecter les correspondances détaillées sans encombrement visuel, TopoAlign introduit une visualisation inspirée de la membrane.

• Agrégation : Les composants sont fusionnés itérativement en « super-nœuds » guidés par l'entropie conditionnelle des arêtes inter-graphes. Cette stratégie évite un effondrement trivial et révèle des structures d'alignement cohérentes à des niveaux intermédiaires d'abstraction.
• Visualisation : Les deux sous-graphes sont affichés sous forme de couches parallèles connectées par des arêtes inter-graphes. Les super-nœuds sont rendus sous forme d'ovales contenant leur structure interne, permettant aux utilisateurs d'explorer l'alignement à plusieurs échelles (des super-nœuds grossiers aux points de données fins).
• Intégration : Le système intègre des agents basés sur les LLM (par exemple, GPT-4o) pour résumer le contenu textuel des éléments alignés, aidant à l'interprétation sémantique.

Contributions Clés

1. Visualisations Mapper Alignées Globalement : Un cadre d'optimisation conjointe par forces dirigées produisant des plongements coordonnés pour la comparaison directe des structures topologiques globales.
2. Correspondance Automatique de Régions Inter-Graphes : Une approche de clustering consciente de l'alignement qui identifie automatiquement des sous-graphes structurellement correspondants.
3. Caractérisation Interprétable des Alignements Locaux : Une visualisation basée sur les Bubble Sets couplée à une requête basée sur les motifs pour révéler les motifs locaux (division, fusion, etc.) et évaluer la qualité de l'alignement.
4. Inspection d'Alignement Multi-échelle : Une technique de visualisation inspirée de la membrane qui permet une exploration détaillée des correspondances structurelles fines tout en minimisant l'encombrement visuel.
5. Système Interactif Intégré : Un espace de travail unifié permettant une analyse exploratoire allant des structures globales aux motifs locaux.

Résultats et Études de Cas

Les auteurs démontrent TopoAlign à travers des études de cas sur des modèles de langage (BERT-Base, BERT-Tiny) et des modèles multimodaux (CLIP) :

• Dynamique d'Entraînement (BERT) : La comparaison de BERT-Base à l'époque 2 contre l'époque 6 a révélé que le fine-tuning désintrique progressivement les catégories sémantiques. Les premières époques montraient des composants mixtes, tandis que les époques ultérieures présentaient une séparation claire. Des motifs spécifiques comme « Éventail » (division de catégories mixtes) et « Convergence » (fusion de catégories similaires) ont été identifiés, corrélés avec une amélioration de la précision de prédiction.
• Évolution des Couches (BERT) : La comparaison de la couche 3 contre la couche 12 a montré une transition d'une organisation lexicale (regroupement par forme de mot) dans les premières couches vers une organisation sémantique (regroupement par catégorie) dans les couches ultérieures.
• Capacité du Modèle (BERT-Base vs BERT-Tiny) : Le modèle plus petit présentait des structures d'étiquettes plus intriquées. TopoAlign a identifié des fonctionnalités sémantiques spécifiques (par exemple, le mot « like ») que le modèle plus petit n'a pas réussi à désintriquer par rapport au modèle plus grand, suggérant des stratégies de fine-tuning ciblées.
• Alignement Multimodal (CLIP) : La comparaison des représentations d'images et de légendes a révélé des différences spécifiques à la modalité dans la granularité sémantique. Par exemple, les motifs « Éventail » indiquaient que les légendes capturaient des distinctions sémantiques plus fines que les images, tandis que les motifs « Croisement » mettaient en évidence comment différentes modalités regroupent les concepts (par exemple, « femme » vs « bornes incendie ») différemment.

Feedback d'Experts

Une étude préliminaire avec cinq experts en apprentissage profond (étudiants en doctorat et postdoctorants) a donné lieu à des retours positifs :

• Les experts ont trouvé la mise en page d'alignement global efficace pour identifier des correspondances sans inspection manuelle des nœuds.
• La découverte automatique d'alignements et la catégorisation par motifs ont été jugées intuitives et utiles pour comprendre les motifs de haut niveau.
• La visualisation par Bubble Sets a été saluée pour sa sélection de structures basée sur la flou des frontières.
• Les suggestions d'amélioration comprenaient l'ajout d'annotations sémantiques directement sur les Bubble Sets et le raffinement de l'interprétation des connexions de super-nœuds dans la vue membrane.

Importance et Revendications

L'article revendique être le premier travail à comparer systématiquement les représentations de réseaux de neurones en utilisant des abstractions topologiques (graphes Mapper).

• Nouveauté : Contrairement aux travaux antérieurs qui reposent sur des distances géométriques ou des comparaisons manuelles, TopoAlign fournit un cadre systématique et automatisé pour la comparaison topologique multi-échelle.
• Génération d'Insights : Le cadre révèle des phénomènes structurels significatifs — tels que la division, la fusion et la désintrication de fonctionnalités — qui sont souvent obscurcis par des métriques agrégées.
• Utilité : Il soutient l'interprétation des modèles, l'analyse de la robustesse et la compréhension de la dynamique d'apprentissage à travers les étapes d'entraînement, les couches et les modalités.
• Modestie : Les auteurs reconnaissent que leur détection automatique d'alignement est conçue pour mettre en évidence des correspondances potentiellement significatives plutôt qu'une solution optimale unique, servant de point d'entrée pour une analyse exploratoire. Ils notent également que l'alignement des représentations internes ne correspond pas toujours directement aux performances du modèle, bien que les métriques de performance puissent aider à contextualiser les motifs observés.