Learning Tangent Bundles and Characteristic Classes with Autoencoder Atlases

Résumé Technique : Apprentissage des Fibrés Tangents et des Classes Caractéristiques avec des Atlas d'Autoencodeurs

Énoncé du Problème
L'apprentissage de variétés vise à retrouver des représentations de faible dimension de données de haute dimension reflétant la géométrie sous-jacente. Le paradigme dominant repose sur des plongements euclidiens globaux (par exemple via des autoencodeurs, Isomap ou des cartes de diffusion). Cependant, cette approche rencontre des obstructions topologiques fondamentales : les variétés à topologie non triviale (telles que le plan projectif réel $\mathbb{R}P^2$ ou la bouteille de Klein) ne peuvent être plongées dans un espace euclidien de faible dimension sans auto-intersection ni perte de structure. De plus, même lorsque des plongements existent, les coordonnées euclidiennes standard ne codent pas les invariants différentiels-topologiques tels que le fibré tangent, les fonctions de transition ou les classes caractéristiques, qui sont essentiels pour distinguer les variétés orientables des non orientables. Les méthodes existantes pour estimer la dimension intrinsèque ou les espaces tangents ne résolvent pas le problème plus profond de la représentation de variétés où les coordonnées globales sont topologiquement interdites.

Méthodologie
Les auteurs proposent un cadre qui passe de la vision des autoencodeurs produisant un seul plongement global au traitement d'une collection de paires encodeur-décodeur entraînées localement comme un atlas appris sur la variété des données.

1. Atlas d'Autoencodeurs : Au lieu d'une seule carte, la méthode emploie une collection de cartes $\mathcal{A} = \{(U_i, E_i, D_i)\}$, où $U_i$ sont des ensembles ouverts couvrant la variété $M$, $E_i$ sont des encodeurs mappant vers un espace latent $\mathbb{R}^d$, et $D_i$ sont des décodeurs.
2. Applications de Transition et Cocycles : Pour les cartes se chevauchant $U_i \cap U_j$, les applications de transition sont définies comme $T_{ji} = E_j \circ D_i$. L'analyse théorique montre que la cohérence de la reconstruction ($D_i \circ E_i \approx \text{Id}$) induit canoniquement que ces applications de transition satisfont la condition de cocycle ($T_{ki} = T_{kj} \circ T_{ji}$) sur les triplets de chevauchements.
3. Linéarisation et Fibrés Vectoriels : En linéarisant les applications de transition non linéaires, les auteurs construisent des fonctions de transition linéaires $g_{ji}(x) = d(T_{ji})_{E_i(x)}$. Ces fonctions satisfont la condition de cocycle pour les fibrés vectoriels, permettant la construction d'un fibré tangent appris $T_\mathcal{A}$ au-dessus de $M$. Lorsque la dimension latente correspond à la dimension intrinsèque et que l'atlas est lisse, $T_\mathcal{A}$ est isomorphe au vrai fibré tangent $TM$.
4. Détection d'Orbitabilité via les Classes de Stiefel-Whitney : La première classe de Stiefel-Whitney $w_1(T_\mathcal{A}) \in H^1(M; \mathbb{Z}/2)$, qui détecte l'orientabilité, est calculée directement à partir de l'atlas appris. Plus précisément, le signe du déterminant jacobien des applications de transition, $\omega_{ji}(x) = \text{sign}(\det g_{ji}(x))$, forme un 1-cocycle de Čech. La variété est orientable si et seulement si ce cocycle est un cobord (c'est-à-dire que des signes cohérents peuvent être attribués aux cartes de telle sorte que $\omega_{ji} = \nu_j \cdot \nu_i$).
5. Stabilité sous Approximation : Reconnaissant que les réseaux de neurones n'atteignent qu'une reconstruction approximative, l'article développe une théorie de stabilité. Il prouve que le cocycle de signe reste un cocycle de Čech valide sous des bornes explicites sur l'erreur de reconstruction ($\epsilon$) et l'erreur différentielle ($\eta$), à condition que les jacobiens de transition restent non dégénérés ($\delta > 0$). Un raffinement clé (Théorème 4.12) montre que la stabilité vaut localement sur les "triangles du nerf" même si les bornes globales sont violées, à condition qu'une "mauvaise" carte puisse être réindexée à une position où son erreur de reconstruction n'affecte pas la condition de cocycle.
6. Contraintes sur le Nombre de Cartes : L'article établit que le nombre minimum de cartes requis est déterminé par le type de recouvrement de la variété (la cardinalité minimale d'un bon recouvrement), plutôt que par la structure du fibré tangent. Les classes caractéristiques non triviales entravent les représentations à carte unique, mais un fibré tangent trivial ne garantit pas qu'une seule carte suffise pour les variétés compactes.

Contributions Clés

1. Formalisation des Atlas d'Autoencodeurs : Les auteurs formalisent le concept d'atlas d'autoencodeur, prouvant que la cohérence de la reconstruction implique la condition de cocycle pour les applications de transition et permettant la construction d'un fibré vectoriel appris.
2. Détection Algorithmique de l'Orbitabilité : Ils fournissent un critère algorithmique direct pour détecter l'orientabilité en calculant la première classe de Stiefel-Whitney à partir des signes des déterminants jacobien des transitions apprises. Cela réduit le problème à vérifier si un cocycle de signe est un cobord (équivalent à un 2-colorage du graphe du nerf).
3. Théorie de Stabilité pour les Atlas Approximatifs : L'article prouve que les invariants topologiques dérivés de l'atlas sont stables sous la reconstruction approximative inhérente à l'entraînement des réseaux de neurones. Cela inclut un théorème de stabilité global et un théorème local plus fort "par triplet" qui explique la détection réussie même lorsque les bornes d'erreur globales sont violées.
4. Bornes Inférieures Topologiques : Le travail identifie le type de recouvrement de la variété comme la borne inférieure fondamentale sur le nombre de cartes d'autoencodeur requis, reliant la complexité architecturale du modèle directement à la topologie des données.
5. Conception de la Fonction de Perte : Les auteurs démontrent qu'une régularisation explicite de cocycle est inutile ; minimiser la perte de reconstruction seule suffit à réduire l'erreur de cocycle à zéro, car l'erreur de cocycle est bornée par l'erreur de reconstruction de la carte intermédiaire dans un triplet.

Résultats Expérimentaux
Le cadre a été validé sur quatre jeux de données dont l'orientabilité était connue :

• 2-Sphère ($S^2$) : Une variété orientable. La méthode a correctement détecté l'orientabilité (test de cobord réussi) en utilisant un atlas de 4 cartes.
• Ruban de Möbius : Une variété non orientable avec des chevauchements déconnectés. La méthode a correctement détecté la non-orientabilité (test de cobord échoué) en utilisant un atlas de 2 cartes, identifiant le changement de signe à travers les deux composantes de chevauchement.
• Bouteille de Klein : Une variété non orientable dans $\mathbb{R}^4$. En utilisant un atlas de 8 cartes, la méthode a correctement détecté la non-orientabilité dans les essais convergés. Les expériences ont mis en évidence l'utilité du théorème de stabilité local, qui a permis la détection même lorsqu'une carte violait la borne d'erreur différentielle globale ($\eta < 1$).
• $\mathbb{R}P^2$ (Patches de Lignes) : Une variété non orientable représentée sous forme d'images à 100 dimensions. Malgré une codimension élevée et de grandes erreurs différentielles du côté latent ($\eta_{lat} \gg 1$), la méthode a correctement détecté la non-orientabilité dans 4 essais sur 5, suggérant que l'erreur restreinte au tangent (qui régit la théorie) est restée contrôlée malgré l'échec du proxy de haute dimension.

Dans tous les essais convergés (17 sur 20 exécutions au total), le test de cobord a atteint une précision de 100 % dans la détection de la classe d'orientabilité correcte.

Signification
L'article prétend combler le fossé entre l'apprentissage de variétés moderne et la topologie différentielle classique. En traitant les représentations apprises comme des atlas, les auteurs démontrent que les réseaux de neurones peuvent être utilisés pour calculer des invariants différentiels-topologiques (spécifiquement la première classe de Stiefel-Whitney) directement à partir des données. Cela fournit une fondation théorique rigoureuse pour comprendre pourquoi les architectures multi-cartes sont nécessaires pour des données topologiquement non triviales et offre une méthode pratique et algorithmique pour détecter l'orientabilité sans nécessiter de calculs topologiques explicites pendant l'entraînement. Le travail suggère que l'"obstruction" aux plongements globaux n'est pas un échec de l'algorithme d'apprentissage mais une caractéristique de la topologie des données, qui peut être fidèlement capturée et analysée à travers le prisme des fibrés vectoriels et des classes caractéristiques.