Multiscaling in Wasserstein Spaces

1. Problématique et Contexte

Les espaces de Wasserstein ($P_p(\mathbb{R}^d)$), qui sont des espaces métriques de mesures de probabilité, sont devenus fondamentaux pour modéliser des données possédant des caractéristiques géométriques ou structurelles, notamment en traitement d'images, en apprentissage profond et en biologie cellulaire. Bien que la structure riemannienne formelle de ces espaces (introduite par Otto) et les outils d'optimisation de transport (comme les interpolants de McCann) soient bien établis, l'analyse multi-échelle (multiscale analysis) au sein de ces espaces reste largement inexplorée.

Le défi principal réside dans l'adaptation des techniques classiques d'analyse multi-échelle (comme les ondelettes ou les schémas de subdivision) à des espaces non linéaires et non vectoriels. Contrairement aux espaces euclidiens, on ne peut pas simplement soustraire ou additionner des mesures. Il est donc nécessaire de développer un cadre théorique et algorithmique capable de :

• Décomposer des séquences de mesures en approximations grossières et détails.
• Définir des opérateurs de raffinement (upsampling) et de différence (downsampling) compatibles avec la géométrie du transport optimal.
• Quantifier la régularité et les anomalies dans l'évolution de ces mesures.

2. Méthodologie

Les auteurs proposent un cadre multi-échelle novateur basé sur la géométrie intrinsèque du transport optimal. La méthodologie se décompose en plusieurs étapes clés :

A. Opérateurs Binaires Fondamentaux

Pour manipuler les mesures comme des vecteurs dans un espace tangent, les auteurs définissent deux opérateurs binaires analogues à l'addition et la soustraction :

• Soustraction ($\ominus$) : Pour deux mesures $\mu$ et $\nu$, $\nu \ominus \mu$ est défini comme le champ de vecteurs (ou la carte de Monge) transportant $\mu$ vers $\nu$, moins l'identité. Cela correspond à l'opérateur logarithme $\text{Log}_\mu(\nu)$ dans l'espace tangent.
• Addition ($\oplus$) : Pour une mesure $\mu$ et un champ de vecteurs $\psi$, $\mu \oplus \psi$ est la mesure résultant de la poussée (pushforward) de $\mu$ par l'application $(I + \psi)$. Cela correspond à l'opérateur exponentiel $\text{Exp}_\mu(\psi)$.
  Ces opérateurs sont définis pour les mesures absolument continues (via la carte de Monge unique) et les mesures discrètes (via la matrice de couplage du problème de Kantorovich).

B. Opérateur de Raffinement (Refinement)

L'élément central est un opérateur de raffinement basé sur les interpolants de McCann.

• Pour une séquence de mesures, le raffinement insère de nouvelles mesures entre deux mesures existantes en calculant leur moyenne géodésique (le point milieu sur la géodésique de Wasserstein).
• Cela permet de construire un schéma de subdivision interpolant qui préserve la structure géodésique des flux de mesures.

C. Transformée Multi-échelle

Le cadre s'inspire des schémas de subdivision classiques :

1. Analyse (Décomposition) : Une séquence fine $\mu^{(\ell)}$ est décomposée en une séquence grossière $\mu^{(\ell-1)}$ (par sous-échantillonnage) et des coefficients de détails $\psi^{(\ell)}$. Les détails sont calculés comme la différence entre la séquence originale et la prédiction issue du raffinement de la séquence grossière : $\psi^{(\ell)} = \mu^{(\ell)} \ominus S\mu^{(\ell-1)}$.
2. Synthèse (Reconstruction) : La séquence originale est reconstruite parfaitement en ajoutant les détails à la prédiction : $\mu^{(\ell)} = S\mu^{(\ell-1)} \oplus \psi^{(\ell)}$.

D. Le Nombre d'Optimalité (Optimality Number)

Les auteurs introduisent un scalaire, le nombre d'optimalité ($\omega$), qui quantifie la déviation d'un flux de mesures par rapport à une géodésique de Wasserstein.

• Il est calculé comme la somme des normes des coefficients de détails sur toutes les échelles.
• Une valeur de 0 indique un flux parfaitement géodésique (optimal).
• Une valeur élevée signale des irrégularités, des anomalies ou des dynamiques non optimales.

3. Contributions Clés

1. Cadre Unifié : Développement d'une transformée multi-échelle applicable à la fois aux mesures absolument continues et aux mesures discrètes (point clouds), comblant un vide théorique majeur.
2. Opérateurs Géométriques : Définition rigoureuse des opérateurs $\oplus$ et $\ominus$ adaptés aux espaces de Wasserstein, permettant une algèbre de mesures cohérente.
3. Indicateur d'Anomalie : Introduction du nombre d'optimalité comme outil diagnostique pour détecter des dynamiques irrégulières ou des anomalies dans des séquences temporelles de mesures.
4. Garanties Théoriques :
   • Stabilité : Preuve que la reconstruction est stable face aux perturbations des coefficients de détails.
   • Décroissance Géométrique : Démonstration que si une séquence de mesures est échantillonnée sur une courbe absolument continue (avec une dérivée métrique finie), les coefficients de détails décroissent géométriquement à travers les échelles.
5. Implémentation et Reproductibilité : Fourniture d'un code Python complet et d'expériences numériques reproductibles.

4. Résultats Expérimentaux

Les auteurs valident leur méthode sur trois types de données :

• Flux de Mesures Gaussiennes (Absolument Continues) :

  • Démonstration de la décomposition multi-échelle analytique.
  • Débruitage : En mettant à zéro les coefficients de détails de grande norme, la méthode restaure efficacement une courbe gaussienne bruitée.
  • Détection d'Anomalies : La méthode identifie avec précision des discontinuités (sauts) dans la variance d'une séquence gaussienne, visibles par des pics dans les coefficients de détails.
  • Mesure d'Optimalité : Calcul du nombre d'optimalité pour des courbes interpolant entre deux gaussiennes, montrant que les courbes non géodésiques ont un $\omega > 0$.

• Dynamique de Nuages de Points (Discrètes) :

  • Simulation de l'évolution d'un nuage de points sous l'effet d'un champ électrique (loi de Coulomb).
  • La méthode capture la régularité du flux géodésique (décroissance des détails) et détecte les perturbations dues au bruit ajouté aux trajectoires des particules.
  • Le nombre d'optimalité augmente significativement en présence de bruit.

• Trajectoires d'Apprentissage de Réseaux de Neurones :

  • Analyse de l'évolution de la distribution de probabilité des sorties d'un CNN (MNIST) au cours de l'entraînement.
  • Les coefficients de détails montrent une décroissance géométrique, indiquant que la dynamique d'apprentissage suit un chemin lisse dans l'espace de Wasserstein.
  • Le nombre d'optimalité est proposé comme une métrique d'évaluation pour comparer différents optimiseurs ou architectures (potentiellement pour les modèles génératifs basés sur le flux).

5. Signification et Impact

Ce travail est significatif car il transpose les puissantes techniques de l'analyse multi-échelle (traditionnellement réservées aux espaces vectoriels) vers les espaces de Wasserstein, ouvrant la voie à de nouvelles applications :

• Analyse de Données Complexes : Permet d'étudier l'évolution de distributions de données (images, nuages de points, populations) à différentes résolutions, en séparant le signal global (tendance) du bruit ou des détails locaux.
• Diagnostic en Apprentissage Automatique : Le nombre d'optimalité offre une nouvelle métrique pour évaluer la qualité et l'efficacité des trajectoires d'optimisation, en particulier pour les modèles génératifs (Flow Matching, GANs) où la géodésicité du transport est cruciale.
• Robustesse et Interprétabilité : La capacité à détecter des anomalies et à débruiter des flux de mesures offre des outils robustes pour le traitement de données réelles bruitées dans des domaines allant de la physique à la biologie.

En résumé, Mattar et Sharon établissent les fondations théoriques et pratiques pour une « ondelette de Wasserstein », permettant une analyse hiérarchique fine des dynamiques de probabilités.