Multiscaling in Wasserstein Spaces

Resumen Técnico: Multiescala en Espacios de Wasserstein

1. Planteamiento del Problema

El análisis de secuencias de medidas de probabilidad es fundamental en campos como el procesamiento de imágenes, el aprendizaje profundo y la biología celular. Tradicionalmente, estas medidas se modelan en espacios vectoriales, lo cual falla al capturar características geométricas y estructurales inherentes a la distribución de datos. Los espacios de Wasserstein ($P_p(\mathbb{R}^d)$), equipados con la métrica de transporte óptimo, ofrecen una estructura geométrica rica (similar a una variedad Riemanniana) para estudiar la evolución de medidas.

Sin embargo, un desafío significativo es la falta de herramientas de análisis multiescala (multiscale analysis) dentro de estos espacios. Mientras que en espacios euclidianos existen técnicas robustas como las wavelets y los esquemas de subdivisión para analizar datos a diferentes resoluciones, su adaptación a espacios de medida no lineales y curvos ha permanecido inexplorada. Esto limita la capacidad de:

• Descomponer secuencias de medidas en aproximaciones gruesas y detalles finos.
• Detectar anomalías o dinámicas irregulares en flujos de medidas.
• Realizar tareas como denoising (eliminación de ruido) o compresión de datos en este contexto geométrico.

2. Metodología

Los autores proponen un marco de trabajo novedoso que adapta la teoría de subdivisiones y wavelets a los espacios de Wasserstein, aprovechando su estructura intrínseca de transporte óptimo. La metodología se basa en los siguientes pilares:

• Operadores Binarios ($\oplus$ y $\ominus$):
  Se definen operaciones análogas a la suma y resta escalar en el espacio de medidas.

  • Resta ($\ominus$): Dadas dos medidas $\mu$ y $\nu$, la operación $\nu \ominus \mu$ produce un mapa medible (el mapa de Monge menos la identidad) que representa el "vector" en el espacio tangente que conecta $\mu$ con $\nu$.
  • Suma ($\oplus$): Dada una medida $\mu$ y un mapa $\psi$, la operación $\mu \oplus \psi$ empuja la medida $\mu$ mediante el mapa $(I + \psi)$, reconstruyendo una nueva medida.
    Estas operaciones permiten tratar las diferencias entre medidas como vectores tangentes, facilitando el cálculo de errores y detalles.

• Operador de Refinamiento (Subdivisión):
  Se utiliza el interpolante de McCann para construir un operador de refinamiento $S$. Este operador toma una secuencia de medidas y genera medidas intermedias a lo largo de las geodésicas de Wasserstein (flujos de transporte óptimo de velocidad constante).

  • Para medidas absolutamente continuas, se usa el mapa de Monge único.
  • Para medidas discretas, se utiliza una matriz de acoplamiento (transporte óptimo discreto) para definir el promedio ponderado.

• Transformada Multiescala:
  Se define una transformada piramidal que descompone una secuencia de medidas $\mu^{(J)}$ en:

  1. Una aproximación gruesa ($\mu^{(0)}$) obtenida mediante muestreo (downsampling).
  2. Una serie de coeficientes de detalle ($\psi^{(\ell)}$) que capturan la diferencia entre la medida real en una escala fina y la predicha por el operador de refinamiento aplicado a la escala anterior: $\psi^{(\ell)} = \mu^{(\ell)} \ominus S\mu^{(\ell-1)}$.
     La reconstrucción se realiza inversamente sumando los detalles a la aproximación.

• Número de Optimalidad ($\omega$):
  Se introduce un nuevo escalar, el número de optimalidad, definido como la suma de las normas de los coeficientes de detalle a través de todas las escalas. Este número cuantifica cuánto se desvía un flujo de medidas de una geodésica de Wasserstein (un transporte óptimo perfecto).

  • $\omega = 0$: El flujo es perfectamente geodésico (óptimo).
  • $\omega > 0$: Indica desviaciones, irregularidades o ruido en la dinámica.

3. Contribuciones Clave

• Marco Teórico Unificado: Se presenta una transformada multiescala válida tanto para medidas absolutamente continuas como discretas, superando limitaciones de trabajos previos que solo abordaban casos discretos.
• Definición de Operadores Geométricos: La formalización de los operadores $\oplus$ y $\ominus$ en espacios de Wasserstein permite realizar álgebra lineal aproximada sobre variedades de medidas, esencial para la construcción de wavelets en este contexto.
• Nuevo Indicador de Calidad: El número de optimalidad ofrece una métrica escalar interpretable para evaluar la "suavidad" y la eficiencia de flujos de medidas, útil para detectar anomalías y evaluar modelos.
• Garantías Teóricas:
  • Decaimiento Geométrico: Se demuestra que si una secuencia de medidas se muestrea de una curva absolutamente continua con derivada métrica finita, los coeficientes de detalle decaen geométricamente a medida que aumenta la escala.
  • Estabilidad: Se prueba la estabilidad de la transformada inversa, garantizando que pequeñas perturbaciones en los coeficientes de detalle resulten en errores proporcionales en la reconstrucción.

4. Resultados y Experimentos Numéricos

Los autores validan su metodología mediante tres experimentos distintos:

1. Flujos de Medidas Gaussianas (Continuas):

   • Se analizan curvas de distribuciones gaussianas donde el transporte óptimo tiene forma cerrada.
   • Denoising: Al añadir ruido a los parámetros (media y varianza) de la curva, los coeficientes de detalle en escalas finas aumentan. Al umbralizar (poner a cero) estos coeficientes grandes, se logra reconstruir una curva limpia, demostrando la eficacia del método para eliminar ruido.
   • Detección de Anomalías: Se introducen discontinuidades (saltos) en la curva. El método detecta estas anomalías localizándolas mediante picos significativos en los coeficientes de detalle.
   • Optimalidad: Se calcula el número $\omega$ para curvas que se desvían de la geodésica óptima, mostrando un aumento lineal en $\omega$ conforme aumenta la desviación.

2. Dinámica de Nubes de Puntos (Discretas):

   • Se simula la evolución de una nube de puntos bajo un campo vectorial eléctrico (ley de Coulomb).
   • Se compara una trayectoria geodésica (ruido bajo, $\omega$ pequeño) con una trayectoria contaminada por ruido.
   • El método revela que en la trayectoria ruidosa no hay decaimiento geométrico en los detalles, confirmando la teoría. Además, permite identificar regiones donde el campo vectorial es fuerte (cerca de las cargas) mediante la magnitud de los detalles.

3. Dinámicas de Aprendizaje en Redes Neuronales:

   • Se analiza la trayectoria de las distribuciones de probabilidad de salida de una red neuronal (CNN) durante el entrenamiento en MNIST.
   • Los coeficientes de detalle muestran un decaimiento geométrico, indicando que la dinámica de aprendizaje sigue un camino suave en el espacio de alta dimensión.
   • Se propone el número de optimalidad como una métrica para evaluar la eficiencia de diferentes optimizadores o arquitecturas en flujos generativos.

5. Significado e Impacto

Este trabajo es significativo porque:

• Puente entre Teoría y Aplicación: Conecta la teoría abstracta del transporte óptimo y la geometría de Wasserstein con herramientas prácticas de procesamiento de señales (multiescala).
• Herramienta Diagnóstica: El número de optimalidad ofrece una nueva perspectiva para evaluar la calidad de modelos generativos y dinámicas de aprendizaje, más allá de métricas tradicionales como FID.
• Versatilidad: Al funcionar tanto con medidas continuas como discretas, el marco es aplicable a una amplia gama de problemas en ciencia de datos, desde el análisis de imágenes hasta la simulación de sistemas físicos y el entrenamiento de IA.
• Fundamento para Futuras Investigaciones: Abre la puerta al desarrollo de wavelets en variedades Riemannianas más generales y a nuevas técnicas de compresión y análisis de datos estructurados geométricamente.

En conclusión, Mattar y Sharon han establecido un marco robusto para el análisis multiescala en espacios de Wasserstein, proporcionando tanto garantías teóricas sólidas como herramientas computacionales prácticas para el análisis de dinámicas complejas de medidas de probabilidad.