Resumen Técnico: Compensación Radial en Modelos Generativos Basados en Cartas

1. Enunciado del Problema

Los modelos generativos en variedades de Riemann (por ejemplo, Autoencoders Variacionales, Flujos Normalizadores y Flujos Normalizadores Continuos) a menudo dependen de un enfoque "basado en cartas". Esto implica muestrear desde una distribución base euclidiana en el espacio tangente $T_pM$ y mapear la muestra a la variedad $M$ mediante una carta (por ejemplo, el mapa exponencial).

El artículo identifica una distorsión semántica fundamental en esta tubería estándar:

1. Distorsión Radial: Las bases euclidianas isotrópicas estándar (como una Gaussiana) no preservan la distribución pretendida del radio geodésico $R = d(p, q)$ en la variedad. Por ejemplo, una Gaussiana isotrópica en el espacio tangente se mapea a una distribución $\chi_n$ de radios en la variedad, lo cual rara vez coincide con la priori pretendida por el practicante (por ejemplo, HalfNormal, Gamma).
2. Dependencia de la Carta: Las cartas no geodésicas (como los mapas de área igual de Lambert) introducen distorsiones adicionales donde la misma escala en el espacio tangente corresponde a diferentes radios geodésicos dependiendo de la elección de la carta y de la curvatura de la variedad.
3. Decisiones de Modelado Ocultas: En consecuencia, la elección de la carta y la distribución base fija silenciosamente una ley radial en la variedad. Para compensar esta distorsión oculta, el modelo debe aprender a ajustar sus parámetros de escala o curvatura, lo que conduce a un entrenamiento inestable, términos de Jacobiano grandes y curvaturas aprendidas difíciles de interpretar.

2. Metodología: Compensación Radial (CR)

Los autores proponen la Compensación Radial (CR), un método para desacoplar el significado estadístico del modelo de las propiedades numéricas de la carta.

Concepto Central

En lugar de comenzar con una base euclidiana y permitir que la carta la distorsione, la CR comienza con una ley objetivo especificada por el usuario para el radio geodésico $R \sim p_{R,\theta}$ en la variedad. Luego, construye una distribución base isotrópica específica en el espacio tangente tal que, tras el mapeo a través de cualquier carta azimutal con Jacobiano escalar, la densidad resultante en la variedad dependa de la muestra únicamente a través del radio geodésico $R$.

Formulación Matemática

Para una carta azimutal con Jacobiano escalar $T$ con Jacobiano radial $J_T(r)$ y mapa de radio $R_T(r) = d(p, T(ru))$, la densidad base de CR $f_\theta(x)$ en el espacio tangente $T_pM \cong \mathbb{R}^n$ se define como:
$$f_\theta(x) = \phi_\theta(R_T(\|x\|)) J_T(\|x\|)$$
donde $\phi_\theta(R)$ es la densidad en la variedad objetivo derivada de la ley radial especificada por el usuario $p_{R,\theta}$ y el elemento de volumen de la variedad (específicamente, $\phi_\theta(R) = p_{R,\theta}(R) / S_\kappa(R)$, donde $S_\kappa$ es el área de la esfera geodésica).

Esta construcción garantiza:

• Verosimilitudes Geodésico-Radiales: La densidad empujada hacia adelante en la variedad es $\rho_\theta(q) = \phi_\theta(d(p, q))$.
• Invarianza de la Carta: La densidad en la variedad realizada y la información de Fisher radial son invariantes a la elección de la carta con Jacobiano escalar.
• Unicidad: Dentro de la clase de bases isotrópicas y cartas azimutales con Jacobiano escalar, la CR es la única construcción que preserva simultáneamente las verosimilitudes geodésico-radiales, la información de Fisher invariante a la carta y la isotropía del espacio tangente.

Cartas Exponenciales Equilibradas (bExp)

Para abordar el acondicionamiento numérico sin alterar el significado estadístico, los autores introducen la familia Exponencial Equilibrada ($bExp_\alpha$). Esta familia interpola entre:

• $\alpha = 0$: Cartas de área igual de Lambert (que preservan el volumen, $|\det| \equiv 1$).
• $\alpha = 1$: El mapa exponencial estándar (radios exactos geodésicos).

Bajo la CR, variar $\alpha$ actúa puramente como un precondicionador numérico. Ajusta el acondicionamiento de la optimización de la verosimilitud (reduciendo la varianza del término de la carta en el gradiente) sin cambiar la densidad en la variedad realizada. Teóricamente, la varianza del término de la carta escala como $O(\alpha^2)$.

3. Contribuciones Clave

1. Compensación Radial (CR): Un marco teórico y una receta práctica para pre-deformar la distribución base del espacio tangente de modo que el radio geodésico en la variedad siga una ley especificada por el usuario, independientemente de la carta utilizada.
2. Garantías Teóricas:
   • Teorema 1: Demuestra que bajo la CR, la información de Fisher y la divergencia KL en la variedad se reducen exactamente a sus contrapartes unidimensionales radiales, independientemente de la carta.
   • Teorema 2 y 3: Establecen que la CR es la solución única dentro de la clase escalar de Jacobiano isotrópico para lograr verosimilitudes geodésico-radiales e información de Fisher invariante a la carta.
   • Teorema 4 y 12: Caracterizan la familia $bExp_\alpha$ y demuestran que la varianza del término de la carta escala cuadráticamente con $\alpha$, permitiendo un ajuste numérico sin costo estadístico.
3. Cartas Exponenciales Equilibradas: Una nueva familia de cartas que permite a los usuarios intercambiar distorsión de volumen y fidelidad geodésica puramente para la estabilidad numérica.

4. Resultados Experimentales

Los autores evalúan la CR en variedades sintéticas ($S^2, H^2$) y en conjuntos de datos de imágenes estándar (MNIST, Fashion-MNIST, Omniglot, CIFAR-10) utilizando Autoencoders Variacionales en Variedades y Flujos Normalizadores Continuos (CNFs).

• Calibración Semántica: La CR recupera con éxito la ley de radio geodésico pretendida. En $S^2$ y $H^2$, la CR reduce la divergencia KL entre las distribuciones de radio realizadas y objetivo de $\approx 1.48$ y $0.28$ (para el envolvimiento exponencial crudo) a $\approx 10^{-3}$.
• Estabilidad Numérica:
  • En CNFs latentes de alta dimensión ($d_z \in \{32, 64, 128\}$), el envolvimiento exponencial crudo conduce a un entrenamiento inestable (explosiones de radio, excursiones del objetivo). Las variantes de CR permanecen estables bajo los mismos ajustes del solucionador.
  • Variar $\alpha$ en $bExp_\alpha$ reduce significativamente la varianza del término de la carta (por ejemplo, de 1.016 a 0.167 en CIFAR-10) y disminuye el número medio de evaluaciones de funciones (NFEs) para los solucionadores de EDO, lo que indica una reducción de la rigidez.
• Interpretabilidad de la Curvatura: En Autoencoders Variacionales de curvatura mixta, la CR previene la "absorción de curvatura", donde el modelo aprende curvaturas incorrectas para compensar las distorsiones de la carta. La CR produce curvaturas aprendidas que son menos compensatorias de la carta y mejora la ELBO en aproximadamente 7 nats (principalmente a través de un término KL más bajo).
• Verificaciones de Aplicación: La CR mantiene o mejora el rendimiento en flujos de WordNet hiperbólicos y modelos de orientación de proteínas en $S^3$, confirmando que el método se generaliza más allá del modelado del espacio latente a datos con estructura intrínseca de variedad.

5. Significado y Afirmaciones

El artículo afirma que la CR cambia fundamentalmente cómo deben construirse los modelos generativos basados en cartas:

• Desacoplamiento de Semántica y Numéricos: La CR separa el significado estadístico del modelo (la ley del radio geodésico) de su acondicionamiento numérico (la elección de la carta). La carta se convierte en un "precondicionador numérico" en lugar de una decisión de modelado oculta.
• Estabilidad e Interpretabilidad: Al eliminar la necesidad de que el modelo compense las distorsiones inducidas por la carta, la CR conduce a un entrenamiento más estable, estimaciones de curvatura más limpias y modelos donde los parámetros aprendidos tienen un significado geométrico directo e interpretable.
• Sustitución Directa: La CR no requiere cambios en la arquitectura, el decodificador, el solucionador o el objetivo generativo; es una modificación únicamente de la distribución base, lo que la convierte en una mejora práctica de "sustitución directa" para las herramientas existentes de flujo en variedades y Autoencoders Variacionales.

Los autores reconocen limitaciones: la teoría de invarianza exacta requiere un factor de volumen polar tratable y cartas azimutales con Jacobiano escalar. Señalan que para las Gaussianas analíticas por ejemplo (no isotrópicas), el exponencial envuelto estándar sigue siendo la herramienta apropiada, y escalar la CR a variedades sin volúmenes polares de forma cerrada es una dirección futura.