Rethinking the Flow-Based Gradual Domain Adaptation: A Semi-Dual Optimal Transport Perspective

Resumen Técnico: Replanteando la Adaptación de Dominio Gradual Basada en Flujos: Una Perspectiva de Transporte Óptimo Semi-Dual

Planteamiento del Problema
La Adaptación de Dominio Gradual (GDA, por sus siglas en inglés) tiene como objetivo cerrar la brecha distributiva entre un dominio fuente etiquetado y un dominio objetivo no etiquetado mediante la adaptación progresiva de modelos a través de una secuencia de dominios intermedios. Aunque los enfoques basados en flujos han ganado atención al sintetizar estos dominios intermedios mediante la interpolación entre las distribuciones de origen y de destino, enfrentan una limitación crítica: suelen depender de la estimación explícita de la función de densidad de probabilidad (PDF) del dominio objetivo. Los métodos existentes estiman la PDF del objetivo (por ejemplo, mediante score matching) para definir la fuerza impulsora (campo de velocidad) del flujo. Sin embargo, estimar las PDF a partir de muestras es un problema mal planteado; las imprecisiones en esta estimación pueden provocar que las muestras sean dirigidas hacia regiones de baja densidad, lo que resulta en un desajuste entre las muestras generadas y las reales del objetivo, degradando así el rendimiento en las tareas de clasificación.

Metodología: Marco E-SUOT
Para abordar la dependencia de la estimación explícita de la PDF y la inestabilidad de las formulaciones duales existentes, los autores proponen el Transporte Óptimo Desbalanceado Semi-Dual con Regularización de Entropía (E-SUOT). La metodología procede de la siguiente manera:

1. Reformulación como Optimización: Los autores reconfiguran el problema de GDA basado en flujos, tradicionalmente visto como un flujo de gradiente que minimiza una divergencia $f$, como un problema de optimización recursivo regularizado por la distancia 2-Wasserstein (un esquema de Jordan-Kinderlehrer-Otto). Esta formulación evita la necesidad de evaluar explícitamente la PDF.
2. Formulación Semi-Dual: Derivan una formulación semi-dual de este problema de optimización. A diferencia de las formulaciones primales que requieren la estimación de la densidad, el objetivo semi-dual depende únicamente de las expectativas sobre las muestras de origen y de destino. Esto permite el uso de métodos de Monte Carlo para aproximar las integrales sin acceder a la PDF del objetivo.
3. Abordaje de la Inestabilidad: La formulación semi-dual estándar implica una estructura compuesta de "sup–inf" (entrenamiento adversarial), la cual los autores demuestran que puede conducir a soluciones óptimas no únicas e inestabilidad en el entrenamiento. Para resolver esto, introducen un término de regularización de entropía en el objetivo primal.
4. Optimización Secuencial Estable: La regularización de entropía transforma el problema de min–max adversarial en un procedimiento de optimización secuencial estable. Teóricamente, esto asegura la unicidad de la solución óptima y garantiza la convergencia.
5. Flujo de Trabajo de Entrenamiento: El marco entrena dos redes neuronales de manera alternada:
   • Una función de potencial $w_\phi$ se optimiza para maximizar el objetivo semi-dual (que ahora incluye el término de entropía).
   • Un mapa de transporte $T_\theta$ se optimiza para minimizar el costo de transporte condicionado al potencial aprendido $w_\phi$.
   • Una vez aprendida la secuencia de mapas de transporte, el clasificador se ajusta etapa por etapa a lo largo de los dominios intermedios generados.

Contribuciones Clave

1. Formulación Semi-Dual: El artículo desarrolla una formulación semi-dual para la generación de dominios intermedios en GDA basada en flujos que elimina la necesidad de estimación explícita de la PDF del dominio objetivo, evitando así los errores asociados con la estimación de densidad.
2. Estabilidad con Regularización de Entropía: Los autores introducen un término de regularización de entropía para abordar la inestabilidad inherente y la no unicidad de la formulación semi-dual. Esto resulta en el novedoso marco E-SUOT, que garantiza una solución óptima única y un proceso de entrenamiento estable.
3. Análisis Teórico: El artículo proporciona pruebas teóricas respecto a la convergencia del marco E-SUOT y establece un límite superior en el error de generalización del modelo adaptado, vinculando el error con el costo de transporte acumulado y la continuidad de las etiquetas a lo largo de la ruta de adaptación.
4. Validación Empírica: Experimentos extensos en tareas de GDA (Retratos, MNIST con rotación) y tareas de Adaptación de Dominio No Supervisado (UDA) (Office-Home) demuestran que E-SUOT logra un rendimiento superior comparado con otros métodos de vanguardia, incluyendo el auto-entrenamiento (self-training), métodos basados en flujo de gradiente (GGF, CNF) y enfoques basados en transporte óptimo (MMDSW, SMMD).

Resultados Experimentales

• Tareas de GDA: En los conjuntos de datos de Retratos, MNIST $45^\circ$ y MNIST $60^\circ$, E-SUOT superó consistentemente a los modelos de referencia existentes. Por ejemplo, mejoró la precisión en un 21.5%, 23.4% y 38.6%, respectivamente, sobre el modelo base de solo origen (source-only), y superó a los segundos mejores métodos (ej., STDW, GOAT) en todos los conjuntos de datos.
• Tareas de UDA: En el conjunto de datos Office-Home, E-SUOT alcanzó la mejor precisión promedio entre los métodos comparados. Aunque no siempre fue el mejor ejecutor en cada dirección de transferencia específica, demostró una alta estabilidad y competitividad, obteniendo a menudo los segundos mejores resultados con brechas pequeñas respecto a los mejores métodos.
• Estudios de Ablación:
  • Eliminar la regularización de entropía (revirtiendo al entrenamiento adversarial) causó caídas significativas en el rendimiento, confirmando la necesidad de la regularización para la estabilidad.
  • El uso de divergencias $f$ alternativas (ej., $\chi^2$, Softplus) o estrategias de proyección baricéntrica resultó en un desempeño inferior comparado con el enfoque semi-dual basado en la divergencia KL propuesto.
  • El método mostró robustez ante variaciones en las dimensiones de la incrustación UMAP y en hiperparámetros como el tamaño del paso (step size) y el tamaño del lote (batch size).

Significancia y Reivindicaciones
El artículo afirma que E-SUOT hace avanzar el campo de la GDA al unificar los métodos basados en flujos y el transporte óptimo dentro de una formulación semi-dual. Identifica y resuelve problemas fundamentales de estabilidad y generalización que han limitado enfoques previos, específicamente la dependencia de una estimación de PDF inexacta y la inestabilidad del entrenamiento adversarial. Al proporcionar un marco basado en la entropía y con fundamentos teóricos, los autores argumentan que su enfoque ofrece un mecanismo más robusto y fiable para la construcción de dominios intermedios. El trabajo sugiere que evitar la estimación explícita de la densidad mientras se asegura una optimización estable es clave para una adaptación gradual efectiva, particularmente en escenarios donde los dominios intermedios no están disponibles o son difíciles de sintetizar. Los autores mantienen una postura modesta, reconociendo limitaciones como el supuesto de invarianza de etiquetas a lo largo de la ruta de transporte y la dependencia actual de un entrenamiento fuera de línea (offline) multietapa, sugiriendo direcciones futuras para incorporar información de etiquetas y mejorar la eficiencia de los parámetros.