Population-Based Multi-Objective Training of Discriminators for Semi-Supervised GANs

Resumen Técnico: Entrenamiento de Discriminadores Basado en Poblaciones y Multiobjetivo para SSL-GANs

Planteamiento del Problema
Las Redes Generativas Antagónicas Semisupervisadas (SSL-GANs) buscan aprovechar conjuntos de datos no etiquetados de gran tamaño mientras entrenan un discriminador que funciona simultáneamente como un clasificador para datos etiquetados y como un detector de muestras reales frente a generadas. Sin embargo, el entrenamiento de estos modelos suele ser inestable debido a la interacción no estacionaria entre el generador y el discriminador, lo que provoca problemas como el desvanecimiento del gradiente, el colapso de modo y la dinámica oscilatoria.

Los enfoques existentes, incluyendo los métodos coevolutivos recientes como CE-SSL-GAN, intentan estabilizar el entrenamiento manteniendo poblaciones de modelos. No obstante, estos métodos suelen agregar los objetivos supervisados (clasificación) y no supervisados (discriminación de real/falso) en una única función de pérdida escalar. Esta agregación impone un compromiso específico entre las dos tareas de aprendizaje distintas, lo que puede limitar la capacidad del modelo para explorar soluciones óptimas donde la precisión de la clasificación y la discriminación adversarial se equilibran de manera diferente.

Metodología: COMOD-SSLGAN
El artículo propone COMOD-SSLGAN (CO-evolutionary Multi-Objective Discriminator SSL-GAN), una estrategia de entrenamiento basada en poblaciones que reformula el aprendizaje del discriminador como un problema de optimización bi-objetivo explícito.

• Formulación Multiobjetivo: En lugar de sumar la pérdida supervisada ($L_{D,s}$) y la pérdida no supervisada ($L_{D,u}$), el método las trata como objetivos separados para ser minimizados simultáneamente: $\min_v (L_{D,s}(v), L_{D,u}(v; u))$.
• Coevolución Basada en Poblaciones: El algoritmo mantiene dos poblaciones de tamaño $\mu$: una para los generadores ($G$) y otra para los discriminadores ($D$).
• Evaluación Competitiva: Los individuos se evalúan mediante una política de enfrentamiento competitivo (específicamente "todos contra todos" en los experimentos). El rendimiento de un discriminador se evalúa contra múltiples generadores, y los objetivos se agregan a través de estos enfrentamientos para calcular el fitness.
• Selección Basada en Pareto: Los discriminadores se clasifican utilizando el dominio de Pareto basado en su vector bi-objetivo. Esto permite que la población mantenga un conjunto diverso de discriminadores que representan diferentes compromisos entre la precisión de la clasificación y la discriminación de real/falso. La diversidad se preserva utilizando criterios como la distancia de crowding, siguiendo el mecanismo de selección NSGA-II.
• Variación y Elitismo: El operador de variación aplica el Descenso de Gradiente Estocástico (SGD) como un mecanismo de mutación, entrenando pares de SSL-GAN acoplados durante un número determinado de épocas. Los autores también introducen una variante elitista, donde los mejores individuos de cada población se preservan sin cambios para la siguiente generación para mitigar la pérdida de soluciones de alta calidad debido al ruido estocástico.
• Selección del Generador: A diferencia del discriminador multiobjetivo, los generadores se seleccionan basándose en la minimización de una única pérdida agregada ($\hat{L}_G$).

Contribuciones Clave

1. Formulación Bi-Objetivo: Un novedoso marco de entrenamiento donde el aprendizaje del discriminador se separa en objetivos supervisados y no supervisados, evitando la agregación escalar.
2. Selección Basada en Pareto: Un mecanismo que preserva compromisos diversos entre las tareas de clasificación y discriminación durante el proceso coevolutivo.
3. Análisis Empírico: Una evaluación exhaustiva de las variantes evolutivas, incluyendo un análisis del impacto del tamaño de la población y la introducción de una estrategia de reemplazo elitista, comparada con la SSL-GAN estándar y la CE-SSL-GAN mono-objetivo.

Resultados Experimentales
Se realizaron experimentos con el conjunto de datos MNIST utilizando una configuración de etiquetas limitadas (100 muestras etiquetadas por clase). El estudio comparó el método propuesto contra la SSL-GAN estándar y CE-SSL-GAN a través de 30 ejecuciones independientes.

• Precisión de Clasificación: El método propuesto mejoró significativamente la precisión de clasificación del discriminador. La variante elitista alcanzó consistentemente la mayor precisión mediana (0.90 para $\mu=5$ y $\mu=7$), lo que representa una mejora relativa de aproximadamente un 20% sobre la línea base de la SSL-GAN estándar (0.75). Incluso la configuración base con $\mu=1$ (aislando el efecto de la selección de Pareto) mostró una mejora significativa (+9.33%), lo que sugiere que la formulación multiobjetivo en sí misma mejora la estabilidad.
• Calidad de la Muestra (SSIM): El Índice de Similitud Estructural (SSIM) para las muestras generadas también mejoró. Las configuraciones basadas en poblaciones alcanzaron valores medianos de SSIM entre 0.38 y 0.41, en comparación con el 0.32 de la línea base. Los mejores resultados se observaron con $\mu=9$ usando la variante CE-SSL-GAN, aunque la inspección visual indicó que todas las variantes coevolutivas produjeron muestras de calidad perceptual similar.
• Dinámica de Entrenamiento: El estudio observó que la precisión del discriminador tiende a alcanzar su pico temprano (épocas 10–20) y luego declina a medida que el generador produce muestras más realistas, haciendo que la tarea de discriminación sea más difícil. La estrategia elitista mitigó eficazmente esta degradación, manteniendo una mayor precisión a lo largo del entrenamiento en comparación con las variantes no elitistas.
• Tamaño de la Población: Aumentar el tamaño de la población más allá de cierto punto (por ejemplo, de $\mu=5$ a $\mu=9$) no produjo consistentemente mayores ganancias de rendimiento, lo que sugiere que el beneficio principal del entrenamiento basado en poblaciones proviene de mantener la diversidad y no simplemente de aumentar el número de individuos.

Significancia y Afirmaciones
El artículo afirma que formular el entrenamiento del discriminador como un problema de optimización multiobjetivo, combinado con la coevolución competitiva, proporciona un marco robusto para estabilizar el entrenamiento de las SSL-GAN. Los autores sostienen que:

• El mecanismo de selección basado en Pareto permite que el proceso de entrenamiento explore diferentes compromisos entre los objetivos supervisados y no supervisados, lo que conduce a clasificadores más precisos y estables.
• La estrategia elitista es particularmente efectiva para preservar soluciones de alta calidad, resultando en el desempeño de clasificación más consistente y una mayor estabilidad de entrenamiento.
• Si bien el entrenamiento basado en poblaciones mejora la consistencia de las muestras generadas, las ganancias más significativas se observan en la tarea de clasificación y en la robustez del proceso de entrenamiento.

Los autores concluyen que este enfoque ofrece una dirección prometedora para estabilizar las SSL-GAN, aunque señalan que se requiere trabajo futuro para validar estos hallazgos en conjuntos de datos más complejos (por ejemplo, CIFAR-10, SVHN) y para explorar formulaciones multiobjetivo para el entrenamiento del generador también.