Population-Based Multi-Objective Training of Discriminators for Semi-Supervised GANs

Resumo Técnico: Treinamento de Discriminadores de Múltiplos Objetivos Baseado em População para SSL-GANs

Definição do Problema
As Redes Adversárias Generativas Semisupervisionadas (SSL-GANs) visam aproveitar conjuntos de dados não rotulados de grande escala enquanto treinam um discriminador que funciona simultaneamente como um classificador para dados rotulados e um detector de amostras reais versus geradas. No entanto, o treinamento desses modelos é frequentemente instável devido à interação não estacionária entre o gerador e o discriminador, levando a problemas como desaparecimento de gradiente (vanishing gradients), colapso de modo (mode collapse) e dinâmica oscilatória.

Abordagens existentes, incluindo métodos coevolucionários recentes como o CE-SSL-GAN, tentam estabilizar o treinamento mantendo populações de modelos. Contudo, esses métodos tipicamente agregam os objetivos supervisionados (classificação) e não supervisionados (discriminação real/falsa) em uma única função de perda escalar. Essa agregação força um compromisso (trade-off) específico entre as duas tarefas de aprendizado distintas, o que pode limitar a capacidade do modelo de explorar soluções ótimas onde a precisão de classificação e a discriminação adversária são equilibradas de formas diferentes.

Metodologia: COMOD-SSLGAN
O artigo propõe o COMOD-SSLGAN (CO-evolutionary Multi-Objective Discriminator SSL-GAN), uma estratégia de treinamento baseado em população que reformula o aprendizado do discriminador como um problema de otimização de bi-objetivo explícito.

• Formulação de Múltiplos Objetivos: Em vez de somar a perda supervisionada ($L_{D,s}$) e a perda não supervisionada ($L_{D,u}$), o método as trata como objetivos separados a serem minimizados simultaneamente: $\min_v (L_{D,s}(v), L_{D,u}(v; u))$.
• Coevolução Baseada em População: O algoritmo mantém duas populações de tamanho $\mu$: uma para geradores ($G$) e outra para discriminadores ($D$).
• Avaliação Competitiva: Os indivíduos são avaliados através de uma política de confronto competitivo (especificamente "todos contra todos" nos experimentos). O desempenho de um discriminador é avaliado contra múltiplos geradores, e os objetivos são agregados através desses confrontos para calcular o fitness.
• Seleção Baseada em Pareto: Os discriminadores são classificados usando dominância de Pareto com base em seu vetor de bi-objetivo. Isso permite que a população mantenha um conjunto diversificado de discriminadores que representam diferentes equilíbrios entre precisão de classificação e discriminação adversária. A diversidade é preservada usando critérios como distância de agrupamento (crowding distance), seguindo o mecanismo de seleção NSGA-II.
• Variação e Elitismo: O operador de variação aplica o Gradiente Descendente Estocástico (SGD) como um mecanismo de mutação, treinando pares acoplados de SSL-GAN por um número definido de épocas. Os autores também introduzem uma variante elitista, onde os melhores indivíduos em cada população são preservados inalterados para a próxima geração para mitigar a perda de soluções de alta qualidade devido ao ruído estocástico.
• Seleção de Gerador: Ao contrário do discriminador de múltiplos objetivos, os geradores são selecionados com base em uma única perda agregada ($\hat{L}_G$).

Principais Contribuições

1. Formulação de Bi-Objetivo: Um novo framework de treinamento onde o aprendizado do discriminador é separado em objetivos supervisionados e não supervisionados, evitando a agregação escalar.
2. Seleção Baseada em Pareto: Um mecanismo que preserva diversos equilíbrios entre as tarefas de classificação e discriminação durante o processo coevolucionário.
3. Análise Empírica: Uma avaliação abrangente das variantes evolutivas, incluindo uma análise do impacto do tamanho da população e da introdução de uma estratégia de substituição elitista, comparada ao SSL-GAN padrão e ao CE-SSL-GAN mono-objetivo.

Resultados Experimentais
Experimentos foram conduzidos no conjunto de dados MNIST usando uma configuração de rótulos limitados (100 amostras rotuladas por classe). O estudo comparou o método proposto contra o SSL-GAN padrão e o CE-SSL-GAN ao longo de 30 execuções independentes.

• Precisão de Classificação: O método proposto melhorou significativamente a precisão de classificação do discriminador. A variante elitista alcançou consistentemente a maior mediana de precisão (0,90 para $\mu=5$ e $\mu=7$), representando uma melhoria relativa de aproximadamente 20% sobre o baseline do SSL-GAN padrão (0,75). Mesmo a configuração base com $\mu=1$ (isolando o efeito da seleção de Pareto) mostrou uma melhoria significativa (+9,33%), sugerindo que a própria formulação de múltiplos objetivos aumenta a estabilidade.
• Qualidade de Amostra (SSIM): O Índice de Similaridade Estrutural (SSIM) para as amostras geradas também melhorou. As configurações baseadas em população alcançaram valores medianos de SSIM entre 0,38 e 0,41, comparados a 0,32 do baseline. Os melhores resultados foram observados com $\mu=9$ usando a variante CE-SSL-GAN, embora a inspeção visual indicasse que todas as variantes coevolucionárias produziram amostras de qualidade perceptual semelhante.
• Dinâmica de Treinamento: O estudo observou que a precisão do discriminador tende a atingir o pico cedo (épocas 10–20) e depois declinar conforme o gerador produz amostras mais realistas, tornando a tarefa de discriminação mais difícil. A estratégia elitista mitigou efetivamente essa degradação, mantendo uma precisão mais alta durante todo o treinamento em comparação com as variantes não elitistas.
• Tamanho da População: Aumentar o tamanho da população além de um certo ponto (por exemplo, de $\mu=5$ para $\mu=9$) não resultou consistentemente em novos ganhos de desempenho, sugerindo que o principal benefício do treinamento baseado em população advém da manutenção da diversidade, e não simplesmente do aumento do número de indivíduos.

Significância e Alegações
O artigo afirma que formular o treinamento do discriminador como um problema de otimização de múltiplos objetivos, combinado com a coevolução competitiva, fornece um framework robusto para estabilizar o treinamento de SSL-GANs. Os autores afirmam que:

• O mecanismo de seleção baseado em Pareto permite que o processo de treinamento explore diferentes equilíbrios entre os objetivos supervisionados e não supervisionados, levando a classificadores mais precisos e estáveis.
• A estratégia elitista é particularmente eficaz em preservar soluções de alta qualidade, resultando na performance de classificação mais consistente e na estabilidade do treinamento.
• Embora o treinamento baseado em população melhore a consistência das amostras geradas, os ganhos mais significativos são observados na tarefa de classificação e na robustez do processo de treinamento.

Os autores concluem que esta abordagem oferece uma direção promissora para estabilizar SSL-GANs, embora notem que trabalhos futuros são necessários para validar esses achados em conjuntos de dados mais complexos (ex: CIFAR-10, SVHN) e para explorar formulações de múltiplos objetivos para o treinamento do gerador também.