Population-Based Multi-Objective Training of Discriminators for Semi-Supervised GANs

Résumé Technique : Entraînement Multi-Objectif Basé sur la Population des Discriminateurs pour les SSL-GAN

Énoncé du Problème
Les réseaux antagonistes génératifs semi-supervisés (SSL-GAN) visent à exploiter de grands ensembles de données non étiquetées tout en entraînant un discriminateur qui fonctionne simultanément comme un classificateur pour les données étiquetées et un détecteur de vrais versus faux échantillons. Cependant, l'entraînement de ces modèles est souvent instable en raison de l'interaction non stationnaire entre le générateur et le discriminateur, ce qui entraîne des problèmes tels que la disparition du gradient, l'effondrement de mode (mode collapse) et des dynamiques oscillatoires.

Les approches existantes, y compris les méthodes co-évolutives récentes comme CE-SSL-GAN, tentent de stabiliser l'entraînement en maintenant des populations de modèles. Cependant, ces méthodes agrègent généralement les objectifs supervisés (classification) et non supervisés (discrimination vrai/faux) en une seule fonction de perte scalaire. Cette agrégation impose un compromis spécifique entre les deux tâches d'apprentissage distinctes, ce qui peut limiter la capacité du modèle à explorer des solutions optimales où la précision de la classification et la discrimination antagoniste sont équilibrées différemment.

Méthodologie : COMOD-SSLGAN
Le papier propose COMOD-SSLGAN (CO-evolutionary Multi-Objective Discriminator SSL-GAN), une stratégie d'entraînement basée sur la population qui reformule l'apprentissage du discriminateur comme un problème d'optimisation bi-objectif explicite.

• Formulation Multi-Objectif : Au lieu de sommer la perte supervisée ($L_{D,s}$) et la perte non supervisée ($L_{D,u}$), la méthode les traite comme des objectifs séparés à minimiser simultanément : $\min_v (L_{D,s}(v), L_{D,u}(v; u))$.
• Co-évolution Basée sur la Population : L'algorithme maintient deux populations de taille $\mu$ : une pour les générateurs ($G$) et une pour les discriminateurs ($D$).
• Évaluation Compétitive : Les individus sont évalués via une politique de confrontation compétitive (spécifiquement "all-vs-all" dans les expériences). La performance d'un discriminateur est évaluée contre plusieurs générateurs, et les objectifs sont agrégés à travers ces confrontations pour calculer l'aptitude (fitness).
• Sélection Basée sur le Pareto : Les discriminateurs sont classés par dominance de Pareto basés sur leur vecteur bi-objectif. Cela permet à la population de maintenir un ensemble diversifié de discriminateurs représentant différents compromis entre la précision de la classification et la discrimination vrai/faux. La diversité est préservée en utilisant des critères tels que la distance de crowding, suivant le mécanisme de sélection NSGA-II.
• Variation et Élitisme : L'opérateur de variation applique la descente de gradient stochastique (SGD) comme mécanisme de mutation, entraînant des paires SSL-GAN couplées pendant un nombre défini d'époques. Les auteurs introduisent également une variante élitiste, où les meilleurs individus de chaque population sont préservés inchangés pour la génération suivante afin d'atténuer la perte de solutions de haute qualité due au bruit stochastique.
• Sélection du Générateur : Contrairement au discriminateur multi-objectif, les générateurs sont sélectionnés en minimisant une perte agrégée unique ($\hat{L}_G$).

Contributions Clés

1. Formulation Bi-Objectif : Un nouveau cadre d'entraînement où l'apprentissage du discriminateur est séparé en objectifs supervisés et non supervisés, évitant l'agrégation scalaire.
2. Sélection Basée sur le Pareto : Un mécanisme qui préserve des compromis diversifiés entre les tâches de classification et de discrimination pendant le processus de co-évolution.
3. Analyse Empirique : Une évaluation complète des variantes évolutives, incluant une analyse de l'impact de la taille de la population et de l'introduction d'une stratégie de remplacement élitiste, comparée au SSL-GAN standard et au CE-SSL-GAN mono-objectif.

Résultats Expérimentaux
Les expériences ont été menées sur le jeu de données MNIST dans un contexte de labels limités (100 échantillons étiquetés par classe). L'étude a comparé la méthode proposée au SSL-GAN standard et au CE-SSL-GAN sur 30 passages indépendants.

• Précision de la Classification : La méthode proposée a considérablement amélioré la précision de classification du discriminateur. La variante élitiste a systématiquement atteint la précision médiane la plus élevée (0,90 pour $\mu=5$ et $\mu=7$), représentant une amélioration relative d'environ 20 % par rapport à la ligne de base SSL-GAN standard (0,75). Même la configuration de base avec $\mu=1$ (isolant l'effet de la sélection de Pareto) a montré une amélioration significative (+9,33 %), suggérant que la formulation multi-objectif elle-même améliore la stabilité.
• Qualité des Échantillons (SSIM) : L'indice de similitude structurelle (SSIM) pour les échantillons générés s'est également amélioré. Les configurations basées sur la population ont atteint des valeurs médianes de SSIM comprises entre 0,38 et 0,41, contre 0,32 pour la ligne de base. Les meilleurs résultats ont été observés avec $\mu=9$ en utilisant la variante CE-SSL-GAN, bien que l'inspection visuelle indique que toutes les variantes co-évolutives produisent des échantillons de qualité perceptuelle similaire.
• Dynamiques d'Entraînement : L'étude a observé que la précision du discriminateur a tendance à culminer tôt (époques 10–20) puis à décliner à mesure que le générateur produit des échantillons plus réalistes, rendant la tâche de discrimination plus difficile. La stratégie élitiste a efficacement atténué cette dégradation, maintenant une précision plus élevée tout au long de l'entraînement par rapport aux variantes non élitistes.
• Taille de la Population : Augmenter la taille de la population au-delà d'un certain point (par exemple, de $\mu=5$ à $\mu=9$) n'a pas systématiquement produit de gains de performance supplémentaires, suggérant que le principal bénéfice de l'entraînement basé sur la population provient du maintien de la diversité plutôt que de la simple augmentation du nombre d'individus.

Signification et Revendications
L'article affirme que la formulation de l'entraînement du discriminateur comme un problème d'optimisation multi-objectif, combinée à une co-évolution compétitive, fournit un cadre robuste pour stabiliser l'entraînement des SSL-GAN. Les auteurs soutiennent que :

• Le mécanisme de sélection basé sur le Pareto permet au processus d'entraînement d'explorer différents compromis entre les objectifs supervisés et non supervisés, conduisant à des classificateurs plus précis et plus stables.
• La stratégie élitiste est particulièrement efficace pour préserver les solutions de haute qualité, résultant en une performance de classification plus cohérente et une plus grande stabilité de l'entraînement.
• Bien que l'entraînement basé sur la population améliore la cohérence des échantillons générés, les gains les plus significatifs sont observés dans la tâche de classification et la robustesse du processus d'entraînement.

Les auteurs concluent que cette approche offre une direction prometteuse pour stabiliser les SSL-GAN, tout en notant que des travaux futurs sont nécessaires pour valider ces résultats sur des jeux de données plus complexes (par exemple, CIFAR-10, SVHN) et pour explorer les formulations multi-objectifs pour l'entraînement du générateur également.