Population-Based Multi-Objective Training of Discriminators for Semi-Supervised GANs

Technische Samenvatting: Populatiegebaseerde Multi-Objective Training van Discriminators voor Semi-Supervised GANs

Probleemstelling
Semi-supervised Generative Adversarial Networks (SSL-GANs) beogen gebruik te maken van grote ongelabelde datasets door een discriminator te trainen die tegelijkertijd fungeert als een classifier voor gelabelde data en als een detector voor echt versus gegenereerd materiaal. Het trainen van deze modellen is echter vaak instabiel vanwege de niet-stationaire interactie tussen de generator en de discriminator, wat leidt tot problemen zoals verdwijnende gradiënten (vanishing gradients), mode collapse en oscillerende dynamiek.

Bestaande benaderingen, inclusief recente co-evolutionaire methoden zoals CE-SSL-GAN, proberen de training te stabiliseren door populaties van modellen te onderhouden. Deze methoden aggregeren echter doorgaans de gesuperviseerde (classificatie) en ongesuperviseerde (echt/nep discriminatie) doelstellingen tot een enkele scalaire verliesfunctie. Deze aggregatie dwingt een specifieke afweging af tussen de twee verschillende leertaken, wat het vermogen van het model kan beperken om optimale oplossingen te verkennen waar de classificatienauwkeurigheid en de adversariële discriminatie verschillend in balans zijn.

Methodologie: COMOD-SSLGAN
Het artikel stelt COMOD-SSLGAN (CO-evolutionary Multi-Objective Discriminator SSL-GAN) voor, een populatiegebaseerde trainingsstrategie die het leren van de discriminator herformuleert als een expliciet bi-objectief optimalisatieprobleem.

• Multi-Objective Formulering: In plaats van de gesuperviseerde verliesfunctie ($L_{D,s}$) en de ongesuperviseerde verliesfunctie ($L_{D,u}$) op te tellen, behandelt de methode deze als afzonderlijke doelstellingen die simultaan geminimaliseerd moeten worden: $\min_v (L_{D,s}(v), L_{D,u}(v; u))$.
• Populatiegebaseerde Co-evolutie: Het algoritme onderhoudt twee populaties van grootte $\mu$: één voor generatoren ($G$) en één voor discriminators ($D$).
• Competitieve Evaluatie: Individuen worden geëvalueerd via een competitief matchup-beleid (specifiek "all-vs-all" in de experimenten). De prestaties van een discriminator worden beoordeeld tegenover meerdere generatoren, en doelstellingen worden geaggregeerd over deze matchups om fitness te berekenen.
• Pareto-gebaseerde Selectie: Discriminators worden gerangschikt met behulp van Pareto-dominantie op basis van hun bi-objectieve vector. Dit stelt de populatie in staat om een diverse set discriminators te behouden die verschillende afwegingen vertegenwoordigen tussen classificatie-nauwkeurigheid en echt/nep discriminatie. Diversiteit wordt behouden met criteria zoals crowding distance, volgens het NSGA-II selectiemechanisme.
• Variatie en Elitisme: De variatie-operator past Stochastic Gradient Descent (SGD) toe als een mutatiemechanisme, waarbij gekoppelde SSL-GAN paren gedurende een vast aantal epochs wordt getraind. De auteurs introduceren ook een elitair variant, waarbij de beste individuen in elke populatie ongewijzigd worden behouden voor de volgende generatie om het verlies van hoogwaardige oplossingen door stochastische ruis te beperken.
• Generator Selectie: In tegen tegenstelling tot de multi-objective discriminator, worden generatoren geselecteerd op basis van het minimaliseren van een enkele geaggregeerde verliesfunctie ($\hat{L}_G$).

Belangrijkste Bijdragen

1. Bi-Objective Formulering: Een nieuwe trainingsframework waarbij het leren van de discriminator wordt gescheiden in gesuperviseerde en ongesuperviseerde doelstellingen, waardoor scalaire aggregatie wordt vermeden.
2. Pareto-gebaseerde Selectie: Een mechanisme dat diverse afwegingen tussen classificatie- en discriminatietaken behoudt tijdens het co-evolutionaire proces.
3. Empirische Analyse: Een uitgebreide evaluatie van evolutionaire varianten, inclusief een analyse van de impact van populatiegrootte en de introductie van een elitair vervangingsbeleid, vergeleken met de standaard SSL-GAN en de mono-objectieve CE-SSL-GAN.

Experimentele Resultaten
Experimenten werden uitgevoerd op de MNIST-dataset in een setting met beperkte labels (100 gelabelde samples per klasse). De studie vergeleken de voorgestelde methode met de standaard SSL-GAN en CE-SSL-GAN over 30 onafhankelijke runs.

• Classificatienauwkeurigheid: De voorgestelde methode verbeterde de classificatienauwkeurigheid van de discriminator aanzienlijk. De elitair variant behaalde consequent de hoogste mediane nauwkeurigheid (0.90 voor $\mu=5$ en $\mu=7$), wat een relatieve verbetering van ongeveer 20% betekent ten opzichte van de standaard SSL-GAN baseline (0.75). Zelfs de basisconfiguratie met $\mu=1$ (om het effect van Pareto-selectie te isoleren) vertoonde een significante verbetering (+9.33%), wat suggereert dat de multi-objective formulering zelf de stabiliteit bevordert.
• Sample Kwaliteit (SSIM): De Structural Similarity Index Measure (SSIM) voor de gegenereerde samples verbeterde eveneens. Populatiegebaseerde configuraties behaalden mediane SSIM-waarden tussen 0.38 en 0.41, vergeleken met 0.32 voor de baseline. De beste resultaten werden waargenomen met $\mu=9$ met de CE-SSL-GAN variant, hoewel visuele inspectie aangaf dat alle co-evolutionaire varianten samples van vergelijkbare perceptuele kwaliteit produceerden.
• Trainingsdynamiek: De studie observeerde dat de discriminator-nauwkeurigheid de neiging heeft om vroeg te pieken (epochs 10–20) en vervolgens af te nemen naarmate de generator realistischere samples produceert, waardoor de discriminatie-taak moeilijker wordt. De elitair strategie mitigeerde deze degradatie effectief, waardoor een hogere nauwkeurigheid werd behouden gedurende de training vergeleken met niet-elitair varianten.
• Populatiegrootte: Het vergroten van de populatiegrootte voorbij een bepaald punt (bijv. van $\mu=5$ naar $\mu=9$) leverde niet consistent verdere prestatiewinsten op, wat suggereert dat het primaire voordeel van populatiegebaseerde training voortkomt uit het behouden van diversiteit in plaats van simpelweg het verhogen van het aantal individuen.

Betekenis en Claims
Het artikel beweert dat het formuleren van discriminator-training als een multi-objective optimalisatieprobleem, gecombineerd met competitieve co-evolutie, een robuust framework biedt voor het stabiliseren van de SSL-GAN training. De auteurs stellen dat:

• Het Pareto-gebaseerde selectiemechanisme het trainingsproces in staat stelt om verschillende afwegingen tussen gesuperviseerde en ongesuperviseerde doelstellingen te verkennen, wat leidt tot nauwkeurigere en stabielere classifiers.
• De elitair strategie bijzonder effectief is in het behouden van hoogwaardige oplossingen, wat resulteert in een meer consistente classificatieprestatie en trainingsstabiliteit.
• Hoewel populatiegebaseerde training de consistentie van gegenereerde samples verbetert, worden de meest significante winsten waargenomen in de classificatietaak en de robuustheid van het trainingsproces.

De auteurs concluderen dat deze aanpak een veelbelovende richting biedt voor het stabiliseren van SSL-GANs, hoewel zij opmerken dat toekomstig werk vereist is om deze bevindingen op complexere datasets (bijv. CIFAR-10, SVHN) te valideren en om multi-objective formuleringen voor generator-training te verkennen.