Population-Based Multi-Objective Training of Discriminators for Semi-Supervised GANs

Sintesi Tecnica: Addestramento Multi-Obiettivo basato su Popolazione per Discriminatori in SSL-GAN

Definizione del Problema
Le Reti Generative Avversarie Semi-Supervisionate (SSL-GAN) mirano a sfruttare ampi dataset non etichettati per addestrare un discriminatore che funzioni simultaneamente come classificatore per i dati etichettati e come rilevatore di campioni reali rispetto a quelli generati. Tuttavia, l'addestramento di questi modelli è spesso instabile a causa dell'interazione non stazionaria tra il generatore e il discriminatore, che porta a problemi quali la scomparsa del gradiente (vanishing gradients), il collasso della moda (mode collapse) e dinamiche oscillanti.

Gli approcci esistenti, inclusi i recenti metodi co-evolutivi come CE-SSL-GAN, tentano di stabilizzare l'addestramento mantenendo popolazioni di modelli. Tuttavia, questi metodi tipicamente aggregano gli obiettivi supervisionati (classificazione) e non supervisionati (discriminazione reale/falsa) in una singola funzione di perdita scalare. Questa aggregazione impone un compromesso specifico tra le due distinte attività di apprendimento, limitando potenzialmente la capacità del modello di esplorare soluzioni ottimali in cui la precisione di classificazione e la discriminazione avversaria sono bilanciate diversamente.

Metodologia: COMOD-SSLGAN
Il documento propone COMOD-SSLGAN (CO-evolutionary Multi-Objective Discriminator SSL-GAN), una strategia di addestramento basata su popolazioni che riformula l'apprendimento del discriminatore come un problema di ottimizzazione bi-obiettivo esplicito.

• Formulazione Multi-Obiettivo: Invece di sommare la perdita supervisionata ($L_{D,s}$) e la perdita non supervisionata ($L_{D,u}$), il metodo le tratta come obiettivi separati da minimizzare simultaneamente: $\min_v (L_{D,s}(v), L_{D,u}(v; u))$.
• Co-evoluzione basata su Popolazione: L'algoritmo mantiene due popolazioni di dimensione $\mu$: una per i generatori ($G$) e una per i discriminatori ($D$).
• Valutazione Competitiva: Gli individui sono valutati attraverso una politica di confronto competitivo (specificamente "all-vs-all" negli esperimenti). Le prestazioni di un discriminatore sono valutate contro più generatori, e gli obiettivi vengono aggregati attraverso questi confronti per calcolare il fitness.
• Selezione basata su Pareto: I discriminatori sono classificati tramite dominanza di Pareto basata sul loro vettore bi-obiettivo. Ciò consente alla popolazione di mantenere un set diversificato di discriminatori che rappresentano diversi compromessi tra precisione di classificazione e discriminazione avversaria. La diversità è preservata utilizzando criteri come la distanza di crowding, seguendo il meccanismo di selezione NSGA-II.
• Variazione ed Elitismo: L'operatore di variazione applica la Discesa del Gradiente Stocastico (SGD) come meccanismo di mutazione, addestrando coppie accoppiate SSL-GAN per un numero prestabilito di epoche. Gli autori introducono inoltre una variante elitista, in cui i migliori individui in ogni popolazione sono preservati invariati per la generazione successiva per mitigare la perdita di soluzioni di alta qualità dovuta al rumore stocastico.
• Selezione del Generatore: A differenza del discriminatore multi-obiettivo, i generatori sono selezionati in base a una singola perdita aggregata ($\hat{L}_G$).

Contributi Chiave

1. Formulazione Bi-Obiettivo: Un nuovo framework di addestramento in cui l'apprendimento del discriminatore è separato in obiettivi supervisionati e non supervisionati, evitando l'aggregazione scalare.
2. Selezione basata su Pareto: Un meccanismo che preserva diversi compromessi tra le attività di classificazione e discriminazione durante il processo co-evolutivo.
3. Analisi Empirica: Una valutazione completa delle varianti evolutive, inclusa un'analisi dell'impatto della dimensione della popolazione e dell'introduzione di una strategia di sostituzione elitista, confrontata con lo standard SSL-GAN e il mono-obiettivo CE-SSL-GAN.

Risultati Sperimentali
Gli esperimenti sono stati condotti sul dataset MNIST in un contesto di etichette limitate (100 campioni etichettati per classe). Lo studio ha confrontato il metodo proposto con lo standard SSL-GAN e CE-SSL-GAN su 30 esecuzioni indipendenti.

• Precisione di Classificazione: Il metodo proposto ha migliorato significativamente la precisione di classificazione del discriminatore. La variante elitista ha costantemente raggiunto la precisione mediana più elevata (0.90 per $\mu=5$ e $\mu=7$), rappresentando un miglioramento relativo di circa il 20% rispetto alla baseline standard SSL-GAN (0.75). Anche la configurazione base con $\mu=1$ (che isola l'effetto della selezione di Pareto) ha mostrato un miglioramento significativo (+9.33%), suggerendo che la formulazione multi-obiettivo stessa migliora la stabilità.
• Qualità del Campione (SSIM): Anche l'indice di somiglianza strutturale (SSIM) per i campioni generati è migliorato. Le configurazioni basate su popolazione hanno raggiunto valori mediani di SSIM compresi tra 0.38 e 0.41, rispetto allo 0.32 della baseline. I migliori risultati sono stati osservati con $\mu=9$ utilizzando la variante CE-SSL-GAN, sebbene l'ispezione visiva abbia indicato che tutte le varianti co-evolutive producevano campioni di qualità percettiva simile.
• Dinamiche di Addestramento: Lo studio ha osservato che l'accuratezza del discriminatore tende a raggiungere il picco precocemente (epoche 10–20) per poi declinare man mano che il generatore produce campioni più realistici, rendendo l'attività di discriminazione più difficile. La strategia elitista ha mitigato efficacemente questo degrado, mantenendo un'accuratezza più elevata durante tutto l'addestramento rispetto alle varianti non elitiste.
• Dimensione della Popolazione: Aumentare la dimensione della popolazione oltre un certo punto (ad esempio, da $\mu=5$ a $\mu=9$) non ha prodotto costantemente ulteriori guadagni di prestazioni, suggerendo che il beneficio primario dell'addestramento basato su popolazione derivi dal mantenimento della diversità piuttosto che dal semplice aumento del numero di individui.

Significatività e Rivendicazioni
Il documento sostiene che formulare l'addestramento del discriminatore come un problema di ottimizzazione multi-obiettivo, combinato con la co-evoluzione competitiva, fornisca un framework robusto per stabilizzare l'addestramento di SSL-GAN. Gli autori affermano che:

• Il meccanismo di selezione basato su Pareto permette al processo di addestramento di esplorare diversi compromessi tra gli obiettivi supervisionati e non supervisionati, portando a classificatori più accurati e stabili.
• La strategia elitista è particolarmente efficace nel preservare soluzioni di alta qualità, risultando nella performance di classificazione più costante e nella stabilità dell'addestramento.
• Sebbene l'addestramento basato su popolazione migliori la coerenza dei campioni generati, i guadagni più significativi si osservano nel compito di classificazione e nella robustezza del processo di addestramento.

Gli autori concludono che questo approccio offre una direzione promettente per stabilizzare le SSL-GAN, pur notando che è necessario ulteriore lavoro per validare queste scoperte su dataset più complessi (ad esempio, CIFAR-10, SVHN) ed esplorare formulazioni multi-obiettivo per l'addestramento del generatore.