Population-Based Multi-Objective Training of Discriminators for Semi-Supervised GANs

기술 요약: 준지도 학습 GAN을 위한 인구 기반 다목적 판별기 훈련

문제 정의
준지도 생성적 적대 신경망(Semi-supervised Generative Adversarial Networks, SSL-GANs)은 대규모의 레이블이 없는 데이터셋을 활용하면서, 레이블이 있는 데이터에 대한 분류기이자 실제와 생성된 샘플을 구분하는 탐지기로서 동시에 기능하는 판별기를 훈련하는 것을 목표로 한다. 그러나 이러한 모델의 훈련은 생성자와 판별기 사이의 비정상적(non-stationary) 상호작용으로 인해 불안정한 경우가 많으며, 이는 기울기 소실(vanishing gradients), 모드 붕괴(mode collapse), 진동 역학(oscillatory dynamics) 등의 문제로 이어진다.

CE-SSL-GAN과 같은 최근의 공진화(co-evolutionary) 방법들을 포함한 기존 접근 방식들은 모델의 인구(populations)를 유지함으로써 훈련을 안정화하려고 시도한다. 하지만 이러한 방법들은 일반적으로 지도 학습(분류) 목적 함수와 비지도 학습(실제/가짜 판별) 목적 함수를 하나의 스칼라 손실 함수로 통합한다. 이러한 통합은 두 가지 서로 다른 학습 과제 사이에 특정한 트레이드오프를 강요하며, 이는 분류 정확도와 적대적 판별 사이의 균형이 다르게 조절되는 최적의 솔루션을 탐색하는 모델의 능력을 제한할 수 있다.

방법론: COMOD-SSLGAN
본 논문은 COMOD-SSLGAN(CO-evolutionary Multi-Objective Discriminator SSL-GAN)을 제안하며, 이는 판별기 학습을 명시적인 이중 목적 최적화(bi-objective optimization) 문제로 재구성하는 인구 기반 훈련 전략이다.

• 다목적 정식화 (Multi-Objective Formulation): 이 방법은 지도 손실($L_{D,s}$)과 비지도 손실($L_{D,u}$)을 합산하는 대신, 이를 동시에 최소화해야 하는 별개의 목적으로 취급한다: $\min_v (L_{D,s}(v), L_{D,u}(v; u))$.
• 인구 기반 공진화 (Population-Based Co-evolution): 알고리즘은 생성기($G$)와 판별기($D$)를 위한 크기 $\mu$의 두 인구를 유지한다.
• 경쟁적 평가 (Competitive Evaluation): 개체들은 경쟁적 매치업 정책(실험에서는 "all-vs-all" 적용)을 통해 평가된다. 판별기의 성능은 여러 생성기에 대해 평가되며, 이러한 매치업을 통해 목적 함수들이 집계되어 적합도(fitness)를 계산한다.
• 파레토 기반 선택 (Pareto-Based Selection): 판별기들은 이중 목적 벡터를 기준으로 파레토 지배(Pareto dominance)를 사용하여 순위가 매겨진다. 이를 통해 분류 정확도와 적대적 판별 사이의 다양한 트레이드오프를 나타내는 판별기 집단을 유지할 수 있다. 다양성은 NSGA-II 선택 메커니즘을 따라 크라우딩 거리(crowding distance)와 같은 기준을 통해 보존된다.
• 변이 및 엘리트주의 (Variation and Elitism): 변이 연산자는 SGD를 변이 메커니즘으로 적용하여 결합된 SSL-GAN 쌍을 일정 수의 에포크 동안 훈련시킨다. 저자들은 또한 고품질의 솔루션이 확률적 노이즈로 인해 손실되는 것을 방지하기 위해, 각 인구의 최적 개체를 변경 없이 다음 세대로 보존하는 **엘리트 변이(elitist variant)**를 도입한다.
• 생성기 선택 (Generator Selection): 다목적 판별기와 달리, 생성기는 단일 집계 손실($\hat{L}_G$)을 최소화하는 것을 기준으로 선택된다.

주요 기여

1. 이중 목적 정식화: 지도 학습과 비지도 학습 목적을 분리하여 스칼라 집계를 피하는 새로운 훈련 프레임워크를 제공한다.
2. 파레토 기반 선택: 분류와 판별이라는 두 가지 과제 사이의 다양한 트레이드오프를 공진화 과정 중에 보존하는 메커니즘을 제공한다.
3. 실증적 분석: 표준 SSL-GAN 및 단일 목적 CE-SSL-GAN과 비교하여 진화적 변형들에 대한 포괄적인 평가, 인구 크기의 영향 분석, 그리고 엘리트 교체 전략의 도입에 대한 분석을 수행하였다.

실험 결과
실험은 MNIST 데이터셋에서 제한된 레이블 설정(클래스당 100개의 레이블 샘로 샘플)을 대상으로 수행되었다. 연구는 제안된 방법을 표준 SSL-GAN 및 CE-SSL-GAN과 비교하여 30회의 독립적인 실행에 걸쳐 검증하였다.

• 분류 정확도 (Classification Accuracy): 제안된 방법은 판별기의 분류 정확도를 유의미하게 향 향상시켰다. 엘리트 변이는 $\mu=5$ 및 $\mu=7$에서 가장 높은 중앙값 정확도(0.90)를 지속적으로 달성하였으며, 이는 표준 SSL-GAN 베이스라인(0.75) 대비 약 **20%**의 상대적 개선을 나타낸다. 파레토 선택의 효과를 격리한 기본 구성인 $\mu=1$조차도 상당한 개선(+9.33%)을 보여주었으며, 이는 다목적 정식화 자체가 안정성을 높인다는 것을 시사한다.
• 샘플 품질 (SSIM): 생성된 샘플의 구조적 유사도 지수(SSIM) 또한 개선되었다. 인구 기반 구성은 베이스라인의 0.32와 비교하여 0.38에서 0.41 사이의 중앙값 SSIM 값을 달성했다. 가장 좋은 결과는 CE-SSL-GAN 변형을 사용한 $\mu=9$에서 관찰되었으나, 시각적 검사 결과 모든 공진화 변형이 유사한 지각적 품질의 샘플을 생성함을 확인했다.
• 훈련 역학 (Training Dynamics): 판별기 정확도는 초기(에포크 10–20)에 정점에 도달한 후, 생성기가 더 실제적인 샘플을 생성함에 따라 감소하는 경향을 보였다. 엘리트 전략은 이러한 저하를 효과적으로 완화하여 훈련 전반에 걸쳐 더 높은 정확도를 유지했다.
• 인구 크기 (Population Size): 인구 크기를 특정 지점(예: $\mu=5$에서 $\mu=9$로) 이상으로 늘리는 것이 일관된 성능 향상을 가져오지는 않았으며, 이는 인구 기반 훈련의 주요 이점이 단순히 개체 수를 늘리는 것이 아니라 다양성을 유지하는 데 있음을 시사한다.

의의 및 주장
본 논문은 판별기 훈련을 다목적 최적화 문제로 정식화하는 것이 경쟁적 공진화를 결합했을 때 SSL-GAN 훈련을 안정화하기 위한 견고한 프레임워크를 제공한다고 주장한다. 저자들은 다음과 같이 단언한다:

• 파레토 기반 선택 메커니즘은 훈련 과정이 지도 학습과 비지도 학습 목적 사이의 다양한 트레이드오프를 탐색할 수 있게 하여, 더 정확하고 안정적인 분류기를 만든다.
• 엘리트 전략은 고품질 솔루션을 보존하는 데 특히 효과적이며, 결과적으로 가장 일관된 분류 성능과 훈련 안정성을 가져온다.
• 인구 기반 훈련이 생성된 샘플의 일관성을 개선하는 한편, 가장 큰 이득은 분류 작업과 훈련 과정의 견고함에서 관찰된다.

저자들은 이 접근 방식이 SSL-GAN을 안정화하는 유망한 방향을 제시한다고 결론짓지만, 더 복잡한 데이터셋(예: CIFAR-10, SVHN)에 대한 검증과 생성기 훈련을 위한 다목적 정식화 탐색을 위한 향후 연구가 필요함을 언급하였다.