Rethinking the Flow-Based Gradual Domain Adaptation: A Semi-Dual Optimal Transport Perspective

기술 요약: 흐름 기반 점진적 도메인 적응에 대한 재고: 준-쌍대 최적 운송 관점

문제 정의
점진적 도메인 적응(Gradual Domain Adaptation, GDA)은 레이블이 있는 소스 도메인과 레이블이 없는 타겟 도메인 사이의 분포 차이를 일련의 중간 도메인을 통해 단계적으로 적응시켜 간극을 메우는 것을 목표로 한다. 중간 도메인을 합성하기 위해 소스와 타겟 분포 사이를 보간하는 흐름 기반 접근 방식이 주목받고 있으나, 이들은 치명적인 한계에 직면해 있다: 이들은 일반적으로 타겟 도메인의 확률 밀도 함수(PDF)를 명시적으로 추정하는 데 의존한다는 점이다. 기존 방법들은 흐름을 위한 구동력(속도장)을 정의하기 위해 타겟 PDF(예: 스코어 매칭을 통한 PDF)를 추정한다. 그러나 샘플만으로 PDF를 추정하는 것은 부적절한 문제(ill-posed problem)이며, 이 추정 과정에서의 부정확함은 샘플들이 저밀도 영역으로 유도되게 하여, 생성된 샘플과 실제 타겟 샘플 간의 불일치를 초래하고 결과적으로 다운스트림 작업의 성능을 저하시킨다.

방법론: E-SUOT 프레임워크
명시적인 PDF 추정에 대한 의존성과 기존 쌍대 정식화의 불안정성을 해결하기 위해, 저자들은 **엔트로피 정규화 준-쌍대 불균형 최적 운송(Entropy-regularized Semi-dual Unbalanced Optimal Transport, E-SUOT)**을 제안한다. 방법론은 다음과 같이 진행된다:

1. 최적화로의 재정식화: 저자들은 전통적으로 $f$-발산(f-divergence)을 최소화하는 경사 흐름(gradient flow)으로 간주되는 흐름 기반 GDA 문제를, 제곱 2-와서스타인 거리(2-Wasserstein distance)로 정규화된 재귀적 최적화 문제(Jordan-Kinderlehrer-Otto 스킴)로 재구성한다. 이 정식화는 명시적인 PDF 평가의 필요성을 제거한다.
2. 준-쌍대 정식화: 저자들은 이 최적화 문제의 준-쌍대 정식화를 도출한다. 밀도 추정이 필요한 프라이멀(primal) 정식화와 달리, 준-대적(semi-dual) 목적 함수는 소스와 타겟 샘플에 대한 기댓값에만 의존한다. 이를 통해 타겟 PDF에 접근하지 않고도 몬테카를로 방법을 사용하여 적분을 근사할 수 있다.
3. 불안정성 해결: 표준 준-쌍대 정식화는 복합적인 "sup–inf" 구조(적대적 학습)를 포함하며, 저자들은 이것이 최적해의 비유일성과 학습 불안정성을 초사할 수 있음을 증명한다. 이를 해결하기 위해, 프라이멀 목적 함수에 엔트로피 정규화 항을 도입한다.
4. 안정적인 순차적 최적화: 엔트로피 정규화는 적대적 min–max 문제를 안정적인 순차적 최적화 절차로 변환한다. 이론적으로 이는 최적해의 유일성을 보장하고 수렴을 보장한다.
5. 학습 워크플로우: 프레임워크는 두 개의 신경망을 교대로 학습시킨다:
   • 포텐셜 함수 $w_\phi$는 준-쌍대 목적 함수(이제 엔트로피 항을 포함함)를 최대화하도록 최적화된다.
   • 운송 맵 $T_\theta$는 학습된 포텐셜 $w_\phi$에 조건화된 운송 비용을 최소화하도록 최적화된다.
   • 일련의 운송 맵이 학습되면, 분류기(classifier)는 생성된 중간 도메인을 따라 단계별로 미세 조정(fine-tuning)된다.

주요 기여

1. 준-쌍대 정식화: 본 논문은 타겟 도메인의 PDF를 명시적으로 추정할 필요가 없는 중간 도메인 생성을 위한 준-쌍대 정식화를 개발하여, 밀도 추정과 관련된 오류를 제거한다.
2. 엔트로피 정규화된 안정성: 저자들은 준-쌍대 정식화의 내재된 불안정성과 비유일성을 해결하기 위해 엔트로피 정규화 항을 도입한다. 이는 새로운 E-SUOT 프레임워크를 탄생시키며, 고유한 최적해와 안정적인 학습 과정을 보장한다.
3. 이론적 분석: 본 논문은 E-SUOT 프레임워크의 수렴성에 관한 이론적 증명을 제공하며, 적응 경로를 따른 누적 운송 비용 및 레이블 연속성과 연결된 적응 모델의 일반화 오차 상한을 설정한다.
4. 실험적 검증: Portraits, MNIST 회전 등을 활용한 GDA 작업과 Office-Home을 활용한 비지도 도메인 적응(UDA) 작업에 대한 광범위한 실험을 통해, E-SUOT가 자가 학습(self-training), 경사 흐름 기반 방법(GFF, CNF), 최적 운송 기반 접근 방식(MMDSW, SMMD)을 포함한 기존의 최첨단 방법들보다 우수한 성능을 달성함을 입증한다.

실험 결과

• GDA 작업: Portraits, MNIST $45^\circ$, MNIST $60^\circ$ 데이터셋에서 E-SUOT는 기존 베이스라인들을 지속적으로 능가했다. 예를 들어, 소스 전용(source-only) 베이스라인 대비 각각 21.5%, 23.4%, 38.6%의 정확도 향상을 보였으며, 모든 데이터셋에서 두 번째로 우수한 방법들(예: STDW, GOAT)을 넘어섰다.
• UDA 작업: Office-Home 데이터셋에서 E-SUOT는 비교된 방법들 중 가장 높은 평균 정확도를 달 Achieved 했다. 모든 특정 전이 방향에서 항상 최고 성능을 기록한 것은 아니지만, 높은 안정성과 경쟁력을 보여주었으며, 종종 최상위 방법들과의 격차가 작은 수준에서 두 번째로 좋은 결과를 확보했다.
• 절제 연구(Ablation Studies):
  • 엔트로피 정규화를 제거하여 적대적 학습으로 되돌렸을 때 성능이 크게 하락하여, 안정성을 위한 정규화의 필요성을 확인했다.
  • 대안적인 $f$-발산(예: $\chi^2$, Softplus)이나 베이센트릭 투영(barycentric projection) 전략을 사용했을 때, 제안된 KL-발산 기반 준-쌍대 접근 방식보다 낮은 성능을 보였다.
  • 본 방법은 UMAP 임베딩 차원 변화와 단계 크기(step size), 배치 크기와 같은 하이퍼파라미터 변화에 대해 강건함을 보여주었다.

의의 및 주장
본 논문은 E-SUOT가 준-쌍대 정식화 내에서 흐름 기반 방법과 최적 운송을 통합함으로써 GDA 분야를 발전시킨다고 주장한다. 저자들은 명시적인 PDF 추정 및 적대적 학습의 불안정성에 대한 의존성 등 기존 접근 방식의 한계를 규명하고 해결하였다. 이론적으로 근거가 확실한 엔트로피 정규화 프레임워크를 제공함으로써, 저자들은 자신들의 접근 방식이 중간 도메인을 구축하기 위한 더 견고하고 신뢰할 수 있는 메커니즘을 제공한다고 주장한다. 이 연구는 명시적인 밀도 추정을 피하면서 안정적인 최적화를 보장하는 것이 효과적인 점진적 적응, 특히 중간 도메인을 사용할 수 없거나 합성하기 어려운 시나리오에서 핵심임을 시사한다. 저자들은 레이블 불변성 가정 및 현재의 다단계 오프라인 학습에 대한 의존성과 같은 한계를 인정하며, 레이블 정보의 통합 및 파라미터 효율성 개선을 위한 향후 연구 방향을 제시하며 겸허한 태도를 유지한다.