기술 요약: 다중 목적 분포 최적화를 위한 가속화된 다중 Wasserstein 경사 흐름 (Accelerated Multiple Wasserstein Gradient Flows for Multi-objective Distributional Optimization)

1. 문제 정의

본 논문은 Wasserstein-2 메트릭이 부여된 확률 분포 공간 $\mathcal{P}_2(\mathcal{X})$ 상에서 정의된 다중 목적 분포 최적화 (Multi-Objective Distributional Optimization, MODO) 문제를 다룹니다. 목표는 $K$개의 목적 범함수 $\mathbf{F}(\rho) = (F_1(\rho), \dots, F_K(\rho))$를 동시에 최소화하는 분포 $\rho$를 찾는 것입니다.

이 문제는 고전적인 유클리드 공간에서의 다중 목적 최적화(MOO)를 확률 공간으로 자연스럽게 확장한 것입니다. 주요 동기 부여가 되는 응용 분야는 **다중 타겟 샘플링 (multi-target sampling)**으로, 여기서의 목표는 여러 개의 비정규화된 타겟 분포를 동시에 근사하는 입자들을 생성하는 것입니다. 이 맥락에서 각 목적 함수 $F_k$는 일반적으로 현재 분포와 특정 타겟 분포 사이의 쿨백-라이블러(KL) 발산(divergence)을 나타냅니다.

문제의 핵심은 서로 다른 분포가 서로 다른 목적 함수에 대해 더 나은 성능을 보일 수 있다는 점이며, 이는 단일 전역 최솟값이 아닌 파레토 최적(Pareto optimal) 또는 약한 파레토 최적(weakly Pareto optimal) 분포를 탐색해야 함을 의미합니다.

2. 방법론

2.1 배경: MWGraD

본 연구는 Multiple Wasserstein Gradient Descent (MWGraD) 알고리즘(Nguyen et al., 2025a)을 기반으로 합니다. MWGraD는 다음 과정을 통해 모든 목적 함수를 감소시키는 분포의 흐름을 구축합니다:

1. 각 목적 함수에 대한 Wasserstein 경사 $\nabla \delta F_k$를 추정합니다.
2. 이 경사들을 볼록 결합(convex combination)을 통해 하나의 하강 방향으로 집계합니다.
3. 이 방향을 따라 입자들을 업데이트합니다.

연속 시간 극한에서 MWGraD는 속도장(velocity field)이 목적 함수의 경사들의 볼록 껍질(convex hull) 위로 0 벡터를 투영하여 결정되는 경사 흐름(gradient flow)에 대응합니다.

2.2 제안된 방법: A-MWGraD

저자들은 **네스테로프 가속 경사(Nesterov's Accelerated Gradient, NAG)**에서 영감을 얻고 **감쇠 해밀토니안 역학(damped Hamiltonian dynamics)**을 통해 해석된 가속 버전인 A-MWGraD를 제안합니다.

연속 시간 정식화:
가속 흐름은 분포 $\rho_t$와 모멘텀 포텐셜 $\Phi_t$에 대한 다음 방정식 시스템으로 정의됩니다:
$$\begin{aligned} \dot{\rho}_t + \nabla \cdot (\rho_t \nabla \Phi_t) &= 0 \\ \dot{\Phi}_t + \alpha_t \Phi_t + \frac{1}{2}\|\nabla \Phi_t\|_2^2 + \text{proj}_{\mathcal{C}(\rho_t), \rho_t}[0] &= 0 \end{aligned}$$
여기서 $\mathcal{C}(\rho_t)$는 목적 함수의 1차 변분(first variations)의 볼록 껍질이며, $\alpha_t$는 시간 의존적 감쇠 계수입니다.

이산 시간 구현:
방법을 실용적으로 만들기 위해 저자들은 입자 기반 이산화를 도출했습니다. $x_i^{(n)}$을 $i$번째 입자의 위치, $v_i^{(n)}$을 $n$번째 반복에서의 속도라고 하면 업데이트 규칙은 다음과 같습니다:
$$\begin{aligned} x_i^{(n+1)} &= x_i^{(n)} + \sqrt{\eta} v_i^{(n)} \\ v_i^{(n+1)} &= \alpha_n v_i^{(n)} - \sqrt{\eta} \sum_{k=1}^K w_{n,k} \bar{\Delta}_k^{(n)}(x_i^{(n)}) \end{aligned}$$
여기서:

• $\eta$는 스텝 사이즈(step size)입니다.
• $\bar{\Delta}_k^{(n)}$은 경험 측도(empirical measures)를 처리하기 위해 Stein Variational Gradient Descent (SVGD) 또는 Blob method를 사용하여 계산된 $k$번째 목적 함수의 Wasserstein 경사 근사치입니다.
• $w_n$은 결합된 하강 방향의 노름(norm) 제곱을 최소화하는 가중치 벡터입니다.
• $\alpha_n$은 이산 감쇠 파라미터로, 지오데식 볼록(geodesically convex) 목적 함수의 경우 $\frac{n-1}{n+2}$를, $\beta$-강한 지오데식 볼록( $\beta$-strongly geodesically convex) 목적 함수의 경우 $\frac{1-\sqrt{\beta}\eta}{1+\sqrt{\beta}\eta}$를 선택합니다.

3. 주요 기여

1. MWGraD의 연속 시간 분석: 저자들은 MWGraD를 연속 시간 흐름으로 정형화하고, 이것이 약한 파레토 최적점으로 수렴함을 입증했습니다. 이들은 메리트 함수(merit function) $M(\rho)$를 정의하고, 지오데식 볼록 목적 함수에 대해 MWGraD가 $O(1/t)$의 수렴 속도를 달enc함을 증명했습니다.
2. 확률 공간에서의 가속화: 본 논문은 A-MWGraD를 도입하고 다음과 같은 더 빠른 수렴 속도를 달성함을 증명했습니다:
   • 지오데식 볼록 목적 함수에 대해 $O(1/t^2)$
   • $\beta$-강한 지오데식 볼록 목적 함수에 대해 $O(e^{-\sqrt{\beta}t})$
   • 이는 확률 공간 내의 다중 목적 최적화에 특화된 최초의 가속화 결과입니다.
3. 가우시안 패밀리에 대한 명시적 특성화: 저자들은 분포가 가우시안 패밀리로 제한되고 목적 함수가 KL 발산인 경우, 무한 차원 흐름을 공분산 행렬의 진화를 조절하는 유한 차원 상미분 방정식(ODE)으로 명시적으로 축소하여 제공합니다.
4. 실용적 이산화: 경사 추정을 위한 커널 기반 근사(SVGD 및 Blob)와 최적의 집계 가중치를 계산하는 전략을 포함하는 샘플링 효율적인 입자 구현법을 개발했습니다.

4. 실험 결과

저자들은 합성 데이터셋과 실제 데이터셋을 통한 수치 실험을 통해 이론적 발견을 검증했습니다.

• 토이 예제 (다중 타겟 샘플링): 가우시안 혼합 모델을 사용하여 A-MWGraD를 MWGraD 및 MOO-SVGD와 비교했습니다.
  • 수렴 속도: A-MWGraD 변형 모델들은 MWGraD보다 일관되게 훨씬 빠르게 낮은 경사 노름(GradNorm) 값에 도달했습니다. 예를 들어, 한 설정에서 A-MWGraD-Blob은 50회 반복 만에 고밀도 영역을 커버한 반면, MWGraD-Blob은 약 500회가 필요했습니다.
  • 입자 분포: MOO-SVGD는 입자를 모든 모드에 흩뜨려 놓은 반면, A-MWGraD와 MWGraD는 입자들을 공유된 고밀도 영역에 성공적으로 집중시켰으며, A-MWGraD가 더 빠르게 수행했습니다.
• 베이지안 다중 작업 학습 (Bayesian Multi-Task Learning): Multi-MNIST, Multi-Fashion, Multi-Fashion-MNIST 데이터셋에 대해 실험을 수행했습니다.
  • 성능: A-MWGraD 변형 모델들(SVGD 및 Blob 모두)은 가속되지 않은 모델들보다 더 빠르게 높은 테스트 정확도에 도달했습니다.
  • 최종 정확도: 여러 작업에서 A-MWGraD는 MOO-SVGD 및 MWGraD와 같은 베이스라인을 능가하여 가장 좋은 앙상블 정확도(예: Multi-Fashion+MNIST Task 1에서 96.4%)를 달성했습니다.

5. 의의 및 주장

본 논문은 A-MWGraD가 확률 분포 상의 다중 목적 최적화 영역으로 네스테로프 가속화의 원리를 성공적으로 확장했음을 주장합니다. 그 의의는 다음과 같습니다:

• 이론적 개선: 표준 MWGraD의 $O(1/t)$ 속도를 개선하여 다중 목적 분포 최적화를 위한 최초의 가속 수렴 속도($O(1/t^2)$ 및 지수적 속도)를 증명했습니다.
• 실용적 효율성: 가속화가 다중 타겟 샘플링(베이지안 추론 및 생성 모델링에서 중요한 작업)을 위한 샘플링 효율성과 수렴 속도에 실질적인 개선을 가져온다는 것을 입증했습니다.

한계 및 향후 과제:
저자들은 다음과 같은 점을 겸허히 인정합니다:

• A-MWGraD의 이산 시간 수렴 속도는 아직 확립되지 않았습니다 (연속 시간 속도만 증명됨).
• 이론적 분석은 정확한 Wasserstein 경사 계산을 가정하지만, 실제 구현은 커널 근사에 의존합니다.
• 향후 연구에서는 이러한 격차를 해소하고 다중 작업 학습 이외의 더 넓은 응용 분야를 탐구할 것입니다.