Regularized estimation of Monge-Kantorovich quantiles for spherical data

기술 요약: 구형 데이터를 위한 정규화된 모네-칸토로비치(Monge-Kantorovich) 분위수 추정

문제 정의
단위 $d$-구면 $S^{d-1}$ 상의 점으로 관측되는 방향성 데이터는 표준적인 순서(canonical ordering)가 결여되어 있어, 통계적 분위수를 정의하는 것이 유클리드 공간보다 더 복잡합니다. 최근의 비모수적 접근 방식들은 모네-칸토로비치(MK) 분위수를 정의하기 위해 최적 운송(Optimal Transport, OT) 이론을 활용합니다. 구체적으로, 방향성 데이터를 위해 구면 위의 균등 분포와 데이터의 경험적 측도(empirical measure) 사이의 OT 문제를 해결함으로써 경험적 분위수 함수 $Q_n$을 구축합니다.

그러나 기존의 방향성 데이터용 OT 기반 추정량은 두 가지 주요 한계를 가집니다:

1. 표본 외(Out-of-Sample) 능력의 부재: 두 이산 분포(데이터와 정규 격자) 사이의 경험적 매칭은 관측값 집합에 국한된 조각별 상수 함수(piecewise constant function)를 생성합니다. 이는 깊이 기반 분류나 분산 측정과 같은 응용 분야에서 필수적인 새로운 미관측 데이터($X_{new}$)에 대한 추정치를 제공할 수 없습니다.
2. 계산 복잡도: 이산 OT 문제를 해결하는 것은 일반적으로 관측 수에 따라 삼차 규모($O(n^3)$)로 증가하여 확장성을 저해합니다.

방법론
저자들은 2-구면($S^2$) 상의 **엔트로피 정규화된 최적 운송(Entropic Optimal Transport, EOT)**을 이용한 정규화된 추정 프레임워크를 제안합니다. 방법론은 다음과 같이 진행됩니다:

1. 엔트로피 정규화: 이산 모네 문제를 푸는 대신, 저자들은 균등 측도 $\mu_{S^2}$와 타겟 측도 $\nu$ 사이의 연속 OT 문제를 정식화합니다. 이들은 파라미터 $\varepsilon > 0$를 갖는 엔트로피 정규화 항을 도입합니다. 이는 단일 포텐셜 함수 $u$에 대한 반-쌍대(semi-dual) 최적화 문제로 변환됩니다:
   $$\max_{u \in L^\infty(S^2)} \int_{S^2} u(x) d\mu_{S^2}(x) + \int_{S^2} u^{c,\varepsilon}(y) d\nu(y)$$
   여기서 $u^{c,\varepsilon}$는 $u$의 매끄러운 공액(smooth conjugate)입니다.

2. 스펙트럼 매개변수화(Spectral Parameterization): 이 무한 차원 문제를 해결하기 위해, 쌍대 포텐셜 $u$를 **구면 조화 함수(spherical harmonics)**를 사용하여 매개변수화합니다. 함수는 계수 $\bar{u} = (\bar{u}^m_l)$의 급수로 전개됩니다. 저자들은 정규화된 경우 포텐셜이 이계 연속(twice continuously differentiable)임을 증명하며, 이는 구면 조화 급수가 $\ell^1$에 속함을 보장합니다.

3. 확률적 알고리즘: 구면 조화 계수를 최적화하기 위한 확률적 경사 하강법(stochastic gradient descent) 알고리즘이 개발되었습니다.

   • 입력: $\nu$로부터 추출된 i.i.d. 관측값 시퀀스 $X_1, \dots, X_n$.
   • 메커니즘: 각 반복 단계에서 알고리즘은 단일 샘플에 대한 목적 함수의 기울기를 사용하여 계수를 업데이트합니다.
   • 효율성: 알고리즘은 구면 상의 고속 푸리에 변환(FFT)(pyshtools 라이브러리 활용)을 활용하여 필요한 적분과 변환을 계산합니다. 계산 비용은 격자 크기 $p$에 대해 $O(p^2 \log^2 p)$이며, 이는 이산 OT 솔버의 삼차 복잡도를 크게 개선합니다.
   • 온라인 학습: 알고리즘은 전체 $n \times n$ 비용 행렬을 저장할 필요 없이 데이터를 순차적으로 처리하는 온라인 방식으로 작동합니다.

4. 정규화된 분위수 및 분포 함수:

   • 최적의 포텐셜 $u_\varepsilon$가 추정되면, 정규화된 분위수 함수 $Q_\varepsilon$와 분포 함수 $F_\varepsilon$가 도출됩니다.
   • 정규화되지 않은 경우와 달리, 이 함수들은 매끄러우며 접공간(tangent space)에서의 가중 평균(바리센트 투영)을 포함하는 폐쇄형 표현식(closed-form expressions)을 통해 정의됩니다.
   • 구체적으로, $Q_\varepsilon(x) = \text{Exp}_x \left( \int \text{Log}_x(z) \exp(\dots) d\nu(z) \right)$로서, 임의의 점 $x \in S^2$에서 직접 평가가 가능합니다.

5. 방향성 통계적 깊이(Directional Statistical Depth): 본 논문은 분포 함수 $F(x)$와 프레셰 중앙값(Fréchet median) 사이의 근접성을 기반으로 하는 방향성 MK 깊이를 정의합니다. 이 깊이 척도는 회전 불변성 및 부호 곡선(sign curves)을 따른 단조성을 포함하여, 적응된 형태의 Liu-Zuo-Serfling 공리들을 만족합니다.

주요 기여

• 엔트로피 맵의 확장: 저자들은 (유클리드 공간에서 이전에 정의된) 엔트로피 맵의 개념을 비유클리드 설정인 구면으로 확장하여, MK 분위수를 위한 매끄럽고 정규화된 추정치를 제공합니다.
• 표본 외 추정(Out-of-Sample Estimation): 제안된 정규화된 분위수 함수 $Q_\varepsilon$는 이전의 이산 OT 기반 방식에는 없던 기능인, 새로운 관측치에 대한 분위수 추정을 가능하게 합니다.
• 확률적 스펙트럼 알고리즘: 구면 조화 함수를 통해 포텐셜을 전개하고 FFT를 활용하여 계산 효율성을 높이는 새로운 확률적 알고리즘을 도입했습니다.
• 방향성 깊이 정의: 유클리드 MK 깊이의 바람직한 속성을 상속받고 방향성 통계학에 적합한 공리들을 만족하는 새로운 MK 방향성 통계적 깊이 개념을 도입했습니다.

결과 및 주장

• 이론적 특성: 논문은 정규화된 포텐셜이 이계 연속임을 입증하여 결과적인 분위수 및 분포 함수가 매끄러움을 보장합니다. 또한 $\varepsilon \to 0$일 때 정규화된 포텐셜이 정규화되지 않은 칸토로비치 포텐셜로 균등 수렴함을 보여줍니다.
• 계산 효율성: 확률적 알고리즘은 이산 OT의 $O(n^3)$ 복잡도를 피하고, 반복당 비용을 $O(p^2 \log^2 p)$로 줄여 대규모 데이터셋과 온라인 학습 시나리오에 적합하게 만듭니다.
• 통계적 유용성: 이 방법론은 연속적이고 미분 가능한 매핑을 제공함으로써 깊이 기반 분류 및 분산 측정을 가능하게 합니다. 저자들은 수치 실험을 통해 정규화된 접근 방식이 정규화되지 않은 이산 추정치에 비해 더 매끄러운 등고선(contours)과 더 나은 표본 외 성능을 제공함을 보여줍니다.

의의
본 논문의 주요 의의는 이론적인 OT 기반 분위수와 방향성 데이터를 위한 실질적인 통계적 응용 사이의 간극을 메우는 데 있습니다. 엔트로피 정규화와 스펙트럼 확률적 솔버를 도입함으로써, 저자들은 기존의 이산 방식이 가진 "표본 외" 한계를 극克服하는 계산 가능한 방법을 제공합니다. 이를 통해 매끄러움과 새로운 데이터 포인트 평가 능력이 필수적인 분류 및 리스크 측정과 같은 실제 방향성 데이터 관련 문제에 MK 분위수와 깊이 척도를 적용할 수 있게 합니다. 또한, 구면 상의 명시적이고 다루기 쉬운 정식화를 제공함으로써 다양체 상의 OT 연구 분야에 기여합니다.