기술 요약: 와서스타인 지수 평활법 (Wasserstein Exponential Smoothing)

문제 정의

확률 분포(스칼라 값이 아닌 확률 분포가 관측값인 경우)를 다루는 분포형 시계열(distributional time series)의 분석은 고전적인 시계열 예측과는 구별되는 독특한 과제를 안고 있다. 확률 분포의 상태 공간은 무한 차원이며, 합산이나 스칼라 곱과 같은 표준 연산에 필요한 벡터 공간 구조가 결여되어 있다. 결과적으로, 전통적인 시계열 예측 방법론인 자기회귀(AR) 모델이나 지수 평활(ES)을 직접 적용할 수 없다. 최근 문헌들이 와서스타인 공간에 자기회귀 프레임워크를 적응시키려는 시도(Zhang et al., 2022; Zhu and Müller, 2023)를 해왔으나, 방법론적 도구 상치는 스칼라 환경에 비해 여전히 미비한 상태이다. 특히, 분포형 데이터에 대한 단순하고 견고하며 간결한 지수 평활의 대응 모델이 눈에 띄게 부재하다.

방법론

본 논문은 고전적 ES의 재귀적 보간(recursive interpolation)을 유클리드 공간에서 와서스타인 공간 $W_2(\mathbb{R})$로 확장한 **와서스타인 지수 평활(Wasserstein Exponential Smoothing, WES)**을 제안한다.

핵심 프레임워크

본 방법론은 고전적 ES의 선형 보간을 와서스타인 거리 하에서의 **측지선 보간(geodesic interpolation)**으로 대체함으로써, 유클리드 공간에서의 재귀적 보간을 와서스타인 공간으로 끌어올린다.

1. 상태 공간 표현: WES 프로세스는 잠재적 예측 분포 $\mu_t$와 관측 가능한 분포 $\nu_t$의 진화를 모델링한다. 관측값은 이전 예측자에 무작위 푸시포워드 맵(노이즈)이 적용되어 생성된다.
2. 재귀적 업데이트: 예측자 $\mu_t$는 이전 예측자 $\mu_{t-1}$과 현재 관측치 $\nu_t$를 잇는 와서스타인 측지선의 중간 지점으로 업데이트된다. 평활 매개변수 $\theta \in (0,1)$에 대해 형식적으로 다음과 같다:
   $$\mu_t = \left( (1-\theta) \cdot \text{Id} + \theta \cdot T_{\mu_{t-1} \to \nu_t} \right) \# \mu_{t-1}$$
   여기서 $T_{\mu_{t-1} \to \nu_t}$는 최적 운송 맵(optimal transport map)이며, $\#$는 푸시포워드 연산을 나타낸다.
3. 분위수 표현: 1차원 도메인의 특성을 활용하여, 저자들은 2-와서스타인 거리와 분위수 함수의 $L^2$ 거리 사이의 등거리 사상(isometry)을 이용한다. 이를 통해 복잡한 분포형 재귀를 분위수 함수 $U_t$와 잔차 $F_t$에 관한 동등한 식으로 표현할 수 있다:
   $$U_t(q) = U_{t-1}(q) + \theta F_t(q)$$
   여기서 $F_t(q) = V_t(q) - U_{t-1}(q)$는 분위수 잔차를 나타낸다. 이 공식은 고전적 ES의 오차 수정 형태를 반영한다.

추정

평활 매개변수 $\theta$는 **최소 와서스타인 예측 오차(Minimum Wasserstein Prediction Error)**를 최소화함으로써 추정된다. 데이터 시퀀스 $\{\nu_t\}_{t=1}^T$가 주어졌을 때, 추정량 $\hat{\theta}_T$는 다음과 같이 정의된다:
$$\hat{\theta}_T = \arg \min_{\theta \in (0,1)} \frac{1}{T} \sum_{t=0}^{T-1} W_2^2(\mu_t^\theta, \nu_{t+1})$$
이 최소화 과정은 1차원에서 분위수 표현이 다루기 용이하기 때문에 계산적으로 실행 가능하다.

주요 기여

1. 방법론적 확장: 본 논문은 단일 스칼라 매개변수에 의해 제어되는 고전적 ES의 높은 간결성을 유지하면서, 와서스타인 공간 내에서 확률 분포형 시계열을 위한 원칙적인 지수 평활 절차를 정립하였다.
2. 추정 이론: 와서스타인 거리를 최소화하는 기반으로 평활 매개변수에 대한 일치 추정량(consistent estimator)을 제안하고 분석하였다.
3. 이론적 특성: 저자들은 다음을 포함한 이론적 결과를 확립하였다:
   • 프레셰 평균 정상성(Fréchet-Mean Stationarity): WES 프로세스는 프레셰 평균 관점에서 정상성을 갖는다.
   • 잔차 자기공분산(Residual Autocovariance): 모델-분위수 잔차는 자기공분산에서 지수적 감소를 보인다.
   • 일치성(Consistency): 최소 와서스타인 추정량은 표본 크기가 증가함에 따라 참값으로 수렴하는 일치성을 갖는다.
4. 실증적 검증: 이 방법론을 고빈도 금융 수익률과 가구 전력 수요 잔차라는 두 가지 뚜렷한 영역에 적용하였다.

결과

시뮬레이션 연구

무작위 이동(random shift) 및 무작위 사인 푸시포워드 맵을 사용한 시뮬레이션 결과, 최소 와서스타인 추정량은 유한 표본에서 편향되지 않고 안정적임을 보여주었다. 표본 크기가 증가함에 따라 추정량의 변동성은 감소하며, 추정치는 참 평활 매개변수 주변으로 밀집된다.

실증 적용

저자들은 WES를 네 가지 기존 분포형 시계열 벤치마크와 비교하였다:

• 와서스타인 자기회귀 (WAR)
• 자기회귀 운송 맵 (ATM)
• 분포형 자기회귀 모델 (ODAM)
• 분포-대-분포 회귀 (DoDRM)

금융 수익률: 세계 10대 주요 글로벌 주식 지수의 5분 단위 로그 수익률 분포를 사용하여, WES는 10개 지수 모두에서 가장 낮은 평균 와서스타인 예측 오차(MWPE)를 달 기록했다. WES는 10개 사례 중 8개 사례에서 90% 모델 신뢰 집합(MCS)의 유일한 구성원이었으며, 대부분의 Diebold-Mariano 테스트에서 모든 벤치마크를 통계적으로 압도했다.

전력 수요: 런던 소재 10가구의 일일 잔여 수요 분포를 사용하여, WES는 10가구 모두에서 다시 한번 가장 낮은 MWPE를 달성했다. WES는 모든 가구에서 90% MCS에 포함된 반면, 가장 우수한 성능을 보인 벤치마크인 WAR는 10가구 중 4가구에서만 나타났다.

의의 및 주장

본 논문은 WES가 특히 적응성과 단순성이 중요한 응용 분야에서 분포형 시계열을 위한 강력한 대안을 제공한다고 주장한다. 본 연구의 의의는 다음과 같다:

• 격차 해소: 와서스타인 공간 내에서 널리 사용되고 견고한 지수 평활 기법의 분포형 대응물을 제공함으로써 중요한 방법론적 공백을 메운다.
• 계산 효율성: 1차원 와서스타인 기하학을 활용함으로써, 자기회귀 연산자나 운송 맵을 추정하는 데 따르는 계산적 부담을 피하고 분석적으로 다루기 쉽게 유지한다.
• 실증적 우월성: 결과는 WES의 간결한 재귀적 구조가 금융 및 비금융 환경 모두에서 더 정교한 자기회귀 벤치마크보다 종종 더 우수한 예측 정확도를 제공함을 시사한다.

저자들은 현재 프레임워크가 와서스타인 거리와 분위수 $L^2$ 거리 사이의 정확한 등거리 사상에 의존하기 때문에 1차원 분포로 제한된다는 점을 명시하였다. 또한, 이를 다변량 설정($d > 1$)으로 확장하는 것은 향후 연구를 위한 쉽지 않은 과제임을 인정하였다.