Exact Differentiable Inference for Fractional Stochastic Volatility: ADavies–Harte-Reparameterized Hamiltonian Monte Carlo Posterior of the Hurst Index, with Application to the VN30 Frontier Index

기술 요약: 분수형 확률 변동성을 위한 정밀 미분 추론

문제 정의
본 논문은 분수형 확률 변동성 모델에서 허스트 지수($H$)를 추정할 때 발생하는 계산 및 추론상의 과제를 다룬다. 이러한 모델에서 로그 변동성은 분수 브라운 운동(fBm)에 의해 구동되며, 여기서 $H < 1/2$은 "거친(rough)" 변동성을, $H > 1/2$은 "장기 기억(long-memory)" 변동성을 의미한다. 완전 사후 확률 베이지안 추론이 바람직하지만, fBm의 비마르코프(non-Markovian) 특성으로 인해 밀집된 $N \times N$ 공분산 행렬을 역행렬로 계산해야 하는 병목 현상이 발생한다. 이 연산은 $O(N^3)$의 계산 비용을 초래하며, 이로 인해 실무자들은 편향된 스펙트럼 근사법(예: Whittle 의사 우도법)이나 빈도주의 점 추정치에 의존할 수밖에 없다. 이러한 근사법은 특히 거친 체제와 장기 기억 체제를 구분할 때 상당한 편향을 유발할 수 있다.

방법론
저자들은 허스트 지수의 정확한 우도를 미분 가능하면서도 계산 효율적($O(N \log N)$)으로 만드는 프레임워크를 제안한다. 방법론은 세 가지 주요 구성 요소로 이루어진다:

1. 모델 명세: 본 연구는 로그 변동성이 fBm에 의해 구동되는 분수형 오른슈타인-우울렌벡(Ornstein-Uhlenbeck) 과정을 따르는 확률 변동성 SDE를 활용한다. 프런티어 시장 데이터(특히 VN30 지수)를 처리하기 위해, 관측 모델은 유동성에 의존하는 혼합 분포를 포함한다. 이는 실제 확산적 가우시안 수익률과는 구별되는, 비거래로 인한 제로 수익률(stale-price) 아티팩트를 점 질량(point mass)으로 모델링함으로써 이를 반영한다.
2. 정밀 주변 사후 확률 (스칼라 $H$): 스칼라 허스트 지수에 대해, 저자들은 제프리 사전 분포(Jeffreys prior) 하에서 변동성-변동성 파라미터($\sigma$)를 해석적으로 적분하여 정확한 주변 우도를 도출한다. 이는 결정론적 쿼드러처(quadrature)를 통해 계산되는 샘플링 없는 사후 확률을 생성하며, 이를 통해 몬테카를로 오차를 제거한다.
3. 미분 가능한 Davies–Harte 생성기 (전체 사후 확률): 파라미터 벡터 $(\mu, \kappa, \sigma, H)$ 및 잠재 경로에 대한 전체 사후 확률 추론을 가능하게 하기 위해, 저자들은 자동 미분 해밀토니안 몬테카를로(HMC) 샘플러(구체적으로 No-U-Turn Sampler) 내에 Davies–Harte 순환 임베딩 방법을 내장한다.
   • fBm 경로는 백색화된 좌표(whitened coordinates)와 $H$의 결정론적이고 FFT 미분 가능한 함수로 재매개변수화된다.
   • 이를 통해 고속 푸리에 변환(FFT)을 통해 로그 사후 확률의 기울기(gradient)가 흐를 수 있게 하여, 밀집 공분산 행렬을 형성하거나 역행렬을 구하지 않고도 기하학적 구조를 고려한 샘PLING이 가능해진다.
   • 계산 비용은 단계당 $O(N^3)$에서 $O(N \log N)$으로 감소한다.

주요 기여

• 정밀 미분 추론: 본 논문은 근사법의 편향을 피하면서도 근사 선형 비용($O(N \log N)$)으로 분수형 확률 변동성에 대한 완전 사후 베이지안 추론을 달성하는 최초의 체계를 도입한다.
• 해석적 주변화: 스케일 파라미터를 해석적으로 주변화함으로써 스칼라 허스트 지수에 대한 정확한 샘플링 없는 사후 확률을 제공하며, 이를 통해 정확한 방법과 근사법 사이의 추론 격차를 정밀하게 측정할 수 있게 한다.
• 이중 검증된 구현: 본 방법론은 Python으로 구현되었으며 R에서 독립적으로 검증되었다. 두 트랙은 $4.9 \times 10^{-11}$ 이내로 일치하며, 이는 보고된 모든 수치적 결과의 재현성을 보장한다.
• 이론적 타당성 검증: 본 논문은 특정 조건 하에서 $H$에 대한 모델의 강한 해(strong solution)의 존재성과 유일성을 증명하는 적절성(well-posedness) 정리를 포함한다 ($H > 1/2$인 경우 Young 의미의 적분을, $H \in (1/4, 1/2)$인 경우 rough-path 의미의 적분을 해석).

결과
방법론은 2012년부터 2026년까지의 $N=3585$ 일일 수익률을 사용하여 VN30 프런티어 지수에 적용되었다.

• 허스트 지수 추정: 정확한 사후 확률은 허스트 지수를 평균 0.5828, 95% 신뢰 구간을 **[0.5614, 0.6052]**로 배치한다. 구간 전체가 0.5보다 엄격히 높게 나타나며, 이는 거친 변동성이 아닌 장기 기억 변동성을 나타낸다.
• Whittle 근사와의 비교: 표준 Whittle 스펙트럼 추정치는 $H=0.56$의 MAP 추정치를 산출하여 추론을 거친(rough) 체제 쪽으로 이동시켰다. 시뮬레이션 교정 결과, Whittle 추정치는 거친 체제로 편향되어 있으며(실제 $H=0.70$에서 12.5%의 커버리지) 심각한 과소 커버리지를 겪는 반면, 정확한 사후 확률은 명목 커버리지를 유지하며 편향되지 않은 상태를 유지함을 확인했다.
• 모델 비교: 정확한 사후 확률은 장기 기억 가설($H > 1/2$)이 거친 가설($H < 1/2$)보다 $1.5 \times 10^{20}$의 베이즈 인자(Bayes factor)로 우세함을 보여주며, 이는 거친 체제 가설을 사실상 기각한다.
• 예측 성능: 252일 홀드아웃 데이터에 대한 외표본 예측 결과, 시계(horizon)-인식 예측기(Heterogeneous Autoregressive 모델)는 1일 랜덤 워크 오차를 18.7% 감소시켰다. 튜닝된 GARCH(1,1) 모델은 추가로 2.5%의 감소를 달성했으며, 이 모델의 근-통합 지속성($\alpha + \beta = 0.96$)은 허스트 사후 확률이 식별한 장기 기억 역학의 단기 기억 근사 역할을 수행했다.
• 계산 효율성: 시간 벤치마크는 이론적 복잡도 주장을 확인했다. $N=3585$에서 Davies–Harte FFT 생성기는 밀집 Cholesky 분해보다 약 1,100배 빨랐으며, 밀집 방식의 지수가 2.64(근-삼차)인 데 반해 경험적 스케일링 지수는 0.89(근-선형)였다.

의의 및 주장
본 논문은 주식 변동성에서 관찰되는 "거칠음(roughness)"이 추정 아티팩트이거나 특정 체제의 특징일 수 있다고 주장하며, VN30 프런티어 지수에 대한 정확한 추론은 장기 기억 체제를 결정적으로 지지한다는 점을 밝힌다. 본 연구의 의의는 다음과 같다:

1. 편향 제거: 저자들이 입증했듯이 질적으로 체제 분류를 변화시킬 수 있는(장기 기억에서 거친 체제로) Whittle 근사의 편향을 피하는 무편향 대안을 제공한다.
2. 확장성: 대규모 데이터셋에 대해 비마르코프 변동성 모델에 대한 정확한 베이지안 추론을 계산적으로 가능하게 만들었다. 이는 기존에는 근사법에 국한되었던 작업이다.
3. 경험적 기각: 단순히 거친 체제를 선호하지 않는 수준을 넘어, 거친 체제를 효과적으로 배제하는 베이즈 인자를 통해 VN30 지수에 대한 거친 변동성 가설을 엄격하고 데이터 기반으로 기각한다.
4. 재현성: 이중 트랙 구현과 정밀한 수치 검증을 통해 높은 수준의 재현성을 확립한다.

저자들은 일부 선진 시장에서는 거친 체제가 유효한 특징일 수 있으나, 유동성 제약과 데이터 특성이 다른 프런티어 시장에서는 거친 체제와 진정한 장기 기억 역학을 구분하기 위해 정확한 미분 가능 추론 체계가 필수적이라고 결론짓는다.