📊 statistics

Bayesian Non-Parametric Inference for Lévy Measures in State-Space Models

본 논문은 선형 상태 공간 모델 내의 서브디네이터(subordinator) 및 정규 분산-평균 프로세스(normal variance-mean processes)를 위한 레비 측도(Lévy measures)를 추론하기 위해 독립 감마 스케일 디리클레 프로세스(Independent Gamma-scaled Dirichlet Process)를 사용하는 새로운 베이지안 비매개변수 프레임워크를 소개하며, 이는 다루기 쉬운 추론을 제공하고 합성 데이터 및 고빈도 금융 데이터 모두에서 입증된 효과를 보여준다.

원저자: Bill Z. Lin, Simon Godsill

게시일 2026-06-11

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Bill Z. Lin, Simon Godsill

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신은 신비롭고 혼란스러운 도시의 날씨 패턴을 이해하려고 노력하고 있다고 상상해 보세요. 당신은 바람을 직접 볼 수는 없지만, 나무가 흔들리는 모습, 우산이 뒤집히는 모습, 그리고 물웅덩이가 출렁이는 모습을 볼 수 있습니다. 당신은 날씨가 단순히 부드럽고 예측 가능한 미풍이 아니라는 것을 알고 있습니다. 때로는 일반적인 미풍의 규칙을 따르지 않는 갑작스럽고 격렬한 돌풍(점프)이 발생합니다.

이 논문은 그 "돌풍"이 지면에 남긴 지저도한 흔적만을 볼 수 있을 때, 그 돌풍이 정확히 어떤 모습인지 알아내기 위한 초스마트 탐정 키트를 만드는 것에 관한 내용입니다.

다음은 그들의 연구 내용을 일상적인 용어로 풀어낸 것입니다:

1. 문제: "보이지 않는 폭풍"

금융(주식 시장)이나 물리학 같은 많은 분야에서 사물은 매끄럽게 움직이지 않습니다. 그것들은 점프하고, 건너뛰며, 때로는 급락합니다. 수학자들은 이를 "레비 프로세스(Lévy processes)"라고 부릅니다. 이 모델은 왜도(한쪽으로 치우침), 두터운 꼬리(드물지만 거대한 사건), 그리고 불연속성(갑작스러운 점프)을 다룰 수 있기 때문에 현실 세계를 모델링하는 데 탁월합니다.

하지만 큰 문제가 하나 있습니다: 우리는 폭풍을 직접 볼 수 없습니다.

우리는 오직 "여파"(노이즈가 섞인 데이터)만을 봅니다.
폭풍은 너무 빠르게 일어나서 찰나의 순간에 무한히 작은 점프들이 발생할 수도 있습니다.
표준 수학을 사용하여 이러한 점프의 정확한 형태를 추측하는 것은, 진흙과 섞인 수프 한 숟가락을 맛보고 그 수프의 레시피를 맞히려는 것과 같습니다. 이는 매우 어려운 일입니다.

2. 해결책: "형태가 변하는" 탐정 키트

저자들은 이를 해결하기 위해 새로운 베이지안 방법(불확실성을 인정하면서 데이터로부터 학습하는 방법)을 고안했습니다. 특정 형태(예: "모든 점프는 종 모양이다")를 미리 가정하는 대신, 그들은 **독립 감마 스케일 디리클레 프로세스(IGSDP)**라는 유연하고 "형태가 변하는" 도구를 사용합니다.

비유하자면:
당신에게 찰흙 한 봉지가 있다고 상상해 보세요.

기존 방식은 당신에게 미리 결정하도록 강요했습니다: "찰흙은 반드시 구 형태여야 해" 또는 "반드시 정육면체여야 해." 만약 실제 폭풍이 울퉁불퉁한 바위 모양이었다면, 당신의 모델은 실패했을 것입니다.
**이 새로운 방법(IGSDP)**은 어떤 형태든 필요에 따라 즉각적으로 모양을 바꿀 수 있는 마법의 찰흙 봉지를 제공합니다. 이 모델은 데이터를 특정 틀에 억지로 끼워 맞추는 것이 아니라, 데이터가 찰흙에게 어떤 모양이 될지 말하게 합니다.

3. 작동 원리: "시간 왜곡" 기법

이 논문은 정규 분산-평균(NVM) 프로세스라고 불리는 특정 유형의 폭풍에 집중합니다.

표준 시계가 똑딱이며 흘러가는 시간(time)을 생각해 보세요.
이제, 이 시계가 고무줄(서브디네이터, subordinator)에 의해 늘어나거나 압축된다고 상상해 보세요.
고무줄이 늘어날 때 시간은 느려지고 "점프"는 커집니다. 고무줄이 압축될 때 시간은 빨라집니다.

저자들의 방법은 다음 두 가지를 동시에 파악합니다:

고무줄: 시간이 어떻게 늘어나고 있는지(서브디네이터).
폭풍: 시간 왜곡이 적용된 후의 실제 점프가 어떤 모습인지.

그들은 **공액성(conjugacy)**이라는 영리한 수학적 기법을 사용합니다. 쉽게 말해, 저자들의 "탐정 키트"는 새로운 단서를 얻을 때마다 수학적 과정이 엉키거나 깨지지 않고 완벽하게 업데이트되도록 설계되었습니다. 이는 마치 새로운 조각이 들어올 때마다 억지로 끼워 맞출 필요 없이 완벽하게 홈에 딱 들어맞는 퍼즐과 같습니다.

4. "식별성" 퍼즐

이 수학에는 한 가지 까다로운 부분이 있습니다. "고무줄의 강도"와 "폭풍의 크기"의 서로 다른 조합이 똑같이 보일 수 있다는 점입니다. 이는 마치 "강한 고무줄을 가진 작은 폭풍"이 "약한 고무줄을 가진 거대한 폭풍"과 똑같이 보인다고 말하는 것과 같습니다.

저자들은 방정식의 한 부분(관측 노이즈 수준)을 고정함으로써 이 문제를 해결했습니다. 이것은 자 역할을 하여, 숫자들이 서로 혼동되지 않으면서 폭풍을 정확하게 측정할 수 있게 해줍니다.

5. 키트 테스트: 가짜 데이터에서 실제 돈까지

그들은 두 가지 방식으로 이 탐정 키트를 테스트했습니다:

합성 데이터 (시뮬레이션): 그들은 실제 폭풍의 형태를 알고 있는 가짜 데이터를 만들었습니다. 그런 다음 이 방법을 사용하여 그 형태를 복구해 냈습니다.
- 결과: 처음에 완전히 잘못된 추측("나쁜 사전 확률")에서 시작했음에도 불구하고, 키트는 스스로를 교정하여 실제 형태를 찾아냈습니다. 데이터에 노이즈(진흙)가 섞여 있거나 폭풍이 기이한 두 개의 정점(이봉 분포)을 가진 경우에도 이 키트는 성공적으로 작동했습니다.
실제 금융 데이터 (GBP/USD 외환 시장): 이 모델을 실제 고빈도 주식 시장 데이터(틱 단위 데이터)에 적용했습니다.
- 결과: 그들은 이 모델을 사용하여 다음 통화의 움직임을 예측했습니다. 그들의 "레비 모델"(점프를 고려한 모델)은 표준 "가우시안 모델"(매끄럽고 지루한 날씨를 가정하는 모델)보다 시장의 방향과 크기를 훨씬 더 잘 예측했습니다. 특히 표준 모델들이 놓치기 쉬운 갑작스러운 점프를 예측하는 데 탁월했습니다.

요약

이 논문은 연구자들이 복잡한 시스템 내의 보이지 않는 혼돈스러운 점프를 "볼 수 있게" 해주는 새로운 유연한 수학적 프레임워크를 제시합니다. 형태가 변하는 찰흙 모델(IGSDP)과 영리한 시간 왜곡 기법을 사용함으로써, 그들은 데이터가 지저분하거나 불완전할 때도 이러한 점프의 숨겨진 규칙을 정확하게 재구성할 수 있습니다. 그들은 이 방법이 전통적인 방식보다 실제 주식 시장의 움직임을 더 잘 예측한다는 것을 입증함으로써 그 효용성을 증명했습니다.

기술 요약: 상태 공간 모델에서의 레비 측도(Lévy Measures)를 위한 베이지안 비매개변수 추론

문제 정의
레비 과정(Lévy processes)은 왜도(skewness), 두터운 꼬리(heavy tails), 불연속성을 보이는 복잡한 확률 시스템을 모델링하는 데 필수적이며, 금융(예: 파생상품 가격 결정)부터 물리학 및 추적에 이르기까지 다양한 분야에 응용됩니다. 그러나 (특히 비매개변수 설정에서) 기저의 레비 측도를 추론하는 것은 여전히 큰 과제로 남아 있습니다. 기존 방법들은 주로 레비 과정이나 그 증분(increments)을 직접 관측하는 것에 의존합니다. 이러한 방식은 선형 상태 공간 모델(SSM)의 특징인 이산적이고, 노이즈가 포함되며, 잠재적으로 부분적인 관측이 이루어지는 시나리오에서 어려움을 겪습니다. 더욱이, 많은 레비 클래스의 무한 활동성(infinite activity) — 즉, 유한한 시간 간격 내에 무한한 수의 점프가 발생하는 특성 — 과 표현할 수 없는 가능도(likelihood)로 인해 표준적인 추론 절차들이 레비 구동 확률 미분 방정식(SDE)에 적용 불가능한 경우가 많습니다.

방법론
저자들은 선형 상태 공간 모델 내의 서브디네이터(subordinator)와 정규 분산-평균(Normal Variance-Mean, NVM) 프로세스의 레비 측도를 추론하기 위한 새로운 베이지안 비매개변수 프레임워크를 제안합니다. 이 방법론의 핵심 구성 요소는 다음과 같습니다:

독립 감마 스케일 디리클레 프로세스(Independent Gamma-Scaled Dirichlet Process, IGSDP): 서브디네이터 레비 측도에 대한 사전 분포로서 새로운 유연한 랜덤 측도가 도입되었습니다. IGSDP는 감마 분포를 따르는 비율 매개변수와 디리클레 프로세스(DP)의 곱으로 정의됩니다. 이 구조는 형상(shape) 매개변수와 집중(concentration) 매개변수가 동일한 특수한 경우인 잘 알려진 감마 프로세스를 일반화하며, 추론을 위한 다루기 쉬운 조건부 분포를 제공합니다.
생성 모델: 이 프레임워크는 NVM 프로세스에 의해 구동되는 선형 SDE를 모델링합니다. NVM 프로세스는 서브디네이터에 의해 시간 변화(time-changing)된 브라운 운동으로 구성됩니다. 서브디네이터의 레비 측도에는 IGSDP 사전 분포가 할당됩니다. 이 모델은 불규칙한 시간 간격에서의 이산적이고 노이즈가 섞인 관측을 수용할 수 있습니다.
식별성 및 매개변수 컨투어(Identifiability and Parameter Contour): 저자들은 NVM 프로세스(예: 일반화된 쌍곡선 프로세스)에 내재된 식별성 문제를 해결하기 위해 매개변수 컨투어를 규명합니다. 저자들은 기저 매개변수( $Q, \mu_w, \sigma_w$ )가 공동으로 식별될 수는 없지만, 기저의 NVM 레비 측도 자체는 식별 가능하다는 것을 입증합니다. 실질적인 해결책으로, 관측 노이즈 분산( $\sigma_w^2$ )을 고정하여 컨투어 모호성을 해소하고 레비 측도의 효과적인 추론을 가능하게 하는 방안을 제안합니다.
추론 알고리즘: 사후 분포로부터 샘플링하기 위해 증강 마르코프 체인 몬테카를ло(MCMC) 알고리즘이 개발되었습니다. 주요 특징은 다음과 같습니다:
- 콜랩스드 깁스 샘플링(Collapsed Gibbs Sampling): 서브디네이터 급수(series)가 주어졌을 때 모델의 조건부 가우시안 특성을 활용하여, 잠재 상태와 NVM 매개변수( $\mu_w, \sigma_w^2$ )를 라오-블랙웰화(Rao-Blackwellized) 구조를 통해 해석적으로 주변화(marginalize)합니다.
- 메트로폴리스-내-깁스(Metropolis-within-Gibbs): 서브디네이터 레비 측도와 점프 급수(크기 및 시간)를 메트로폴리스-헤이스팅스 단계로 업데이트합니다. 고차원 잠재 공간에서의 혼합(mixing)을 개선하기 위해 중첩 블록 업데이트(overlapping-block updates)가 사용됩니다.
- 하이퍼 매개변수 공액성(Hyper-parameter Conjugacy): 감마 프로세스의 특수한 경우에 대해, 집중 매개변수 $\alpha$ 에 대한 공액 사후 업데이트를 유도하여 폐쇄형(closed-form) 샘플링이 가능하게 합니다. 저자들은 일반적인 IGSDP(독립적인 $\alpha$ 와 비율 매개변수를 가진 경우)가 더 나은 유연성을 제공하지만, 공액 사례가 계산 효율성을 제공한다는 점을 언급합니다.

주요 기여

새로운 사전 분포: 감마 프로세스와 디리클레 프로세스를 확장하여, 다루기 쉬운 조건부 사후 분포를 제공하면서 레비 측도를 위한 유연한 사전 분포를 제공하는 IGSDP를 도입했습니다.
노이즈가 있는 SSM을 위한 프레임워크: 이산적이고 노이즈가 있으며 부분적인 관측이 존재하는 환경에서도 레비 측도를 직접 추론할 수 있는 선형 상태 공간 모델용 방법론을 개발했습니다. 이는 기존의 비매개변수 방법들이 실패하는 설정입니다.
식별성 처리: NVM 프로세스의 명시적인 매개변수 컨투어 규명과 MCMC 알고리즘을 위한 실질적인 처리 방법( $\sigma_w^2$ 고정)을 제시하였습니다.
공액성 결과: 감마 프로세스 특수 사례에 대한 하이퍼 매개변수의 공액 업데이트를 유도하여 효율적인 깁스 샘플링을 용이하게 했습니다.
사후 추정: 스튜던트-t 커널(Student-t kernels)의 혼합으로 표현되는 라오-블랙웰화된 NVM 레비 밀도 평균 추정치를 제공합니다.

실험 결과
본 방법론은 합성 데이터와 실제 데이터 모두에서 검증되었습니다:

합합성 데이터: 프레임워크는 템퍼드 스테이블(Tempered Stable, TS) 서브디네이터와 바이모달(bimodal) 서브디네이터에 의해 구동되는 NVM 프로세스에 대해 테스트되었습니다. 결과는 사후 평균 추정치가 가우시안 관측 노이즈와 잘못 지정된 사전 분포(예: 단봉형 사전 분포를 사용하여 쌍봉형 측도를 복구하는 경우) 하에서도 실제 참값인 레비 측도를 정확하게 복구함을 보여줍니다. 이 방법은 특히 노이즈가 많은 환경에서 빈도주의 투영(frequentist projection) 및 스펙트럼 방법이 성능이 저하되는 것과 달리 견고함을 입증했습니다.
상태 공간 역학: 접근법은 NVM 프로세스에 의해 구동되는 랑주뱅 모델(선형 SDE)에 적용되었습니다. 알고리즘은 위치만을 노이즈와 함께 관측하는 상황에서도 잠재 시스템 상태와 구동되는 레비 측도를 성공적으로 추론했습니다.
실제 금융 데이터: 고빈도 틱 단위의 GBP/USD 외환 데이터에 적용되었습니다. 일보 및 다보 예측 작업에서, 레비 구동 랑주뱅 모델은 칼만 필터링을 통해 학습된 표준 가우시안 랑주뱅 모델보다 평균 제곱 오차(MSE)와 방향 정확도(hit rate) 측면에서 우수한 성능을 보였습니다. 레비 모델은 특히 시장 점프 직후의 점프와 두터운 꼬리 역학을 더 효과적으로 포착합니다.

의의 및 주장
본 논문은 직접 관측 설정에서 벗어나 복잡하고 노이즈가 있는 상태 공간 모델로 범위를 확장함으로써 레비 과정에 대한 베이지안 비매개변수 추론의 범위를 크게 넓혔다고 주장합니다. IGSDP를 도입하고 다루기 쉬운 MCMC 체계를 개발함으로써, 저자들은 제한적인 매개변수 가정에 의존하지 않고 왜도와 두터운 꼬리를 가진 복잡한 역학을 모델링할 수 있는 실용적인 도구를 제공합니다. 본 연구는 NVM 프로세스의 특정 기저 매개변수를 식별하는 것이 어려울 수 있지만, 주요 목표인 레비 측도 자체를 추론하는 것은 달성 가능하며, 이것이 가우시안 대안보다 우수한 예측 성능을 보여주는 것처럼 실질적인 이점을 제공한다는 점을 강조합니다. 저자들은 향후 연구를 통해 이 프레임워크를 비선형 시스템 역학 및 다변량 레비 프로세스로 확장할 수 있음을 언급하며 겸허히 마무리합니다.