💰 quantitative finance

Long-memory GARCH via a two-dimensional Markov chain

이 논문은 과거 충격의 상태 의존적 멱법칙 감쇠(power-law decay)를 생성하기 위해 2차원 마르코프 체인을 활용함으로써, 강력한 이론적 안정성 보장과 경쟁력 있는 실증적 예측 성능을 달성하는 새로운 GARCH 유형의 모델을 소개한다.

원저자: Kyungsub Lee, Kennedy Titus Kayaki

게시일 2026-07-29

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Kyungsub Lee, Kennedy Titus Kayaki

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

주식 시장을 거대하고 혼란스러운 대양이라고 상상해 보십시오. 때로는 파도가 완만하고 예측 가능하지만, 어떤 때는 갑작스러운 폭풍이 몰아쳐 며칠 동안 물결이 격렬하게 요동치기도 합니다. 금융의 세계에서 이러한 "요동"을 **변동성(volatility)**이라고 부릅니다. 수십 년 동안 과학자들은 이 파도를 예측하기 위해 수학적 지도를 만들기 위해 노력해 왔습니다. GARCH 모델이라 불리는 가장 유명한 지도들은 단순한 메아리처럼 작동합니다. 즉, 오늘 큰 파도가 치면 내일도 바다가 다소 거칠겠지만, 그 파도의 기억은 협곡에서의 외침이 몇 초 후 사라지는 것처럼 빠르게 희미해집니다.

하지만 실제 데이터는 바다가 훨씬 더 긴 기억력을 가지고 있음을 시사합니다. 오늘 발생한 거대한 폭풍은 몇 주, 심지어 몇 달 동안이나 파도를 "거칠게" 유지시킬 수 있는데, 이를 장기 기억(long-memory) 현상이라고 합니다. 기존의 지도들은 너무 빨리 잊도록 설계되었기 때문에 이 현상을 다루는 데 어려움을 겪습니다. 이를 해결하기 위해 일부 연구자들은 무한한 층의 기억을 가진 지도를 만들려고 시도했지만, 이는 너무 복격하여 사용하기 어렵거나 안정성을 증명하기가 까다로웠습니다. 이 논문은 새로운 아이디어를 제시하며 등장합니다. 만약 우리가 추적하기 쉽고 수학적으로 견고한, 두 부분으로 구성된 단순한 시스템을 사용하여 그 길고 오래 남는 기억을 포착할 수 있다면 어떨까요?

2차원 기억 기계

저자인 경섭 리(Kyungsub Lee)와 케네디 타이터스 카야키(Kennedy Titus Kayaki)는 금융 변동성을 모델링하는 새로운 방법을 제안합니다. 이들의 모델은 단순히 현재 물이 얼마나 "거친지"(수준, level)만을 추적하는 대신, 그 거칠기가 얼마나 빨리 사라질 것으로 예상되는지(기울기, slope) 또한 추적합니다.

이것은 마치 마법 같고 스스로 조절되는 고무줄과 같습니다.

수준(The Level): 이것은 현재 고무줄이 얼마나 늘어나 있는지를 나타냅니다. 큰 충격(예: 갑작스러운 시장 폭락)은 고무줄을 늘려 "변동성"을 높게 만듭니다.
기울기(The Slope): 이것은 고무줄의 "뻣뻣함" 또는 정상 상태로 돌아오려는 속도입니다.

기존 모델에서는 고무로 항상 일정한 속도로 돌아왔습니다. 하지만 이 새로운 모델에서는 충격이 발생할 때마다 단순히 고무줄을 늘리는 것에 그치지 않고, 고무줄의 뻣뻣함 또한 변화시킵니다. 충격이 충분히 크다면, 고무줄을 더 "느슨하게" 만들어 정상으로 돌아오는 데 훨씬 더 오랜 시간이 걸리게 할 수도 있습니다. 이는 피드백 루프를 생성합니다: 즉, 충격의 역사가 미래의 회복 속도를 변화시키며, 이를 통해 모델은 무한한 변수의 도움 없이도 과거를 매우 오랫동안 기억할 수 있게 됩니다.

어떻게 작동함을 증명했는가

이러한 복잡하고 스스로 조절되는 시스템에서 가장 우려되는 점은 시스템이 통제 불능 상태에 빠질 수 있다는 것입니다. 만약 고무줄이 너무 느슨해지면, 모델은 무한한 변동성을 예측하게 될 것이며 이는 말이 안 되는 결과입니다. 저자들은 자신들의 시스템이 안전하다는 것을 증명하는 데 많은 시간을 할애했습니다.

그들은 **포스터-리야푸노프 조건(Foster–Lyapunov condition)**이라는 수학적 도구를 사용했습니다. 이것을 안전망이라고 상상해 보십시오. 그들은 시장이 아무리 거칠어지더라도 시스템에 결국 고무줄을 안정적인 상태로 끌어당기는 내장된 메커니즘이 있음을 보여주었습니다. 그들은 모델이 **양의 해리스 재귀적(positive Harris recurrent)**임을 증명했는데, 이는 "시스템이 항상 예측 가능한 패턴으로 안착하며 무한대로 치솟지 않는다"는 것을 의미하는 세련된 표현입니다. 또한 그들은 이 안정적인 패턴이 유일하다는 것을 보여주었는데, 이는 모델이 혼란을 겪거나 서로 다른 행동 사이를 오가지 않는다는 것을 의미합니다.

시뮬레이션: 장기 기억 테스트

아이디어가 실제로 장기 기억을 만들어내는지 확인하기 위해, 팀은 수천 번의 컴퓨터 시뮬레이션을 실행했습니다. 그들은 모델에 무작위 시장 충격을 입력하고 시간이 지남에 따라 "변동성"이 어떻게 행동하는지 관찰했습니다.

그들은 모델의 매개변수가 특정 "안정성 경계"(안전망의 가장자리)에 가깝게 조정될 때, 시뮬레이션된 시장이 실제 장기 기억 데이터와 정확히 일치하게 행동한다는 것을 발견했습니다. 충격은 빠르게 사라지지 않고, 대신 오랫동안 머물며 느린 멱법칙(power-law) 붕괴를 만들어냈습니다. 이는 그들의 단순한 두 부분 시스템이 실제로 금융 시장에서 보이는 끈질기고 오래 지속되는 변동성을 모방할 수 있음을 확인시켜 주었습니다.

실전 테스트 드라이브

저자들은 이후 S&P 500, FTSE 100, DAX, Nikkei 225, KOSPI, 그리고 비트코인 등 6개의 주요 금융 시장 데이터를 사용하여 모델을 직접 시험해 보았습니다.

긍정적인 소식:
이 모델은 이러한 시장의 "장기 기억"을 포착하는 데 놀라울 정도로 뛰어났습니다. 모델의 예측치를 실제 데이터와 비교했을 때, Nikkei 225 및 S&P 500과 같은 여러 시장에서 기억력 추정치가 매우 잘 일치했습니다. 이 모델은 기존의 더 단순한 모델들이 놓쳤던 변동성의 느린 붕괴를 성공적으로 재현했습니다.

비교 분석:
그들은 이 모델을 해당 분야의 강자들과 맞붙였습니다:

GARCH(1,1): 표준적이고 단순한 모델.
FIGARCH: 장기 기억을 위해 특별히 설계된 복잡한 모델.
HAR-RV: 과거의 실현 분산(과거 변동성의 매우 직접적인 척도)을 사용하는 모델.

결과:

과거 적합도: 복잡한 FIGARCH 모델이 역사적 데이터를 가장 잘 "적합"시켰습니다(가장 높은 가능도 값을 가짐). 새로운 모델은 FIGARCH보다 약간 뒤처졌지만, 표준 GARCH(1,1)와는 매우 근접했습니다.
미래 예측: 이 부분이 흥령롭습니다. 미래 변동성을 예측할 때, 새로운 모델은 대부분의 시장에서 표준 GARCH(1,1)만큼 성능이 좋았습니다. 전체적으로 FIGARCH를 능가하지는 못했지만, KOSPI와 비트코인을 제외한 대부분의 시장에서 통계적으로 그만큼 우수했습니다.
진정한 승자: 흥м롭게도, 직접적인 과거 분산 데이터를 사용하는 HAR-RV 모델이 가장 뛰어난 예측 모델이었습니다. 그러나 저자들은 HAR-RV가 새로운 모델이 가지고 있지 않은 정보(실현 분산을 직접 봄)를 사용하는 특화된 도구라는 점을 언급했습니다.

핵심 요약

본 논문은 장기 기억을 포착하기 위해 무한히 복잡한 기계가 필요하지 않다는 결론을 내립니다. 충격에 따라 변화하는 "기억 척도"라는 단 하나의 차원을 추가함으로써, 다음과 같은 모델을 구축할 수 있습니다:

수학적으로 안전함: 시스템이 폭발하지 않습니다.
단순함: 한 번에 두 개의 숫자만을 추적합니다.
효과적임: 가장 복잡한 모델들만큼이나 효과적으로 시장 변동성의 끈질기고 오래 지속되는 특성을 포착합니다.

이는 때때로 복잡하고 요동치는 대양을 이해하는 최선의 방법은 모든 파도를 지도에 그리는 것이 아니라, 물 자체가 어떻게 폭풍을 기억하는지를 이해하는 것임을 상기시켜 줍니다.

기술 요약: 2차원 마르코프 체인을 통한 롱 메모리(Long-memory) GARCH

문제 제기
표준 GARCH 모델은 과거 제곱 혁신(squared innovations)과 조건부 분산의 단순한 재귀적 피드백을 통해 변동성 클러스터링을 포착한다. 그러나 실증적 증거에 따르면 금융 변동성은 "롱 메모리(long memory)" 특성을 보이는데, 이는 기존의 GARCH 명세로는 재현할 수 없는, 변동성 대리 변수(예: 제곱 수익률)에서의 느린 의존성 붕괴를 의미한다. 기존의 해결책인 Fractional GARCH (FIGARCH), HYGARCH 또는 무한 차수 ARCH 모델은 분수 필터, 쌍곡선 붕괴 또는 무한 시차 구조를 도입하여 지속성을 부여한다. 이러한 접근 방식은 효과적이긴 하지만, 종종 유한 차원의 마르코프 표현이 결여되어 있어 안정성 분석과 계산적 용이성을 어렵게 만든다. 반대로, 잠재 요인(latent factors)을 가진 확률적 변동성 모델이나 러프 변동성(rough volatility) 모델은 지속성을 다루지만, 실증적 구별 가능성이 부족하거나 직접적인 조건부 분산 재귀 구조가 결여되는 경우가 많다.

방법론
저자들은 롱 메모리 동작을 생성하면서도 유한 차원(2차원) 마르코프 상태를 유지하는 새로운 GARCH 유형의 모델을 제 제안한다. 핵심 메커니즘은 "레벨 및 슬로프 매칭(level-and-slope matching)" 구성(Lee, 2026b)을 조건부 변동성 모델링에 적응시킨 것이다.

잠재 멱법칙 커널(Latent Power-Law Kernel): 고정된 자기회귀적 붕괴 대신, 조건부 분산은 잠재 멱법칙 커널 $h_n(t) = \mu + a_n(t+c_n)^{-p}$ 로부터 도출된다.
상태 업데이트 메커니즘: 수익 충격 $\eta_n$ $η_{n}$ 이 관측되면, 커널은 새로운 원점에서의 **레벨(level)**과 **슬로프(slope)**를 모두 매칭함으로써 다음 기로 업데이트된다.
- 상태 벡터는 $(X_n, c_n)$ 이며, 여기서 $X_n$ 은 초과 분산 레벨을, $c_n$ 은 내생적 메모리 스케일을 나타낸다.
- 업데이트 규칙(식 6–7)은 새로운 상태 $(X_n, c_n)$ 가 이전 상태와 제곱 혁신 $\eta_n^2$ 의 결정론적 함수가 되도록 보장한다.
마르코프 표현: 결과적으로 생성된 프로세스는 상태 공간 $S = [0, \infty) \times [\gamma, \infty)$ 상의 시계 균질 마르코프 체인이다. 이 모델은 붕괴 계수가 고정된 결정론적 계수가 아니라 내생적이고 상태 의존적인 랜덤 계수 ARCH( $\infty$ ) 표현을 허용한다.

주요 기여

안정성 이론: 이 비표준 마르코프 체인에 대한 엄밀한 안정성 분석이 주요 수학적 기여이다. 안정성이 1차원 로그 모멘트 조건으로 축소되는 표준 GARCH 모델과 달리, 이 모델은 결합 푸스터-리아푸노프(joint Foster–Lyapunov) 조건을 필요로 한다.
- 저자들은 로그 분산과 메모리 스케일을 결합하는 리아푸노프 함수 $V(x, c) = \log(1+x) + \lambda c$ 를 구축한다.
- 저자들은 로그 분산과 메모리 스케일의 결합 드리프트의 상한이 음수임을 요구하는 $\lambda > 0$ 의 존재성에 관한 결합 드리프트 조건(가정 1)을 도출한다.
- 이 조건과 혁신 분포에 대한 정규성 가정 하에, 논문은 이 체인이 **양의 해리스 재귀적(positive Harris recurrent)**이며 유일한 불변 확률 측도를 가짐을 증명한다.
진단 조건: 논문은 표준 GARCH 로그 모멘트 조건과 유사하지만, 임계 내생적 스케일 $c^*$ 에서 평가되는 필수 진단 조건(식 35)을 도출한다. 수치 실험 결과, 이 진단 경계는 실제 결합 안정성 경계와 매우 근접함을 보여준다.
정규성 검증: 제어 이론적 논증(Meyn and Tweedie 프레임워크)을 사용하여, 저자들은 결정론적 제어 모델이 경계 앵커 $(0, \gamma)$ 에 도달할 수 있고 국소적으로 자코비안 계수(Jacobian rank) 조건이 성립함을 보여줌으로써 $\psi$ -기약성(irreducibility)과 컴팩트 집합의 미세성(petiteness)을 확립한다.

결과

시뮬레이션 연구:
- 로그 제곱 혁신에 대한 로컬 휘틀(local Whittle) 추정치를 사용하여, 시뮬레이션은 이 모델이 상당한 저주파 지속성(롱 메모리)을 생성함을 보여준다.
- 지속성은 시스템이 진단 안정성 경계 근처에 위치할 때 가장 강하게 나타난다. 메모리 스케일 $c_n$ 이 커짐에 따라, 내생적 붕괴 계수는 1에 가깝게 유지되어 천천히 붕괴하는 의존성을 생성한다.
- 추정된 메모리 파라미터 $\hat{d}$ 는 시스템이 안정성 프런티어에 접근함에 따라 단조 증가한다.
실증 분석:
- 모델을 5개 국제 주가지수(S&P 500, FTSE 100, DAX, Nikkei 225, KOSPI) 및 비트코인의 일간 수익률에 적합시켰다.
- 내부 적합도(In-Sample Fit): LM-GARCH는 상당한 롱 메모리 행동을 포착하며, 모델 함의 메모리 추정치는 Nikkei 225, S&P 500, FTSE 100에 대한 데이터 기반 추정치와 밀접하게 일치한다. 그러나 주식 지수에 대해 내부 로그 가능도(log-likelihood)는 일반적으로 FIGARCH 및 비대칭 GARCH(GJR, EGARCH)보다 낮지만, 비트코인에 대해서는 이를 능가한다.
- 외부 적합도 예측(Out-of-Sample Forecasting): 실현 분산에 대한 QLIKE 손실을 사용하여, LM-GARCH는 GARCH(1,1)와 경쟁적인 성능을 보인다. FIGARCH가 모든 시장에서 평균 손실이 더 낮지만, 그 차이는 KOSPI와 비트코인에서만 통계적으로 유의미하다. 실현 분산을 직접 사용하는 HAR-RV는 예상대로 모든 수익 기반 모델보다 우수한 성능을 보인다.

의의 및 주장
본 논문은 롱 메모리 변동성 생성을 생성하면서도 낮은 차원의 마르코프 구조를 유지하는 간결한 프레임워크를 제공한다고 주장한다.

메커니즘: 롱 메모리가 분수 적분이나 무한 시차를 통해 부과되는 것이 아니라, 상태 자체의 역학(구체적으로 메모리 스케일 $c_n$ 의 진화)으로부터 발생할 수 있음을 입증한다.
용이성: 2차원 상태를 유지함으로써, 이 모델은 무한 차수 또는 분수 모델과 달리 표준 안정성 분석과 계산 효율적인 추정을 가능하게 한다.
실증적 유용성: 모델은 금융 데이터에서 관찰되는 지속성을 성공적으로 재현하며, 표준 벤치마크와 대등한 예측 정확도를 제공한다. 이는 "롱 메모리" 현상이 마르코프 프레임워크를 포기하지 않고도 효과적으로 모델링될 수 있음을 시사한다.

저자들은 모델의 우월성에 대해 겸손한 태도를 유지하며, 이 모델이 상당한 지속성을 포착함에도 불구하고 모든 시장에서 FIGARCH보다 내부 적합도가 높지는 않으며, 표준 GARCH에 대한 외부 예측 우위도 특정 시장에 국한된다는 점을 인정한다. 본 논문의 주요 기여는 유한 차원 마르코프 프로세스가 내생적 상태 진화를 통해 복잡한 롱 메모리 변동성 역학을 생성할 수 있다는 것을 이론적으로 입증한 데 있다.