💰 quantitative finance

A Hybrid Gaussian Process Regression Framework for Stable Volatility-Covariance Estimation: Evidence from Global Equity Indices

본 논문은 전통적인 계량경제학 모델에 비해 글로벌 주식 포트폴리오의 규제 준수형 우수 변동성-공분산 예측을 달성하기 위해 동적 단변량 변동성 모델링과 안정적인 역사적 상관관계를 결합하고 공격적 노이즈 초기화 전략을 도입한 새로운 하이브리드 가우시안 프로세스 회귀-역사적 시뮬레이션 프레임워크를 제시한다.

원저자: Ujjwala Vadrevu

게시일 2026-05-19

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Ujjwala Vadrevu

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

거대 선박 (은행의 투자 포트폴리오) 의 선장이라고 상상해 보십시오. 당신은 글로벌 주식 시장이라는 바다를 항해 중입니다. 당신의 가장 중요한 임무는 내일 파도가 얼마나 거칠어질지 예측하여 폭풍을 견딜 수 있도록 충분한 구명정 (자본) 을 적재하는 것입니다. 파도가 너무 작다고 추측하면 배는 가라앉고, 너무 크다고 추측하면 불필요한 구명정을 싣는 데 돈을 낭비하게 됩니다.

이 논문은 이러한 파도를 예측하는 새로운, 더 지능적인 방법인 하이브리드 GPR-HS 프레임워크를 소개합니다. 이것이 어떻게 작동하는지 간단한 개념으로 나누어 설명합니다:

1. 낡은 지도의 문제

오랫동안 은행들은 파도를 예측하기 위해 "낡은 지도" (GARCH 또는 EWMA 와 같은 전통적 수학 모델) 를 사용해 왔습니다. 이 논문은 이러한 지도에 세 가지 주요 결함이 있다고 주장합니다:

바다가 잔잔하다고 가정합니다: 그들은 파도가 매끄럽고 예측 가능할 것이라고 기대하지만, 실제 시장은 "두꺼운 꼬리 (fat tails)"를 가지고 있어 이러한 모델이 놓치는 갑작스럽고 거대한 쓰나미가 존재합니다.
너무 경직되어 있습니다: 그들은 나쁜 소식과 좋은 소식이 바다에 동등하게 영향을 미친다고 가정합니다. 실제로는 폭풍 (나쁜 소식) 이 평온한 날 (좋은 소식) 보다 훨씬 더 큰 파도를 만듭니다.
군중 속에서 혼란을 겪습니다: 일곱 척의 다른 배 (주식) 가 어떻게 함께 움직이는지 예측하려 할 때, 이러한 낡은 모델들은 종종 무너지거나 수학적으로 불가능한 답변을 내놓습니다.

2. 새로운 해결책: "스마트 하이브리드" 접근법

저자들은 **가우시안 프로세스 회귀 (GPR)**와 **역사적 시뮬레이션 (HS)**이라는 두 세계의 장점을 결합한 새로운 시스템을 구축했습니다. 개별 파도를 예측할 때는 첨단 기상 레이더를 사용하지만, 파도들이 서로 어떻게 상호작용하는지는 신뢰할 만한 역사서를 활용하는 것과 같습니다.

레이더 (GPR): 파도를 경직된 형태로 강요하는 대신, 이 모델 부분은 바다의 "거침"을 학습합니다. 이는 Matern 5/2 커널이라는 특수 도구를 사용합니다. 해안선을 그려 보라고 상상해 보세요. 매끄러운 곡선 (원과 같은) 은 실제의 날카로운 해안처럼 보이지 않습니다. Matern 커널은 매끄러운 곡선보다 주식 가격의 거칠고 예측 불가능한 본질을 더 잘 포착하는 날카롭고 사실적인 스케치와 같습니다.
역사서 (HS): 레이더가 한 척의 배가 바람에 어떻게 반응하는지 예측하는 동안, 역사서는 모든 배들이 과거에 어떻게 함께 움직였는지 살펴봅니다. 이는 수학을 안정적으로 유지하고 함대가 커질 때 모델이 혼란에 빠지는 것을 방지합니다.

3. 비결: "공격적인 노이즈 초기화 (ANI)"

이것이 이 논문의 가장 큰 혁신입니다. 컴퓨터에게 학습을 시킬 때, 당신은 시작 추측을 제공해야 합니다. 보통 사람들은 "안전한" 추측으로 시작합니다. 하지만 이 논문은 이렇게 말합니다: "시끄럽고 보수적인 추측으로 시작하십시오."

비유: 당신이 학생에게 운전하는 법을 가르친다고 상상해 보세요. 조용하고 빈 도로에서 시작하면 그들은 지나치게 자신감을 가질 수 있습니다. 대신 저자들은 컴퓨터에게 이렇게 말합니다: "도로가 구덩이와 혼란으로 가득 차 있다고 가정하고 시작하십시오."
결과: 이 "시끄러운" 가정 (노이즈 수준을 데이터의 실제 야성함과 동일하게 설정) 으로 시작함으로써 컴퓨터는 매우 신중하도록 강요받습니다. 그것은 결코 위험을 과소평가하지 않습니다. 이는 모델이 실수를 하더라도 안전을 위해 더 많은 구명정을 싣는 쪽으로 실수하도록 보장하여 규제 당국이 좋아합니다.

4. 시범 주행

저자들은 이 새로운 시스템을 5 년간 (2020~2025 년) 미국, 유럽, 일본, 인도 등을 포함한 일곱 개의 주요 글로벌 주식 시장에서 테스트했습니다. 그들은 "전진 체이닝 (forward-chaining)" 방법을 사용했는데, 이는 마치 차를 운전할 때 뒷거울을 훔쳐보며 속임수를 쓰지 않고 앞유리창만 통해 보는 것과 같습니다.

결과:

안전 최우선: 새로운 모델은 전체 포트폴리오에 대해 엄격한 "기대 손실 (Expected Shortfall)" 테스트 (재앙 시 얼마나 많은 돈을 잃는지 측정하는 지표) 를 100% 통과했습니다.
기존 방식보다 우수함: 정확도 측면에서 표준 "역사적 VaR"(낡은 지도) 보다 **71.4%**의 경우에서 더 뛰어났으며, **100%**의 경우에서 더 안전했습니다 (놀라운 위반 사례가 적음).
보수적 승리: 일부 경우, 모델은 실제로 발생한 것보다 적은 붕괴를 예측했습니다. 은행 세계에서는 이것이 "좋은 실패"입니다. 이는 은행이 놀라움에 휩싸이기보다는 추가 자본을 보유하고 안전했다는 것을 의미합니다.

5. 결론

이 논문은 전통적인 방법보다 더 지능적이고, 유연하며, 안전한 금융 리스크 측정의 새로운 방식을 제안합니다. 실제 세계의 혼란을 포착하기 위해 "거친" 수학적 커널을 사용하고 "보수적인" 추측으로 시작함으로써, 이 시스템은 은행들이 최악의 폭풍에 대비하도록 보장하여, 쉽게 무너지는 불안정하고 복잡한 수학을 사용할 필요 없이 엄격한 정부 규정을 충족시킵니다.

간단히 말해: 이는 바다가 보이는 것보다 항상 더 거칠다고 가정하는 새로운 항해 시스템으로, 배가 구명정을 다 쓸 때까지는 결코 멈추지 않도록 보장합니다.

기술 요약: 안정적인 변동성 - 공분산 추정을 위한 하이브리드 가우시안 프로세스 회귀 프레임워크

문제 제기
변동성 - 공분산 행렬 (VCV) 의 정확한 예측은 내부자본적정성평가 (ICAAP) 및 종합자본분석검토 (CCAR) 와 같은 규제 자본 적정성 프로세스에 필수적입니다. GARCH 계열 모델과 지수 가중 이동 평균 (EWMA) 접근법을 포함한 전통적인 계량경제학 모델은 현대 금융 환경에서 구조적 한계에 직면해 있습니다. 이러한 한계에는 모수적 경직성, 꼬리 위험 ("두꺼운 꼬리") 을 체계적으로 과소평가하는 정규성 가정에 대한 의존성, 레버리지 효과 포착 실패, 그리고 시스템적 스트레스 기간 중 비선형적 의존성과 상관관계 전염 현상을 모델링하지 못하는 문제가 포함됩니다. 또한, 동적 조건부 상관관계 (DCC) GARCH 와 같은 다변량 확장은 규모가 커질 때 VCV 행렬의 양정치성 (PD) 을 유지하는 데 특히 수치적 불안정성을 겪는 경우가 많습니다. 반면, 가우시안 프로세스 회귀 (GPR) 는 비선형적이고 시간에 따라 변하는 이분산성을 모델링할 수 있는 비모수적 대안을 제공하지만, 포트폴리오 차원에 다출력 GPR(MOGPR) 을 직접 적용하면 금지할 정도로 높은 계산 복잡도 ( $O((N \cdot T)^3)$ ) 와 수렴 실패가 발생합니다.

방법론
본 논문은 개별 자산 변동성 추정과 자산 간 상관관계 추정을 분리하도록 설계된 하이브리드 가우시안 프로세스 회귀 - 역사적 시뮬레이션 (GPR-HS) 프레임워크를 제안합니다.

데이터 및 전처리: 본 연구는 2020 년 6 월 30 일부터 2025 년 6 월 30 일까지의 7 개 주요 글로벌 주식 지수 (S&P 500, EURO STOXX 50, 닛케이 225, FTSE 100, 항셍, 니프티 50, BSE SENSEX) 의 일일 종가를 활용합니다. 데이터는 동기화된 거래 일정을 보장하도록 전처리되며, 일일 로그 수익률로 변환됩니다.
변동성을 위한 단변량 GPR: 개별 자산의 조건부 분산은 Matern 5/2 커널을 사용한 단변량 GPR 로 모델링됩니다. 이 커널은 무한히 미분 가능한 Radial Basis Function(RBF) 커널 대신 선택되었는데, 이는 RBF 의 무한 미분 가능성은 이론적으로 부적절하지만 Matern 5/2 커널의 2 차 미분 가능성 가정이 금융 수익률의 고유한 "거침 (roughness)"을 더 잘 반영하기 때문입니다. 불가피한 이분산성을 모델링하기 위해 백색 잡음 (White Noise) 커널이 추가됩니다.
공격적 잡음 초기화 (ANI): 학습 수익률의 경험적 분산과 같도록 초기 백색 잡음 분산 ( $\sigma_n^2$ $σ_{n}^{2}$ ) 을 설정하는 새로운 하이퍼파라미터 전략이 도입되었습니다. 이는 세 가지 목적을 수행합니다:
- 규제적 보수주의: 최적화기가 더 매끄러운 구조 함수를 향하도록 유도하여 스트레스 VaR(SVaR) 요구사항과 부합하는 보수적인 변동성 추정을 산출합니다.
- 수치적 안정성: 초기부터 그람 행렬이 잘 조건화되도록 하여 역행렬 계산 실패를 방지합니다.
- 전역 수렴: 주변 가능도 표면을 평평하게 만들어 L-BFGS-B 최적화기가 지역 최적점에서 벗어나도록 돕습니다.
하이브리드 VCV 구성: 포트폴리오 VCV 행렬은 동적인 GPR 예측 조건부 분산 (대각 요소) 과 확장 학습 창에서 유도된 안정적인 역사적 공분산 (비대각 요소) 을 결합하여 구성됩니다. 이를 통해 계산 복잡도가 $O((N \cdot T)^3)$ 에서 $O(N \cdot T^3)$ 으로 감소합니다.
리스크 지표 도출: 첨도를 포착하기 위해 자유도 $\nu=5$ 인 Student's t-분포를 가정하여 VaR(Value-at-Risk) 및 기대단락 (Expected Shortfall, ES) 을 도출합니다.
검증: 프레임워크는 2022 년부터 2025 년까지 확장 창 순방향 연결 교차 검증 방식을 사용하여 평가됩니다. 성능은 정적 역사적 VaR 을 기준으로 Kupiec 무조건부 커버리지 (UC), Christoffersen 조건부 커버리지 (CC), McNeil-Frey ES 백테스트, 그리고 2 차 손실 (Quadratic Loss, QL) 함수를 통해 평가됩니다.

주요 기여
본 논문은 세 가지 주요 기여를 합니다:

하이브리드 아키텍처: 동적 변동성을 위한 단변량 GPR 과 상관관계를 위한 역사적 시뮬레이션을 결합한 새로운 프레임워크를 도입하여 전체 MOGPR 의 확장성 및 안정성 제약을 해결합니다.
공격적 잡음 초기화 (ANI): 그람 행렬의 양정치성, 수치적 안정성, 그리고 규제 준수 보수주의를 보장하는 원칙적인 초기화 전략을 제안합니다.
교차 시장 실증 검증: 5 년 동안 7 개의 이질적인 글로벌 주식 시장 전반에 걸쳐 엄격한 백테스트를 수행하여 다양한 시장 레짐에서 프레임워크의 견고성을 입증합니다.

결과

모델 수렴: GPR 모델은 모든 7 개 시장에서 최적 수렴을 달성했는데, 이는 학습 역사가 확장됨에 따라 로그 주변 가능도 (LML) 점수가 단조 증가함으로써 입증되었습니다.
단변량 성능: 프레임워크는 대부분의 지수에 대해 조건부 커버리지 (CC) 통과율을 75% 에서 100% 사이로 달성했습니다. 무조건부 커버리지 (UC) 및 기대단락 (ES) 에서의 실패는 주로 "과도한 보수주의 (예상보다 적은 위반)"로 특징지어졌으며, 이는 규제 맥락에서 선호되는 실패 양상입니다.
포트폴리오 수준 성능: 하이브리드 프레임워크는 가장 까다로운 규제 검증인 ES 테스트에서 모든 분할에 걸쳐 100% 통과율을 달성했습니다. Kupiec 테스트는 특정 분할에서 일부 "보수적 실패 (실제 위반 < 예상)"를 보였지만, 조건부 커버리지 테스트는 모든 경우에 통과하여 모델이 위반의 군집 없이 시간에 따라 변하는 변동성을 추적함을 확인했습니다.
벤치마크 비교: GPR-HS 프레임워크는 2 차 손실 (정확도) 기준 단변량 사례의 71.4% 에서 정적 역사적 VaR 벤치마크보다 우수한 성과를 보였으며, 위반 횟수 (안전성) 기준으로는 100% 의 사례에서 우세하거나 동률을 기록했습니다. 포트폴리오 수준 비교에서 GPR-HS 프레임워크는 역사적 VaR 에 비해 현저히 낮은 2 차 손실 값을 보였습니다 (예: 2022 년 0.619 대 13.931).

의의 및 주장
본 논문은 하이브리드 GPR-HS 프레임워크가 동적 포트폴리오 리스크 측정을 위한 실행 가능하고 규제 준수 솔루션을 제공한다고 주장합니다. 변동성과 상관관계 추정을 분리함으로써 전체 다변량 GPR 의 계산 및 수치적 불안정성을 극복하면서도 전통적 GARCH 모델의 모수적 경직성을 피합니다. 공격적 잡음 초기화 전략은 ICAAP 및 CCAR 스트레스 테스트에 적합한 보수적이고 방어 가능한 예측을 보장하는 방법론적 기여로 강조됩니다. 고불확실성 아시아 레짐을 포함한 다양한 글로벌 시장에서 안정성과 보수성을 유지하는 프레임워크의 능력은 현대 시장 리스크 관리를 위한 강력한 도구로서의 유용성을 시사합니다. 저자는 정적 상관관계 가정의 한계를 인정하지만, 실제적으로 동적 변동성 구성 요소가 이를 효과적으로 보상하여 견고한 포트폴리오 수준의 리스크 측정을 산출한다고 지적합니다. 향후 작업은 이 프레임워크를 스트레스 시나리오 분석 및 SHAP 값을 통한 모델 해석 가능성으로 확장하는 것으로 계획되어 있습니다.