📈 economics

Machine Learning for Predicting Market Volatility: A Computational Economics Approach

본 논문은 피처 엔지니어링과 SHAP 기반 설명력을 통해 강화된 머신러닝 모델이 고빈도 시장 변동성을 예측하는 데 있어 전통적인 계량경제학적 방법론을 유의미하게 능가함을 입증하며, 이를 통해 위험 분석 및 투자 계획의 개선을 위한 계산 경제학을 발전시킨다.

원저자: Vasundhara S

게시일 2026-08-25

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Vasundhara S

원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

금융 시장은 종종 살아 숨 쉬는 유기체로 묘사되곤 하지만, 이를 관리하는 사람들에게 금융 시장은 근본적으로 불확실성의 풍경입니다. 이 불확실성의 핵심에는 변동성이라 불리는 개념이 자리 잡고 있습니다. 간단히 말해, 변동성은 짧은 기간 동안 주가가 얼마나 격렬하게 오르내리는지를 측정하는 척도입니다. 변동성이 낮을 때 가격은 꾸준하고 예측 가능한 리듬에 따라 움직입니다. 반면 변동성이 높을 때는 예고 없이 가격이 급등하거나 폭락할 수 있습니다. 투자자, 은행, 그리고 정책 입안자들에게 이러한 리듬을 이해하는 것은 단순한 학술적 연습이 아니라 생존의 문제입니다. 이는 그들이 얼마나 많은 위험을 감수할 수 있는지, 어떻게 자산을 보호할지, 그리고 어떻게 미래를 계획할지를 결정하기 때문입니다. 수십 년 동안 전문가들은 시장이 다소 질서 정연하고 선형적인 방식으로 움직인다는 가정하에 구축된 수학적 공식에 의존해 왔습니다. 이러한 전통적인 도구들은 세상이 평온할 때는 잘 작동하지만, 시장이 불규칙하게 움직일 때는 종종 발목을 잡히며 갑작스러운 가격 변화를 일으키는 복잡하고 뒤틀린 패턴을 포착하는 데 실패합니다.

G. 나라야나마 공과대학교(G. Narayanamma Institute of Technology and Science)의 바순다라 S(Vasundhara S)가 발표한 새로운 연구는 이러한 시장의 흔들림을 예측하는 방식에 근본적인 업그레이드가 필요하다고 제안합니다. 연구자는 기존의 경직된 공식에서 벗어나, 컴퓨터 시스템이 교과서가 아닌 경험으로부터 배우는 학생처럼 데이터 자체로부터 학습하도록 훈련시켰습니다. 방대한 양의 과거 주식 시장 데이터를 고급 머신러닝 시스템에 입력함으로써, 이 연구는 컴퓨터가 전통적인 수학이 놓치는 숨겨진 비선형적 연결 고리를 찾아낼 수 있는지 확인하고자 했습니다. 목표는 단순히 다음 가격 움직임을 추측하는 것이 아니라, 시장을 요동치게 하거나 급등하게 만드는 근저의 힘을 이해하는 시스템을 구축하는 것이었습니다.

연구자는 거래 날짜, 시가, 고가, 저가, 종가, 수정 종가 및 거래량을 포함한 역사적 주식 시장 데이터를 활용했습니다. 이 가공되지 않은 데이터를 컴퓨터가 사용할 수 있도록 만들기 위해, 연구팀은 먼저 누락된 부분을 채우고 숫자를 정리하여 공정하게 비교할 수 있도록 데이터를 정제했습니다. 그 후, 가격이 전날 대비 얼마나 변했는지, 거래량이 시간에 따라 어떻게 변화했는지와 같은 요소들을 계산하여 새로운 단서, 즉 '특징(features)'을 만들어냈습니다. 이렇게 처리된 단서들은 여러 유형의 컴퓨터 모델에 입력되었습니다. 일부는 확립된 통계적 방법에 기반을 두었고, 다른 모델들은 인간의 뇌가 시간의 흐름에 따른 정보의 순서를 처리하는 방식을 모방하도록 설계된 딥러닝 시스템이었습니다.

이 비교 결과는 명확하고 결정적이었습니다. 수년간 금융계의 표준이었던 전통적인 모델들은 이를 따라잡는 데 어려움을 겪었습니다. GARCH라고 알려진 오래된 방식 중 하나는 시장의 움직임 방향을 약 58%의 확률로 정확하게 예측했습니다. 또 다른 표준 접근법인 ARIMA는 이보다 약간 나은 60%의 정확도에 도달했습니다. 그러나 머신러닝 모델들은 이들을 뒤로하고 앞서 나갔습니다. 랜덤 포레스트(Random Forest)라는 모델은 정확도를 거의 65%까지 끌어올렸고, 더욱 정교한 시스템인 XGBoost는 그 수치를 71%까지 밀어 올렸습니다. 가장 성공적인 도구는 언어 처리에도 자주 사용되는 트랜스포머(Transformer) 구조 기반의 딥러닝 모델이었습니다. 이 모델은 74.2%의 방향 정확도를 달성했는데, 이는 시장이 상승할지 하락할지를 거의 4분의 3의 확률로 정확히 예측했음을 의미합니다. 또한 이 모델은 가장 낮은 오차율을 기록했는데, 이는 예측이 더 자주 맞을 뿐만 아니라 실제 값에도 더 근접했음을 시사합니다.

이 발견이 특히 중요한 이유는 단순히 높은 점수 때문이 아니라, 현실 세계 금융의 무질서하고 예측 불가능한 특성을 다루는 능력 때문입니다. 연구는 기존의 방법들이 시장의 복잡하고 비선형적인 역학 관계를 다루기에 적합하지 않음을 보여주었습니다. 기존 방식들은 실제로는 거의 존재하지 않는 일정한 질서를 가정했습니다. 반면, 머신러닝 모델은 이러한 복잡성 속에서 번창하며 인간이 설계한 공식으로는 볼 수 없었던 데이터 속의 패턴을 찾아냈습니다. 연구자는 이러한 결과가 단순히 운 좋은 추측이 아님을 보장하기 위해, 어떤 요인이 예측을 주도하는지 조명등처럼 보여주는 SHAP 기법을 적용했습니다. 이를 통해 모델이 무작위적인 소음이 아니라 특정하고 논리적인 경제 지표에 의존하고 있음이 밝혀졌으며, 이는 결과에 대한 신뢰도를 더해주었습니다.

연구는 금융 예측의 미래가 이러한 계산적 접근 방식에 있다고 결론짓습니다. 머신러닝의 강력한 힘과 명확하고 이해 가능한 추론의 필요성을 결리함으로써, 현재 사용되는 도구들보다 더 정확하고 신뢰할 수 있는 도구를 구축하는 것이 가능합니다. 이 연구는 시장의 미스터리를 완전히 풀었다고 주장하는 것이 아니라, 기존의 규칙만으로는 더 이상 충분하지 않다는 것을 입증했습니다. 데이터는 우리가 컴퓨터가 가격 움직임의 역사로부터 직접 학습하도록 허용할 때, 컴퓨터가 이전에는 도달할 수 없었던 정밀도로 금융 세계의 격변을 헤쳐 나갈 수 있음을 보여줍니다. 이러한 변화는 위험을 관리하고 끊임없이 변화하는 금융 환경을 이해하려는 모든 이들에게 유망한 길을 제시합니다.

기술 요약: 시장 변동성 예측을 위한 머신러닝

문제 정의
시장 변동성을 예측하는 것은 금융 경제학에서 여전히 중요한 과제이며, 이는 투자 전략, 리스크 관리 프로토콜 및 규제 정책에 직접적인 영향을 미칩니다. 일반화된 자기회귀 조건부 이분산성(GARCH) 및 확률적 변동성 모델과 같은 전통적인 계량경제학 모델이 널리 활용되고 있으나, 이러한 모델들은 금융 시장 고유의 풍부하고 비선형적이며 역동적인 특성을 충분히 포착하는 데 종종 실패합니다. 이러한 전통적 접근 방식은 복잡한 시장 행동을 표현하는 데 어려움을 겪으며, 이는 더 적응적인 방법론의 탐색을 필요로 합니다.

방법론
본 연구는 금융 데이터를 사용하여 시장 변동성을 예측하기 위해 머신러닝(ML)을 활용하는 계산 경제학 프레임워크를 제안합니다. 본 연구는 시가(Open), 고가(High), 저가(Low), 종가(Close), 수정 종가(Adjusted Close) 및 거래량(Trading Volume)과 같은 속성을 활용하여 넷플릭스(NFLX) 주식 데이터셋에 집중합니다.

방법론은 다음 단계로 진행됩니다:

데이터 전처리: 본 연구는 결측치를 전방/후방 채우기(forward/backward filling) 또는 보간법(interpolation)을 통해 처리하는 엄격한 데이터 정제 과정을 수행합니다. 로그 수익률, 이동 평균 및 변동성 측정치(예: GARCH 기반 추정치)를 포함한 관련 패턴을 도출하기 위해 특성 공학(Feature engineering) 기법이 적용됩니다. 데이터는 Min-max 스케일링 또는 표준화를 통해 스케일링됩니다.
모델 아키텍처: 세 가지 범주의 모델에 대한 비교 분석이 수행됩니다:
- 전통적 계량경제 모델: GARCH(1,1) 및 ARIMA.
- 머신러닝 모델: 랜덤 포레스트(Random Forest), 서포트 벡터 회귀(SVR) 및 XGBoost.
- 딥러닝 모델: 장단기 메모리(LSTM) 및 트랜스포머(Transformer) 기반 아키텍처.
- 하이브리드 모델: 방법론 섹션에서는 금융 이론과 ML 역량을 결래하기 위한 GARCH-LSTM 및 Attention-LSTM과 같은 잠재적 접근 방식을 언급하지만, 결과에서 보고된 주요 실험적 평가는 위에 나열된 별도의 모델 범주들에 집중합니다.
훈련 및 평가: 데이터 누수를 방지하기 위해 데이터셋을 시계열적으로 분할합니다 (훈련 70%, 테스트 30%). 모델은 평균 제곱 오차(MSE), 평균 제곱근 오차(RMSE), 결정 계수( $R^2$ ) 및 평균 방향 정확도(MDA)를 사용하여 평가됩니다. 하이퍼파라미터 튜닝은 그리드 서치(Grid Search)와 베이지안 최적화(Bayesian Optimization)를 통해 수행되며, 과적합을 완화하기 위해 딥러닝 모델에 드롭아웃(dropout)과 규제(regularization)가 적용됩니다.
해석 가능성: 머신러닝의 "블랙박스" 특성을 해결하기 위해, 본 연구는 변동성 예측을 주도하는 핵심 경제 지표를 식별하기 위해 설명 가능한 도구인 SHAP(Shapley Additive Explanations)과 LIME(Local Interpretable Model-Agnostic Explanations)을 통합합니다.

주요 결과
실험 결과는 고급 ML 및 딥러닝 모델이 전통적인 계량경제학적 접근 방식을 능가하는 명확한 성능 계층을 보여줍니다:

정확도: 트랜스포머 기반 모델이 $R^2$ 점수 0.91로 가장 높은 성능을 달 기록하였으며, XGBoost(0.89)와 LSTM(0.87)이 그 뒤를 이었습니다. 반면, GARCH(1,1) 및 ARIMA와 같은 전통적 모델은 각각 0.72와 0.76의 $R^2$ 점수를 기록했습니다.
오차율: 딥러닝 모델은 가장 낮은 오차율을 보였으며, 트랜스포머 모델은 RMSE 0.044, MAE 0.025를 기록하여 GARCH(RMSE: 0.067) 및 ARIMA(RMSE: 0.061)보다 현저히 낮았습니다.
방향 정확도: 트랜스포머 기반 모델은 74.2%의 평균 방향 정확도(MDA)를 달성하였으며, 이는 GARCH(58.2%) 및 ARIMA(60.5%)와 비교하여 시장 움직임의 올바른 방향을 예측하는 데 있어 우수한 능력을 나타냅니다.
비교: SVR 및 랜덤 포레스트 모델은 전통적 방법보다 개선된 모습을 보였으나, 앙상블 및 딥러닝 기술(XGBoost, LSTM, Transformers)이 가장 강력한 예측력과 안정성을 제공했습니다.

주요 기여
본 논문은 네 가지 주요 기여를 명시합니다:

다양한 지도 학습 기법을 통합하여 시장 변동성을 예측하기 위한 머신러닝 기반 프레임워크 개발.
ML 모델이 기존 계량경제 모델에 비해 갖는 예측력과 견고성의 이점을 입증하는 비교 분석.
ML 기반 변동성 예측의 해석 가능성을 높이기 위한 설명 가능성 접근 방식(SHAP 값 사용)의 도입.
시장 예측을 위한 ML 활용의 경제적 및 금융적 함의에 대한 통찰력 제공.

의의 및 주장
저자는 자신들의 머신러닝 모델이 예측력과 안정성 모두에서 기존 계량경제 모델을 유의미하게 능가한다고 주장합니다. 전통적 모델이 놓치는 비선형 역학을 성공적으로 포착함으로써, 본 연구는 금융 시장 예측 및 리스크 분석을 개선하는 데 있어 계산 경제학의 유망함을 강조합니다. 설명 가능성 방법론의 포함은 ML 기반 예측의 고질적인 문제인 해석 가능성 문제를 해결하여, 이러한 모델들이 금융 의사결정에 더 실용적으로 사용될 수 있게 합니다. 본 논문은 도메인 특화된 금융 전문 지식과 고급 ML 아키텍처를 통합하는 것이 시장 변동성을 이해하고 예측하는 데 있어 더 우월한 경로임을 결론짓습니다.

기술 요약: 시장 변동성 예측을 위한 머신러닝

유사한 논문