📈 경제학

Does Complexity Improve Forecasting Accuracy? Evidence from Single and Multi-Layer LSTM Models for the BIST 100 Index

본 연구는 기술적 변수와 거시경제 변수를 사용하여 BIST 100 지수를 예측함에 있어 더 단순한 단일 계층 LSTM 구조가 더 복잡한 다계층 모델보다 우수한 성능을 보인다는 것을 입증하며, 이는 절약성이 금융 예측의 일반화 능력을 향상시킨다는 점을 시사한다.

원저자: Fatih Mangir, Metehan Ortakarpuz, Abdul-Razak Bawa YUSSIF

게시일 2026-10-21

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Fatih Mangir, Metehan Ortakarpuz, Abdul-Razak Bawa YUSSIF

원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

금융 세계에서 주식 시장 지수의 미래 움직임을 예측하는 것은 오랫동안 경제학자와 투자자 모두를 매료시켜 온 과제입니다. 이는 시장이 혼란스럽기는 하지만 완전히 무작위적인 것은 아니라는 믿음에 뿌리를 둔 도전입니다. 과거의 가격, 경제 보고서, 그리고 글로벌 심리 속에 숨겨진 패턴이 다음에 올 상황에 대한 실마리를 제공할 수 있다는 믿음 말입니다. 수십 년 동안 연구자들은 이러한 패턴을 찾기 위해 통계 모델에 의존해 왔으나, 강력한 컴퓨터의 등장은 새로운 도구를 도입했습니다. 바로 인공지능입니다. 구체적으로, 인간의 뇌가 정보의 시퀀스를 처리하는 방식을 모방하도록 설계된 신경망이라 불리는 일종의 컴퓨터 프로그램이 이 작업의 인기 있는 선택지가 되었습니다. 이 분야의 지배적인 가정은 종로가 더 깊은 처리 계층을 가진 더 복잡한 버전의 프로그램이 자연스럽게 더 나은 예측으로 이어질 것이라는 것이었습니다. 결국, 단순한 모델이 조금을 배울 수 있다면, 더 복잡한 모델은 훨씬 더 많은 것을 배울 수 있어야 하기 때문입니다.

하지만 최근 터키 주식 시장의 주요 벤치마크인 보르사 이스탄불 100(Borsa Istanbul 100) 지수에 초점을 맞춘 한 연구는 이러한 가설에 이의를 제기합니다. 연구진인 파티흐 망기르(Fatih Mangir), 메테한 오르타카르푸즈(Metehan Ortakarpuz), 압둘라자크 바와 유시프(Abdul-Razak Bawa Yussif)는 이러한 예측 모델에 더 많은 층의 복잡성을 더하는 것이 실제로 정확도를 향상시키는지 테스트하고자 했습니다. 그들은 2016년 초부터 2025년 말까지, 중요한 글로벌 및 지역적 경제 변화를 포함하는 2,500일 이상의 거래 데이터를 수집했습니다. 모델에 입력하기 위해 그들은 단순히 가격 이력에만 의존하지 않았습니다. 대신, 시장의 모멘텀을 측정하는 기술적 지표와 글로벌 공포 지수, 미국 달러의 강세, 그리고 이자율과 실업률 같은 현지 경제 요인을 포함한 풍부하고 다양한 정보를 일일 종가와 결합했습니다. 모델을 학습시키기 전, 그들은 수학적 기법을 사용하여 데이터의 노이즈가 섞인 불규칙한 변동을 매끄럽게 다듬었으며, 이를 통해 컴퓨터가 무작위적인 정적(static)이 아닌 근본적인 신호를 학습할 수 있도록 보장했습니다.

그 후 연구팀은 어떤 모델이 더 나은 성능을 보일지 확인하기 위해 두 가지 뚜렷한 모델 군을 구축했습니다. 첫 번째 모델 군은 단순한 단일 계층 네트워크로 구성되었고, 두 번째 모델 군은 여러 단계의 처리가 있는 더 복잡한 다층 구조를 특징으로 했습니다. 그들은 다음 날의 종가를 예측하도록 이 모델들을 학습시켰으며, 결과가 단순히 운이 좋아서 나타난 현상이 아님을 보장하기 위해 각 구성마다 실험을 30회 반복했습니다. 결과는 명확했으며 다소 직관에 어긋났습니다. 단순한 모델이 복잡한 모델보다 지속적으로 우수한 성능을 보였습니다. 단 10개의 처리 유닛만을 가진 단일 계층 모델이 가장 낮은 평균 오차를 기록한 반면, 3개의 층을 포함한 가장 복명한 모델들은 속도를 따라잡는 데 어려움을 겪었습니다. 사실, 가장 정교한 구조를 가진 모델이 가장 낮은 성과를 내며 큰 차이로 목표치를 놓쳤습니다.

이러한 결과는 이 신흥 시장 지수를 예측하는 특정한 맥락에서, 신경망에 깊이를 더하는 것이 모델의 학습을 돕는 것이 아니라 오히려 과업을 너무 복잡하게 만들었을 수 있음을 시사합니다. 데이터를 정제하고 글로벌 및 로컬 변수로 풍부하게 만들었음에도 불구하고, 데이터는 단순한 접근 방식이 가장 잘 포착할 수 있는 구조를 가지고 있었습니다. 복잡한 모델들은 존재하지 않는 패턴을 학습하려고 시도하는 것처럼 보였으며, 결과적으로 시장의 진정한 리듬이 아닌 노이즈를 암기해 버린 것입니다. 이 연구는 이러한 유형의 금융 예측에 있어서는 최소한의 필요한 복잡성만을 사용하는 절약한(parsimonious) 접근 방식이 더 우월하다는 것을 보여줍니다. 가장 정확한 예측은 가장 강력한 기계가 아니라, 가용 가능한 정보에 딱 맞을 만큼만 복잡한 기계로부터 나왔습니다.

연구진은 또한 결과에서 흥계로운 트레이드오프(trade-off)를 주목했습니다. 가장 단순한 모델이 평균적으로는 가장 정확했지만, 50개의 유닛을 가진 약간 더 큰 단일 계층 모델은 다른 종류의 이점을 제공했습니다. 이 버전은 거의 대등한 정확도를 보이면서도 서로 다른 학습 실행 과정에서 훨씬 더 일관된 결과를 나타냈는데, 이는 실제 투자 결정에 있어서는 정확하면서도 신뢰할 수 있는 모델이 이상적인 선택이 될 수 있음을 시사합니다. 궁극적으로, 이 연구는 금융 예측의 영역에서 '더 많은 것이 항상 더 나은 것은 아니다'라는 점을 상기시켜 줍니다. 최고의 도구는 반드시 가장 정교한 도구가 아니라, 그것이 이해하려는 데이터의 본질과 완벽하게 일치하는 도구입니다.

기술 요약: 복잡성이 예측 정확도를 향상시키는가? BIST 100 지수에 대한 단일 및 다층 LSTM 모델의 증거

문제 제기
본 연구는 금융 머신러닝의 중요한 방법론적 질문, 즉 LSTM(Long Short-Term Memory) 네트워크의 깊이와 같은 아키텍처의 복잡성을 높이는 것이 반드시 예측 정확도를 향상시키는지 여부를 다룹니다. 딥러닝은 더 큰 표현 능력 덕분에 단순한 모델보다 우수할 것이라고 흔히 가정되지만, 저자들은 특히 터키와 같은 신흥 시장의 노이즈가 많은 환경에서는 과도한 복잡성이 과적합(overfitting)을 초래할 수 있다고 주장합니다. 본 연구는 데이터의 정보 구조가 제한적인 상황에서 간결한(parsimonious) 모델이 더 깊은 아키텍처보다 더 나은 일반화 성능을 보이는지 결정하기 위해, 국내 거시 금융의 불안정성과 글로벌 충격에 노출된 벤치마크인 BIST 100 지수에 초점을 맞춥니다.

방법론
본 연구는 2016년 1월 4일부터 2025년 12월 31일까지의 2,507개 일일 BIST 100 지수 관측치를 사용하여 엄격하고 재현 가능한 예측 프레임워크를 적용합니다.

데이터 및 특징(Features): 타겟 변수는 일일 종가입니다. 입력 특징 세트는 기술적 지표(MACD, RSI, ATR)와 글로벌 및 거시 경제 변수 집합(VIX, USDX, 터키 금리, 실업률, 소비자 심리 지수)을 포함합니다.
전처리: 시간적 무결성을 보장하고 정보 누수(information leakage)를 최소화하기 위해, 모든 처리를 수행하기 전 데이터를 시계열 순서대로 분할했습니다(80% 훈련, 20% 테스트). 결측치는 전방/후방 채우기(forward/backward fill)를 사용하여 대체되었습니다. 결정적으로, 고주파 노이즈를 필터링하기 위해 타겟 변수에 웨이브릿 디노이징(Haar wavelet 및 VisuShrink 임계값 적용)을 적용한 후, 엄격하게 훈련 세트에서 유도된 Min-Max 정규화를 수행했습니다.
시퀀스 구축: 5일간의 룩백 윈도우(lookback window)를 사용하여 지도 학습 시퀀스를 생성함으로써 단기 시장 의존성을 포착했습니다.
모델 아키텍처: 두 가지 계열의 LSTM 모델을 비교했습니다:
- 단일 계층(Single-Layer, SL): 10, 30, 50, 100, 150, 200개의 뉴런으로 구성된 설정.
- 다층(Multi-Layer, ML): 2개 층 구조(예: 100/50, 150/100) 및 3개 층 구조(100/50/20)를 포함한 스택형 구성.
훈련 및 평가: 하이퍼파라미터(옵티마이저, 학습률, 배치 크기)는 각 아키텍처에 대해 독립적으로 그리드 서치(grid search)를 통해 튜닝되었습니다. 신경망 훈련의 확률적 특성을 고려하여, 각 구성은 무작위 가중치 초기화를 통한 30회의 독립적인 반복 실험을 통해 평가되었습니다. 성능은 RMSE, MAPE, 피어슨 상관계수를 사용하여 측정되었습니다. 통계적 유의성은 Welch의 이표본 t-검정(Welch's two-sample t-test)을 통해 검증되었습니다.

주요 결과
실증적 연구 결과는 모델 복잡도와 예측 정확도 사이에 비단조적(non-monotonic) 관계가 있음을 보여줍니다:

단순성의 우월성: 10개 뉴런을 가진 단일 계층 LSTM이 가장 낮은 평균 RMSE(231.32)와 가장 높은 피어슨 상관계수(0.9797)를 달성하였으며, 모든 다층 아키텍처를 유의미하게 앞질렀습니다.
깊이에 따른 성능 저하: 단일 계층 모델에서 뉴런 수를 50개 이상으로 늘리면 성능 저하가 발생했으며, 200개 뉴런 모델이 최악의 결과를 보였습니다. 마찬가지로, 다층 아키텍처는 일반적으로 단일 계층 모델보다 높은 오차율과 낮은 상관관계를 나타냈습니다. 3개 층 모델(100/50/20)은 모든 구성 중 가장 낮은 성능을 보였습니다.
안정성 대 정확도의 트레이드오프: 10개 뉴런 모델은 가장 높은 정확도를 제공했지만, 반복 실험 간의 분산이 높았습니다. 50개 뉴런 단일 계층 모델은 최적에 가까운 정확도를 제공하면서도 가장 높은 안정성(RMSE의 가장 낮은 표준 편차)을 보여주는 견고한 절충안으로 나타났습니다.
통계적 유의성: Welch의 t-검정 결과, 최상의 단일 계층 모델(10N)과 대표적인 다층 벤치마크(150/100) 간의 성능 차이는 통계적으로 유의미했습니다( $p < 0.001$ ). 이는 단일 계층 모델이 체계적인 정확도 우위를 제공함을 입증합니다.

주요 기여
본 논문은 문헌에 세 가지 주요 기여를 합니다:

다변량 프레임워크: 웨이브릿 디노이징을 통해 처리된 기술적 지표와 글로벌 리스크 및 국내 거시 경제 변수를 통합한 BIST 100을 위한 종합적인 예측 프레임워크를 구축했습니다.
아키텍처 특이성: 서로 다른 모델 계열(예: ARIMA 대 LSTM)을 비교하는 연구와 달리, 본 연구는 정보 집합과 예측 지평을 동일하게 유지한 상태에서 LSTM 계열 내에서의 아키텍처 깊이의 효과만을 분리하여 조사했습니다.
간결성을 위한 증거: 신흥 시장 맥락에서 더 깊은 LSTM 아키텍처가 반드시 예측 성능을 향상시키지는 않는다는 실증적 근거를 제공합니다. 본 연구는 "깊을수록 좋다"는 가정을 반박하며, 모델의 용량(capacity)은 기계적으로 확장되는 것이 아니라 데이터의 정보 구조에 맞춰져야 함을 시사합니다.

의의 및 주장
저자들은 변동성이 큰 신흥 시장 예측의 맥 맥락에서, 더 큰 아키텍처의 복잡성이 반드시 예측 정확도를 향상시키는 것은 아니다라고 결론짓습니다. 대신, 결과는 모델의 복잡성이 데이터의 가용 정보 구조를 초과할 때 더 단순한 단일 계층 모델이 일반화 성능을 높일 수 있다는 간결한(parsimonious) 접근 방식을 지지합니다.

본 연구는 다층 모델이 훈련 과정 전반에서 약간 더 높은 안정성을 제공할 수는 있지만, 콤팩트한 아키텍처보다 기저의 시장 역학을 더 효과적으로 포착하지는 못한다는 점을 강조합니다. 이러한 결과는 짧은 룩백 윈도우와 특정 노이즈 특성을 가진 금융 시계열의 경우, '최적'의 모델은 가장 복잡한 모델이 아니라 데이터의 정보 콘텐츠와 그 용량이 가장 잘 부합하는 모델임을 시사합니다. 저자들은 이러한 결과가 실험 설계(고정된 룩백, 특정 예측 변수, 전처리 방식)에 국한된 것이며, 더 긴 시간적 의존성이나 더 풍부한 정보 집합을 가진 시나리오에서 깊은 모델의 유용성을 보편적으로 배제하는 것은 아니라고 주의를 줍니다.

유사한 논문