Deep Learning for Financial Time Series: A Large-Scale Benchmark of Risk-Adjusted Performance

Each language version is independently generated for its own context, not a direct translation.

이 논문은 **"금융 시장의 미래를 예측하는 인공지능 (AI) 을 비교한 거대한 실험 보고서"**입니다.

마치 다양한 종류의 **자동차 (AI 모델)**를 가지고, 험난한 산길과 비포장도로가 섞인 **실제 금융 시장 (데이터)**에서 15 년 동안 달리는 대회를 연 것 같다고 생각하시면 됩니다. 이 대회에서는 단순히 '얼마나 빨리 달렸는가 (수익)'만 보는 것이 아니라, '차체가 얼마나 튼튼한가 (리스크)', '연료 효율은 어떤가 (거래 비용)', '비 오는 날에도 잘 달리는가 (시장 상황 변화)'까지 꼼꼼하게 평가했습니다.

주요 내용을 쉬운 비유로 설명해 드릴게요.

1. 실험의 배경: 왜 이 대회가 필요했을까요?

최근 "트랜스포머 (Transformer)"나 "Mamba" 같은 최신 AI 기술이 시간 예측 분야에서 대세입니다. 하지만 이 기술들이 날씨 예보나 전력 수요 예측에서는 잘 작동해도, 주식이나 선물 시장처럼 소음 (Noise) 이 많고 예측하기 힘든 곳에서도 잘할지는 의문이었습니다.

연구진은 2010 년부터 2025 년까지의 15 년 치 데이터 (주식, 채권, 원자재, 환율 등) 를 준비하고, 다양한 AI 모델들을 이 데이터에 투입해 누가 가장 현명한 투자자가 될지 테스트했습니다.

2. 주요 참가자들 (AI 모델들)

이 대회에는 크게 네 가지 팀이 참가했습니다.

고전파 (선형 모델): 과거의 데이터를 단순히 직선으로 이어 예측하는 방식입니다. 마치 "어제 비가 왔으니 오늘도 비가 올 것이다"라고 단순하게 생각하는 사람 같습니다.
최신 대세 (트랜스포머 계열): 최근 가장 핫한 기술들입니다. 하지만 이 모델들은 금융 데이터처럼 '소음'이 많은 환경에서는 오히려 혼란을 겪거나, 중요한 신호를 놓치는 경우가 많았습니다.
새로운 강자 (상태 공간 모델 - Mamba 등): 긴 데이터를 효율적으로 처리할 수 있는 최신 기술이지만, 금융 시장의 복잡한 규칙을 완전히 이해하지는 못했습니다.
전통의 명가 (RNN/LSTM 계열): 오래전부터 쓰여 왔지만, 최근 개량된 버전들입니다.

3. 승자 결정: 누가 이겼나요?

결과는 놀라웠습니다. "가장 최신이고 복잡한 기술"이 이긴 것이 아니라, **"금융 시장의 특성에 맞춰 설계된 모델"**이 이겼습니다.

최고의 우승자: VLSTM (VSN + LSTM)
- 비유: 이 모델은 마치 노련한 베테랑 트레이더와 같습니다.
- 특징: 시장이 시끄러울 때 (소음이 많을 때) 중요한 신호만 골라내고, 불필요한 잡음을 걸러냅니다. 또한, 과거의 경험을 기억하면서도 새로운 상황에 유연하게 대처합니다.
- 결과: 가장 높은 수익률 (샤프 비율) 을 기록하며, 시장이 급변할 때도 흔들리지 않는 안정성을 보여주었습니다.
강력한 경쟁자: xLSTM 과 LPatchTST
- 비유: 이들은 방어력이 뛰어난 탱크나 튼튼한 방패 같은 모델입니다.
- 특징: 수익률도 좋지만, 특히 **손실을 막는 능력 (다운사이드 리스크)**이 뛰어납니다. 시장이 폭락할 때 다른 모델들이 크게 떨어지는 반면, 이 모델들은 상대적으로 덜 떨어졌습니다.
- xLSTM 의 특별한 점: 이 모델은 거래 비용에 가장 강했습니다. 자주 매매를 하느라 수수료로 돈을 잃는 다른 모델들과 달리, "필요할 때만 딱딱" 매매하여 실제 수익을 더 많이 챙겼습니다.

4. 중요한 교훈: "빠른 것"보다 "튼튼한 것"이 중요하다

이 실험을 통해 얻은 핵심 교훈은 다음과 같습니다.

복잡함이 정답은 아니다: 단순히 AI 모델이 크고 복잡하다고 해서 돈을 잘 벌지는 않습니다. 금융 시장은 소음이 많고 예측 불가능하기 때문에, 잡음을 걸러내고 핵심을 파악하는 능력이 더 중요합니다.
거래 비용은 치명적이다: AI 가 아무리 좋은 예측을 해도, 너무 자주 매매를 하면 수수료 때문에 실제 수익은 0 이 될 수 있습니다. xLSTM처럼 거래 횟수를 줄이면서도 예측력을 유지하는 모델이 실전에서 더 유리합니다.
안정성이 핵심: 하루 이틀 잘나가는 것보다, 15 년 동안 꾸준히 수익을 내고 큰 손실 (추락) 을 피하는 것이 진정한 실력입니다.

5. 결론: 이 연구가 우리에게 주는 메시지

이 논문은 "금융 시장을 예측하는 AI 를 만들 때는 최신 기술만 쫓지 말고, 시장의 소음과 변동성을 어떻게 다룰지에 초점을 맞춰야 한다"고 말합니다.

마치 비행기를 설계할 때, 단순히 "가장 빠른 엔진"을 달기보다 "난기류 속에서도 안전하게 날 수 있는 날개"를 설계하는 것이 중요하듯이, 금융 AI 도 **수익 (속도)**과 **리스크 관리 (안전장치)**를 동시에 잡을 수 있는 구조가 가장 훌륭하다는 것을 증명했습니다.

한 줄 요약:

"가장 최신의 AI 가 돈을 가장 많이 벌지는 않는다. 소음을 걸러내고, 손실을 막으며, 거래 비용을 아낄 수 있는 '현명한' AI가 결국 승리한다."

Each language version is independently generated for its own context, not a direct translation.

1. 연구 배경 및 문제 정의 (Problem)

배경: 최근 금융 시계열 예측 분야에서 Transformer 기반 아키텍처 (iTransformer, PatchTST 등) 와 상태 공간 모델 (Mamba2 등) 이 활발히 연구되고 있습니다. 그러나 기존 벤치마크 연구들은 주로 날씨나 전력 수요와 같이 계절성이 강하고 신호 대 잡음비 (SNR) 가 높은 데이터에 집중되어 있어, 금융 데이터의 특성을 반영하지 못했습니다.
문제점: 금융 수익률 시계열은 다음과 같은 특징을 가집니다.
- 비정상성 (Non-stationarity): 시장 체제 (Regime) 가 빈번하게 변화함.
- 약한 예측력: 신호 대 잡음비가 매우 낮음.
- 두꺼운 꼬리 (Heavy Tails): 정규 분포를 따르지 않고 극단적인 손실/수익 발생 빈도가 높음.
목표: 이러한 복잡한 금융 환경에서 단순한 평균 수익률 예측을 넘어, **리스크 조정 수익률 (Sharpe Ratio)**을 최적화하는 딥러닝 아키텍처의 실제 효용성을 대규모로 평가하는 것입니다.

2. 방법론 (Methodology)

2.1 데이터 및 설정

데이터: 2010 년부터 2025 년까지의 15 년간 데이터를 사용했습니다. 상품, 주식 지수, 채권, 외환 (FX) 등 5 가지 자산 클래스에 걸친 연속된 선물 (Futures) 데이터를 포함합니다.
입력: 일별 종가에서 파생된 수익률, 기술적 지표, 통계적 지표 등을 포함하는 다변량 시계열.
목표 변수: 다음 날의 방향성 신호 (Long/Short) 를 [-1, 1] 범위로 예측.

2.2 포트폴리오 구축 및 최적화

신호 생성: 모델은 과거 $L$ 기간의 데이터를 입력받아 $t$ 시점의 방향성 신호 $\hat{y}_t$ 를 출력합니다.
변동성 타겟팅 (Volatility Targeting): 자산별 변동성 ( $\sigma_{t,k}$ $σ_{t, k}$ ) 을 EWMA 로 추정하여, 포트폴리오의 변동성을 일정 수준 (10%) 으로 맞추기 위해 레버리지를 동적으로 조정합니다.
- $w_{t,k} = \hat{y}_{t,k} \times \frac{\sigma_{target}}{\sigma_{t,k}}$
손실 함수 (Loss Function): 예측 오차 (MSE 등) 를 최소화하는 것이 아니라, 음의 연간 Sharpe Ratio를 직접 최소화하도록 학습합니다.
- $L(\theta) = -\frac{\hat{E}[R]}{\sqrt{\hat{Var}[R]}} \times \sqrt{252}$
- 이는 모델이 수익을 극대화하면서 분산 (리스크) 을 강력히 패널티 하도록 유도합니다.

2.3 평가된 아키텍처

다음과 같은 다양한 현대 딥러닝 모델들을 벤치마크했습니다:

선형 베이스라인: AR1x, DLinear, NLinear.
Transformer 기반: iTransformer, PatchTST, TFT (Temporal Fusion Transformer).
상태 공간 모델 (SSM): Mamba, Mamba2.
순환 신경망 (RNN): LSTM, xLSTM (Exponential Gating 도입), Patch sLSTM (PsLSTM).
하이브리드 모델:
- VLSTM: VSN (Variable Selection Network) + LSTM.
- VxLSTM: VSN + xLSTM.
- LPatchTST: LSTM (노이즈 제거) + PatchTST.
- VSN+Mamba2: VSN + Mamba2.

2.4 평가 지표

수익률: Sharpe Ratio, CAGR, Hit Rate.
리스크: 최대 낙폭 (Max Drawdown), Calmar Ratio, CVaR (5%).
실현성: 거래 비용 브레이크이븐 분석 (Breakeven Transaction Cost), 회전율 (Turnover).
강건성: 시드 (Seed) 선택에 따른 민감도, 다양한 시장 체제 (2010-2025) 에 따른 안정성.

3. 주요 기여 (Key Contributions)

금융 특화 대규모 벤치마크: 기존 일반 시계열 벤치마크와 달리, 금융 데이터의 낮은 SNR 과 비정상성을 고려한 15 년 간의 포괄적인 평가 프레임워크를 제시했습니다.
아키텍처 인덕티브 바이어스 (Inductive Bias) 의 중요성 입증: 단순한 모델 용량 (Capacity) 이 아니라, **구조화된 시간적 표현 (Structured Temporal Representations)**을 학습할 수 있는 아키텍처가 금융 예측에 필수적임을 보였습니다.
리스크와 수익의 균형: 평균 수익률뿐만 아니라, 하방 리스크 (Downside Risk), 꼬리 리스크 (Tail Risk), 거래 비용 효율성을 종합적으로 평가하여 실제 투자에 적합한 모델을 식별했습니다.
하이브리드 모델의 우위성: 단일 모델보다 특징 선택 (Feature Selection) 과 순환 기억 (Recurrent Memory) 을 결합한 하이브리드 모델이 가장 우수한 성과를 보임을 증명했습니다.

4. 실험 결과 (Results)

4.1 수익률 및 Sharpe Ratio

최상위 모델: **VLSTM (VSN + LSTM)**이 2010-2025 년 전체 기간 동안 Sharpe Ratio 2.40을 기록하며 가장 우수한 성과를 보였습니다.
강건한 모델: LPatchTST (Sharpe 2.31) 와 TFT (Sharpe 2.27) 도 매우 안정적인 성과를 보였습니다.
선형 모델의 한계: AR1x, DLinear 등 선형 모델은 특정 고변동성 기간 (예: 2020 년) 에는 경쟁력이 있었으나, 장기적으로는 비정상성과 낮은 SNR 환경에서 일관된 성과를 내지 못했습니다 (Sharpe < 1.0).
Transformer/SSM 의 한계: 순수 Transformer (PatchTST, iTransformer) 와 Mamba2 는 단독으로 사용할 경우 중간 수준의 성과 (Sharpe < 1.2) 를 보였으나, 특징 선택 (VSN) 이나 순환 구조 (LSTM) 와 결합되면 성능이 크게 향상되었습니다.

4.2 하방 리스크 및 꼬리 리스크

VLSTM과 LPatchTST는 상대적으로 낮은 최대 낙폭 (Max DD) 과 높은 Calmar Ratio 를 보여주어, 시장 하락 시에도 리스크를 잘 통제했습니다.
VxLSTM은 가장 낮은 최대 낙폭 (-11.8%) 을 기록하며 하방 리스크에 가장 강건한 모델로 평가되었습니다.

4.3 거래 비용 및 브레이크이븐 분석

xLSTM은 VLSTM 보다 약간 낮은 평균 Sharpe Ratio 를 보였으나, **거래 비용 브레이크이븐 (Breakeven Transaction Cost)**이 가장 높았습니다. 이는 xLSTM 이 불필요한 거래 (Turnover) 를 줄여 거래 비용에 더 강건함을 의미합니다.
iTransformer는 거래 회전율이 매우 낮았으나, 예측 성능이 너무 낮아 경제적 가치가 없었습니다.

4.4 시드 및 예산 민감도

학습 시드 (Random Seed) 를 줄이거나 실험 예산을 축소하더라도 모델들의 순위와 성과 패턴이 크게 변하지 않았습니다. 이는 결과가 특정 초기화나 과도한 튜닝에 의한 것이 아님을 시사합니다.

5. 결론 및 의의 (Conclusion & Significance)

핵심 결론: 금융 시계열 예측에서 성공적인 아키텍처는 (1) 적응형 게이트 (Adaptive Gating) 를 통한 지속적이고 구조화된 상태 표현, (2) 특징 선택 또는 표현 압축 메커니즘, (3) 거래 비용과 실현 가능성을 고려한 적절한 트레이딩 강도를 결합해야 합니다.
기술적 시사점:
- 단순히 Attention 메커니즘만 강화하거나 계산 복잡도 (Asymptotic Complexity) 만 줄이는 것만으로는 금융 예측에서 우위를 점할 수 없습니다.
- 하이브리드 접근법 (예: VSN 으로 노이즈를 필터링하고 LSTM/xLSTM 으로 시간적 의존성을 학습) 이 가장 효과적입니다.
- VLSTM이 종합적인 성능 (수익, 리스크, 안정성) 에서 가장 균형 잡힌 모델로 선정되었습니다.
실무적 의의: 본 연구는 금융 기관이 딥러닝 모델을 도입할 때, 단순한 예측 정확도가 아닌 리스크 조정 수익률, 거래 비용 효율성, 그리고 다양한 시장 체제에서의 강건성을 종합적으로 평가해야 함을 강조합니다.

이 논문은 금융 공학과 딥러닝 연구 커뮤니티에 투명하고 엄격한 벤치마크 기준을 제공하며, 향후 금융 예측 모델 개발이 계산 효율성뿐만 아니라 금융 시장의 고유한 구조적 특성 (비정상성, 낮은 SNR) 에 맞춰 설계되어야 함을 시사합니다.