A Learnable Wavelet Transformer for Long-Short Equity Trading and Risk-Adjusted Return Optimization

이 논문은 금융 시계열의 잡음과 비정상성 문제를 해결하고 위험 조정 수익을 최적화하기 위해, 학습 가능한 웨이블릿 기반의 다중 스케일 분해와 리스크 인식 정규화를 통해 직접 시장 중립적 롱/숏 포트폴리오를 생성하는 'WaveLSFormer'라는 새로운 트랜스포머 모델을 제안하고 그 우수성을 입증합니다.

핵심

📈 주가 예측의 새로운 혁신: "WaveLSFormer" 이야기

이 논문은 **"주식 시장에서 어떻게 하면 더 많이 벌면서, 덜 잃을 수 있을까?"**라는 질문에 대한 답을 제시합니다. 저자들은 기존의 복잡한 AI 모델들이 가진 문제점을 발견하고, 이를 해결하기 위해 **'WaveLSFormer'**라는 새로운 인공지능을 개발했습니다.

이 모델을 이해하기 위해 일상생활에 비유해 보겠습니다.

---

1. 문제점: 시끄러운 라디오와 나쁜 내비게이션

기존의 주식 예측 AI들은 마치 시끄러운 라디오를 듣는 것과 비슷했습니다.

• 소음 (Noise): 주식 시장에는 진짜 중요한 신호 (주가 상승/하락의 이유) 보다 잡음 (일시적인 변동) 이 훨씬 많습니다.
• 잘못된 목표: 기존 AI 들은 "내일 주가가 몇 원일까?"라는 숫자를 맞추는 데만 집중했습니다. 하지만 실제 투자자는 숫자 맞추기가 아니라 **"내일 주가가 오를지 내릴지 (방향)"**를 맞추고, 그걸 바탕으로 **얼마나 큰 금액을 투자할지 (위험 관리)**를 결정해야 합니다.

이런 이유로 기존 AI 는 시험 점수 (예측 정확도) 는 좋지만, 실제 투자 수익 (돈) 은 별로인 경우가 많았습니다.

2. 해결책: WaveLSFormer (웨이브-엘에스-포머)

이 모델은 주식 데이터를 분석할 때 두 가지 핵심 기술을 사용합니다.

🎧 ① 지능형 소음 제거기 (학습 가능한 웨이브렛)

기존에는 소음을 제거하는 필터가 고정되어 있었습니다. 마치 모든 라디오 방송에 똑같은 소음 제거기를 쓰는 것과 같죠.
하지만 WaveLSFormer는 스스로 소음 제거기를 배웁니다.

• 비유: 마치 귀가 좋은 음악가가 "이건 저음 (장기적인 추세) 이고, 이건 고음 (일시적인 잡음) 이야"라고 스스로 구분해 내는 것과 같습니다.
• 이 모델은 주식 차트의 **저주파 (오래가는 흐름)**와 **고주파 (순간적인 변동)**를 스스로 분리해내어, 진짜 중요한 신호만 골라냅니다.

🤝 ② 저음과 고음의 완벽한 합주 (LGHI 모듈)

소음을 제거하고 나면, 남은 정보를 어떻게 합칠까요?

• 저음 (흐름): 주식의 큰 흐름을 잡습니다. (예: "이 산업은 장기적으로 성장하고 있어")
• 고음 (세부): 단기적인 급변동을 감지합니다. (예: "아, 지금 뉴스가 터져서 잠시 급등했어")
• LGHI (Low-guided High-frequency Injection): 이 모델은 **"흐름을 먼저 보고, 세부 사항을 그 흐름에 맞춰 보정"**합니다.
  • 비유: 배를 항해할 때, **바다의 큰 흐름 (저음)**을 먼저 보고 항로를 정한 뒤, **작은 파도 (고음)**가 배를 흔들 때만 살짝 핸들을 꺾는 것과 같습니다. 이렇게 하면 배가 뒤집히지 않고 안정적으로 목적지에 갈 수 있습니다.

3. 목표: "숫자 맞추기"가 아닌 "돈 벌기"

이 모델의 가장 큰 특징은 학습 목표를 바꿨다는 점입니다.

• 기존: "내일 주가가 100 원 오를 거야" (오차 최소화)
• WaveLSFormer: "내일 주가가 오르면 사서, 내리면 팔아서 최대 수익을 내고, 위험은 줄여라" (수익률 최대화)

마치 카지노 딜러가 아니라 현명한 투자자처럼 행동하도록 훈련시킨 것입니다. 또한, 너무 위험한 투자를 하지 않도록 **리스크 예산 (Risk Budget)**이라는 장치를 달아두어, 한 번에 너무 큰 돈을 잃지 않도록 통제합니다.

4. 결과: 압도적인 성과

저자들은 5 년간의 미국 주식 데이터 (시간 단위) 를 가지고 이 모델을 테스트했습니다.

• 결과: 기존 AI(MLP, LSTM, Transformer) 들보다 **수익률 (ROI)**과 **위험 대비 수익률 (샤프 지수)**이 압도적으로 높았습니다.
• 비유: 다른 선수들이 "점수"는 잘 따지만 "경기"는 지는 반면, WaveLSFormer 는 실제 경기 (투자 수익) 에서 우승했습니다.

5. 요약: 왜 이 모델이 특별한가?

1. 스스로 배우는 필터: 고정된 규칙이 아니라, 시장의 소음과 신호를 스스로 구분하는 필터를 배웁니다.
2. 안정적인 합주: 큰 흐름 (저음) 을 기반으로 하되, 작은 변동 (고음) 을 적절히 활용하여 안정적인 투자를 합니다.
3. 실전 지향: 숫자 맞추기가 아니라, 실제 돈을 벌고 위험을 줄이는 것을 목표로 학습합니다.

한 줄 요약:

"WaveLSFormer 는 주식 시장의 시끄러운 잡음을 스스로 걸러내고, 큰 흐름을 놓치지 않으면서 작은 파도에도 유연하게 대처하는 현명한 AI 투자자입니다."

이 기술은 앞으로 금융 시장에서 더 안정적이고 높은 수익을 내는 자동 투자 시스템의 핵심이 될 것으로 기대됩니다.

기술 요약

1. 연구 배경 및 문제 정의 (Problem)

• 배경: 금융 시계열 데이터에서 수익성 있는 당일 거래 (Intraday Trading) 정책을 학습하는 것은 데이터의 높은 노이즈, 비정상성 (Non-stationarity), 그리고 관련 자산 간의 강한 횡단면 의존성 (Cross-sectional dependence) 으로 인해 매우 어렵습니다.
• 기존 방법의 한계:
  • 목적 불일치 (Objective Mismatch): 대부분의 기존 딥러닝 모델은 예측 오차 (MSE, MAE 등) 를 최소화하는 방식으로 훈련되지만, 실제 거래 성과는 포지션 결정과 누적 P&L(손익) 에 의해 결정됩니다. 예측 정확도가 높아도 거래 전략의 수익률 (ROI) 이나 위험 조정 수익률 (Sharpe Ratio) 이 낮을 수 있습니다.
  • 고정된 웨이블릿 사용: 기존 웨이블릿 기반 모델들은 대부분 고정된 이산 웨이블릿 변환 (DWT) 을 전처리 단계로 사용하며, 학습 가능한 필터를 통해 작업에 적응적인 주파수 대역을 학습하지 못합니다.
  • 주파수 융합의 부재: 저주파 (추세) 와 고주파 (노이즈/변동) 정보를 어떻게 융합할지에 대한 명시적인 메커니즘이 부족하며, 고주파 노이즈가 학습을 불안정하게 만드는 문제가 있습니다.

2. 제안 방법론: WaveLSFormer (Methodology)

저자들은 WaveLSFormer라는 새로운 아키텍처를 제안합니다. 이는 학습 가능한 웨이블릿 프론트엔드 (Front-end) 와 트랜스포머 (Transformer) 백본을 결합하여, 다중 스케일 분해와 수익 중심의 의사결정을 동시에 수행합니다.

2.1 핵심 구성 요소

1. 학습 가능한 웨이블릿 프론트엔드 (Learnable Wavelet Front-end):

   • 고정된 필터 대신 1 차원 FIR (Finite Impulse Response) 컨볼루션 커널을 사용하여 저주파/고주파 필터를 학습합니다.
   • 스펙트럼 정규화 (Spectral Regularization): 필터가 저주파와 고주파 대역을 명확하게 분리하도록 유도하고, 에너지 보존 (Parseval's theorem) 및 주파수 응답 형태를 제어하는 정규화 항을 추가하여 학습 안정성을 높입니다.

2. 저주파 유도 고주파 주입 모듈 (Low-guided High-frequency Injection, LGHI):

   • 다중 스케일 정보를 융합하기 위해 고안된 모듈입니다.
   • 작동 원리: 안정성이 높은 **저주파 표현 (Low-frequency branch)**에서 어텐션 맵 (Attention Map) 을 계산하고, 이를 통해 **고주파 정보 (High-frequency cues)**를 주입합니다.
   • 게이트 메커니즘: 가중치 $\beta = \sigma(\gamma)$를 통해 고주파 잔차의 주입 강도를 제어합니다. 이는 고주파 노이즈가 학습을 방해하는 것을 방지하면서도 유용한 단기 신호를 포착하도록 돕습니다.

3. 위험 예산 기반 포지션 스케일링 (Risk-Budget Rescaling):

   • 모델 출력은 시장 중립적인 롱/숏 포지션으로 변환되며, 검증 세트에서 계산된 글로벌 스케일링 인자를 적용하여 **고정된 위험 예산 (Risk Budget)**을 만족하도록 조정됩니다. 이는 실제 포트폴리오 구성과 유사한 조건에서 학습을 유도합니다.

2.2 훈련 목표 (Training Objective)

• 소프트 레이블 손실 (Soft-Label Loss): 단순한 회귀 (Regression) 대신, 미래 수익의 방향과 크기를 반영하는 확률적 소프트 타겟을 사용하여 이진 분류 (Long/Short) 문제로 접근합니다. 이는 Tanh 기반 손실 함수의 그래디언트 소실 문제를 해결합니다.
• 거래 지향 정규화:
  • ROI 페널티: 훈련 중 과도한 수익 (과적합) 을 방지하기 위해 배치 수준의 ROI 상한을 설정합니다.
  • Sharpe 정규화: 위험 조정 수익률 (Sharpe Ratio) 을 직접 손실 함수에 포함시켜, 변동성을 통제하면서 수익을 극대화하도록 유도합니다.

3. 주요 기여 (Key Contributions)

1. WaveLSFormer 아키텍처 도입: 고정된 웨이블릿 전처리를 대체하는 엔드 - 투 - 엔드 학습 가능한 웨이블릿 필터 뱅크와 트랜스포머 백본을 결합한 최초의 모델 중 하나입니다.
2. 안정적인 주파수 융합 전략: LGHI (Low-guided High-frequency Injection) 모듈을 통해 고주파 정보를 저주파 백본에 게이트된 잔차 경로로 주입하여, 노이즈를 필터링하면서도 단기 신호를 활용하는 안정적 융합 방식을 제안했습니다.
3. 실용적인 포트폴리오 최적화: 단순 예측이 아닌, **위험 예산 (Risk Budget)**을 고려한 롱/숏 포지션 출력을 직접 최적화하며, Sharpe Ratio 와 ROI 를 동시에 고려한 손실 함수 설계를 통해 실제 거래 환경에 부합하는 모델을 구현했습니다.

4. 실험 결과 (Results)

• 데이터: 2020 년 10 월부터 2025 년 10 월까지의 5 년간 미국 주식 시간별 (Hourly) 데이터 (6 개 산업군, 10 회 랜덤 시드).
• 성능 비교:
  • 전체 평균 성과: WaveLSFormer 는 누적 ROI 0.607 ± 0.045, Sharpe Ratio 2.157 ± 0.166을 기록했습니다.
  • 베이스라인 대비:
    • 일반 트랜스포머 (Plain Transformer) 대비 ROI 는 0.225 에서 0.607 로, Sharpe 는 1.024 에서 2.157 로 크게 향상되었습니다.
    • 웨이블릿 기반 LSTM 과 비교해도 ROI (0.317 → 0.607) 와 Sharpe (1.879 → 2.157) 에서 우위를 점했습니다.
  • Ablation Study:
    • 학습 가능한 필터: 고정 웨이블릿이나 분해 없는 모델보다 성능이 우수했습니다.
    • 주파수 분기: 저주파와 고주파 모두를 사용하는 것이 단일 분기보다 성능이 좋았으며, LGHI 모듈이 단순 연결 (Concatenation) 보다 우월함을 입증했습니다.
    • Sharpe 정규화: Sharpe 손실 항을 추가한 모델은 최대 드로우다운 (MDD) 을 줄이고 더 부드러운 자본 곡선을 보여주었습니다.

5. 의의 및 결론 (Significance)

• 트레이딩 목적 최적화: 이 연구는 금융 시계열 모델링에서 "예측 정확도"가 아닌 "거래 수익률"을 직접 최적화하는 패러다임을 제시합니다.
• 노이즈와 신호 분리: 학습 가능한 웨이블릿을 통해 금융 데이터의 고유한 노이즈를 효과적으로 분리하고, 다중 스케일 정보를 안정적으로 융합하는 방법론을 제시했습니다.
• 실용성: 고정된 위험 예산 하에서 롱/숏 포지션을 생성하는 방식은 실제 헤지펀드나 퀀트 트레이딩 시스템에 바로 적용 가능한 구조를 제공합니다.
• 한계 및 향후 과제: 현재는 거래 비용, 슬리피지, 시장 충격 등을 고려하지 않은 이상적인 가정 하에 평가되었으며, 향후 이러한 제약 조건을 포함하고 더 넓은 자산 군으로 확장할 필요가 있습니다.

요약하자면, WaveLSFormer 는 학습 가능한 웨이블릿 변환과 트랜스포머를 결합하여 금융 시계열의 노이즈를 제거하고 다중 스케일 패턴을 포착하며, 위험 조정 수익률을 직접 최적화함으로써 기존 모델들을 압도하는 성과를 거둔 혁신적인 트레이딩 모델입니다.