Overreaction as an indicator for momentum in algorithmic trading: A Case of AAPL stocks

논문 요약: 알고리즘 트레이딩에서의 과잉반응 (Overreaction) 을 통한 모멘텀 예측

1. 연구 배경 및 문제 정의 (Problem)

• 배경: 금융 시장은 종종 기본 가치에서 크게 벗어나는 '과잉반응 (Overreaction)'을 보이며, 이는 이후의 가격 추세 (모멘텀) 로 이어지는 경우가 많습니다. 전통적인 모멘텀 전략은 과거 수익률에 기반하지만, 최근에는 소셜 미디어 (트위터 등) 의 비정형 데이터에서 추출된 감정 (Emotion) 정보가 단기 가격 변동에 중요한 영향을 미친다는 사실이 부각되고 있습니다.
• 문제: 기존 연구들은 과잉반응을 사후적으로 관찰하거나 단순한 감성 분석에 그치는 경우가 많습니다. 고빈도 (High-Frequency) 환경에서 **트위터의 정교한 감정 임베딩 (Transformer 기반)**과 비선형 머신러닝 (ML) 모델을 결합하여, 과잉반응 사건을 실시간으로 예측하고 이를 수익화할 수 있는지에 대한 체계적인 연구가 부족합니다.
• 연구 목적: 애플 (AAPL) 주식을 대상으로 고빈도 감정 데이터와 ML 모델을 활용하여 단기 과잉반응을 예측하고, 이를 통한 모멘텀 전략의 경제적 가치를 검증하는 것입니다.

2. 연구 방법론 (Methodology)

가. 데이터 구축 (Data Construction)

• 대상: 애플 (AAPL) 주식, 2019 년 1 월 1 일 ~ 2022 년 6 월 30 일.
• 시장 데이터: 1 분, 5 분, 10 분, 15 분 간격의 OHLCV(시가, 고가, 저가, 종가, 거래량) 데이터.
• 감정 데이터: 트위터 API 를 통해 '$AAPL'이 포함된 영어 트윗을 수집. ModernFinBERT (Transformer 기반) 모델을 사용하여 각 트윗에서 7 가지 감정 (기쁨, 분노, 혐오, 두려움, 슬픔, 놀라움, 중립) 의 확률 벡터를 추출.
• 전처리: 시간대 (US/Eastern) 통일, 거래 시간 (04:00~20:00) 내 데이터만 사용, 누락값 보간, Z-score 정규화 적용.

나. 과잉반응 정의 및 라벨링 (Overreaction Definition)

• 정의: 동시점 변동성 (Realized Volatility) 과 거래 비용 (Transaction Cost) 을 기준으로 한 극단적인 수익률 실현.
• 라벨링 (3 클래스 분류):
  • +1: 다음 기간 수익률 > $\theta \times \sigma_t + 2 \times TC$ (과도한 상승)
  • -1: 다음 기간 수익률 < $-(\theta \times \sigma_t + 2 \times TC)$ (과도한 하락)
  • 0: 그 외 (정상)
  • 여기서 $\theta$는 임계값 (1.5~5.0), $TC$는 일방향 거래 비용 (10bp).

다. 머신러닝 모델 (Prediction Models)

• 입력 특징 (Features): 수익률, 로그 거래량, 변동성, 감정 벡터 (7 가지), 트윗 수.
• 사용 모델:
  1. XGBoost (그래디언트 부스팅)
  2. Random Forest
  3. Deep Neural Network (DNN) (피드포워드 네트워크)
  4. Bidirectional LSTM (BiLSTM) (시계열 의존성 포착)
• 학습 방식: 시간 순서별 교차 검증 (Time-series CV), Look-ahead bias 제거를 위한 엄격한 데이터 분할 (Train/Val/Test), 클래스 불균형 해결을 위한 가중치 적용.

라. 평가 지표 및 전략

• 거래 전략: 모델이 과잉반응 확률 ($Pr(OR_{t+1})$) 이 임계값 ($c$) 을 초과하면 포지션 진입.
• 성능 측정: 샤프 비율 (Sharpe Ratio), 소르티노 비율 (Sortino Ratio), 최대 낙폭 (MDD).
• 통계적 검정: Jobson-Korkie 테스트를 통해 ML 모델과 벤치마크 전략 간 수익률 차이 유의성 검증.
• 해석성: SHAP (Shapley Additive exPlanations) 값을 활용하여 어떤 특징 (감정, 변동성 등) 이 예측에 기여했는지 분석.

3. 주요 결과 (Key Results)

가. 주파수별 예측 성능 (Performance by Frequency)

• 1 분 (Ultra-short): 시장 미세구조 노이즈가 지배적. ML 모델 (랜덤 포레스트 등) 이 벤치마크보다 통계적으로 유의미하게 우세하지만, 거래 횟수가 매우 적어 실용성은 제한적.
• 5 분: ML 모델 (특히 BiLSTM) 의 성능이 크게 향상됨. 감정과 변동성의 상호작용을 포착하여 단순 규칙보다 우월한 수익률 달성.
• 10 분 (Sweet Spot): 가장 강력한 예측 가능성이 관찰됨.
  • 흥미롭게도 이 구간에서는 **전통적인 행동 금융 기반 과잉반응 규칙 (Benchmark)**이 ML 모델보다 더 높은 샤프 비율 (1.43) 을 기록하며 우세함.
  • 이는 10 분 구간이 노이즈가 줄어든 반면, 감정 기반의 행동 왜곡이 아직 해소되지 않은 '황금 구간'임을 시사.
• 15 분: ML 모델 (XGBoost) 과 벤치마크의 성능이 비슷해지며, 행동적 모멘텀의 상대적 강도가 다시 약화됨.

나. 모델 간 비교 및 통계적 유의성

• Jobson-Korkie 테스트 결과:
  • 1 분, 5 분: ML 모델이 벤치마크보다 통계적으로 유의하게 우월함 ($p < 0.05$).
  • 10 분: 벤치마크 (과잉반응 규칙) 가 ML 모델보다 우세함 (통계적 유의성 있음).
  • 15 분: 두 접근법 간 유의한 차이 없음.
• 결론: 초단기 (1~5 분) 에는 ML 이 복잡한 비선형 패턴을 잘 포착하나, 중기 (10 분) 에는 인간의 행동 편향 (과잉반응) 이 더 명확하게 드러나 단순 규칙으로도 수익 창출이 가능함.

다. SHAP 기반 해석성 분석 (Interpretability)

• 변동성 (Volatility): 모든 주파수에서 가장 강력한 예측 변수. 고변동성은 매도 신호와 강한 연관성을 보임.
• 감정 (Emotions):
  • 두려움 (Fear) 과 슬픔 (Sadness): 매도 (하락) 신호를 유발하는 주요 요인. 시장 스트레스 시 과잉반응을 주도.
  • 놀라움 (Surprise): 주파수에 따라 역할이 다름 (5 분에서는 매도, 10~15 분에서는 매수 신호와 연관).
  • 기쁨 (Joy): 15 분 구간에서 매수 신호를 강화하는 안정화 요인으로 작용.
  • 중립 (Neutral): 감정적 혼란이 없는 상태는 단기 모멘텀 예측에 유리한 환경으로 작용.

4. 주요 기여도 (Key Contributions)

1. 데이터의 혁신적 통합: 고빈도 시장 데이터와 Transformer 기반의 정교한 감정 임베딩을 결합하여 과잉반응을 '예측 가능한 사건'으로 정의하고 모델링함.
2. 주파수별 이질성 규명: 단일 전략이 모든 시간대에서 작동하지 않으며, 10 분 구간에서 행동 금융적 모멘텀이 가장 강력하고, 5 분 미만에서는 ML 의 비선형성이 더 효과적임을 실증적으로 증명.
3. 해석 가능한 AI 적용: SHAP 를 통해 '두려움'과 '변동성'이 과잉반응 예측의 핵심 동인임을 규명하여, 블랙박스 ML 모델의 의사결정 논리를 행동 금융 이론과 연결.
4. 실무적 통찰: 알고리즘 트레이딩 환경에서 감정 기반 과잉반응이 단기 모멘텀의 원천이 될 수 있음을 보여주며, 감정 데이터와 ML 을 활용한 새로운 전략 설계의 가능성을 제시.

5. 의의 및 한계 (Significance & Limitations)

• 의의:
  • 감정 (Sentiment) 이 단순한 노이즈가 아니라 체계적인 예측 신호로 작용함을 입증.
  • 행동 금융 이론과 최신 머신러닝 (NLP, Deep Learning) 을 융합하여 시장 비효율성을 포착하는 새로운 프레임워크 제시.
  • 고빈도 거래에서 변동성과 감정의 상호작용이 가격 형성에 미치는 영향을 미시구조 관점에서 규명.
• 한계:
  • 단일 자산 (AAPL) 과 플랫폼 (트위터) 에 국한되어 타 자산이나 다른 SNS 로의 일반화 가능성 불명확.
  • NLP 모델의 분류 오류 (유머, 아이러니, 봇 활동 등) 로 인한 편향 가능성 존재.
  • 실제 거래 시 발생할 수 있는 슬리피지 (Slippage) 와 주문서 (Order Book) 동역학을 완벽하게 반영하지 못함.
  • 인과관계 (Causality) 보다는 상관관계에 기반한 예측임을 명시.

요약하자면, 이 논문은 고빈도 감정 데이터와 머신러닝을 결합하여 애플 주식의 단기 과잉반응을 예측할 수 있음을 보여주었으며, 특히 10 분 구간에서는 전통적인 행동적 모멘텀 전략이, 5 분 이하 구간에서는 ML 모델이 각각 우월한 성과를 보임을 규명했습니다.