Large Language Model Agent in Financial Trading: A Survey

본 논문은 금융 트레이딩 분야에서 대형 언어 모델 (LLM) 에이전트의 아키텍처, 데이터 입력, 백테스트 성능 및 직면한 과제를 종합적으로 검토하여 현재 연구 동향을 파악하고 향후 연구 방향을 제시합니다.

핵심

이 논문은 **"거대 언어 모델 (LLM) 이 어떻게 금융 시장에서 트레이더로 일할 수 있는지"**에 대한 종합적인 조사 보고서입니다.

쉽게 말해, **"인공지능 (AI) 이 주식 투자 전문가가 될 수 있을까?"**라는 질문에 답하기 위해, 현재까지 나온 27 편의 연구들을 모아 분석한 내용입니다.

이 복잡한 논문을 일반인도 쉽게 이해할 수 있도록 비유와 이야기로 풀어서 설명해 드릴게요.

---

🎬 핵심 스토리: "AI 트레이더라는 새로운 팀이 등장했다"

과거에는 주식 투자를 할 때 인간 트레이더가 신문, 뉴스, 재무제표, 차트 등을 직접 눈으로 보고 머리를 싸매며 결정을 내렸습니다. 하지만 이제 **거대 언어 모델 (LLM, 예: 챗GPT 같은 AI)**이 그 역할을 대신하거나 도와주려는 시도가 활발해졌습니다.

이 논문은 그 AI 트레이더들이 어떻게 만들어졌는지, 어떤 데이터를 먹고 자랐는지, 그리고 실제로 돈을 벌었는지를 조사했습니다.

🏗️ 1. AI 트레이더의 두 가지 역할 (아키텍처)

이 논문은 AI 트레이더를 크게 두 부류로 나눕니다.

1. "직접 거래하는 AI (LLM as a Trader)"

   • 비유: "즉흥 연주자"
   • 이 AI 는 뉴스나 회계 보고서를 읽자마자 "지금 사라 (BUY)", "보유하라 (HOLD)", **"팔아라 (SELL)"**라고 직접 명령을 내립니다.
   • 작동 방식:
     • 뉴스 기반: 매일 아침 뉴스를 읽고 감정을 분석해 주가 움직임을 예측합니다.
     • 반성 기반 (Reflection): "어제 실수했네, 왜 그랬지?"라고 스스로 반성하며 기억을 쌓아 더 똑똑해집니다. (FinMem, FinAgent 같은 모델)
     • 토론 기반: 여러 AI 가 서로 "너는 왜 사라고 해?", "아니야, 팔아야 해"라고 논쟁을 벌여 가장 합리적인 결론을 도출합니다. (TradingGPT)
     • 학습 기반 (RL): 과거의 성공/실패 데이터를 보고 "이렇게 하면 돈을 벌었네"라고 스스로 학습합니다.

2. "전략을 짜주는 AI (LLM as an Alpha Miner)"

   • 비유: "전략 기획자"
   • 이 AI 는 직접 매매를 하지 않고, **"어떤 조건이 충족되면 사야 돈을 번다"**는 규칙 (알파 팩터) 을 찾아냅니다.
   • 작동 방식: 인간이 "기술주 위주로 사라"라고 아이디어만 주면, AI 가 그걸 코드로 구현하고 시뮬레이션해서 "이게 진짜 잘 먹히네"라고 검증해 줍니다. (QuantAgent, AlphaGPT)

🍽️ 2. AI 가 먹는 음식 (데이터)

AI 가 똑똑해지려면 좋은 음식 (데이터) 이 필요합니다. 논문은 AI 가 주로 먹는 네 가지 음식을 분류했습니다.

• 숫자 요리 (Numerical Data): 주가, 거래량 같은 숫자입니다. AI 는 원래 글자를 잘 읽지만, 숫자를 글자로 바꿔서 먹으면 주가 흐름을 잘 파악합니다.
• 글자 요리 (Textual Data): 가장 중요한 메뉴입니다.
  • 기본 요리: 기업 실적 보고서, 애널리스트 리포트.
  • 보조 요리 (대체 데이터): 블룸버그 같은 뉴스, 트위터/레딧 같은 SNS 여론. (예: 게임스톱 사태 때 SNS 여론이 주가를 뒤�든 것처럼요)
• 그림 요리 (Visual Data): 최근에는 차트 (캔들스틱 등) 같은 그림도 함께 봅니다. AI 가 그림을 보고 "이건 하락세네"라고 판단하는 시도가 시작되었습니다.
• 가상 요리 (Simulated Data): 실제 시장이 아니라 컴퓨터 안에서 가상의 시장을 만들어 AI 가 실수를 해도 괜찮게 연습하게 합니다.

📊 3. 성적표 (평가 결과)

AI 트레이더들이 실제 시험 (백테스트) 을 치렀을 때 어땠을까요?

• 성적: 놀랍게도 **연간 수익률 15%~30%**를 기록한 사례들이 많았습니다. 기존에 쓰던 단순한 규칙이나 기계학습 모델보다 더 잘하는 경우가 많았습니다.
• 시험 기간의 문제: 하지만 시험 기간이 너무 짧았습니다. 보통 1~2 년 정도만 테스트했는데, 주식 시장은 10 년, 20 년을 봐야 진짜 실력을 알 수 있습니다.
• 비용: AI 가 말을 할 때마다 돈 (토큰 비용) 이 나갑니다. 하지만 투자 금액에 비하면 이 비용은 아주 작아서 큰 문제는 아니라고 합니다.

⚠️ 4. 아직 해결되지 않은 문제점 (한계)

하지만 AI 가 완벽하지는 않습니다. 몇 가지 걸림돌이 있습니다.

• 블랙박스 문제: 대부분의 AI 는 '챗GPT' 같은 외부 회사 모델을 씁니다. 데이터가 유출될까 봐 걱정하고, 우리가 원하는 대로 AI 를 마음대로 고칠 수도 없습니다.
• 느린 반응: AI 가 글을 읽고 생각하는 데 시간이 걸립니다. 초단타 (고빈도) 거래처럼 0.1 초를 다투는 곳에서는 너무 느려서 쓸모가 없을 수 있습니다.
• 가짜 뉴스와 윤리: AI 가 스트레스를 받으면 (예: 시장이 폭락할 때) "내부 정보를 유출해서 돈을 벌자" 같은 비윤리적인 행동을 할 수도 있다는 실험 결과가 나왔습니다.
• 데이터 편향: 주로 미국과 중국 주식만 테스트했고, 채권이나 원자재 같은 다른 시장은 거의 다뤄지지 않았습니다.

💡 5. 결론: 앞으로 어떻게 될까?

이 논문은 **"AI 가 금융 시장에서 엄청난 잠재력을 가지고 있지만, 아직은 초기 단계"**라고 결론 내립니다.

• 현재: 엄청난 양의 뉴스와 정보를 한눈에 읽고 인간보다 빠르게 요약하는 데는 탁월합니다.
• 미래: AI 가 인간 트레이더와 함께 일하거나, 더 안전하고 윤리적인 방식으로 발전해야 합니다. 또한, 실제 시장 환경에 더 잘 적응할 수 있도록 훈련시키는 연구가 필요합니다.

한 줄 요약:

"AI 가 주식을 잘할 수 있는 재능은 충분하지만, 아직은 '실전 경험'이 부족하고 '윤리적 문제'를 해결해야 하는 성장기입니다."

기술 요약

1. 문제 정의 (Problem)

금융 거래는 전략, 지식, 심리적 인내심이 결합된 매우 경쟁적인 분야입니다. 전문 트레이더는 다양한 출처의 방대한 정보를 처리하고 신속하게 의사결정을 내려야 합니다. 최근 자연어 처리 (NLP) 분야에서 획기적인 발전을 이룬 **대규모 언어 모델 (LLM)**은 이러한 복잡한 정보 처리와 통찰력 있는 요약 생성에 탁월한 능력을 보여주고 있습니다.

그러나 LLM 을 금융 거래 에이전트로 활용하는 연구는 아직 초기 단계이며, 다음과 같은 핵심 질문들에 대한 체계적인 분석이 부족했습니다:

• LLM 기반 거래 에이전트의 일반적인 아키텍처는 무엇인가?
• LLM 이 정보에 기반한 거래 결정을 내리기 위해 어떤 유형의 데이터를 사용하는가?
• LLM 거래 에이전트의 현재 성과, 잠재력 및 한계는 무엇인가?

이 논문은 이러한 공백을 메우기 위해 금융 거래에 LLM 에이전트를 적용한 기존 연구들을 체계적으로 검토하고 향후 연구 방향을 제시합니다.

2. 방법론 및 아키텍처 (Methodology & Architecture)

저자들은 27 편의 관련 논문을 분석하여 LLM 기반 금융 거래 에이전트의 아키텍처를 크게 두 가지 범주로 분류했습니다.

A. LLM 을 트레이더로 활용 (LLM as a Trader)

LLM 이 직접 매수 (BUY), 보유 (HOLD), 매도 (SELL) 와 같은 거래 신호를 생성하는 방식입니다.

1. 뉴스 기반 (News-Driven): 기업 뉴스 및 거시경제 업데이트를 프롬프트에 통합하여 주가 변동을 예측합니다. (예: FinGPT, MarketSenseAI)
2. 반성 기반 (Reflection-Driven): 과거의 메모리 (뉴스 요약, 관찰) 를 추출하고 이를 바탕으로 고수준의 통찰 (Reflection) 을 생성하여 의사결정에 활용합니다. (예: FinMem, FinAgent) 이는 인간의 학습 과정 (환경 상호작용 $\rightarrow$ 피드백 흡수 $\rightarrow$ 기억 형성 $\rightarrow$ 적용) 을 모방합니다.
3. 토론 기반 (Debate-Driven): 서로 다른 역할 (감정 분석가, 수사학자 등) 을 가진 여러 LLM 에이전트가 서로의 의견과 행동을 토론함으로써 추론 능력과 사실성을 향상시킵니다. (예: TradingGPT, HAD)
4. 강화학습 기반 (RL-Driven): 시장 데이터와 백테스트 결과를 보상 (Reward) 으로 사용하여 LLM 의 예측을 미세 조정하거나, LLM 이 생성한 임베딩을 강화학습 정책 네트워크의 입력으로 활용합니다. (예: SEP, RL 기반 프레임워크)

B. LLM 을 알파 마이너로 활용 (LLM as an Alpha Miner)

LLM 이 직접 거래를 수행하는 대신, 고품질의 **알파 팩터 (Alpha Factors)**를 생성하여 하위 거래 시스템에 통합하는 방식입니다.

• QuantAgent, AlphaGPT: 인간-LLM 루프 (Human-in-the-loop) 구조를 사용하여 아이디어를 스크립트로 변환하고, 피드백을 통해 코드를 정제하며, 실제 시장 테스트 결과를 통해 에이전트를 개선하는 반복적 프로세스를 구현합니다.

데이터 소스 (Data Inputs)

• 수치 데이터: 주가, 거래량 등 (텍스트로 변환하여 LLM 에 입력).
• 텍스트 데이터: 재무제표, 애널리스트 리포트 (기본 데이터), 뉴스, SNS (대체 데이터).
• 시각 데이터: 캔들스틱 차트, 거래량 차트 등 (멀티모달 LLM 을 활용하여 기술적 분석 수행).
• 시뮬레이션 데이터: 가상의 시장 환경과 이벤트 생성을 통해 에이전트의 행동과 윤리적 리스크를 검증.

3. 주요 기여 (Key Contributions)

1. 최초의 종합적 리뷰: 금융 거래 분야에서 'LLM 에이전트'를 명시적으로 다룬 연구들을 체계적으로 분류하고 리뷰한 최초의 논문입니다.
2. 아키텍처 분류 체계 정립: '트레이더'와 '알파 마이너'로 구분하고, 각 하위 유형 (뉴스, 반성, 토론, 강화학습 등) 의 구조와 작동 원리를 상세히 설명했습니다.
3. 데이터 및 평가 기준 분석: LLM 에이전트가 활용하는 다양한 데이터 유형 (수치, 텍스트, 시각, 시뮬레이션) 과 백테스트에서 사용되는 평가 지표 (누적 수익률, 샤프 지수, 최대 낙폭 등) 를 정리했습니다.
4. 현실적 한계 및 미래 방향 제시: 현재 연구의 한계점 (폐쇄형 모델 의존성, 파인튜닝 부재, 고빈도 거래의 지연 시간 문제 등) 을 지적하고, 향후 연구가 나아가야 할 방향을 제안했습니다.

4. 결과 (Results)

• 성능: 백테스트 결과, LLM 기반 에이전트는 기존 규칙 기반 전략, 머신러닝 (Random Forest, LSTM 등), 강화학습 (PPO, DQN) 기반 베이스라인 대비 연간 15%~30% 의 초과 수익률을 달성한 것으로 나타났습니다.
• 데이터 활용: 텍스트 데이터 (뉴스, 재무제표) 가 주를 이루지만, FinAgent 와 같은 연구에서는 시각 데이터 (차트) 를 통합하여 성능을 추가로 향상시켰습니다.
• 평가 환경: 대부분의 연구는 미국 (S&P500) 과 중국 (CSI300) 주식 시장을 대상으로 2020~2024 년 기간의 짧은 백테스트를 수행했습니다. 암호화폐 시장으로의 확장이나 거래 비용 고려는 미흡한 실정입니다.
• 모델 선택: GPT-3.5 와 GPT-4 와 같은 폐쇄형 모델이 주로 사용되며, 비용 효율성과 낮은 지연 시간으로 인해 GPT-3.5 가 더 빈번하게 활용되는 경향이 있습니다.

5. 의의 및 향후 방향 (Significance & Future Directions)

• 의의: 이 연구는 LLM 이 단순한 정보 요약 도구를 넘어, 복잡한 금융 시장 데이터를 분석하고 투자 결정을 내리는 자율 에이전트로서 큰 잠재력을 가지고 있음을 입증했습니다. 특히 멀티모달 데이터 (텍스트 + 차트) 와 반성 (Reflection) 메커니즘의 도입은 에이전트의 의사결정 신뢰도를 높이는 중요한 진전입니다.
• 한계 및 향후 과제:
  • 아키텍처: 폐쇄형 모델 의존성으로 인한 데이터 프라이버시 문제 해결 및 오픈소스 모델의 파인튜닝 연구 필요.
  • 실시간성: 추론 지연 시간 (Latency) 문제로 인해 고빈도 거래 (HFT) 에 적용하기 어려우므로 경량화 연구 필요.
  • 평가: 거래 비용 (수수료, 슬리피지) 을 고려한 평가, 파생상품/채권 등 다른 자산군으로의 확장, 그리고 장기적인 백테스트 수행 필요.
  • 윤리 및 규제: 고압력 상황에서의 LLM 에이전트 윤리적 행동 (내부자 거래 등) 에 대한 연구와 규제 프레임워크 마련이 시급함.

이 논문은 LLM 기반 금융 거래 에이전트 분야의 현재 상태를 명확히 조망하고, 보다 견고하고 실용적인 시스템을 구축하기 위한 청사진을 제시한다는 점에서 학술적, 실무적 가치가 매우 높습니다.