기술 요약: AutoRedTrader

문제 정의

대형 언어 모델 (LLM) 기반 금융 에이전트들은 연속적인 거래 실행 및 주가 예측을 위해 수치적 시장 데이터와 텍스트 신호 (예: 뉴스 헤드라인, 애널리스트 보고서) 의 조합에 점점 더 의존하고 있습니다. 기존 레드팀링 프레임워크는 안전성과 탈옥 (jailbreaking) 문제를 다루지만, 미세한 금융 허위정보에 대한 금융 에이전트의 특정 취약점을 포착하지 못하는 경우가 많습니다. 명시적인 거짓말과 달리, 금융 허위정보는 종종 감성, 프레임, 강조, 또는 수치 값의 미세한 변화와 같은 경미한 텍스트 교란으로 나타나며, 이는 실제 정보와 매우 유사하게 유지됩니다. 이러한 미세한 편집은 에이전트의 위험, 모멘텀, 또는 펀더멘털에 대한 추론을 크게 변화시켜, 거래 결정에서 장기적인 궤적 편차를 초래할 수 있습니다.

현재 시뮬레이션 프레임워크 (예: FinMem, FinCon) 는 일반적으로 상류 필터링이나 배포 시 방어 모듈이 허위정보를 처리할 것이라고 가정하여, 미묘한 적대적 텍스트 교란의 특정 실패 모드를 측정하지 못합니다. 또한, 기존 레드팀링 방법은 종종 개별 출력에 실패를 국한시켜, 연속적인 의사결정 과정에서 발생하는 누적적 포지션 편향을 놓치고 있습니다.

방법론: AutoRedTrader

저자들은 LLM 기반 금융 에이전트를 스트레스 테스트하기 위해 합성적이고 금융 특화적인 허위정보를 생성 및 주입하도록 설계된 자율적 레드팀링 프레임워크인 AutoRedTrader를 제안합니다. 이 시스템은 부분 관측 가능 마르코프 결정 과정 (POMDP) 시뮬레이션 환경 내에서 폐루프 프로세스로 작동합니다.

1. 프레임워크 아키텍처

이 프레임워크는 루프 내에서 상호작용하는 세 가지 주요 구성 요소로 이루어져 있습니다:

• MisGen (적대적 허위정보 생성기): 미묘하고 금융 특화적인 텍스트 교란을 생성합니다.
• 금융 에이전트 (FinAgent): 시장 데이터와 뉴스를 처리하여 거래 결정 (매수, 매도, 보유) 을 내리는 LLM 기반 에이전트입니다.
• 시계열 증거 제공자: 에이전트의 견고성을 테스트하기 위해 과거 시장 데이터에서 구조화된 시간적 증거를 제공하는 선택적 모듈입니다.

2. 허위정보 생성 전략 (MisGen)

핵심 혁신은 행동 금융 이론에 기반하여 교란 공간 $\Phi$를 세 가지 보완적 하위 공간으로 분해하는 생성 전략에 있습니다:

• 인지 편향 교란 ($\Phi_{Bias}$): 에이전트의 시스템 프롬프트나 컨텍스트를 조작하여 특정 행동 편향 (과신, 손실 회피, 고착 효과, 군중 심리, 확증 편향) 을 유발합니다. 이는 뉴스 내용 자체가 아니라 에이전트의 추론 사전 (reasoning prior) 을 대상으로 합니다.
• 의미론적 내용 교란 ($\Phi_{Minor}$): 뉴스 내용 $n_i$에 미묘한 편집을 가합니다. 여기에는 다음이 포함됩니다:
  • 반전: 시장 함의를 반전시킴 (예: 긍정에서 부정으로).
  • 감성 전환: 사실을 변경하지 않고 어조를 조정함.
  • 수치 편집: 추세 방향을 유지하면서 주요 금융 수치를 수정함.
  • 시간/개념/주체 전환: 시간, 지표, 또는 귀속 관계의 불일치를 도입함.
• 스타일 제어 재작성 ($\Phi_{Rewrite}$): 원본과 의미론적 유사성을 유지하면서 표준 필터를 우회하기 위해 교란된 내용을 특정 저널리즘 레지스터 (학술적 또는 뉴스 스타일) 로 재표현합니다.

3. 폐루프 피드백 및 전략 선택

AutoRedTrader 는 과거 인식형 전략 선택 메커니즘을 사용합니다. 각 시뮬레이션 라운드 후, 에이전트의 **누적 수익 (CR)**과 의사결정 영향 이력이 MisGen 으로 피드백됩니다.

• 이전에 결정 변화를 초래했던 전략은 폴리아 항아리 과정을 통해 모델링된 더 높은 샘플링 확률을 할당받습니다.
• 수익 의존적 조정이 적용됩니다: 성공적인 수익은 과신을 유발할 확률을 높이는 반면, 손실은 손실 회피를 증가시킵니다.
• 필터링 단계는 주입 전에 생성된 허위정보가 높은 의미론적 유사성 ($\tau_{sim}$) 과 낮은 탐지 가능성 ($\tau_{det}$) 임계값을 충족하는지 확인합니다.

4. 시간적 근거를 통한 견고성 분석

견고성을 평가하기 위해, 이 프레임워크는 시계열 정보 기반 근거 (Time-Series-Informed Grounding) 설정을 도입합니다. 이 모듈은 텍스트를 대체하는 대신, 과거 시장 구간 (예: 변동성, 손실, 추세 편차) 에서 파생된 구조화된 시간적 증거를 에이전트에 제공합니다. 이를 통해 에이전트는 유입되는 텍스트 신호와 과거 시장 역학 간의 일관성을 평가할 수 있으며, 이러한 증거가 오해의 소지가 있는 내러티브에 대항하여 결정을 안정화할 수 있는지 테스트합니다.

주요 기여

1. 금융 허위정보 생성: 행동 편향과 에이전트 피드백에 기반하여 생성되는 미묘하고 금융 특화적인 텍스트 교란을 위한 새로운 방법으로, 일반적인 적대적 프롬프트를 넘어섭니다.
2. 폐루프 금융 에이전트 시뮬레이션: 에이전트 피드백이 허위정보 생성을 점진적으로 강화하는 POMDP 기반 시뮬레이션 프레임워크로, 고립된 출력 실패가 아닌 누적적 의사결정 편향을 포착합니다.
3. 견고성을 위한 시간적 근거: 구조화된 과거 시장 증거가 에이전트의 오해의 소지가 있는 텍스트 신호에 대한 과잉 반응을 줄이는 근거 메커니즘으로 기능할 수 있는지 탐구합니다.

실험 결과

이 프레임워크는 검색 기반 거래 에이전트를 사용하여 2023 년 3 월부터 4 월까지 60 일간의 비트코인 (BTC) 거래 데이터에 대해 평가되었습니다.

• 공격 성능: AutoRedTrader 는 **26.67%**의 최고 **공격 성공률 (ASR)**과 **69.00%**의 **허위정보 노출률 (MER)**을 달성했습니다. 이는 범용 베이스라인 (AutoRedTeamer, Pliny, LIFE) 보다 우월했으며, 단순히 허위정보를 검색하는 것만으로는 부족하며 허위정보가 의사결정과 관련되고 에이전트의 추론과 일치해야 함을 보여주었습니다.
• 수익에 미치는 영향: 공격은 에이전트의 누적 수익을 +23.50% 의 깨끗한 기준선에서 +22.27% 로 감소시켜, 허위정보가 거래 결과에 부정적인 영향을 미칠 수 있음을 나타냈습니다.
• 견고성 발견: 시계열 정보 기반 근거 설정이 활성화되었을 때, 공격 효과가 크게 감소했습니다 (MER 는 41.66% 로, ASR 은 18.33% 로 감소). 이는 과거 시장 증거가 에이전트가 오해의 소지가 있는 신호를 필터링하는 데 도움이 됨을 시사합니다.
• 절차 제거 연구: 어떤 구성 요소 (편향, 경미한 교란, 재작성, 피드백, 또는 필터링) 를 제거하더라도 ASR 이 감소하여, 검색 가능하고 의사결정에 효과적인 허위정보를 생성하기 위해 모든 모듈이 필수적임을 확인했습니다.

중요성 및 주장

이 논문은 AutoRedTrader 가 검색 기반 금융 에이전트의 중요한 취약점을 드러낸다고 주장합니다: 즉, 표준 탐지를 우회하는 미묘하고 궤적을 변경하는 허위정보에 취약하다는 점입니다. 이 연구는 상류 필터링에 의존하는 현재의 견고성 가정이 금융 허위정보의 미묘한 특성을 처리하기에는 부족함을 강조합니다.

행동 편향 조작과 경미한 텍스트 교란이 에이전트 성능을 체계적으로 저하시킬 수 있음을 입증함으로써, 저자들은 금융 AI 개발에 방어적 평가와 견고성 테스트의 필요성을 주장합니다. 그 결과들은 시간적 근거 (텍스트 신호를 검증하기 위해 과거 시장 데이터 사용) 를 통합하는 것이 에이전트 결정을 안정화하고 적대적 내러티브에 대한 복원력을 향상시키는 효과적인 메커니즘이 될 수 있음을 시사합니다. 저자들은 생성된 기술의 이중 사용 위험을 인정하면서, 그들의 작업은 안전한 모델 설계를 알리기 위한 연구 및 방어 목적에 엄격히 국한된다고 강조합니다.