💻 computer science

EVOQUANT: Self-Evolving Verifier-Guided Strategy Optimization for Robust Quantitative Trading

EVOQUANT는 대규모 언어 모델을 활용하여 퀀트 트레이딩 전략의 진단, 편집 및 검증을 자동화함으로써 수동적인 시행착오 과정을 제거하고 전략의 성과와 견고성을 크게 향상시키는, 자기 진화형 검증기 유도 프레임워크입니다.

원저자: Jie Mao, Changlun Li, Xiang Li, Qiqi Duan, Jinhui Yuan, Xiang Liu, Yuyu Luo, Jing Tang, Xiaowen Chu, Nan Tang

게시일 2026-07-15

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Jie Mao, Changlun Li, Xiang Li, Qiqi Duan, Jinhui Yuan, Xiang Liu, Yuyu Luo, Jing Tang, Xiaowen Chu, Nan Tang

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 베이킹 대회에서 우승하기 위해 아주 오래되고 복잡한 케이크 레시피를 수정하려고 노력하고 있다고 상상해 보세요. 보통은 인간 요리사가 직접 케이크를 맛보고, 왜 퍽퍽한지 추측하고, 오븐 온도를 조절하고, 다시 맛을 보며, 설탕 대신 소금을 넣는 실수를 하지 않았기를 기도해야 합니다. 이는 느리고 지치며, 종종 요리사가 똑같은 실수를 반복하게 만듭니다.

이제, 당신이 이 일을 도와줄 초지능 로봇 요리사(대규모 언어 모델, LLM)를 고용했다고 상상해 보세요. 문제는, 당신이 로봇에게 단순히 "이 케이크를 더 좋게 만들어줘"라고 말한다면, 로봇이 너무 의욕이 앞설 수 있다는 점입니다. 로봇은 존재하지 않는 새로운 재료를 환각(hallucination)하여 만들어내거나, 레시피를 너무 급격하게 바꿔서 케이크를 벽돌처럼 만들어버릴 수도 있습니다. 심지어 운 좋게 걸린 아주 작은 조각 하나로만 케이크를 테스트하여, 실제 세상에서는 실패할 것이 분명한데도 완벽해 보이도록 스스로를 속일 수도 있습니다.

이것이 바로 EVOQUANT 논문이 해결하고자 하는 문제입니다. 저자들은 로봇 요리사가 제멋대로 날뛰게 두는 대신, 엄격한 **'맛 검사관(Verifier)'**을 두어 로봇이 만드는 모든 변화를 감시해야 한다고 제안합니다.

마법의 레시피 북: "전략 게놈(Strategy Genome)"

먼저, 시스템은 원래의 트레이딩 전략(레시피)을 특별하고 구조화된 "게놈"으로 변환합니다. 이것은 마치 모든 브릭(벽돌)에 라벨이 붙어 있는 레고 조립 설명서와 같습니다. 전체를 그냥 부수어 버릴 수는 없으며, 구조를 유지하면서 특정 브릭(예: '매수' 신호나 '손절' 규칙 변경)을 교체하는 방식으로만 작업해야 합니다. 이는 로봇이 단순히 추측하는 것이 아니라, 통제되고 논리적인 편집을 수행하도록 보장합니다.

탐정과 편집자

이 시스템은 마치 미스터리를 해결하는 탐정처럼 루프(loop) 형태로 작동합니다.

진단 (The Diagnosis): 로봇은 탐정처럼 되어 "범죄 현장"(과거 성과 데이터)을 조사합니다. 로봇은 "이 전략은 왜 돈을 잃었는가? 너무 위험했나? 시장이 변했을 때 거래를 중단했나?"라고 묻습니다. 단순히 "실패했다"라고 말하는 것이 아니라, 구체적인 실패 모드(failure mode)를 찾아냅니다.
통제된 편집 (The Controlled Edit): 그 진단을 바탕으로 로봇은 해결책을 제안합니다. 하지만 여기서 주의할 점은, 로봇이 아무 해결책이나 제안할 수 없다는 것입니다. 로봇은 반드시 계획을 따라야 합니다. 만약 문제가 시장의 작은 변화에 너무 민감하다는 것이라면, 로봇은 더 복잡한 규칙을 추가하는 것이 아니라 전략을 더 '안정적'으로 만들도록 지시받습니다.
엄격한 맛 검사관 (The Verifier): 이것이 가장 중요한 부분입니다. 새로운 레시피가 사용되기 전에, 로봇이 한 번도 본 적 없는 데이터(out-of-sample data)를 통해 엄격한 "맛 테스트"를 거칩니다.
- 만약 새로운 레시피가 훈련 데이터(training data)에서는 잘 작동하지만 새로운 데이터에서는 실패한다면, 검사관은 "안 돼, 이건 속임수야. 거절한다"라고 말합니다.
- 만약 새로운 레시피가 최악의 시나리오에서 너무 많은 돈을 잃는다면, 검사관은 "너무 위험해. 거절한다"라고 말합니다.
- 오직 새로운 레시피가 진정으로 더 나으면서도 더 안전하다는 것을 증명했을 때만 "챔피언" 자리에 승격됩니다.

결과: "맛없음"에서 "맛있음"으로

저자들은 이 시스템을 7가지 서로 다른 트레이딩 전략(중국 주식 시장에서 4개, 비트코인 시장에서 3개)에 대해 테스트했습니다. 그 결과, 시스템이 전략의 성과를 유의미하게 개선했다는 것을 발견했습니다.

로봇의 도움을 받기 전, 평균 "점수"(위험 대비 얼마나 많은 수익을 얻는지를 측정하는 샤프 지수, Sharpe ratio)는 -0.298이었습니다. 이는 손실을 보는 게임입니다. EVOQUANT 시스템이 투입된 후, 평균 점수는 0.538로 뛰어올랐습니다. 이는 승리하는 게임입니다. 가장 성과가 좋았던 전략 중 하나는 원래의 자신보다 **199%**나 개선되었습니다.

이 논문은 이것이 단지 운이 아니라는 점을 보여줍니다. 그들이 더 높은 수수료(더 까다로운 베이킹 대회와 같은 조건)나 다른 기간을 적용하여 테스트했을 때도, 전략들은 여전히 견고함을 유지했지만 이득은 다소 줄어들었습니다. 이는 개선 사항이 일시적인 현상이 아니라 실제적임을 시사합니다.

이 시스템이 '아닌' 것

저자들은 이 시스템이 무엇이 아닌지를 매우 명확히 밝히고 있습니다.

이것은 당신을 부자로 만들어주겠다고 보장하는 마법 지팡이가 아닙니다. 논문은 이것이 연구용 프로토타입이며 금융 조언이 아님을 명시적으로 밝히고 있습니다.
이것은 단순히 무언가 걸릴 때까지 무작위로 변화를 던져보는 시스템이 아닙니다. 저자들은 만약 "진단" 단계를 제거하고 로봇이 무작위 편집을 하게 둔다면 결과가 훨씬 나빠진다는 것을 입증했습니다. "탐정" 역할이 필수적이라는 뜻입니다.
이것은 모든 위험을 제거하는 시스템이 아닙니다. 실제로 일부 전략의 경우, 시스템은 잠재적 수익이 훨씬 더 좋기 때문에 더 높은 위험(가치 하락 폭)을 수용하기도 했습니다. 목표는 위험이 없는 상태가 아니라, 더 나은 균형을 찾는 것이었습니다.

핵심 요약

이 논문은 트레이딩 전략을 수정하는 지저li고 수동적인 작업을 깔끔하고 자동화된 루프로 바꿀 수 있음을 시사합니다. 로봇을 사용하여 변화를 제안하게 하되 엄격한 감독자를 통해 이를 검증함으로써, 우리는 더 똑똑하고 견고한 전략을 진화시킬 수 있습니다. 저자들은 시뮬레이션과 과거 데이터를 통한 백테스트를 통해 이를 측정했으며, 이 "검사관 가이드(Verifier-Guided)" 방식이 AI를 자유롭게 풀어두거나 사람이 직접 하는 것보다 더 낫다는 것을 보여주었습니다.

이는 마치 창의적인 예술가(LLM)가 새로운 디자인을 그리고, 안전 검사관(Verifier)이 비행기가 이륙하기 전에 모든 볼트를 하나하나 체크하는 팀을 가진 것과 같습니다. 그리고 이 시뮬레이션에서, 그 비행기들은 이전보다 훨씬 더 잘 날았습니다.

기술 요약: EVOQUANT

문제 정의

양적 전략 최적화는 전통적으로 도메인 전문가가 약한 신호를 식별하고, 리스크 통제를 조정하며, 수정 사항을 반복적으로 검증해야 하는 수동적이고 노동 집약적인 과정입니다. 대규모 언어 모델(LLM)이 이 루프를 가속화할 잠재력을 가지고 있음에도 불구하고, 일반 목적의 LLM을 트레이딩 전략에 직접 적용하는 것은 심각한 위험을 초데합니다: 즉, 환각된 편집(hallucinated edits), 전략 표류(strategy drift), 그리고 심각한 백테스트 과적합(backtest overfitting)입니다. 기존의 접근 방식들은 제안된 변경 사항에 대한 투명한 인과적 설명을 결여하거나, 진정한 신호 정교화와 수많은 자유도 사이의 선택 편향을 구분하지 못하는 경우가 많습니다. 핵심 과제는 단순히 전략을 생성하는 것이 아니라, 안전하지 않은 편집을 엄격하게 기록, 검증 및 거부하는 프로토콜 하에서 전략을 개선하는 것입니다.

방법론: EVOQUANT 프레임워크

EVOQUANT(자기 진화형 검증기 유도 전략 최적화)는 양적 전략 개선을 검증기 유도 프로그램 진화(verifier-guided program evolution) 문제로 재정의합니다. 이 시스템은 네 가지 모듈로 구성된 폐쇄 루프 과학적 프로세스로 작동합니다:

1. 전략 인입 및 표현 (Strategy Ingestion and Representation)

시스템은 사용자가 제공한 전략(코드 또는 규칙 텍스트)을 **타입화된 전략 게놈(typed strategy genome)**으로 정규화합니다. 이 중간 표현( $g$ )은 원시 로직을 추상 구문 트리(AST)로 파싱하고 트레이딩 시맨틱(신호, 진입/청산 조건, 리스크 규칙, 포지션 사이징)을 태깅합니다. 게놈은 편집 가능한 레이어로 분리되며, 변이 이력과 전략 패밀리를 추적하기 위한 프로비넌스 메타데이터( $\xi$ )를 포함합니다. 이러한 구조는 모든 후속 편집이 국소적이고 실행 가능하며, 표류가 제한되도록 보장합니다.

2. 베이스라인 평가 및 증거 구축 (Baseline Evaluation and Evidence Construction)

최적화에 앞서, 시스템은 훈련, 검증 및 테스트 세트에 걸쳐 현행 게놈을 백테스트함으로써 연대기적 증거 팩(evidence pack)( $E_t$ )을 구축합니다. 이 팩에는 다음이 포함됩니다:

스칼라 지표: 수익률, 샤프 지수, 최대 낙폭(MDD), 거래 횟수 및 승률.
행동 프로필: 거래 희소성, 보유 기간 분포, 수익 집중도.
레짐 민감도: 다양한 시장 레짐에서의 전략 성과.
리스크 진단: 외표본(OOS) 성능 저하( $\delta_{oos}$ ) 및 비정상적 리스크 현상(예: 과도한 스톱로스 트리거링).

3. 진단-생성 최적화 루프 (Diagnostic-Generative Optimization Loop)

이 핵심 모듈은 진단, 생성, 검증의 과정을 반복합니다:

병목 진단 (Bottleneck Diagnosis): LLM 기반 에이전트가 증거 팩을 분석하여 특정 실패 모드(예: 레짐 불일치, 알파 절단)를 식별합니다. 이는 목표, 탐색 수준(국소적 수선부터 패밀리 마이그레이션까지), 허용된 연산자를 정의하는 탐색 계획( $p_t$ )을 생성합니다.
제어된 후보 생성 (Controlled Candidate Generation): 탐색 계획과 검색된 메모리 케이스에 따라, LLM은 편집 계획( $\Delta_{t,i}$ )을 생성합니다. 후보들은 타입화된 편집 계약을 준 satisfaction 해야 하며, 이는 시맨틱 표류( $d_G$ )가 범위 내에 머물고 금융 불변성이 유지되도록 보장합니다. 편집은 파라미터 튜닝부터 구조적 재구축까지 다양합니다.
OOS 인식 검증 및 승격 (OOS-Aware Verification and Promotion): 검증기는 엄격한 하드 게이트(hard gates)(최소 거래 횟수, OOS 낙폭 제한, 표류 제약)를 사용하여 현행 전략과 병렬로 후보를 평가합니다. 게이트를 통과한 후보는 검증 단계의 개선도와 OOS 성과, 그리고 낙폭 확대나 스트레스 테스트 실패에 대한 페널티 사이의 균형을 맞추는 점수( $Q$ )에 의해 순위가 매겨집니다.
적응형 승격 (Adaptive Promotion): 시스템은 후보를 ADOPT(현행 교체), INCUBATE(미래 참조를 위해 저장), 또는 REJECT(거부)로 할당합니다. 내장된 메모리 모듈은 성공적인 패턴과 실패 원인을 재사용 가능한 지식 베이스로 추출하여, 지속적인 자기 개선을 가능하게 하고 생산적이지 않은 편집의 반복을 방지합니다.

4. 반복적 정교화 및 출력 (Iterative Refinement and Output)

루프는 예산이 소진되거나 수렴에 도달할 때까지 계속됩니다. 최종 출력에는 최적화된 전략 코드, 종합적인 전/후 백테스트 보고서, 그리고 진단, 편집 계획 및 승격 결정에 대한 전체 감사 추적(audit trail)이 포함됩니다.

주요 기여 (Key Contributions)

증거 기반 전략 진화: 본 논문은 자동화된 최적화를 구조화된 "트레이딩 게놈"으로 표현된 제약된 프로그램 진화로 공식화합니다. 이는 비제약적 생성 탐색을 넘어, 로컬화되고 실행 가능한 편집과 프로비넌스 보존을 지원합니다.
검증기 유도 최적화 프로토콜: LLM이 실패 모드 진단과 계층적 후보 합성을 담당하고, 외표본 인식 검증기와 적응형 승격 엔진이 엄격한 안전 및 강건성 표준을 강제하는 통합되고 감사 가능한 루프를 도입합니다.
장기 크로스 마켓 평가: 본 프레임워크는 다양한 자산군(A주식 및 비트코인)과 전략 패밀리에 대해 전/후 비교, 구성 요소 절제 연구(ablation), 거래 비용 스트레스 테스트 및 워크 포워드 검증을 사용하여 경험적으로 검증되었습니다.

실험 결과

프레임워크는 2020년부터 2025년까지의 데이터를 사용하여 7개의 대표적인 전략(A주식 4개, 크립토 3개)에 대해 평가되었습니다.

성과 향상: 평균 테스트 샤프 지수는 -0.298에서 0.538로 크게 개선되었습니다. 가장 우수한 성과를 낸 전략은 199%의 상대적 개선을 달성했습니다.
강건성: 거래 비용과 슬리피지 가정을 두 배로 높였을 때도 평균 샤프 지수 상승폭은 양수(0.700)를 유지했습니다. 서로 다른 롤링 윈도우를 사용한 워크 포워드 테스트는 성과 향상이 붕괴되지 않았음을 확인해주었으나, 그 규모는 가변적이었습니다.
절제 연구 (Ablation Studies): 적응형 승격 엔진을 제거했을 때 샤프 지수 상승폭이 0.982에서 0.128로 감소하여, 적응형 선택이 핵심 동력임을 입증했습니다. 무작위 변이 베이스라인은 더 낮은 이득(0.645)을 기록했으며 전략 표류에 더 취약하여, 진단 유도 탐색의 필요성을 확인시켜 주었습니다.
시장 적응성: 시스템은 저변동성 주식 시장과 고변동성 크립토 시장 모두에서 전략을 성공적으로 개선하였으며, 비트코인 전략의 낙폭을 줄이는 동시에 A주식 전략의 수익을 높였습니다.

의의 및 주장

본 논문은 양적 전략 최적화를 비용이 많이 드는 수동 시행착오 과정에서 자동화되고 검증 가능하며 반복적인 패러다임으로 전환한다고 주장합니다.

생성보다 신뢰성: 본 연구는 금융 분야에서 LLM의 가치가 유창한 코드를 생성하는 것이 아니라, 연대기적 백테스트, 거래 커버리지 체크, 리스크 민감형 승격에 편집을 근거시키는 데 있음을 강조합니다.
감사 가능성: 거부된 후보와 실패 원인을 명시적으로 기록함으로써, EVOQUANT는 LLM 트레이딩 에이전트의 "블랙박스" 특성을 해결하고 전략 진화에 대한 투명한 감사 추적을 제공합니다.
과학적 프로세스: 프레임워크는 최적화를 가설, 검증, 수정의 과학적 순환으로 취급하며, 엄격한 외표본 검증을 통해 데이터 스누핑과 백테스트 과적합을 완화합니다.

저자들은 이 작업이 금융 연구에 LLM을 적용하는 단계로 나아가는 과정이라고 위치시키며, 본 시스템이 역사적 데이터와 단순화된 실행 가정을 바탕으로 평가된 연구 프로토타입이며 실시간 트레이딩 권고가 아님을 명시적으로 밝히고 있습니다.