🤖 AI

EvoDS: Self-Evolving Autonomous Data Science Agent with Skill Learning and Context Management

이 논문은 에이전트 강화 학습을 활용하여 새로운 기술을 동적으로 습득하고 장기 컨텍스트를 적응적으로 관리함으로써, 기존의 최첨단 에이전트들을 크게 능가하는 동시에 토큰 제한 실패를 제거하는 자기 진화형 자율 데이터 과학 에이전트인 EvoDS를 소개한다.

원저자: Zherui Yang, Fan Liu, Yansong Ning, Hao Liu

게시일 2026-06-03

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Zherui Yang, Fan Liu, Yansong Ning, Hao Liu

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신에게 아주 똑똑하지만 매우 건망증이 심한 조수가 있고, 이 조수는 복잡한 퍼즐을 풀려고 노력 중이라고 상상해 보세요. 이 조수는 AI이며, 퍼즐은 데이터 과학 프로젝트(예: 주가 예측 또는 의료 데이터 분석)입니다.

이 논문은 시간이 지남에 따라 더 똑똑해지고 너무 많은 정보에 압도되지 않도록 설계된 새로운 종류의 AI 어시스턴트인 EvoDS를 소개합니다. 작동 방식은 다음과 같이 쉽게 설명할 수 있습니다.

문제점: "압도당한 인턴"

기존의 데이터 과학용 AI 어시스턴트는 고정된 도구 목록(망치, 드라이버, 렌치)을 가지고 있지만, 새로운 도구를 발명할 수는 없는 인턴과 같습니다.

새로운 기술을 배울 수 없습니다: 만약 자신이 가진 도구로 해결할 수 없는 문제에 부딪히면, 그들은 똑같은 일을 반복하며 벽에 머리를 박는 것과 같은 행동을 계속합니다. 그들은 자신의 "아하!" 하는 깨달음의 순간을 나중을 위해 저장하지 못합니다.
소음에 길을 잃습니다: 데이터 프로젝트에는 긴 대화, 많은 코드, 그리고 많은 중간 단계들이 포함됩니다. 기존의 어시스턴트들은 모든 것을 기억하려고 합니다. 결국 그들의 메모리는 너무 가득 차서(마치 브라우저에 탭을 1,000개 열어둔 것처럼), 가장 중요한 부분을 잊어버리거나 공간이 부족하여 충돌(crash)이 발생합니다.

해결책: "자기 진화형 팀"

EvoDS는 전문가들로 구성된 팀을 이끄는 자기 개선형 프로젝트 매니저와 같습니다. 이는 세 가지 핵심 아이디어를 통해 위의 두 가지 문제를 해결합니다.

1. "성장하는 도구함" (자율적 기술 습득)

당신의 조수가 누수를 고치려는데 렌치만 가지고 있다고 상상해 보세요. 포기하는 대신, 조수는 "이 파이프를 위한 특수한 패치가 필요해"라고 말합니다. 그러고 나서 그들은 새로운 도구(맞춤형 패치)를 발명하고, 그것이 제대로 작동하는지 테스트한 뒤, 자신의 영구적인 도구함에 추가합니다.

작동 방식: 만약 AI가 현재 가진 도구로 해결할 수 없는 문제에 직면하면, 문제를 해결하기 위해 자신만의 새로운 코드(새로운 "기술")를 작성합니다. 만약 그 새로운 코드가 작동한다면, 그것을 저장합니다. 다음에 유사한 문제가 발생하면, 처음부터 다시 시작하는 대신 그 새로운 도구를 사용합니다. 그것은 말 그대로 진행 과정에서 자신의 기술셋을 스스로 구축합니다나다.

2. "스마트 요약가" (적응형 컨텍스트 압축)

당신이 소설을 쓰고 있는데, 머릿속에 마지막 10페이지만 담아둘 수 있다고 상상해 보세요. 이야기가 너무 길어지면, 보통 앞부분을 삭제해야 합니다.

작식 방식: EvoDS는 단순히 무작위로 앞 페이지들을 삭제하지 않습니다. 대신, "요약가"를 두어 이전 페이지들을 읽고, 가장 중요한 내용(반전과 캐릭터의 목표 등)을 담은 한 단락의 요약본을 작성하고 지루한 세부 사항들은 버립니다. 이를 통해 AI의 "작업 기억(working memory)"을 깨끗하고 목표에 집중된 상태로 유지하며, 수백 단계가 지난 후에도 프로젝트의 핵심을 결코 잊지 않게 합니다.

3. "매니저와 전문가들" (계층적 멀티 에이전트)

하나의 거대한 뇌가 모든 것(데이터 정제, 모델 구축, 차트 그리기, 오류 수정 등)을 한꺼번에 하려고 하는 대신, EvoDS는 업무를 분담합니다.

매니저: 큰 그림을 보고 누가 무엇을 할지 결정하는 상위 레벨의 보스입니다.
전문가들: 각자의 특정 업무에만 집중하는 전문가 팀입니다 ("정제 전문가", "모델링 전문가", "시각화 전문가").
이것이 도움이 되는 이유: 이는 건설 현장과 같습니다. 전기 기술자에게 벽돌을 쌓으라고 요구하지 않습니다. 각 에이전트에게 작고 구체적인 업무를 부여함으로써, "매니저"는 너무 많은 세부 사항 때문에 혼란스러워하지 않고, 전문가들은 길을 잃지 않고 더 빠르게 작업할 수 있습니다.

어떻게 발전하는가 (학습 과정)

논문은 EvoDS가 연습과 피드백과 유사한 과정을 통해 학습한다고 설명합니다.

지도 학습 (SFT): 먼저, 기초를 배우기 위해 "선생님"(매우 똑똑한 AI)이 문제를 해결하는 모습을 관찰합니다.
강화 학습 (RL): 그 다음, 스스로 업무를 수행하기 시작합니다. 문제를 잘 해결하면 "보상"을 받습니다. 시간을 낭비하거나 메모리가 부족해지면 "벌점"을 받습니다. 시간이 흐르면서, AI는 효율적으로 움직이고, 필요할 때 새로운 도구를 만들며, 자신의 이력을 완벽하게 요약하는 법을 배웁니다.

결과

저자들은 네 가지 다른 데이터 과학 과제를 통해 EvoDS를 테스트했습니다.

승리했습니다: EvoDS는 다른 최고 수준의 오픈 소스 AI 에이전트들보다 평균적으로 약 29% 더 우수한 성능을 보였습니다.
충돌하지 않았습니다: 다른 AI들은 메모리 부족(out-of-token failure)으로 인해 실패하는 경우가 많았지만, EvoDS는 이러한 긴 복잡한 작업들을 충돌 없이 처리했습니다.
학습했습니다: AI가 새로 발명한 도구를 사용하여 문제를 해결했을 때, 그 도구를 기억하고 이후의 다른 문제에서도 성공적으로 사용했습니다.

요약하자면

EvoDS는 단순히 스크립트를 따르는 AI 데이터 과학자가 아닙니다. 그것은 막혔을 때 문제를 해결하기 위해 새로운 도구를 발명하고, 그 도구를 나중을 위해 저장하며, 목표를 놓치지 않도록 긴 업무 일과를 끊임없이 요약하는 호기심 많은 견습생과 같습니다. 이를 통해 EvoDS는 다른 AI들이 혼란스러워하며 끝내지 못하는 복잡하고 장기적인 프로젝트를 수행할 수 있습니다.

기술 요약: EvoDS

문제 정의

대규모 언어 모델(LLM) 에이전트가 자동화된 데이터 과학을 발전시켜 왔음에도 불구하고, 기존 방식은 두 가지 근본적인 한계에 직면해 있습니다:

정적 액션 세트(Static Action Sets): 현재의 에이전트들은 사전 정의된 워크플로우와 고정된 액션 공간에 의존합니다. 이들은 도구를 학습 가능한 역량이 아닌 정적인 프리미티브(primitives)로 취급하며, 이로 인해 에이전트가 성공적인 행동을 재사용 가능한 기술로 추상화하기보다는 시행착오를 통해 해결책을 반복적으로 재발견하게 만듭니다.
컨텍스트 관리 결함(Context Management Deficiencies): 데이터 과학 워크플로우는 본질적으로 긴 호흡의 반복적인 추론을 요구합니다. 기존 에이전트들은 중간 산출물, 진화하는 기술, 실행 로그로부터 급격히 증가하는 컨텍스트를 관리할 원칙적인 메커니즘이 부족합니다. 이는 "중간 부분 유실(lost-in-the-middle)" 현상, 추론 성능 저하, 그리고 토큰 초과 실패를 초래하여 체계적인 경험 축적을 방해합니다.

본 연구가 다루는 핵심 연구 질문은 자율적인 데이터 과학 에이전트가 단순히 작업을 실행하는 것을 넘어, 개방형 탐색적 분석을 지원하고 반복 및 작업 전반에 걸쳐 경험을 체계적으로 축적할 수 있도록 설계될 수 있는가 하는 점입니다.

방법론

저자들은 계층적 멀티 에이전트 아키텍처 내에서 기술 습득과 컨텍스트 조절을 통합하는 자기 진화형 자율 데이터 과학 에이전트인 EvoDS를 제안합니다. 이 프레임워크는 지도 미세 조정(SFT)과 에이전틱 강화 학습(RL)을 포함하는 2단계 훈련 스킴을 통해 최적화됩니다.

1. 계층적 멀티 에이전트 아키텍처

EvoDS는 복잡한 데이터 과학 워크플로우를 전문화된 에이전트가 관리하는 원자적 하위 작업으로 분해합니다:

매니저 에이전트(Manager Agent): 글로벌 컨트롤러 역할을 수행하며, 고수준 추론, 작업 분해 및 조율을 담당합니다. 글로벌 메모리(작업 목표)를 유지하며 최소한의 도구 세트를 사용하여 환경과 상호작용합니다.
특화된 하위 에이전트(Specialized Sub-Agents): 클리너(Cleaner), 피처라이저(Featurizer), 모델러(Modeler), 시각화 도구(Visualizer), 디버거(Debugger)를 포함합니다. 각 에이전트는 자신의 도메인에 특화된 국소적 액션 공간( $A_i$ ) 내에서 작동하며, 하위 작업별 컨텍스트를 위한 로컬 메모리를 유지합니다.
상호작용: 매니저는 하위 에이전트에게 하위 작업을 위임합니다. 하위 에이전트는 작업을 실행하고 결과를 반환합니다. 이러한 분해는 추론 복잡성을 줄이고 긴 실행 컨텍스트를 국소화합니다.

2. 자율적 기술 습득 (Autonomous Skill Acquisition, ASA)

자기 진화를 가능하게 하기 위해, EvoDS는 에이전트가 실행 가능한 기술( $a = \langle n, d, c \rangle$ , 여기서 $n$ 은 이름, $d$ 는 설명, $c$ 는 코드)을 합성, 검증 및 재사용하는 메커니즘을 도입합니다. 이 과정은 네 단계로 구성됩니다:

합성(Synthesis): 하위 작업이 기존 역량을 초과할 때, 에이전트는 프롬프팅을 통해 새로운 실행 가능한 기술을 생성합니다.
검증(Verification): 합성된 기술이 유효한 출력을 생성하는지 확인하기 위해 실행됩니다.
캐싱(Caching): 검증된 기술은 합성 기술 저장소( $\Delta A_i$ )에 저장됩니다.
확장(Expansion): 액션 공간의 비대화를 방방지하기 위해, 생성 횟수가 임계값( $\tau=3$ )을 초과하는 경우에만 기술이 에이전트의 액션 공간에 영구적으로 추가되어, 자주 사용되는 고품질의 기술만을 유지하도록 보장합니다.

3. 적응형 컨텍스트 압축 (Adaptive Context Compression, ACC)

컨텍스트 성장을 관리하기 위해, EvoDS는 두 단계의 압축 전략을 채택합니다:

하위 에이전트 레벨: 하위 에이전트는 실행 결과의 가공되지 않은 데이터를 글로벌 작업 목표에 따라 간결한 요약본으로 증류하며, 매니저에게 결과를 반환하기 전에 불필 প필요한 세부 사항을 필터링합니다.
매니저 레벨: 매니저 에이전트는 수동적인 절단(truncation)과 달리 전용 요약 도구를 보유합니다. 매니저는 현재의 추론 상태와 작업 목표를 기반으로 컨텍스트를 압축할 시점을 적응적으로 결정하여, 작업에 필수적인 정보는 보존하면서 무관한 노이즈는 억제합니다.

4. 에이전틱 최적화 (Agentic Optimization)

EvoDS는 두 단계 프레임워크를 사용하여 훈련됩니다:

SFT (안정적 초기화): 교사 모델(DeepSeek-V3.1)이 매니저와 하위 에이전트 모두를 위한 궤적(trajectory)을 생성합니다. 이 궤적들(메인 및 하위 궤적)은 협력적 행동을 초기화하는 데 사용됩니다.
결합 강화 학습 (Joint Reinforcement Learning, RL): 시스템은 그룹 상대 정책 최적화(GRPO)를 사용하여 작업 성능, 기술 습득 및 컨텍스트 관리를 공동으로 최적화합니다.
- 보상: 하위 에이전트는 하위 작업 완료에 대한 규칙 기반 보상을 받습니다. 매니저는 솔루션 품질( $R_{outcome}$ ), 하위 작업 완료 효율성, 그리고 과도한 컨텍스트 길이( $P_{context}$ ) 및 상호작용 턴( $P_{turn}$ )에 대한 페널티 사이의 균형을 맞추는 하이브리드 보상( $R_{main}$ )을 받습니다.
- 목표: 훈련 목표는 정보 병목(Information Bottleneck) 원칙에 부합하도록 설계되어, 중요한 신호를 보존하면서 작업과 무관한 정보를 최소화합니다.

주요 기여

EvoDS 프레임워크: 자율적 기술 습득과 적응형 컨텍스트 압축을 계층적 멀티 에이전트 시스템 내에서 통합하여, 점진적인 기술 확장과 능동적인 장기 컨텍스트 제어를 가능하게 하는 자기 진화형 에이전트입니다.
훈련 스킴: SFT와 결합 RL을 사용하는 2단계 멀리 에이전트 훈련 전략을 통해, 작업 실행, 기술 학습, 컨텍스트 조절을 동시에 최적화함으로써 에이전트가 경험에 따라 개선되면서도 토큰 제약 하에서 견고함을 유지할 수 있도록 합니다.
이론적 통찰:
- 계층적 구조가 의사결정 공간을 분해함으로써 플랫(flat)한 프레임워크에 비해 도구 선택 오류 확률을 줄인다는 것을 증명했습니다.
- 매니저의 최적화 목표가 정보 병목 문제와 동일함을 입증하여, 효율성과 결정 품질 사이의 균 균형을 이론적으로 정당화했습니다.
실증적 성능: 최신 오픈 소스 에이전트들과 비교하여 상당한 개선을 보여주는 광범로한 실험 결과를 제시했습니다.

실험 결과

저자들은 DABench, DA-Code, ScienceAgentBench (SAB), MLE-Dojo의 네 가지 벤치마크에서 EvoDS를 평가했습니다.

성능: EvoDS는 더 작은 모델 백본(Qwen3-8B)을 사용했음에도 불구하고, 가장 강력한 오픈 소스 베이스라인인 DataMind-14B보다 평균 28.9%(절대적 개선 폭 9.5%) 더 높은 성능을 보였습니다. 또한, 독점 모델인 o4-mini 백본을 사용하는 ReAct에 이어 전체 평균 성능에서 2위를 차지했습니다.
장기 호흡 강건성 (Long-Horizon Robustness): EvoDS는 모든 벤치마크에서 **토큰 초과 실패(out-of-token failures)**를 제거한 반면, 컨텍스트 압축 기능이 없는 베이스라인들은 특히 MLE-Dojo와 같은 복잡한 작업에서 토큰 제한을 자주 초과했습니다.
기술 재사용: 실험을 통해 합성된 기술이 작업 전반에 걸쳐 효과적으로 재사용될 수 있음을 입증했습니다. "재사용 포함(w/ reuse)" 변형은 "재사용 제외(w/o reuse)" 대비 DA-Code에서 2.9%, ScienceAgentBench에서 9.3% 더 높은 성능을 보였으며, 합성된 기술의 교차 작업 재사용률은 69%에 달했습니다.
절제 연구 (Ablation Studies): 핵심 구성 요소(RL, 계층 구조, ASA, ACC) 중 하나라도 제거하면 성능 저하가 발생했습니다. 특히, ACC를 제거했을 때 성능 저하가 가장 심각했으며 토큰 제한 실패율이 높게 나타났습니다.

의의 및 주장

본 논문은 EvoDS가 확장 가능하고 적응적이며 자율적인 데이터 과학 시스템을 향한 중요한 진전임을 주장합니다. EvoDS는 다음과 같은 방식으로 에이전트가 할 수 있음을 보여줍니다:

경험 축적: 성공적인 문제 해결 절차를 지속적이고 재사용 가능한 기술으로 체계적으로 전환합니다.
복잡성 관리: 적응형 압축을 통해 긴 호흡의 컨텍스트를 효과적으로 조절함으로써, 토큰 고갈 없이 다단계 파이프라인에서 신뢰할 수 있는 실행을 가능하게 합니다.
격차 해소: 모델 규모에만 의 Relying 하는 것이 아니라, 아키텍처 설계와 효과적인 훈련 전략을 통해 오픈 소스와 독점 파운데이션 모델 간의 성능 격차를 좁힙니다.

저자들은 EvoDS가 절차적 자동화와 기술 축적에는 탁월하지만, 깊은 도메인 지식(예: 복잡한 과학적 발견)을 요구하는 작업에서의 성능은 기초 모델의 지식에 의해 제약을 받는다는 점을 인정하며, 향-후 연구가 더 강력한 외부 도메인 지식을 통합하는 데 집중해야 함을 시사했습니다.