1. 문제 정의 (Problem Statement)

• 현재의 한계: 기존 코딩 에이전트 (Coding Agents) 평가 벤치마크 (예: SWE-Bench) 는 주로 GitHub 의 단일 이슈 해결 (Issue Solving) 에 집중되어 있습니다. 그러나 실제 사용 환경에서는 코드베이스 탐색, 소프트웨어 테스트, 아키텍처 설계 등 훨씬 다양하고 복잡한 작업이 요구됩니다.
• 과적합 (Overfitting) 문제: 단일 작업 (예: 이슈 해결) 만으로 학습된 에이전트는 다른 작업 (예: 테스트 생성, 라이브러리 구현) 으로 일반화되지 못합니다.
• 확장성 부족: 기존 훈련 데이터셋 (SWE-Gym 등) 은 실행 가능한 저장소 (Executable Repository) 를 구축하는 과정이 필수적입니다. 이는 패키지 설치, 테스트 생성 등 복잡하고 비용이 많이 들며, 에이전트나 인간에게도 어려운 병목 현상입니다.
• 핵심 질문: 다양한 실제 코딩 작업에 공통적으로 적용 가능한 전이 학습 (Transfer Learning) 이 가능한 훈련 작업을 어떻게 설계할 수 있는가?

2. 방법론 (Methodology)

저자들은 실제 코딩 에이전트의 행동 경로를 분석하여 공통된 역량을 추출하고, 이를 기반으로 확장 가능한 합성 데이터셋 HYBRID-GYM을 구축했습니다.

2.1. 작업 분해 및 분석 (Task Decomposition & Analysis)

실제 코딩 작업의 성공적인 행동 경로를 5 가지 중간 구성 요소로 분해하여 분석했습니다.

1. 추론 (Reasoning): 문제 해결 전략 수립.
2. 저장소 탐색 (Repo-Exploration): 코드베이스 내 파일/함수 위치 파악.
3. 기존 코드 실행 (Execution of existing code).
4. 구현 (Implementation): 코드 수정 또는 생성.
5. 검증 (Verification).

분석 결과:

• 성공적인 경로의 약 70% 가 실행 가능한 저장소 설정 없이도 수행 가능한 추론, 저장소 탐색, 구현 단계에 집중되어 있음.
• 에이전트가 가장 많이 실패하는 부분은 저장소 탐색 부족, 추론 부족, 파일 편집 실패임.
• 다양한 작업 (이슈 해결, 테스트 생성 등) 에서 사용되는 Linux 명령어 (grep, find, cd 등) 와 도구 사용 패턴이 매우 유사함.

2.2. 훈련 작업 설계 원칙 (Training Task Design Principles)

위 분석을 바탕으로 4 가지 설계 원칙을 도출했습니다.

1. 출력 형식 일치 (Output Format Matching): 하류 작업과 동일한 코드 패치 (File Editing) 형식을 요구해야 함.
2. 의미 있는 저장소 탐색 (Meaningful Repo-Exploration): 단순 스크립트 생성이 아닌, 실제 저장소 내 파일 위치 파악이 필수적이어야 함.
3. 비사소한 추론 요구 (Non-trivial Reasoning): 단순 문자 치환이 아닌, 전략 선택 및 정밀한 도구 호출이 필요해야 함.
4. 간단한 환경 설정 (Simple Setup): 전체 저장소의 패키지 설치나 실행 가능한 테스트 생성 없이도 작업을 수행할 수 있어야 함 (확장성 확보).

2.3. HYBRID-GYM 작업 구성 (Four Scalable Tasks)

위 원칙을 만족하는 4 가지 합성 작업을 제안했습니다.

1. Function Localization: 주어진 설명에 맞는 함수를 코드베이스 전체에서 찾아 위치를 특정하고, 수정 계획을 문서화 (Docstring) 함.
2. Issue Localization: GitHub 이슈를 분석하여 해당 버그가 발생한 코드를 찾고, 수정 계획을 코멘트로 남김.
3. Dependency Search: 특정 함수가 직접 호출하는 모든 함수/클래스를 찾아 관련 모듈에 주석을 추가함.
4. Function Generation: 함수의 기능을 설명하고, 함수 본문을 제거한 후 에이전트가 재구현하도록 함 (테스트는 추출된 함수만 실행 가능한 독립 스크립트로 생성하여 비용 절감).

3. 주요 기여 (Key Contributions)

1. HYBRID-GYM 데이터셋 구축: 실행 가능한 저장소 설정 없이도 762 개의 저장소에서 4,470 개의 행동 경로를 수집한 대규모 훈련 데이터셋을 공개했습니다.
2. 비용 효율성 및 확장성: 기존 데이터셋 (SWE-Smith 등) 대비 환경 구축 비용을 약 16 배 절감 (예시당 0.07 센트 vs 2.32 센트) 했으며, 2 개의 Docker 이미지만으로 모든 훈련 인스턴스를 구축할 수 있습니다.
3. 작업 전이성 (Task Transferability) 입증: 이슈 해결 데이터로만 학습된 것이 아니라, HYBRID-GYM 의 일반적 에이전트 기술 (추론, 탐색, 도구 사용) 학습이 다양한 하류 작업에 효과적으로 전이됨을 증명했습니다.
4. 전이 학습 메커니즘에 대한 통찰:
   • 출력 형식: 코드 패치 생성이 필수적임.
   • 작업 복잡성: 단순한 작업보다 복잡한 다단계 추론이 포함된 작업이 전이 성능이 높음.
   • 저장소 다양성: 평가와 동일한 저장소로 학습하는 것보다 다양한 저장소로 학습하는 것이 일반화 성능을 높임.
   • 교사 모델 (Teacher Model): 추론과 행동 (도구 호출) 이 분리된 경로는 학습에 부정적일 수 있으며, 통합된 경로의 중요성을 강조함.

4. 실험 결과 (Results)

Qwen2.5Coder-32B 모델을 기반으로 한 실험 결과, HYBRID-GYM 은 하류 작업 데이터로 학습하지 않았음에도 불구하고 뛰어난 성능을 보였습니다.

• SWE-Bench Verified: 25.4% 절대적 성능 향상 (Base 모델 대비).
• SWT-Bench Verified: 7.9% 절대적 성능 향상.
• Commit-0 Lite: 5.1% 절대적 성능 향상.
• 인도 (In-domain) 데이터 보완: 기존 SWE-Play 데이터셋과 HYBRID-GYM 을 결합했을 때, SWT-Bench Verified 에서 4.9% 추가적인 성능 향상을 기록하여 두 데이터셋의 상호 보완성을 입증했습니다.
• 스케일링 법칙: 훈련 데이터 크기가 증가함에 따라 성능이 지속적으로 향상됨을 확인했습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 패러다임 전환: 코딩 에이전트 훈련을 '특정 작업 (이슈 해결) 에 특화'시키는 방식에서 '공통된 에이전트 역량 (탐색, 추론, 구현) 을 확장 가능한 데이터로 학습'하는 방식으로 전환했습니다.
• 실용성: 실행 가능한 저장소 구축이라는 높은 진입 장벽을 낮춰, 저렴하고 대규모로 고품질 훈련 데이터를 생성할 수 있는 방법을 제시했습니다.
• 미래 방향: 이 연구는 코딩 에이전트의 일반화 능력을 향상시키는 핵심 요소가 무엇인지 (작업 설계 원칙, 데이터 다양성, 교사 모델 선택 등) 에 대한 체계적인 분석을 제공하며, 향후 더 다양한 합성 작업 개발과 경로 효과성 분석의 기초를 마련했습니다.

요약하자면, HYBRID-GYM은 복잡한 환경 설정 없이도 코딩 에이전트의 핵심 역량을 효과적으로 학습시켜, 다양한 실제 소프트웨어 엔지니어링 작업에 대한 뛰어난 일반화 능력을 달성한 획기적인 프레임워크입니다.