🤖 machine learning

Composer 2 Technical Report

이 논문은 Cursor 의 실제 개발 환경과 유사한 인프라에서 사전 학습과 대규모 강화 학습을 통해 훈련된 에이전트 소프트웨어 엔지니어링 전용 모델인 Composer 2 가 장기 계획 및 코딩 능력을 크게 향상시켜 CursorBench 에서 61.3 점, Terminal-Bench 에서 61.7 점, SWE-bench Multilingual 에서 73.7 점의 최첨단 성능을 달성했다고 보고합니다.

원저자: Cursor Reseach, :, Aaron Chan, Ahmed Shalaby, Alexander Wettig, Aman Sanger, Andrew Zhai, Anurag Ajay, Ashvin Nair, Charlie Snell, Chen Lu, Chen Shen, Emily Jia, Federico Cassano, Hanpeng Liu, Haoyu

게시일 2026-03-26

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Cursor Reseach, :, Aaron Chan, Ahmed Shalaby, Alexander Wettig, Aman Sanger, Andrew Zhai, Anurag Ajay, Ashvin Nair, Charlie Snell, Chen Lu, Chen Shen, Emily Jia, Federico Cassano, Hanpeng Liu, Haoyu Chen, Henry Wildermuth, Jacob Jackson, Janet Li, Jediah Katz, Jiajun Yao, Joey Hejna, Josh Warner, Julius Vering, Kevin Frans, Lee Danilek, Less Wright, Lujing Cen, Luke Melas-Kyriazi, Michael Truell, Michiel de Jong, Naman Jain, Nate Schmidt, Nathan Wang, Niklas Muennighoff, Oleg Rybkin, Paul Loh, Phillip Kravtsov, Rishabh Yadav, Sahil Shah, Sam Kottler, Alexander M Rush, Shengtong Zhang, Shomil Jain, Sriram Sankar, Stefan Heule, Stuart H. Sul, Sualeh Asif, Victor Rong, Wanqi Zhu, William Lin, Yuchen Wu, Yuri Volkov, Yury Zemlyanskiy, Zack Holbrook, Zhiyuan Zhang

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

커서 2 (Composer 2): 코딩을 마스터한 '초지능 엔지니어'의 성장 비결

이 논문은 **'커서 2 (Composer 2)'**라는 새로운 인공지능 모델이 어떻게 개발되었습니다. 이 모델은 단순히 코드를 짜는 것을 넘어, 마치 현실 세계의 유능한 소프트웨어 엔지니어처럼 복잡한 문제를 스스로 해결하고 장기적인 계획을 세울 수 있습니다.

이 복잡한 기술 보고서를 일반인이 이해하기 쉽게, 비유와 이야기로 풀어서 설명해 드릴게요.

1. 커서 2 는 어떤 존재일까요?

상상해 보세요. 초고속으로 일하는 천재 개발자가 있습니다. 이 개발자는 밤새워 코드를 짜고, 버그를 찾아내고, 새로운 기능을 만들어냅니다. 하지만 이 개발자는 휴식이 필요 없고, 실수도 거의 없으며, 24 시간 내내 일할 수 있습니다.

이것이 바로 커서 2입니다.

기존 모델: "이거 좀 고쳐줘"라고 하면 고쳐주는 '수동적인 비서'.
커서 2: "이 프로젝트 완성해줘"라고 하면, 스스로 계획을 세우고, 파일을 만들고, 테스트를 돌리고, 문제를 해결하는 '능동적인 엔지니어'.

2. 어떻게 이렇게 똑똑해졌을까요? (두 단계 훈련법)

이 모델은 두 가지 단계의 '특수 훈련'을 거쳐 성장했습니다.

1 단계: 방대한 독서와 기초 다지기 (Continued Pretraining)

비유: 어린 천재가 수천 권의 코딩 책과 실제 프로젝트 자료를 읽으며 기초 지식을 쌓는 과정입니다.
내용: 이미 코딩을 어느 정도 아는 모델 (Kimi K2.5) 을 가져와서, 더 많은 코딩 데이터로 계속 학습시켰습니다. 마치 대학생이 전공 서적을 더 깊이 있게 공부하여 전문가가 되는 것과 같습니다.
효과: 코딩에 대한 '직감'과 '지식'이 폭발적으로 늘어났습니다.

2 단계: 실전 훈련과 피드백 (Reinforcement Learning)

비유: 이제 이 천재가 현실 같은 시뮬레이션 게임에서 수만 번의 실전을 치릅니다.
내용:
- 모델에게 실제 개발자들이 겪는 어려운 문제 (버그 수정, 기능 추가 등) 를 줍니다.
- 모델이 해결책을 시도하면, **정답이면 칭찬 (보상), 틀리면 지적 (페널티)**을 줍니다.
- 특히, 긴 시간 동안 일관되게 문제를 해결하는 능력을 키우기 위해, 모델이 스스로 자신의 행동을 요약하고 다음 단계로 넘어가도록 훈련했습니다.
핵심: 단순히 정답을 외우는 게 아니라, 어떻게 문제를 해결할지 '생각하는 과정'을 학습했습니다.

3. 왜 다른 모델들과 다를까요? (현실적인 훈련 환경)

기존의 AI 코딩 모델들은 **시험 문제집 (공식 벤치마크)**만 풀어서 점수는 높지만, 실제 업무에서는 엉뚱한 일을 하기도 합니다.

문제점: 시험 문제는 "A 를 입력하면 B 가 나오게 해줘"처럼 조건이 명확합니다. 하지만 현실은 "이 앱이 느려진 것 같은데, 로그를 보고 고쳐줘"처럼 조건이 모호하고 복잡합니다.

커서 2 의 차별점:

실전 훈련: 커서 2 는 시험 문제집이 아니라, 실제 개발자들이 겪던 진짜 버그와 복잡한 상황으로 훈련했습니다.
모호함 해결: "무엇을 고쳐야 할지 명확하지 않은" 상황에서도, 개발자처럼 로그를 보고, 코드를 분석하고, 추론해서 해결책을 찾아냅니다.
결과: 시험 점수도 높지만, 실제 업무에서도 훨씬 더 똑똑하게 행동합니다.

4. 기술적인 비밀 (인프라와 효율성)

이 모델이 이렇게 강력하면서도 비용이 저렴한 이유는 '스마트한 훈련 시스템' 덕분입니다.

동시 작업 (Asynchronous RL): 마치 수천 명의 훈련생이 동시에 실전을 치르고, 교수가 그 결과를 실시간으로 분석하여 다음 훈련에 반영하는 시스템입니다. 한 명이 멈추면 다른 사람이 계속 돌아가므로 매우 효율적입니다.
정밀한 도구: 모델이 코드를 수정할 때, 불필요한 행동을 하지 않도록 엄격한 규칙과 보상 시스템을 적용했습니다. (예: "할 일 목록을 만들고 끝내지 않으면 감점" 등)
비용 효율: 거대한 모델임에도 불구하고, 필요한 계산량만 정확히 사용하도록 최적화되어 있어, 다른 거대 모델들보다 훨씬 저렴하게 운영할 수 있습니다.

5. 결론: 미래는 어떻게 바뀔까요?

커서 2 는 AI 가 단순히 '도구'를 넘어 '파트너'가 될 수 있음을 증명했습니다.

과거: AI 는 개발자의 지시를 받아 코드를 한 줄씩 써주는 '비서'였습니다.
현재 (커서 2): AI 는 개발자와 함께 복잡한 프로젝트를 기획하고, 실행하며, 문제를 해결하는 **'동료 엔지니어'**가 되었습니다.

이 기술은 앞으로 수시간, 수일이 걸리던 개발 작업을 AI 가 단숨에 처리할 수 있는 시대를 열었습니다. 이제 개발자들은 더 창의적인 일을 하고, 반복적이고 복잡한 코딩 작업은 이 '초지능 엔지니어'에게 맡길 수 있게 된 것입니다.

한 줄 요약:

커서 2 는 '현실 세계의 복잡한 개발 업무'를 수만 번의 실전 훈련으로 마스터한, 비용 효율적이고 똑똑한 AI 엔지니어입니다.

1. 문제 정의 (Problem)

기존의 코딩 에이전트 모델들은 다음과 같은 한계를 겪고 있었습니다:

실제 개발 환경과의 불일치 (Train-Test Mismatch): 공개된 벤치마크 (SWE-bench 등) 는 종종 과도하게 구체화된 프롬프트를 사용하거나, 실제 개발자가 마주하는 모호한 요구사항과 복잡한 컨텍스트를 반영하지 못합니다.
데이터 오염 및 과적합: 공개 벤치마크는 오픈소스 저장소에서 크롤링된 데이터로 구성되어 있어, 모델이 학습 데이터에 노출되어 점수가 인위적으로 높아질 수 있습니다.
단순한 기능성 평가: 기존 평가는 주로 코드가 실행되는지 여부 (Functional Correctness) 에만 초점을 맞추어, 코드 품질, 가독성, 에이전트의 상호작용 행동, 비용 효율성 등을 충분히 평가하지 못했습니다.
장기적 일관성 부족: 긴 시간 동안의 복잡한 작업 (Long-horizon tasks) 을 수행할 때 에이전트가 일관성을 유지하고 복잡한 추론을 수행하는 능력이 부족했습니다.

2. 방법론 (Methodology)

Composer 2 는 **연속 사전 학습 (Continued Pretraining)**과 **비동기 강화 학습 (Asynchronous Reinforcement Learning, RL)**의 두 단계로 구성된 훈련 파이프라인을 통해 개발되었습니다.

2.1 연속 사전 학습 (Continued Pretraining)

베이스 모델: Kimi K2.5 (1.04T 파라미터, 32B 활성 파라미터, MoE 구조) 를 베이스로 선택했습니다.
데이터 및 단계: 대규모 코드 중심 데이터 믹스를 사용하여 3 단계로 훈련했습니다.
1. 32k 토큰 시퀀스 길이에서 대량의 컴퓨팅 자원 사용.
2. 256k 로 확장되는 긴 컨텍스트 확장 단계.
3. 타겟 코딩 작업에 대한 SFT (Supervised Fine-Tuning).
멀티-토큰 예측 (MTP): 추론 속도를 높이기 위해 MTP 레이어를 도입하여 Speculative Decoding 을 지원하며, 모델의 수렴 속도를 높이기 위해 자기 증류 (Self-distillation) 기법을 적용했습니다.

2.2 강화 학습 (Reinforcement Learning)

훈련 환경: 실제 Cursor 세션을 최대한 모사한 환경 (Anyrun 플랫폼) 에서 훈련을 수행하여 실제 사용자 경험과 일치하도록 했습니다.
작업 분포: 버그 수정, 새로운 기능 추가, 리팩토링, 문서화 등 실제 개발자가 수행하는 다양한 태스크를 포함하는 분포를 구축했습니다.
비동기 RL 파이프라인:
- 안정성: 샘플이 오프-폴리시 (off-policy) 가 되는 것을 최소화하기 위해 빠른 가중치 동기화 및 비행 중 (in-flight) 가중치 업데이트를 구현했습니다.
- 규제 (Regularization): KL 발산 (KL Divergence) 추정 시 분산이 급증하는 문제를 피하기 위해 표준 추정기 ( $k_1 = -\log r$ ) 를 사용했습니다.
- 자기 요약 (Self-Summarization): 긴 작업 흐름을 처리하기 위해 이전 버전 (Composer 1.5) 에서 도입된 자기 요약 기법을 활용하여 컨텍스트 창 제한 내에서 정보를 압축하고 오류를 줄였습니다.
행동 보상: 모델이 쉬운 작업은 빠르게, 어려운 작업은 더 깊이 생각하도록 유도하기 위해 비선형 길이 페널티 (Nonlinear length penalty) 와 같은 보조 보상을 설계했습니다.

2.3 인프라 (Infrastructure)

병렬 처리: MoE 구조의 효율성을 높이기 위해 컨텍스트 병렬성 (CP) 을 주된 확장 축으로 사용하며, EP(Expert Parallelism) 와 TP(Tensor Parallelism) 를 분리하여 더 유연한 확장성을 확보했습니다.
정밀도: MXFP8 과 NVFP4 정밀도 포맷을 활용하여 Blackwell GPU 에서 저정밀도 훈련을 최적화했습니다.
RL 인프라: 훈련, 환경, 추론, 평가를 분리된 서비스로 구성하여 대규모 병렬 처리와 내결함성을 확보했습니다.

3. 주요 기여 (Key Contributions)

CursorBench 벤치마크 도입:
- 공개 벤치마크의 한계를 극복하기 위해 실제 Cursor 사용자의 세션에서 추출한 CursorBench를 개발했습니다.
- 이 벤치마크는 더 긴 코드 변경 (중앙값 181 줄), 더 모호한 프롬프트 (중앙값 390 자), 그리고 실제 생산 환경 로그와 결합된 복잡한 디버깅 태스크를 포함합니다.
특화된 훈련 전략:
- 일반 목적 모델에서 시작하여 도메인 특화 (코드) 를 위해 연속 사전 학습과 대규모 RL 을 결합한 효과적인 훈련 프로세스를 입증했습니다.
- 실제 개발 환경과 동일한 도구와 구조를 훈련에 적용하여 'Train-Test Mismatch'를 최소화했습니다.
효율적인 RL 인프라:
- 비동기 RL 파이프라인, MoE 라우팅 재생 (Router Replay), 그리고 대규모 분산 추론을 위한 최적화된 인프라를 구축하여 안정적이고 확장 가능한 훈련을 가능하게 했습니다.

4. 결과 (Results)

CursorBench 성능:
- Composer 2 는 **61.3%**의 정확도를 기록하여 이전 모델 (Composer 1.5: 44.2%) 대비 **37%**의 상대적 개선을 보였습니다.
- 베이스 모델인 Kimi K2.5(36.0%) 보다 훨씬 높은 성능을 보여주어 훈련 파이프라인의 효과를 입증했습니다.
공개 벤치마크 성능:
- SWE-bench Multilingual: 73.7% (SOTA 수준).
- Terminal-Bench: 61.7% (SOTA 수준).
- GPT-5.4, Opus 4.6 등 최상위 모델들과 경쟁 가능한 성능을 보였습니다.
비용 효율성:
- 높은 정확도를 유지하면서도 추론 비용은 다른 최상위 모델들보다 낮습니다. (파레토 최적의 트레이드오프 달성).
- 토큰 효율성도 우수하여, 유사한 정확도를 내는 다른 모델들보다 적은 리소스로 작동합니다.

5. 의의 (Significance)

도메인 특화 모델의 가능성: 일반 목적의 대형 모델을 기반으로 하더라도, 철저한 도메인 특화 훈련 (연속 사전 학습 + RL) 을 통해 최첨단 (Frontier) 수준의 에이전트 성능을 달성할 수 있음을 증명했습니다.
실제 적용 가능성: 공개 벤치마크의 한계를 지적하고, 실제 개발 워크플로우를 반영한 새로운 평가 기준 (CursorBench) 을 제시함으로써 AI 코딩 에이전트의 실제 유용성을 더 정확하게 측정할 수 있는 기준을 마련했습니다.
미래 지향성: 복잡한 소프트웨어 엔지니어링 태스크를 해결하는 에이전트의 능력을 확장하는 데 있어, 긴 시간의 일관성 유지와 인프라의 확장성이 핵심 요소임을 강조했습니다.

결론적으로, Composer 2 는 소프트웨어 엔지니어링 분야에서 AI 에이전트의 성능과 효율성을 동시에 끌어올린 획기적인 모델로, 실제 개발 환경에서의 적용 가능성을 크게 높였습니다.