🤖 machine learning

Merge-Bench: Resolve Merge Conflicts with Large Language Models

본 논문은 실제 세계의 병합 충돌에 대한 대규모 데이터셋인 Merge-Bench를 소개하고, 그룹 상대적 정책 최적화로 훈련된 자바 전용 모델인 LLMergeJ를 제시하며, 이는 여러 상용 LLM 보다 우수한 성능을 보이지만 현재까지 가장 우수한 모델들조차 11 개 프로그래밍 언어에 걸쳐 있는 충돌의 60% 미만을 해결하고 있음을 보여줍니다.

원저자: Benedikt Schesch, Michael D. Ernst

게시일 2026-05-26

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Benedikt Schesch, Michael D. Ernst

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

두 친구가 동시에 같은 문서를 편집하는 그룹 프로젝트를 진행한다고 상상해 보세요. 친구 A 가 한 단락을 수정하고, 친구 B 가 정확히 같은 단락을 수정합니다. 두 사람의 작업을 합치려고 하면 컴퓨터가 혼란에 빠지며 "어떤 버전을 유지해야 할지 모르겠다!"라고 외칩니다. 이를 병합 충돌 (merge conflict) 이라고 합니다.

보통은 사람이 개입하여 두 버전을 모두 읽고, 친구들이 실제로 무엇을 하려 했는지 파악한 후 수동으로 문제를 해결해야 합니다. 이는 시간이 걸리고 실수를 초래할 수 있습니다.

이 논문은 "스마트"인 AI(대규모 언어 모델) 를 사용하여 이러한 문제를 자동으로 해결하는 새로운 방법을 제시합니다. 그들의 작업을 간단한 용어로 설명하면 다음과 같습니다:

1. 문제: 컴퓨터는 무지합니다

전통적인 도구는 글자만 보는 로봇과 같습니다. 친구 A 가 "고양이"라고 쓰고 친구 B 가 "개"라고 쓰면, 로봇은 단순히 충돌만 봅니다. 그들이 애완동물에 대해 이야기했을 수도 있고, 혹은 오타였을 수도 있다는 점을 이해하지 못합니다. 이는 의도를 설명해 줄 사람이 필요합니다.

2. 해결책: 새로운 훈련장 (Merge-Bench)

AI 에게 이러한 충돌을 해결하는 법을 가르치기 위해서는 "여기에는 문제가 있었고, 여기에는 인간 전문가가 이를 어떻게 해결했는지"를 보여주는 방대한 예시 라이브러리가 필요합니다.

과거의 방식: 다른 연구자들은 이러한 라이브러리를 수동으로 만들거나 테스트를 실행하여 구축하려 했습니다. 이는 느리고 비쌌으며, 때로는 AI 가 문제를 해결하는 법을 배우는 대신 테스트 답안을 암기하여 "속임수"를 썼습니다.
새로운 방식 (Merge-Bench): 저자들은 Merge-Bench라는 거대하고 자동화된 라이브러리를 구축했습니다. 그들은 GitHub 의 1,439 개 다른 공개 코드 프로젝트에서 7,938 개의 실제 충돌을 수집했습니다.
- 비유: 모든 숙제를 수동으로 채점할 필요가 없는 교사를 상상해 보세요. 대신, 학생들이 실수를 저지르고 교사가 작성한 정답이 포함된 8,000 개의 실제 사례를 자동으로 가져오는 기계가 있습니다. 기계가 모든 작업을 하므로, 거대하고 끝없이 풍부한 라이브러리를 가질 수 있습니다.

3. 학생: LLMergeJ

저자들은 LLMergeJ라는 특정 AI 모델을 훈련시켰습니다 (여기서 "J"는 그들이 집중했던 프로그래밍 언어인 Java 를 의미합니다).

훈련 방법: 표준 교사처럼 모델에게 단순히 정답만 보여주는 대신, **강화 학습 (Reinforcement Learning)**이라는 방법을 사용했습니다.
- 비유: 강아지를 훈련시키는 것과 같습니다. 강아지가 올바른 트릭을 맞추면 간식을 얻습니다. 틀리게 추측하면 아무것도 얻지 못합니다. 추측을 거부하고 "모르겠다"고만 말하면 (충돌을 유지하면) 아주 작은 빵 부스러기를 얻습니다.
- AI 는 수천 번 시도했습니다. 코드를 올바르게 결합하는 방법을 찾아냈을 때 큰 보상을 받았습니다. 시간이 지남에 따라 AI 는 정답이 어떤 모습인지뿐만 아니라, 그 정답에 도달하기 위해 문제를 어떻게 생각해야 하는지까지 배웠습니다.

4. 결과: 작은 개, 큰 재주

저자들은 140 억 개의 파라미터를 가진 모델 (AI 기준으로는 상대적으로 작음) 을 Gemini, Claude, Grok 와 같은 가장 크고 비싼 상용 AI 모델들과 비교하여 테스트했습니다.

놀라운 사실: 그들의 작고 맞춤형으로 훈련된 모델은 거의 모든 거대한 상용 모델보다 더 잘 수행했습니다. (사소한 포맷 차이 제외) 약 **59%**의 충돌을 정확하게 해결했습니다.
비교: 최고의 상용 모델 (Gemini 2.5 Pro) 이 약간 더 좋았지만, 저자들의 모델은 다른 모델들을 압도적인 차이로 능가했습니다.
교훈: 보상 시스템을 사용하여 병합 충돌을 해결하는 방법을 특별히 훈련받은 작은 모델이, 단순히 한 번 수행해 보라고 요청받은 거대하고 범용적인 모델보다 낫습니다.

5. 왜 이것이 중요한가

속임수 없음: 그들의 테스트 방법은 코드 실행 테스트 (AI 가 때로는 속일 수 있음) 에 의존하지 않습니다. 대신 코드를 인간 개발자가 실제로 한 작업과 직접 비교합니다.
확장성: 데이터를 라벨링하기 위해 사람이 필요하지 않았기 때문에 훈련 세트를 원하는 만큼 크게 만들 수 있었습니다.
언어 무관성: 모델은 Java 로만 훈련되었지만, 11 가지 다른 언어 (C, Python, Rust 등) 에 대해 거대한 상용 모델들을 테스트했습니다. AI 의 행동이 모든 언어에서 유사하다는 것을 발견했으며, 이는 그들의 방법이 어떤 프로그래밍 언어에서도 작동할 수 있음을 시사합니다.

요약

저자들은 특정 AI 선수 (LLMergeJ) 가 코드 충돌을 해결하도록 훈련시키기 위해 거대하고 자동화된 체육관 (Merge-Bench) 을 구축했습니다. 보상 기반 훈련 시스템을 사용하여, 상대적으로 작은 AI 가 이 특정 작업에서 가장 크고 비싼 AI 모델들을 능가하도록 훈련시켰으며, 소프트웨어의 문제를 해결할 때 일반적인 크기보다 전문적인 훈련이 더 효과적임을 증명했습니다.

), 0 otherwise.
* $R_{format}$ : 출력이 올바른 Markdown 형식을 사용하는 경우 1, 그렇지 않은 경우 0.
* $R_{resolution}$ : 정확한 텍스트 매칭인 경우 1.0, 정규화된 소스 코드 매칭인 경우 0.5, 충돌을 보존하는 경우 (해결 없음) 0.1, 잘못된 병합인 경우 0.

SFT 대비 장점: 최종 출력물로부터만 학습할 수 있는 지도 미세 조정 (SFT) 과 달리, GRPO 는 그룹 상대적 이점을 활용하여 추론 과정을 최적화하고, 여러 문법적으로 다른 해결책이 유효할 수 있는 기준 진실의 불확실성을 처리합니다. 이는 모델이 특정 문법 패턴에 과적합되는 것을 방지합니다.

주요 기여

Merge-Bench: 보상 해킹에 강하고 수동 주석이 전혀 필요하지 않은 대규모 확장 가능한 벤치마크.
테스트 없는 평가: 테스트 실행을 우회하여 테스트 스위트 기반 보상의 취약점 없이 확장 가능한 훈련과 평가를 가능하게 하는 방법론.
인간 필터 없는 SWE-RL: 인간 필터링이나 수동 조정 없이 인터넷 규모의 데이터를 활용하는 소프트웨어 공학을 위한 강화 학습 작업.
LLMergeJ: 온라인 RL 로 훈련된 최초의 병합 충돌 해결 모델로, 14B 파라미터 모델이 훨씬 더 큰 상용 모델보다 뛰어난 성능을 보일 수 있음을 입증했습니다.

결과

Java 성능

Merge-Bench 의 Java 하위 집합 (806 개 충돌) 에서:

**LLMergeJ (14B)**는 48.8% 정확한 텍스트 매칭과 58.9% 정규화된 소스 코드 매칭을 달성했습니다.
비교: LLMergeJ 는 세 가지 주요 상용 LLM (Claude Opus 4, o3 Pro, Grok 4) 과 Qwen3-14B SFT 베이스라인을 능가했습니다. 오직 Gemini 2.5 Pro(정규화 매칭 62.5%) 에만 뒤졌습니다.
SFT 베이스라인: SFT 베이스라인이 동일한 데이터로 훈련되고 테스트 세트에 맞게 최적화된 하이퍼파라미터를 사용했음에도 불구하고, 정확한 매칭은 36.6%, 정규화 매칭은 44.7% 에 그쳐 이 작업에 있어 GRPO 접근법의 우월성을 강조했습니다.
행동 분석:
- 공격적 해결사(LLMergeJ, Gemini 2.5 Pro, o3 Pro): 높은 확신으로 충돌의 51–62% 를 해결하며, 충돌 보존률은 낮았습니다 (3–21%).
- 보수적 해결사(Grok 4, Llama 4 Maverick): 높은 충돌 보존률 (40–86%) 을 보이며 불확실성을 나타냈습니다.
- 형식 문제 모델: 일부 모델 (예: QwQ 32B, R1 1.5B) 은 Markdown 형식 지침을 따르지 못해 유효하지 않은 출력을 생성했습니다.

교차 언어 성능

저자들은 11 개 언어 (C, C++, C#, Go, Java, JavaScript, PHP, Python, Ruby, Rust, TypeScript) 에 걸쳐 여섯 가지 최첨단 상용 모델을 평가했습니다.

언어 난이도: C 가 병합하기 가장 어려운 것으로 발견된 반면, Java, PHP, Python 은 가장 쉬웠습니다.
안정성: 상용 LLM 의 성능은 언어 간에 대체로 안정적이었습니다.
일반화: 행동 패턴 (예: 어떤 모델이 공격적인지 vs 보수적인지) 은 언어 간에 일관되게 유지되어 기술이 일반화될 수 있음을 시사하지만, LLMergeJ 자체는 Java 로만 훈련되었습니다.

중요성과 주장

이 논문은 LLMergeJ가 강화 학습으로 훈련된 작고 전문화된 모델이 특정 소프트웨어 공학 작업에서 방대한 상용 모델과 경쟁하거나 더 나은 성능을 달성할 수 있음을 보여준다고 주장합니다. 이 연구는 다음을 강조합니다:

**강화 학습 (GRPO)**은 추론을 최적화하고 성능 저하 없이 여러 유효한 해결책의 모호성을 처리하기 때문에 병합 충돌에 있어 SFT 보다 우월합니다.
확장성은 인간 주석 없이 달성 가능하며, SWE-Bench 와 같은 현재 SWE 벤치마크의 병목 현상을 해결합니다.
파라미터 효율성: 올바른 방법론과 데이터로 훈련될 경우, 14B 모델은 수배 더 많은 파라미터를 가진 모델과 경쟁할 수 있습니다.

저자들은 기준 진실 오류 가능성, 상용 훈련 세트 내 데이터 유출 가능성, 그리고 훈련이 Java 로 제한되었다는 사실과 같은 한계를 인정하며 겸손한 입장을 유지합니다. 또한 데이터셋의 크기 제약으로 인해 가장 복잡한 병합 문제가 제외될 수 있어 모든 실제 세계 충돌에 대한 성능이 과대평가될 수 있음을 지적합니다.