SWE-Adept: An LLM-Based Agentic Framework for Deep Codebase Analysis and Structured Issue Resolution

이 논문은 LLM 기반의 두 에이전트 (위치 파악 및 해결) 프레임워크인 SWE-Adept 를 제안하여, 에이전트 주도 심도 우선 탐색과 적응적 계획 및 버전 관리 도구를 통해 대규모 코드베이스 분석 및 문제 해결 성능을 향상시켰음을 보여줍니다.

핵심

🤖 SWE-Adept: 코딩 실수 해결을 위한 '명탐정'과 '수리공'의 팀워크

이 논문은 인공지능 (LLM) 이 복잡한 소프트웨어 코드베이스에서 버그를 찾고 고치는 문제를 해결하기 위해 개발한 새로운 시스템, SWE-Adept에 대해 설명합니다.

기존의 AI 는 간단한 코딩 문제에는 강하지만, 수천 개의 파일이 얽혀 있는 거대한 프로젝트 (예: Django 같은 웹 프레임워크) 에서는 길을 잃거나 엉뚱한 곳을 고쳐서 문제를 더 악화시키는 경우가 많았습니다.

SWE-Adept 는 이 문제를 해결하기 위해 **두 명의 전문 에이전트 (AI 에이전트)**가 팀을 이루어 일하는 방식을 도입했습니다. 마치 범죄 수사에서 **범인 추적 (명탐정)**과 **범행 현장 복구 (수리공)**가 분리되어 각자의 임무를 수행하는 것과 같습니다.

---

🕵️‍♂️ 1. 문제의 핵심: 왜 기존 AI 는 실패했을까?

기존 AI 는 거대한 도서관 (코드베이스) 에서 책 한 권을 찾으려 할 때, 모든 책장을 다 뒤져서 내용을 다 읽으려다 지쳐버리거나 (컨텍스트 창 초과), 관련 없는 책까지 가져와서 혼란을 겪는 문제가 있었습니다. 또한, 고치는 과정에서 실수를 하면 원래 상태로 되돌릴 수 있는 방법을 몰라 엉망진창이 되기도 했습니다.

🛠️ 2. SWE-Adept 의 해결책: 두 명의 전문가

SWE-Adept 는 이 문제를 해결하기 위해 두 명의 AI 에이전트를 만듭니다.

1 단계: 🕵️‍♂️ '명탐정' (Issue Localization Agent) - 버그의 위치 찾기

이 에이전트의 임무는 **"어디가 문제일까?"**를 찾는 것입니다.

• 기존 방식: 도서관 전체를 무작위로 뒤짐.
• SWE-Adept 의 방식 (지능적 탐색):
  • 나무 구조도 활용: 코드는 서로 연결되어 있습니다. 명탐정은 이 연결고리 (의존성) 를 따라 **깊이 있는 탐색 (Depth-First Search)**을 합니다.
  • 스마트 필터링: 먼저 책의 '목차'와 '줄거리 요약' (코드 스켈레톤) 만 먼저 봅니다. 관련성이 낮으면 바로 넘깁니다.
  • 정밀 타격: 정말 중요한 부분만 골라 전체 내용을 읽습니다.
  • 비유: 도서관에서 책을 찾을 때, 제목만 보고 관련 없는 책은 넘기고, 정말 필요한 책의 특정 장 (Page) 만 정확히 찾아내는 것과 같습니다.

2 단계: 🔧 '수리공' (Issue Resolution Agent) - 버그 고치기

명탐정이 "여기가 문제야!"라고 알려주면, 수리공이 실제 고침 작업을 시작합니다.

• 기존 방식: "생각하고 고치고, 또 생각하고 고치고..."를 반복하다가 실수가 쌓여 원래 상태가 무엇인지 잊어버림.
• SWE-Adept 의 방식 (체계적인 수리):
  • 가설 설정 (Hypothesis): "이게 문제일 수도 있고, 저게 문제일 수도 있어."라고 여러 가지 해결책을 세웁니다.
  • 작업 목록 (To-Do List): 고치는 과정을 작은 단계로 나누고, 하나씩 수행합니다.
  • 체크포인트 (Checkpoints) & 되돌리기:
    • 비유: 게임에서 '세이브 (Save)' 기능을 자주 사용합니다.
    • 수리공은 코드를 조금 고칠 때마다 자동으로 '세이브'를 합니다.
    • 만약 고치는 도중 실수가 발견되면, 이전 세이브 지점으로 즉시 되돌릴 수 있습니다.
    • 또한, A 라는 해결책이 실패하면, B 라는 해결책을 시도하기 위해 **새로운 갈라진 길 (Branch)**을 만들어서 A 와 B 를 동시에 관리할 수 있습니다.

---

🌟 3. 이 시스템의 핵심 기술 (쉬운 비유)

🗺️ 코드 구조 나무 (Code-Structure Tree)

코드를 단순한 텍스트가 아니라, 가족 관계도처럼 연결된 나무로 봅니다.

• "이 함수는 저 함수를 부른다" -> "아빠가 아들을 부른다"
• 명탐정은 이 관계도를 따라가며 문제의 뿌리를 찾습니다.

📝 공유 작업 메모리 (Shared Working Memory)

두 에이전트와 수리공이 사용하는 공유된 메모장입니다.

• 여기에는 "어디까지 고쳤는지", "어떤 세이브 지점이 있는지", "어떤 가설이 실패했는지"가 기록됩니다.
• 덕분에 AI 는 긴 작업을 하더라도 **"내가 지금 어디에 있었지?"**를 잊지 않고, 실수하면 원래대로 되돌릴 수 있습니다.

🔄 버전 관리 도구 (Git 기반)

실제 개발자들이 사용하는 'Git'이라는 도구를 AI 가 직접 다룰 수 있게 했습니다.

• Branching (분기): 여러 가지 해결책을 동시에 시도해 봅니다. (예: A 길로 가보자, B 길로 가보자)
• Reverting (되돌리기): 잘못된 길로 갔다면, 즉시 이전 상태로 돌아옵니다.

---

📊 4. 결과는 어떨까?

이 시스템은 유명한 테스트 (SWE-Bench) 에서 기존 AI 들보다 훨씬 좋은 성과를 냈습니다.

• 버그 위치 찾기: 정확도가 **5.4%**까지 향상되었습니다.
• 버그 해결: 전체 해결률이 4.7% 증가했습니다.
• 비용 절감: 불필요한 코드를 읽지 않고 필요한 부분만 읽기 때문에, AI 가 사용하는 계산 자원 (토큰) 도 더 적게 들었습니다.

💡 결론

SWE-Adept 는 AI 가 복잡한 소프트웨어 문제를 해결할 때, 혼자서 모든 것을 하려 하지 않고, **명확한 역할 분담 (찾기 vs 고치기)**과 **체계적인 관리 (체크포인트, 되돌리기)**를 통해 인간 개발자처럼 신중하고 정확하게 일할 수 있게 만든 혁신적인 프레임워크입니다.

이는 마치 수천 권의 책이 있는 도서관에서, 한 명은 정확한 책을 찾아내고 (명탐정), 다른 한 명은 그 책의 특정 페이지를 고쳐서 다시 정리하는 (수리공) 완벽한 팀워크를 보여주는 사례라고 할 수 있습니다.

기술 요약

1. 문제 정의 (Problem)

대규모 언어 모델 (LLM) 은 독립적인 프로그래밍 작업에서는 뛰어난 성능을 보이지만, 실제 소프트웨어 공학 (SWE) 문제, 특히 리포지토리 수준의 복잡한 이슈 해결에는 여전히 한계가 있습니다. 주요 도전 과제는 다음과 같습니다.

• 정확한 코드 위치 파악의 어려움 (Issue Localization):
  • 실제 코드베이스는 수천 개의 파일로 구성되어 있으며, 파일 간 의존성이 밀접하게 얽혀 있어 LLM 의 컨텍스트 윈도우를 초과하기 쉽습니다.
  • 기존 방법들은 너무 많은 관련 없는 정보를 컨텍스트에 주입하거나, 고정된 알고리즘 (예: 너비 우선 탐색) 을 사용하여 비효율적인 탐색을 수행함으로써 정확도를 떨어뜨립니다.
• 체계적인 문제 해결 전략의 부재 (Issue Resolution):
  • 기존 에이전트들은 주로 "생각하고 수정 (Think-and-Edit)"하는 자유 형식의 루프를 따르며, 명시적인 계획이나 진행 상황 추적이 부족합니다.
  • 반복적인 수정 과정에서 코드 상태가 혼란스러워지고, 실패한 수정을 되돌리거나 (revert) 대안적인 해결책을 탐색하기 위한 체계적인 버전 관리 메커니즘이 부재하여 장기적인 작업 (Long-horizon tasks) 에서 신뢰성이 낮습니다.

2. 방법론 (Methodology)

저자들은 SWE-Adept라는 LLM 기반의 2 에이전트 프레임워크를 제안합니다. 이 프레임워크는 **이슈 로컬라이제이션 에이전트 (Localization Agent)**와 **이슈 해결 에이전트 (Resolution Agent)**로 구성되며, 각 에이전트는 별도의 컨텍스트와 도구를 사용하여 상호작용합니다.

A. 코드베이스 표현 및 인덱싱

• 정의 수준 인덱싱 (Definition-level Indexing): 함수와 클래스 정의를 기본 단위로 세분화하여 인덱싱합니다. 나머지 코드는 고정된 청크로 처리하여 전체 리포지토리를 커버합니다.
• 코드 구조 트리 (Code-Structure Tree): tree-sitter 를 활용하여 코드 단위 간의 의존성 (포함, 호출) 을 추출하고 트리 구조로 구축합니다. 각 노드는 메타데이터와 함께 경량화된 연결 리스트를 저장하여 탐색 효율성을 높입니다.

B. 이슈 로컬라이제이션 (Issue Localization)

• 에이전트 주도 심층 우선 탐색 (Agent-Directed DFS): 에이전트가 현재 코드 단위와 자식 단위 (child units) 를 기반으로 의존성 경로를 따라 심층 우선 탐색 (DFS) 을 수행합니다.
• 경량화된 탐색 도구: 탐색 도구들은 전체 소스 코드가 아닌, 코드 스켈레톤, 미리보기, 위치 메타데이터 등 가벼운 구조 정보만 반환하여 컨텍스트 소모를 최소화합니다.
• 2 단계 필터링 (Two-Stage Filtering):
  1. 1 단계: 경량 정보 (스켈레톤, 위치 메타데이터) 를 기반으로 후보 위치를 선별하고 재순위화합니다.
  2. 2 단계: 선별된 후보에 대해서만 전체 소스 코드를 로드하여 내용 기반 분석을 통해 최종 위치를 정밀하게 파악합니다.

C. 이슈 해결 (Issue Resolution)

• 구조화된 문제 해결 (Structured Problem Solving): 에이전트는 하나 이상의 가설 (hypothesis) 을 수립하고, 각 가설에 대해 세분화된 실행 계획 (To-do list) 을 동적으로 확장합니다.
• 체크포인팅 및 버전 관리 (Checkpointing & Version Control):
  • hypothesis_plan 도구: 가설, To-do 목록, 실행 상태, 통찰력 (insights) 을 관리합니다.
  • hypothesis_git 도구: Git 기반의 버전 관리를 추상화합니다. 각 To-do 단계가 완료될 때마다 코드 상태를 Git 커밋으로 저장하고, 이를 백엔드 **작업 메모리 (Working Memory)**에 인덱싱합니다.
  • 되돌리기 및 분기 (Reverting & Branching): 에이전트는 실패한 수정을 특정 체크포인트로 쉽게 되돌리거나, 대안적인 해결책을 탐색하기 위해 새로운 브랜치를 생성할 수 있습니다. 이는 에이전트가 컨텍스트 내에서 Git 해시 값을 직접 추적할 필요 없이 시맨틱 식별자로 상태를 관리하게 해줍니다.

3. 주요 기여 (Key Contributions)

1. SWE-Adept 프레임워크: 정밀한 이슈 로컬라이제이션과 구조화된 이슈 해결을 통합하여 리포지토리 수준의 소프트웨어 공학 문제를 자율적으로 해결하는 LLM 기반 에이전트 프레임워크를 제안했습니다.
2. 에이전트 주도 탐색 (Agentic Traversal): 의존성 기반의 심층 우선 탐색과 2 단계 필터링을 통해 컨텍스트 관리를 최적화하고, 관련 없는 정보를 배제하여 로컬라이제이션 정확도를 극대화했습니다.
3. 도구 - 메모리 인터페이스 (Tool-Memory Interface): 작업 메모리와 Git 기반 버전 관리 도구를 연동하여, 에이전트가 장기적인 작업에서도 신뢰할 수 있는 코드 상태 관리 (브랜칭, 되돌리기) 를 수행하도록 설계했습니다.

4. 실험 결과 (Results)

SWE-Bench Lite와 SWE-Bench Pro 벤치마크에서 기존 방법론 (SWE-agent, RepoGraph, OrcaLoca 등) 과 비교 평가되었습니다.

• 이슈 로컬라이제이션 성능:
  • 파일 수준 (Acc@3) 과 함수 수준 (Acc@5) 모두에서 최상의 성능을 기록했습니다.
  • 특히 함수 수준 정확도에서 기존 최강 기법 대비 최대 5.4% 향상 (GPT-5.2 기준) 을 보였습니다.
  • 불필요한 토큰 소비를 줄여 효율성이 높았습니다.
• 이슈 해결 (Resolve Rate) 성능:
  • 엔드 - 투 - 엔드 해결률 (Resolve Rate) 에서 최대 4.7% 향상을 기록했습니다.
  • SWE-Bench Pro (더 복잡한 문제) 에서도 다른 에이전트보다 우월한 견고성 (Robustness) 을 보여주었습니다.
• 분석:
  • 심층 탐색 (Search Depth) 이 깊어질수록 SWE-Adept 의 성능 우위가 더 두드러졌습니다.
  • 다중 가설 브랜칭과 체크포인트 기반 되돌리기가 복잡한 문제 해결에 핵심적인 역할을 함이 확인되었습니다.

5. 의의 및 결론 (Significance)

SWE-Adept 는 단순한 코드 수정을 넘어, 체계적인 탐색 전략과 신뢰할 수 있는 상태 관리 메커니즘을 결합함으로써 LLM 기반 에이전트가 실제 복잡한 소프트웨어 리포지토리 문제를 해결하는 능력을 크게 향상시켰습니다.

• 컨텍스트 효율성: 불필요한 코드 로딩을 줄이고 필요한 정보만 선별하여 LLM 의 컨텍스트 윈도우 한계를 극복했습니다.
• 신뢰성 있는 자율성: Git 기반의 체계적인 버전 관리와 체크포인팅을 통해 에이전트가 실패를 극복하고 대안을 탐색할 수 있는 능력을 부여했습니다.
• 미래 전망: 이 프레임워크는 오픈소스 모델로의 확장 가능성과 다른 프로그래밍 언어로의 일반화 가능성을 열어두며, 자율 소프트웨어 공학 (Autonomous SWE) 의 새로운 표준을 제시합니다.