기술 요약: 컨텍스트 인라이닝을 통한 리포지토리 수준 코드 생성

문제 정의

리포지토리 수준의 코드 생성은 대규모 언어 모델 (LLM) 이 전체 코드베이스를 이해하고, 함수, 클래스, 모듈 간의 복잡한 의존성에 대해 추론할 것을 요구합니다. 함수 수준의 생성과 달리, 이 작업은 리포지토리의 설계, 코딩 관례, 그리고 정교한 함수 간 관계와 일관성을 유지해야 합니다.

현재 접근 방식은 다음과 같은 중대한 한계에 직면해 있습니다:

• 검색 증강 생성 (RAG): 표면적인 텍스트 유사성에 의존하여, 종종 어휘적으로 유사하지만 기능적으로 관련 없는 스니펫을 검색해 내며, 리포지토리 수준의 의미를 지배하는 의미적 의존성을 포착하지 못합니다.
• 컨텍스트 기반 선택: 검색된 코드를 단순히 앞에 추가하거나 정적 분석 (예: 제어 흐름 그래프) 을 사용하는 방법들은 실제 호출 환경 내에서의 대상 함수의 구체적인 역할을 간과하는 경우가 많습니다. 이는 함수가 호출자 (상위) 에 의해 어떻게 사용되는지, 또는 피호출자 (하위) 에 어떻게 의존하는지를 체계적으로 표현하지 못해, 변수 바인딩, 반환 타입, API 사용 등에서 오류를 초래합니다.

방법론: InlineCoder

저자들은 미완성된 함수를 호출 그래프에 인라이닝 (inline) 함으로써 리포지토리 수준의 생성을 처리 가능한 함수 수준 작업으로 재정의하는 InlineCoder라는 프레임워크를 제안합니다. 핵심 통찰은 함수의 동작이 상위 호출자 (사용 시나리오) 에 의해 제약받고, 구현이 하위 피호출자 (의존성) 에 의존한다는 점입니다.

이 프레임워크는 세 단계의 파이프라인으로 작동합니다:

1. 초안 생성 (앵커 생성)

함수 시그니처가 주어지면, InlineCoder 는 먼저 예비 구현 (앵커 또는 초안) 을 생성합니다.

• 입력: 대상 시그니처, 자연어 설명, 그리고 리포지토리의 모든 import 문과 직접 참조된 의존성을 포함하는 기본 프롬프트.
• 출력: 초안 구현과 그 안에서 사용된 API 호출 목록.
• 목적: 이 초안은 두 가지 역할을 수행합니다: (1) 하위 의존성 (피호출자) 식별을 위한 시드 역할, (2) 퍼플렉시티 기반 신뢰도 추정을 위한 기준선 제공.

2. 컨텍스트 인라이닝 (양방향 풍부화)

초안은 포괄적인 컨텍스트를 구축하기 위한 양방향 인라이닝 프로세스를 주도합니다:

• 상위 인라이닝: 시스템은 리포지토리 내 대상 함수의 모든 호출자를 식별합니다. 그런 다음 초안 구현을 이러한 호출자 함수에 직접 임베딩합니다. 이는 네 단계 변환을 포함합니다:
  1. 매개변수 치환: 호출자 인수를 피호출자 매개변수에 매핑.
  2. 반환 정규화: 호출자의 흐름에 맞게 return 문을 변수 할당 (result = ...) 으로 변환.
  3. 할당 리디렉션: 호출 결과를 호출자의 변수에 바인딩.
  4. 인라인 확장: 호출자의 함수 호출을 변환된 초안 본문으로 교체.
     결과: 이는 분산된 호출 관계를 선형화되고 실행 지향적인 뷰로 변환하여, 입력/출력 제약과 사용 패턴을 노출합니다.
• 하위 검색: 시스템은 초안의 AST 와 LLM 이 예측한 피호출자에서 함수 호출을 추출합니다. 그런 다음 리포지토리 내 일치하는 함수 구현을 찾기 위해 부분 문자열 기반 검색을 수행합니다. 이렇게 검색된 피호출자들은 정밀한 의존성 컨텍스트를 제공하기 위해 프롬프트에 통합됩니다.

3. 컨텍스트 인식 코드 생성

최종 단계는 초안, 상위 인라이닝된 컨텍스트, 그리고 하위 검색된 컨텍스트를 통합된 프롬프트에 통합합니다.

• 신뢰도 메커니즘: 시스템은 초기 초안의 퍼플렉시티 (PPL) 를 계산합니다. PPL 임계값에 따라 신뢰도 수준 (높음, 중간, 낮음) 을 할당하고 LLM 에게 구체적인 자연어 지침을 생성합니다:
  • 높은 신뢰도: 초안을 신뢰하고 이를 따름.
  • 중간 신뢰도: 초안을 부분적으로 수정하거나 개선.
  • 낮은 신뢰도: 비판적으로 재평가하고 필요시 처음부터 다시 생성.
• 최종 출력: LLM 은 대상 시그니처, 인라이닝된 상위 사용, 하위 의존성, 그리고 신뢰도 기반 지침을 포함하는 풍부화된 프롬프트에 guided 되어 최종 함수 본문을 생성합니다.

주요 기여

1. 새로운 프레임워크: 호출 그래프 인라이닝 메커니즘을 통해 대상 함수를 상위 (호출자) 와 하위 (피호출자) 컨텍스트 모두에 위치시키는 InlineCoder 제안.
2. 유례없는 인라이닝: 저자들은 함수를 직접 호출자들의 컨텍스트에 인라이닝한 최초의 사례라고 주장하며, 이를 통해 LLM 이 단순 검색보다 더 깊이 있는 의도된 목적과 사용 패턴을 추론할 수 있게 됨.
3. 포괄적인 평가: 다양한 도메인과 여러 백본 LLM 에서 최첨단 베이스라인보다 일관된 개선을 보여주는 광범위한 실험.

실험 결과

이 프레임워크는 DeepSeek-V3, Qwen3-Coder, GPT5-mini 세 가지 백본 LLM 을 사용하여 DevEval 및 RepoExec 벤치마크에서 평가되었습니다.

• 성능 향상: InlineCoder 는 (In-File, Vanilla, RepoCoder, GraphCoder, DRACO 를 포함한) 베이스라인을 크게 능가했습니다.
  • RepoExec에서 가장 강력한 베이스라인 대비 평균 상대적 개선폭은 정확 일치 (EM) 29.73%, 편집 유사도 (ES) 20.82%, **BLEU 49.34%**였습니다.
  • DevEval에서는 일관된 개선을 보였으며, 평균 상대적 개선폭은 EM 5.13%, ES 10.86%, BLEU 10.67%였습니다.
• 절대 실험: 어떤 구성 요소 (상위 인라이닝, 하위 검색, 초안 생성, 또는 신뢰도 지침) 를 제거하더라도 성능 저하가 발생했습니다. 초안 구현이 가장 중요한 구성 요소로 확인되었습니다.
• 정성적 분석:
  • 반환 문: InlineCoder 는 상위 컨텍스트 이해의 향상으로 인해 베이스라인 대비 반환 문 생성 정확도 (EM) 를 2.07% 향상시켰습니다.
  • 함수 호출: 하위 의존성 해결의 개선을 보여 함수 호출 문 정확도 (EM) 를 4.27% 향상시켰습니다.
• 도메인 일반화: 이 방법은 10 개의 다른 소프트웨어 도메인 (예: 데이터베이스, 보안, 텍스트 처리) 에서 견고하게 작동하여, 10 개 도메인 중 9 개에서 EM 최상위 결과를, ID.F1 에서는 10 개 모두에서 최상위 결과를 달성했습니다. 성능은 교차 함수 호출이 본질적으로 희소한 과학 - 공학 도메인에서 약간 낮았습니다.

중요성과 주장

이 논문은 InlineCoder 가 표면적 유사성을 넘어 리포지토리의 구조적 및 의미적 의존성을 포착함으로써 기존 검색 전략의 근본적인 한계를 해결한다고 주장합니다. 컨텍스트 인라이닝을 통해 문제를 재정의함으로써, 이 방법은 복잡한 리포지토리 수준 추론을 모델이 코드가 더 넓은 시스템에 어떻게 부합하는지 명시적으로 볼 수 있는 더 관리 가능한 함수 수준 작업으로 변환합니다.

저자들은 그들의 접근 방식이 광범위한 파인튜닝을 요구하지 않는다고 강조합니다. 대신, 상위 사용 제약과 하위 의존성을 통합하는 신중하게 설계된 프롬프팅 전략을 통해 기존 LLM 의 추론 능력을 활용합니다. 결과는 이 프레임워크가 구문적으로 정확할 뿐만 아니라 리포지토리의 설계 및 의존성과 의미적으로 일관된 코드를 생성하는 데 효과적임을 보여줍니다.