기술 요약: CODEFUSE-DEBENCH

문제 정의

이진 디컴파일은 소프트웨어 보안과 리버스 엔지니어링의 핵심 요소로, 실행 가능한 기계 코드를 고수준 소스 코드로 복원하는 것을 목표로 합니다. 그러나 기존 평가 방법론은 다음과 같은 중대한 한계를 겪고 있습니다:

1. 문법적 유사성에 대한 과도한 의존: 현재 지표들은 표면적인 일관성 (예: 코드 줄 수, 문자 단위 매칭) 이나 단일 축 가독성 점수에 주로 초점을 맞추고 있습니다.
2. 실제 활용 가치와의 불일치: 이러한 지표들은 디컴파일된 코드의 실제 엔지니어링 가치를 측정하지 못합니다. 디컴파일러는 시각적으로 깔끔하지만 의미적으로 잘못된 코드를 생성하거나, 읽기 어렵지만 동작적으로 충실한 코드를 생성할 수 있습니다.
3. 종합적 프레임워크의 부재: 다양한 컴파일 설정과 아키텍처에 걸쳐 가독성, 재컴파일 가능성, 기능성을 동시에 평가하는 표준화된 자동화 프레임워크는 존재하지 않습니다.

이 격차는 패치, 마이그레이션과 같은 하위 응용 프로그램에 디컴파일된 코드를 활용하려는 사용자에게 혼란을 초래하며, 현대 디컴파일러의 진정한 능력과 실패 모드를 가립니다.

방법론: DEBENCH 프레임워크

저자들은 가독성, 재컴파일 가능성, 기능성이라는 세 가지 직교 차원을 따라 디컴파일러를 평가하는 재사용성 주도 평가 패러다임인 DEBENCH를 제안합니다.

1. 벤치마크 구축

• 원자적 테스트 스위트: DEBENCH는 리버스 엔지니어링의 다양한 도전 과제 (제어 흐름, 데이터 유형, 메모리 연산, 함수 호출, 객체 지향 C++, 컴파일 시 특화, 시스템 상호작용, 특수 도전 과제) 를 다루는 8 개의 차원 소스 파일에 그룹화된 240 개의 원자적 테스트 함수로 구성됩니다.
• 다양성: 이러한 소스들은 다음 다섯 가지 축을 변경하여 640 개의 고유한 이진 파일로 컴파일됩니다:
  • 컴파일러: GCC, Clang
  • 최적화 수준: -O0, -O1, -O2, -O3, -Os
  • 디버그 심볼: -g 포함, 스트립 (Stripped)
  • 아키텍처: x86, x64, ARM32, ARM64
• 설계 원칙: 이 스위트는 원자성 (특정 언어 기능 격리) 과 점진적 복잡성 (제어/데이터 흐름 복잡성, 최적화 저항성, 의미 손실 위험에 기반하여 L1–L5 난이도 수준으로 사례 분류) 을 강조합니다.

2. 평가 파이프라인

이 프레임워크는 완전히 자동화된 3 단계 파이프라인을 사용합니다:

• 1 단계: 가독성 (URAF)

  • **통합 가독성 평가 프레임워크 (URAF)**를 사용한 LLM-as-Judge 방식을 활용합니다.
  • 18 개의 하위 차원으로 조직된 5 단계 (어휘적 명확성, 구조적 이해 가능성, 타입 시스템 충실도, 의미 투명성, 문맥적 일관성) 에 따라 그라운드 트루 소스 대비 코드를 평가합니다.
  • 편향을 완화하기 위해 세 개의 독립적인 LM 판정관 (GLM-4.7, Qwen3.5-Plus, MiniMax-M2.5) 을 사용합니다.

• 2 단계: 재컴파일 가능성

  • LLM 기반 반복적 수리 파이프라인을 구현합니다.
  • 자동화 에이전트가 컴파일러 진단 (GCC/Clang) 을 구문 분석하고 수정 사항을 LLM 에 위임합니다.
  • 고정된 50 회 반복 예산 하에 운영됩니다.
  • 결과는 완전 성공 (FS), 링크 실패 (LF), **컴파일 실패 (CF)**의 세 가지 등급으로 분류됩니다.

• 3 단계: 기능성

  • Frida 기반 차분 동적 추적을 사용하여 원본 이진 파일과 재컴파일된 이진 파일을 비교합니다.
  • 프로그램 수준 (stdout 일관성), 함수 수준 (레지스터/반환 값 매칭), 명령어 수준 (시퀀스 유사성) 의 세 가지 세분성에서 런타임 동작을 관찰합니다.
  • 결과를 정확한 stdout, 부분적, 실패, 지원되지 않음으로 분류합니다.

주요 기여

1. 재사용성 주도 평가 패러다임: 가독성, 재컴파일 가능성, 기능성을 공동 평가함으로써 문법적 유사성에서 실제 활용 가치로 초점을 이동시킵니다.
2. 종단 간 자동화 인프라 (DEBENCH): 대규모 다차원 벤치마크에서 LLM-as-judge 점수 매기기, 반복적 컴파일 및 수리, 동적 동작 검증을 통합한 최초의 프레임워크입니다.
3. 실증적 통찰: IDA, Ghidra, RetDec, Angr, BinaryAI라는 다섯 가지 주요 디컴파일러와 세 가지 수리 LLM 에 대한 체계적인 특성을 제공하여, 단일 축 평가로는 보이지 않는 실패 모드와 능력 한계를 드러냅니다.

주요 발견

이 연구는 기존 가정을 도전하는 네 가지 주요 발견을 도출합니다:

1. 재사용성 절벽: 재컴파일 가능성과 행동적 동등성 사이에는 가파르고 재현 가능한 격차가 존재합니다.

   • 최고의 디컴파일러–LLM 조합 (IDA + Qwen3.5-Plus) 은 73.8% 의 재컴파일 가능성을 달성하지만 **22.3% 의 프로그램 수준 행동 중첩 (정확 + 부분)**만 달성합니다.
   • 정확한 stdout 일치는 단 **1.2%**입니다.
   • 이는 컴파일 가능한 코드와 올바르게 동작하는 코드 사이에 약 50 퍼센트 포인트의 절벽을 나타냅니다.

2. 가독성과 기능성의 분리: 가독성을 극대화하는 컴파일 선택이 반드시 기능성을 극대화하는 것은 아닙니다.

   • 최적화: 공격적인 -O3는 가장 낮은 가독성 점수를 산출하지만 가장 높은 기능성 (Exact+Partial 기준 16.0% vs -O0 기준 8.6%) 을 제공합니다.
   • 컴파일러: Clang은 GCC 보다 낮은 가독성 점수를 생성하지만 2.6 배 높은 기능성 (Exact+Partial 기준 26.5% vs 10.2%) 을 초래합니다.

3. 비대칭적 격차 (디컴파일러 vs LLM): 엔지니어링 투자는 더 큰 수리 모델이 아닌 디컴파일러 엔진을 대상으로 해야 합니다.

   • 고정된 LLM 하에서 디컴파일러를 전환 (예: RetDec 에서 IDA 로) 하면 기능성이 20 배 변동 (1.1% 에서 22.3% 로) 합니다.
   • 고정된 디컴파일러 하에서 LLM 을 전환하는 것은 1.6 배 변동 (13.9% 에서 22.3% 로) 만 초래합니다.

4. 실패 분해: 실패는 고유한 수리 가능성을 가진 세 가지 범주로 나뉩니다:

   • 문법적 노이즈: LLM 에 의해 수리 가능 (예: 누락된 헤더, 문법 오류).
   • 타입 시스템 붕괴: 오류의 약 19% 를 차지 (예: 충돌하는 타입, 포인터 불일치). 부분적으로 수리 가능하지만 종종 행동적 편차를 초래합니다.
   • 되돌릴 수 없는 상류 손실: LLM 으로 수정 불가. 디컴파일러가 재구성하지 못하는 ARM64 특화 재위치 관용구 (ADRP+ADD) 와 C++ ABI 기능 (vtables, 가상 디스패치) 을 포함합니다.

중요성과 함의

이 논문은 디컴파일러의 품질을 단일 점수가 아닌 다중 축 연속체로 재정의합니다. "적당한 가독성"이 종종 하위 유틸리티를 약 3 배 과장한다고 주장합니다.

저자들은 문법적 번역에서 의미적 재구성으로의 격차를 해소하기 위해 디컴파일러 측 엔지니어링을 위한 세 가지 우선 방향을 식별합니다:

1. 복합 타입 재구성: 심볼 스트리핑을 견디는 복잡한 타입 복원.
2. IR 수준 심볼릭 재위치: 불투명한 산술 연산으로 붕괴시키지 않고 재위치 (특히 ARM64 에서) 추적.
3. C++ ABI 인식 프론트엔드 패스: 객체 지향 C++ 코드를 처리하기 위해 vtables 과 가상 디스패치를 재구성하기 위한 특수 패스.

이 연구는 LLM 이 표면적 수리에는 효과적이지만, 근본적인 병목 현상은 디컴파일러 엔진의 의미 구조 및 타입 정보 복원 능력에 있으며, 프롬프트 수준 튜닝보다 엔진 수준 혁신이 필요하다고 결론지었습니다.