Program Analysis Guided LLM Agent for Proof-of-Concept Generation

1. 문제 정의 (Problem)

• 배경: 소프트웨어 생태계 내 취약점 발견이 급증함에 따라, 개발자들은 보고된 취약점을 신뢰할 수 있게 재현하고 패치해야 합니다. 이를 위해 취약점을 유발하는 구체적인 입력 데이터 (PoC) 를 생성하는 것이 필수적입니다.
• 현황 및 한계:
  • 많은 취약점 보고서에 유효한 PoC 가 포함되어 있지 않아, 개발자가 직접 생성해야 하는 수동 작업이 발생합니다.
  • 기존 기법인 **심볼릭 실행 (Symbolic Execution)**과 **퍼징 (Fuzzing)**은 전문가의 가이드가 필요하고, 경로 폭발 (path explosion) 문제나 환경 모델링의 어려움으로 인해 확장성 (scalability) 이 낮습니다.
  • 최근 **대규모 언어 모델 (LLM)**을 활용한 자동화 시도가 있었으나, 할루시네이션 (hallucination) 으로 인해 정확도가 낮고, 복잡한 코드베이스의 의미론적 이해와 입력 생성에 실패하는 경우가 많습니다.

2. 방법론 (Methodology: PAGENT)

저자들은 **정적 분석 (Static Analysis)**과 **동적 분석 (Dynamic Analysis)**을 LLM 에이전트에 통합한 하이브리드 프레임워크인 PAGENT를 제안합니다. 이 시스템은 다음 세 가지 핵심 구성 요소로 작동합니다.

2.1 정적 분석 가이드 (Static Analysis Guidance)

• 목적: LLM 에이전트가 취약점 관련 정보를 정확히 추출할 수 있도록 신뢰할 수 있는 가이드를 제공합니다.
• 구현:
  1. 경량 정적 분석 (Lightweight Static Analysis): 진입점 (Entrypoint, 예: LLVMFuzzerTestOneInput) 기반의 호출 그래프를 구성하여 도달 가능한 함수만 필터링합니다. 이를 통해 대규모 코드베이스에서 확장성을 확보합니다.
  2. 규칙 기반 정적 분석 (Rule-based Static Analysis): LLVM-IR 레벨에서 Datalog 기반의 규칙 (Soufflé/cclyzerpp 사용) 을 적용하여 취약점 패턴 (버퍼 오버플로우, 정수 오버플로우 등) 을 탐지합니다.
• 출력: 취약점 유형, 취약 함수, 진입점, Taint Path(오염 경로), 템플릿 어설션 (Template Assertion) 등을 포함한 **취약점 보고서 (Vulnerability Report)**를 생성합니다. 이는 LLM 의 할루시네이션을 줄이고 구체적인 맥락을 제공합니다.

2.2 PoC 생성 에이전트 (PoC Generation Agent)

• 아키텍처: OpenHands 기반의 CodeAct 아키텍처를 사용하는 LLM 에이전트입니다.
• 작동 방식:
  • 정적 분석에서 생성된 취약점 보고서를 바탕으로 소스 코드에 접근하여 초기 PoC 후보를 생성합니다.
  • 에이전트는 테스트 환경에서 실행 가능한 코드 (예: Bash 스크립트, Python) 를 작성하고 실행합니다.
  • 정적 분석 정보와 동적 피드백을 반복적으로 활용하여 입력을 정제합니다.

2.3 동적 분석 가이드 (Dynamic Analysis Guidance)

• 목적: 생성된 PoC 후보의 유효성을 검증하고, 실패 시 에이전트에게 구체적인 피드백을 제공합니다.
• 구현:
  • Sanitizer 기반 빌드: AddressSanitizer (ASan), MemorySanitizer (MSan) 등을 사용하여 취약점 유형에 맞는 인스트루먼트된 바이너리를 생성합니다.
  • 프로파일링 및 커버리지: PoC 실행 시 종료 코드 (Exit Code), 실행 시간, 진입점, 그리고 코드 커버리지 (파일, 함수, 라인, 브랜치 커버리지) 정보를 수집합니다.
  • 피드백 루프: PoC 가 크래시를 유발하지 않으면, 커버리지 정보를 에이전트에게 반환합니다. 에이전트는 "어떤 코드 경로가 실행되지 않았는지"를 분석하여 입력을 수정하고 재시도합니다.

3. 주요 기여 (Key Contributions)

1. LLM 에이전트를 위한 정적 분석 설계: 대규모 코드베이스에 확장 가능하고, 취약점 패턴에 맞춰 커스터마이징 가능한 정적 분석 파이프라인을 설계하여 LLM 의 정확도를 높였습니다.
2. 동적 분석을 통한 에이전트 정제: PoC 검증 과정에서 Sanitizer 와 커버리지 정보를 활용하여 에이전트가 오류를 수정하고 취약점 코드를 정확히 도달하도록 유도하는 피드백 루프를 구현했습니다.
3. 성능 향상 및 비용 효율성:
   • 오픈소스 모델인 DeepSeek3.1(성능이 낮은 모델로 간주됨) 을 사용했을 때, 정적/동적 분석 가이드를 통해 PoC 생성 성공률을 132% 향상시켰습니다.
   • 상용 최상위 모델인 GPT-5 및 Sonnet-4보다 평균적으로 100% 이상 높은 성능을 달성했습니다.
   • 토큰 비용 측면에서 상용 모델 대비 32 배 저렴한 비용으로 동등하거나 더 나은 성능을 제공합니다.
4. 패치 후 (Post-patch) 취약점 탐지: 패치가 적용된 코드에서도 여전히 취약점을 유발하는 PoC 를 발견하여, 패치가 불완전하거나 새로운 취약점이 존재함을 4 배 더 많이 탐지했습니다.

4. 실험 결과 (Results)

• 데이터셋: Cybergym 벤치마크의 ARVO 데이터셋을 사용했습니다. (10 개의 오픈소스 프로젝트, 203 개의 실제 취약점 포함).
• 비교 대상: Cybergym 의 최상위 LLM 에이전트 (GPT-5, Sonnet-4 등) 및 기존 PoC 생성 도구 (PoCGen, Faultline).
• 성과:
  • DeepSeek3.2 기반 PAGENT: 전체 203 개 취약점 중 **64.6%**의 성공률로, GPT-5 기반 에이전트 (약 31% 성공률 추정) 를 크게 능가했습니다.
  • 고유 PoC 생성: PAGENT 는 다른 어떤 에이전트나 에이전트 조합으로도 생성되지 않은 고유한 PoC 를 대량으로 생성했습니다.
  • 패치 후 취약점: 기존 에이전트 대비 4 배 더 많은 패치 후 취약점을 발견했습니다. 이는 동적 분석 피드백이 에이전트가 취약점과 직접 관련 없는 코드 영역까지 탐색하게 하여 숨겨진 취약점을 발견하게 했음을 시사합니다.

5. 의의 및 결론 (Significance)

• 자동화 및 확장성: PAGENT 는 수동 개입 없이 대규모 코드베이스에서 취약점 PoC 를 생성할 수 있는 확장 가능한 솔루션을 제시합니다.
• 하이브리드 접근법의 우위: LLM 의 추론 능력에 정적/동적 분석이라는 '사실적 (factual)' 가이드를 결합함으로써, LLM 의 할루시네이션 문제를 해결하고 신뢰성을 극대화했습니다.
• 실무 적용 가능성: CI/CD 파이프라인에 통합되어 커밋마다 변경된 코드 위치를 분석하고 PoC 를 생성함으로써, 소프트웨어 공급망 보안 강화에 기여할 수 있습니다.
• 비용 효율성: 고가의 상용 LLM 대신 오픈소스 모델을 활용하면서도 더 높은 성능을 달성함으로써, 보안 분석 도구의 접근성을 높였습니다.

요약하자면, PAGENT 는 정적 분석으로 '무엇을' 찾아야 하는지를, 동적 분석으로 '어떻게' 도달했는지를 LLM 에이전트에게 알려줌으로써, 기존에는 불가능했던 고난도 취약점 PoC 생성을 성공적으로 자동화한 획기적인 연구입니다.