CyberForge: Verified Vulnerability Injection at Repository Level for Cybersecurity Agent Training

기술 요약: CyberForge

문제 정의
최첨단 대규모 언어 모델(LLM) 에이전트는 현재 실제 소프트웨어에서 복잡한 취약점을 발견하고 패치하는 데 어려움을 겪고 있습니다. 이러한 에이전트들은 단 하나의 악용 가능한 약점만을 찾으면 되는 공격자에게는 도움을 줄 수 있지만, 방어자는 전체 코드베이스를 지속적으로 보호해야 합니다. 더 강력한 방어 에이전트를 개발하는 데 있어 주요 병목 현상은 실행 및 빌드 환경이 재현 가능한 고품질 보안 학습 데이터의 부족입니다. 기존 데이터셋은 주로 역사적인 CVE(Common Vulnerabilities and Exposures)와 버그 바운티 보고서에 국한되어 있으며, 이는 수동으로 수집되거나 공개된 이슈의 자동 재생을 통해 구성됩니다. 이러한 리소스는 인간의 발견 및 공개 속도에 의해 제약을 받으며, 취약성을 검증하기 위해서는 두 가지 조건(주입된 코드가 기존 유닛 테스트를 모두 통과하여 잠재 상태로 남아 있어야 함과 동시에, 특정 적대적 입력에 의해 트리거될 수 있어야 함[Proof of Vulnerability, PoV])을 충족해야 하므로 학습 데이터로서 확장성이 떨어지는 경우가 많습니다.

방법론: CyberForge 프레임워크
CyberForge는 C/C++ 프로젝트에 취약점을 주입함으로써 실행 가능한 저장소 수준(repository-level)의 보안 학습 데이터를 합성하도록 설계된 프레임워크입니다. 이 프레임워크는 기존의 공개 사례를 채굴하는 대신 새로운 인스턴스를 생성함으로써 코퍼스 성장을 인간의 공개 속도로부터 분리합니다. 프ле임워크는 재현 가능한 환경을 보장하기 위해 기존의 Docker 이미지, 빌드 스크립트 및 libFuzzer 하네스를 활용하는 OSS-Fuzz에 등록된 프로젝트들을 기반으로 작동합니다.

CyberForge는 두 가지 상호 보완적인 주입 파이프라인을 채택합니다:

1. 퍼저 가이드 주입(Fuzzer-Guided Injection): 이 파이프라인은 기존 퍼징 인프라를 활용하여 가치가 높은 주입 지점을 식별합니다. OSS-Fuzz 메타데이터를 파싱하여 기존 하네스에 의해 도달 가능한 함수를 매핑합니다. 점수 산정 시스템은 구조적 역할, 호출 깊이, 그리고 "트리거 가능성"(기존 하네스에 의해 도달될 가능성)을 기준으로 이러한 함수들의 순위를 매깁니다. 이후 LLM 에이전트는 선택된 지점에서 보안 검사를 약화시키기 위해 최소한의 표적 수정(minimal, targeted modification)을 수행합니다. 검증은 자동화됩니다: 수정된 빌드는 모든 유닛 테스트를 통과해야 하며, 취약점을 트리거하기 위한 PoV가 생성되어야 합니다. 포스트 훅(post-hoc) libFuzzer 실행과 포맷 인식 시드 코퍼스의 활용은 추가적인 검증 경로를 제공합니다.

2. 에이전트 기반 인컨텍스트 주 injection (Agentic In-Context Injection): 이 파이프라인은 기존 퍼즈 하네스의 범위를 벗어나는 취약점을 목표로 합니다. 이는 구조적(AST 기반) 및 의미적(임베딩 기반) 유사성을 결amping하여 대상 프로젝트를 PrimeVul 데이터셋의 역사적 CVE 패턴과 매칭하는 하이브리드 검색 전략을 사용합니다. 또한, 전문 LLM 에이전트들이 직접 코드베이스를 탐색하며 다양한 약점 유형을 제안합니다. 주입 과정에는 반복적인 재시도 루프, 입력 소스에서 취약한 싱크(sink)까지의 데이터 흐름을 검증하기 위한 테인트 분석(taint analysis), 그리고 산티저 보고서(ASAN/UBSAN) 및 관찰 가능한 부수 효과를 이용한 PoV 생성이 포함됩니다.

검증 메커니즘
공유된 **차분 PoV 오라클(Differential PoV Oracle)**이 생성된 모든 인스턴스를 검증합니다. 인스턴스는 다음 조건을 충족할 때만 수락됩니다:

• 조건 1: 주입된 빌드가 프로젝트의 모든 기존 유닛 테스트를 통과해야 함 (취약점이 기능적 버그가 아닌 잠재적 상태임을 보장).
• 조건 2: 생성된 PoV가 동일한 입력에 대해 깨끗한 빌드에서는 발생하지 않지만, 주입된 빌드에서는 실패(예: 산티저 에러, 크래시)를 트리거해야 함.

주요 기여

• 저장소 수준 생성 프레임워크: CyberForge는 취약점 주입 및 차분 검증을 사용하여 빌드 가능한 코드베이스로부터 학습 데이터를 합성하며, 이를 통해 함수 수준의 정적 주입을 넘어섭니다.
• 검증된 코퍼스: 프레임워크는 80개의 C/C++ 프로젝트에 걸쳐 1,034개의 검증된 취약점과 **63개의 약점 카테고리(CWE)**를 생성했습니다. 이러한 합성 패치의 편집 국소성(edit locality)은 두 개의 실제 CVE 코퍼스 간의 Kolmogorov–Schmidt 거리가 0.190인 것과 비교했을 때 0.165의 거리를 보이며 실제 CVE 패치와 매우 유사했습니다.
• 다운스트림 성능 향상: 이 코퍼스에서 수집된 궤적(trajectories)으로 에이전트를 미세 조정(fine-tuning)한 결과, SEC-bench(인도메인) 및 PatchEval(아웃도메인) 벤치마크에서 성능이 크게 향상되었습니다.

결과
저자들은 두 명의 교사 모델(Gemma 4 31B 및 GPT-5.4-mini)로부터 수집된 궤적을 사용하여 세 가지 오픈 소스 학생 모델(Gemma 4 E4B, 12B, 31B)을 미세 조정했습니다.

• SEC-bench 성능: 모든 6가지 학생-교사 구성에서 패치 복구 점수가 +3.3 ~ +14.7 포인트 향상되었습니다. 가장 강력한 구성(31B 학생 모델과 GPT-5.4-mini 교사 모델)은 교사의 74.0%에 근접한 **72.7%**를 달성했습니다.
• 분포 외 일반화(Out-of-Distribution Generalization): 학습 코퍼스가 C/C++로만 구성되었음에도 불구하고, Go, JavaScript, Python 작업을 포함하는 벤치마크인 PatchEval에서도 성능 향상이 전이되었습니다. 모든 구성이 이 교차 언어 벤치마크에서 개선된 성능을 보였습니다.
• 행동 분석: 미세 조정은 에이전트를 교사의 워크플로우로 유도했습니다. 작은 모델(예: 12B)은 주로 검증 단계에 도달하는 법을 배움으로써(워크플로우 커버리지 증가) 이득을 얻었으며, 큰 모델(31B)은 검증 단계에 도달했을 때 성공률을 높임으로써 이득을 얻었습니다.
• 확장성: 성능은 학습 궤적의 수에 따라 단조롭게 증가하였으며, 880개의 궤적에서도 포화 징후를 보이지 않았습니다.

의의 및 주장
본 논문은 CyberForge가 사이버 보안 에이전트 훈련을 위한 실행 검증된 데이터를 생성하는 확장 가능한 소스를 제공하며, AI 보조 보안의 방어 측면에서의 결정적인 훈련 데이터 격차 문제를 해결한다고 주장합니다. 실행을 통해 검증된 합성 취약점을 생성함으로써, 프레임워크는 공적 공개 속도에 제한받지 않는 현실적인 훈련 인스턴스를 생성합니다. 저자들은 자신들의 프레임워크가 시스템을 침해하기 위해 설계된 능동적인 익스플로잇을 생성하는 것이 아니라, 약점의 존재와 도달 가능성을 입증하기 위한 증거(PoV)를 생성한다는 점을 강조합니다. 이 연구는 복잡한 소프트웨어 환경에서 보안 결함을 찾고 패치하는 능력을 크게 향과시키기 위해, 합성된 저장소 수준의 데이터에 대한 표적 훈련이 효과적임을 보여줍니다.