기술 요약: FuzzingBrain V2

문제 정의

소프트웨어 취약점은 여전히 치명적인 위협으로, 2025 년에만 약 50,000 개의 CVE 가 보고되었습니다. 대규모 언어 모델 (LLM) 이 자동화된 탐지에서 유망한 결과를 보이고 있지만, 기존 접근 방식은 세 가지 근본적인 격차에 직면해 있습니다:

1. 재현성 부족: LLM 이 생성한 보고서는 높은 오탐 (false positive) 비율을 보이며 실행 가능한 개념 증명 (PoC) 입력이 부족하여 보안 팀이 발견 사항을 검증하지 못하게 합니다.
2. 비최적의 세분성: 함수 단위 분석은 너무 거칠어 LLM 이 주의 편향으로 인해 광범위한 컨텍스트 내의 버그를 간과하게 만듭니다. 반대로, 줄 단위 분석은 충분한 컨텍스트가 부족하여 오탐률이 높습니다.
3. 복잡한 의존성 추론: 기존 시스템은 여러 함수에 걸친 복잡한 함수 간 데이터 흐름, 간접 호출, 상태 유지 연산과 관련된 취약점에 대한 추론에 어려움을 겪습니다.

방법론: FuzzingBrain V2

FuzzingBrain V2 는 구글의 OSS-Fuzz 인프라와 모델 컨텍스트 프로토콜 (MCP) 을 기반으로 구축된 완전 자동화된 다중 에이전트 시스템입니다. 이 시스템은 LLM 기반 의미 분석과 동적 퍼징을 통합하여 보고된 모든 취약점이 재현 가능하도록 보장합니다.

시스템 아키텍처

시스템은 세 단계로 운영됩니다:

1. 정적 분석: Fuzz Introspector 를 활용하여 함수 메타데이터, 호출 그래프, 퍼저 도달성을 추출합니다. 이 데이터는 후속 분석을 안내하기 위해 데이터베이스에 저장됩니다.
2. 에이전트 파이프라인: 계층적 검색 전략을 통해 "의심 지점 (Suspicious Points, SP)"을 발견하고 검증하는 전용 LLM 에이전트를 활용합니다.
3. PoC 생성: 에이전트 추론과 이중 계층 퍼징을 결합하여 충돌을 유발하는 입력을 생성함으로써 취약점을 확인합니다.

핵심 구성 요소

1. 의심 지점 (Suspicious Point, SP) 추상화
세분성 격차를 해결하기 위해, 시스템은 줄 단위와 함수 단위 분석 사이에 위치한 제어 흐름 기반 추상화인 **의심 지점 (SP)**을 도입합니다.

• 구조: SP 는 환각된 줄 번호에 의존하는 대신 제어 흐름 컨텍스트 (예: "함수 X 호출 후 else 분기 내") 를 가진 특정 코드 영역을 포착합니다.
• 수명 주기: SP 는 세 단계를 거쳐 진행됩니다:
  • 생성: SP 생성기는 sanitizer 특정 패턴 (예: ASan 의 경우 버퍼 연산) 을 기반으로 잠재적 문제를 식별합니다.
  • 검증: SP 검증기는 함수 간 호출 경로를 추적하고 안전성 경계를 확인하는 심층 분석을 수행합니다. SP 를 참 양성 (TP) 또는 거짓 양성 (FP) 으로 분류하며, 실제 버그를 놓치지 않도록 재현율 (recall) 을 우선시합니다.
  • PoC 생성: PoC 생성기는 취약점을 유발하는 입력을 제작합니다.

2. 논리 기반 계층적 검색
시스템은 일반적인 취약점 패턴을 스캔하는 대신 코드의 방향 (Directions)—코드베이스의 논리적 비즈니스 기능 (예: "PNG 청크 파싱") —에 따라 분석을 조직화합니다.

• 방향 생성기: 퍼저 소스 코드를 분석하여 특정 기능에 대한 진입점과 핵심 함수를 정의하고 위험 수준을 할당합니다.
• 우선순위 스케줄링: 함수는 "핵심 풀 (Core Pool)"(높은 우선순위) 과 "일반 풀 (General Pool)"(최선 노력) 에서 개별적으로 분석되어, LLM 이 여러 함수를 동시에 처리할 때 패턴을 놓치는 것을 방지합니다.
• 중복 제거: SP 중복 제거기는 서로 다른 방향이나 워커 간의 중복 발견 사항을 병합합니다.

3. 이중 계층 퍼징
시스템은 폭과 깊이의 균형을 맞추기 위해 두 가지 퍼징 계층을 사용합니다:

• 글로벌 퍼저: 방향과 거짓 양성에서 파생된 시드를 사용하여 광범위한 코드 커버리지를 탐색하기 위해 백그라운드에서 지속적으로 실행됩니다.
• SP 퍼저: PoC 생성 중 특정 SP 를 위해 활성화됩니다. 두 가지 모드인 검증 모드(특정 LLM 생성 블록 테스트) 와 백그라운드 모드(LLM 이 다음 단계를 추론하는 동안 실패한 시도를 변형) 로 작동합니다. 이는 "퍼저가 LLM 이 생각하는 동안 변형한다"는 것을 보장합니다.

4. 다중 에이전트 협업
시스템은 MCP 를 통해 조정되는 계층적 모델 전략 (추론/계획용 T1, 핵심 분석용 T2, 유틸리티용 T3) 을 사용합니다. 에이전트는 정적 분석 (SAST), 동적 분석 (DAST), 컨텍스트 압축을 위한 도구를 활용하여 함수 간 의존성을 처리합니다.

주요 결과

AIxCC 2025 최종 대회 평가

AIxCC 2025 데이터셋의 C/C++ 부분 (12 개 프로젝트의 40 개 취약점) 에서 평가됨:

• 탐지율: FuzzingBrain V2 는 **40 개 취약점 중 36 개 (90%)**를 발견하여 모든 시스템 중 1 위를 차지했습니다.
• 어려운 과제: 깊은 호출 체인, 가려진 버그, 또는 순차적 요구 사항으로 정의된 12 개 중 9 개의 "어려운" 과제를 해결하여 대회 우승팀 (Team Atlanta, 12 개 중 5 개) 과 이전 FuzzingBrain V1(40 개 중 14 개) 을 크게 능가했습니다.
• 효율성: 성공적인 델타 스캔 (Delta-scan) 과제는 평균 12 분과 $19.4, 전체 스캔 과제는 평균 18 분과$35.2 가 소요되었습니다.
• 사례 연구: 시스템은 특정 역사적 타임스탬프가 필요한 "윤초 (Leap Second) OOB"버그와 프로토콜 비트 충돌 및 AES 암호화 구현이 필요한 "타입 혼동 (Type Confusion)"버그와 같은 깊은 도메인 지식을 요구하는 복잡한 취약점을 성공적으로 식별했습니다.

실제 환경 배포

OSS-Fuzz 를 통해 19 개의 오픈소스 프로젝트에 배포됨:

• 제로데이 발견: 41 개의 이전에 알려지지 않은 취약점을 발견했습니다.
• 검증: 26 개의 취약점이 유지 관리자에 의해 확인되었으며, 23 개가 수정되었습니다.
• CVE 할당: 두 개의 취약점에 할당된 CVE ID 가 부여되었습니다 (예: ImageMagick).
• 범위: C/C++ 에 중점을 두었지만, Jazzer 통합을 통해 시스템은 Java 프로젝트 (예: Avro, PDFBox) 의 취약점도 성공적으로 탐지했습니다.

중요성과 주장

이 논문은 FuzzingBrain V2 가 구체적인 실행 피드백에 기반하고 잘 정의된 분석 추상화로 구조화될 때 LLM 에이전트가 취약점 발견을 효과적으로 안내할 수 있음을 보여준다고 주장합니다.

• 격차 해소: 의심 지점 (SP) 추상화를 도입함으로써, 시스템은 LLM 의미 분석과 퍼징 기반 재현 사이의 격차를 해소하여 확인된 취약점에 대해 100% 재현성을 보장합니다.
• 심층 추론: 시스템은 전통적인 무작위 퍼징과 독립적인 LLM 에이전트를 무력화시키는 복잡한 제약 (예: 다단계 프로토콜 핸드셰이크, 암시적 상태 전이) 에 대한 추론 능력이 있음을 입증합니다.
• 확장성: OSS-Fuzz 를 기반으로 구축된 이 시스템은 추가 구성 없이 1,000 개 이상의 오픈소스 프로젝트에 직접 배포되도록 설계되었습니다.

저자들은 다중 입력 공격과 암시적 상태 기계와 같은 과제가 남아 있지만, LLM 과 구조화된 퍼징 파이프라인의 통합이 자동화된 취약점 발견 분야에서 중요한 진전이라고 결론지었습니다.