기술 요약: AUTOBAXBUILDER

문제 제기

대규모 언어 모델 (LLM) 이 소프트웨어 공학에 점점 더 통합됨에 따라, LLM 이 생성한 코드의 정확성과 보안을 신뢰할 수 있게 평가하는 것이 중요해졌습니다. 이전 연구에 따르면 LLM 은 종종 기능적 정확성을 우선시하며 보안을 간과하여 보안 취약점이 있는 코드를 자주 생성합니다. 기존 평가 프레임워크는 다음과 같은 세 가지 주요 한계를 겪고 있습니다:

1. 데이터 오염: 수동으로 제작된 벤치마크는 필연적으로 미래 모델의 학습 데이터에 유출되어 평가의 타당성을 훼손합니다.
2. 확장성과 확장성: 새로운 벤치마크를 제작하려면 시나리오 설계, 기능 테스트 작성, 보안 악용 코드 개발에 상당한 인력이 필요하여 빠르게 발전하는 모델들을 따라가기 어렵습니다.
3. 확장의 어려움: 벤치마크는 더 능력이 뛰어난 LLM 을 도전시키기 위해 지속적으로 난이도를 높여야 하며, 이는 인간 전문가에게도 자원이 많이 소요되는 작업입니다.

현재 벤치마크들은 종종 정확성과 보성을 별도의 작업에서 평가하거나 기능 수준 생성에만 초점을 맞추어 전체 애플리케이션 백엔드의 복잡성을 포착하지 못합니다. BAXBENCH 벤치마크는 엔드투엔드 웹 애플리케이션 백엔드를 평가함으로써 이를 해결했으나, 그 제작은 수동 인력에 크게 의존하여 수명과 확장성이 제한되었습니다.

방법론: AUTOBAXBUILDER

저자들은 AUTOBAXBUILDER를 제안합니다. 이는 코드 보안 벤치마킹 작업의 생성을 처음부터 자동화하는 자동화된 에이전트 파이프라인입니다. 이 시스템은 LLM 의 코드 이해 능력과 강력한 실행 기반 신뢰성 검사를 결합하여 인간의 개입 없이 시나리오 명세, 기능 테스트, 그리고 엔드투엔드 보안 악용 코드를 생성합니다.

이 파이프라인은 중앙 LLM(오케스트레이터) 에 의해 조정되고 "솔루션 LLM"이 생성한 참조 솔루션을 기준으로 검증되는 세 가지 반복적 정제 단계로 운영됩니다:

1. 시나리오 제안: 오케스트레이터는 명확한 공격 표면을 노출하도록 설계된 새로운 백엔드 서비스 명세 (OpenAPI 형식) 를 생성합니다. 기존 시나리오 제목을 확인하여 신규성을 보장합니다. 그런 다음 솔루션 LLM 이 초기 참조 구현을 생성합니다.
2. 기능 테스트 생성: 오케스트레이터는 기능적 요구사항을 추출하고 기능 테스트를 구성합니다. 정확성을 보장하기 위해 파이프라인은 두 단계 정제 루프를 사용합니다:
   • 솔루션 정제: 오케스트레이터가 테스트 코드를 보지 못하도록 하여 과적합을 방지한 상태에서, 실행 로그를 기반으로 실패한 참조 솔루션을 수정합니다.
   • 테스트 정제: 오케스트레이터는 테스트 코드, 솔루션 코드, 실행 로그 간의 관계를 분석하여 실패가 결함이 있는 테스트에서 비롯된 것인지 결함이 있는 솔루션에서 비롯된 것인지 판단합니다. 최소 하나의 참조 솔루션이 모든 테스트를 통과할 때까지 이를 반복하여 전역 합의를 달성합니다.
3. 보안 악용 코드 생성: 오케스트레이터는 시나리오와 참조 솔루션에서 잠재적 취약점 (CWE) 을 식별합니다. 각 대상 취약점에 대해 악용 코드를 생성하고 대비적 접근 방식을 사용하여 검증합니다:
   • 악용 코드를 참조 솔루션에서 실행합니다.
   • 결과가 올바른 경우 (예: 취약한 솔루션이 플래그됨), 오케스트레이터는 악용 로직이 아닌 취약점의 자연어 설명만을 기반으로 취약점을 패치하거나 도입하여 "대비" 솔루션을 생성합니다.
   • 악용 코드는 솔루션의 안전한 버전과 불안전한 버전을 올바르게 구별할 때만 승인됩니다. 이 과정은 정확한 안전한/불안전한 솔루션 쌍이 발견될 때까지 반복됩니다.

파이프라인에는 OpenAPI 명세를 위한 YAML 검증, 코드를 위한 Python 컴파일 검사, 그리고 LLM 실패를 처리하기 위한 자기 비판 메커니즘과 같은 가드레일이 포함되어 있습니다.

주요 기여

1. 자동화된 벤치마크 구축: 최소한의 인간 개입으로 BAXBENCH 의 설계 원칙을 따르는 완전히 새로운 벤치마크를 구축하는 강력한 방법.
2. 전문가 기준에 대한 검증: 동일한 작업에서 전문가가 작성한 기능 테스트 및 악용 코드를 재현하거나 능가함을 입증하여, BAXBENCH 가 보고한 보안 상한선을 효과적으로 강화함.
3. AUTOBAXBENCH: 코드 보안 벤치마킹을 위한 기존 백엔드 시나리오 수를 두 배 이상 늘리는 40 개의 새로운 시나리오로 구성된 새로운 벤치마크의 구축 및 공개. 이 벤치마크는 난이도가 증가하는 세 가지 하위 집합 (Easy, Medium, Hard) 으로 나뉩니다.

실험 결과

저자들은 다양한 최첨단 LLM(GPT-5, Claude 4.5 Sonnet, Gemini 3 Pro, 그리고 다양한 오픈 가중치 모델 포함) 을 사용하여 파이프라인과 결과물인 AUTOBAXBENCH 벤치마크를 평가했습니다.

• 파이프라인 검증: 기존 BAXBENCH 시나리오에 적용했을 때, AUTOBAXBUILDER 가 생성한 테스트와 악용 코드는 인간이 작성한 것과 높은 일치도를 보였습니다. 구체적으로 기능 테스트는 솔루션의 80.9% 에서 일치했습니다. 파이프라인이 생성한 보안 악용 코드는 원래 인간이 작성한 악용 코드보다 더 많은 인스턴스를 불안전한 것으로 플래그했는데, 이는 추가적인 CWE 와 공격 변형을 발견했기 때문입니다. 71 개의 생성된 악용 코드에 대한 수동 감사 결과, 불건전한 악용 코드는 단 하나만 발견되었습니다.
• 벤치마크 성능: AUTOBAXBENCH 에서 평가된 가장 강력한 모델 (Claude 4.5 Sonnet) 조차 전체 sec_pass@1(안전하고 정확한 솔루션의 비율) 이 36% 에 불과했습니다. "Hard" 분할에서는 이 수치가 25% 로 떨어졌습니다. pass@1(기능적 정확성) 과 sec_pass@1 사이의 격차는 기능적으로 올바른 구현이 많더라도 여전히 악용 가능하다는 점을 강조합니다.
• 효율성: 파이프라인은 2 시간 미만에 새로운 작업을 생성하며, 작업당 API 비용은 4 달러 미만입니다. 수동 검증을 포함하더라도 이는 수동 구축에 비해 인간 노동을 12 배 줄여줍니다.
• 견고성: 구축에 분리된 모델 세트를 사용한 제거 실험 (ablation studies) 은 모델 성능에서 높은 순위 상관관계 (Spearman $\rho > 0.9$) 를 보여주어, 벤치마크가 이를 생성하는 데 사용된 모델에 편향되지 않았음을 나타냅니다.

중요성과 주장

이 논문은 AUTOBAXBUILDER 가 LLM 보안 평가에서 벤치마크 오염과 확장성이라는 중요한 과제를 해결한다고 주장합니다. 오염되지 않은 고품질 벤치마크의 생성을 자동화함으로써, 이 프레임워크는 LLM 의 안전한 코딩 능력에 대한 장기적이고 신뢰할 수 있는 평가를 가능하게 합니다.

저자들은 정적 분석은 오탐과 미탐에 취약하므로 실행 기반 악용 코드를 사용하여 보안에 대한 건전한 상한선을 제공한다고 강조합니다. 그들은 이 프레임워크가 "미래 지향적"이며, 모델의 능력이 향상됨에 따라 점점 더 어려운 작업을 생성하여 배포된 백엔드 API 의 복잡성에 접근할 수 있다고 주장합니다. 이 연구는 LLM 이 기능적 코드 생성에서 진전을 이루었지만, 신뢰할 수 있는 안전한 코드 생성 능력에는 여전히 상당한 격차가 있으며, AUTOBAXBENCH 가 이를 효과적으로 드러낸다고 결론지었습니다.