기술적 요약: 신비주의의 해체인가 버그노믹스의 교란인가?

문제 제기

Anthropic 의 'Mythos Preview'와 같은 대규모 언어 모델 (LLM) 의 최근 시연은 AI 가 취약점 발견을 자동화함으로써 사이버 보안을 근본적으로 재편할 것이라는 서사를 낳았습니다. 그러나 이러한 서사들은 종종 능력의 이정표 (예: 발견된 버그 수) 에 초점을 맞추는 반면, 근본적인 경제적 현실은 간과합니다. 본 논문은 보안 커뮤니티가 취약점 발견, 검증, 그리고 수정의 운영 경제성을 분석할 수 있는 프레임워크가 부족하다고 주장합니다.

핵심 문제는 '버그노믹스' 환경의 잠재적 변화입니다. 즉, LLM 은 후보 취약점 보고서 (저신호 아티팩트) 생성 비용을 획기적으로 낮출 수는 있지만, 검증, 영향도 평가, 트라이지 (우선순위 선정), 그리고 패치 통합과 관련된 비용은 자동으로 줄어들지 않습니다. 이는 특히 오픈소스 생태계에서 보고서의 양이 이를 처리하는 데 필요한 희소한 인적 자원을 압도할 위험을 초래합니다. 본 논문은 논의를 "AI 가 더 많은 버그를 찾는다"는 수준에서 "LLM 은 실행 가능한 보안 결과를 산출하는 비용 구조를 어떻게 변화시키는가?"로 전환하고자 합니다.

방법론

저자들은 버그노믹스 렌즈를 활용합니다. 이는 취약점 아티팩트의 가치가 이를 생성하는 비용의 변화에 따라 어떻게 변하는지 연구하는 것으로 정의됩니다. 방법론은 다음과 같습니다:

1. 경제 모델링: 본 논문은 취약점 수명주기를 다음과 같은 명확한 단계로 분리하는 비용 모델을 구축합니다:

   • $C_G$: 후보 보고서 생성 비용.
   • $C_V$: 보고서 검증, 재현, 중복 제거 비용.
   • $C_I$: 영향도 또는 악용 가능성 확립 비용.
   • $C_R$: 수정 패키지화 (테스트, 패치, 근거) 비용.
   • $C_T$: 유지보수자의 트라이지, 검토, 배포 비용.
   • 총비용은 $C_{total} = C_G + C_V + C_I + C_R + C_T$로 모델링됩니다.

2. 공개 데이터 분석: 저자들은 다음과 같은 공개 데이터를 분석합니다:

   • Anthropic 의 Mythos Preview: 캠페인 수준의 비용과 발견율을 조사합니다.
   • Mozilla Firefox 협업: 제출된 보고서와 승인된 취약점의 비율을 분석합니다 (112 건의 보고서가 22 건의 승인된 취약점으로 이어져 약 19.6% 의 승인율을 보임).
   • 악용 시장 및 VRP: 공개된 악용 브로커 가격 (예: Crowdfense 의 제로데이 다수 백만 달러 지급) 과 취약점 보상 프로그램 (VRP) 데이터 (예: Google 의 2025 년 지급 내역) 를 공격적 및 방어적 가치의 기준선으로 활용합니다.

3. 용어 정제: 본 논문은 다음을 엄격히 구분합니다:

   • 후보 보고서: 모델이 생성한 의심 사항.
   • 승인된 취약점: 확인된 보안 문제.
   • 악용 가능한 취약점: 신뢰할 수 있는 공격 경로가 있는 문제.
   • 악용 체인: 운영적 접근을 위한 기법들의 조합.
   • 실행 가능한 보안 결과: 검증된 발견 사항, 영향도 증명, 또는 배포된 수정 사항.

주요 기여

본 논문은 네 가지 주요 기여를 합니다:

1. 버그노믹스 재정의: 이는 '제로데이 비대칭성'(희소하고 고가치인 악용으로 인해 공격 측이 우위를 점하는 상황) 에서 '방어 측 수정 처리량'으로 서사를 전환합니다. 논지는 단기적인 변화가 악용 가격의 붕괴가 아니라 병목 지점의 이동, 즉 버그 찾기에서 이를 흡수하고 수정하는 것으로 이동한다는 것입니다.
2. 시장 신호 연결: 공개된 악용 시장 가격, VRP 데이터, 그리고 사고 기준선을 연결하여 LLM 이 방어자 워크플로우의 가격을 재설정함을 보여줍니다. 후보 생성은 저렴해지지만, 증거가 풍부한 수정 패키지의 가치는 증가하며, 희소한 유지보수자의 역량이 주요 제약 조건이 됩니다.
3. LLM 워크플로우를 위한 비용 모델: 저자들은 후보 생성 비용을 검증, 영향도 증거, 그리고 수정 패키지화 비용과 분리하는 정량적 모델을 도입합니다. 이 모델은 검증 및 트라이지 부담을 고려하지 않을 경우 '저렴한' 후보 생성이 높은 총비용으로 이어질 수 있음을 강조합니다.
4. 산출물 차별화: 이는 기술적 부채 수정과 같은 방어자 주도 강화와 제약 없는 제로데이 사냥의 경제성을 분리합니다. 후보 보고서, 영향도 증명, 그리고 운영적 악용 체인은 상호 교환 가능한 경제적 산출물이 아님을 주장합니다.

결과 및 관찰

공개 데이터 분석에 기반하여 본 논문은 몇 가지 구체적인 결론을 도출합니다:

• 캠페인 수준 경제성: Mythos Preview 에서 20,000 달러 미만의 비용으로 '수십 건'의 발견 결과가 나왔습니다. 이는 보고된 발견 건당 약 417~833 달러의 비용을 의미하지만, 알려지지 않은 검증 및 트라이지 비용으로 인해 실행 가능한 취약점당 비용은 더 높습니다.
• 검증 병목 현상: Firefox 협업에서 112 건의 보고서가 22 건의 승인된 취약점으로 이어졌습니다 (19.6% 승인율). 본 논문은 전문가 급의 시간당 비용으로 보고서당 0.5~2 시간이 검증에 소요될 경우, 검증 비용만으로도 ($5,600~$56,000) 모델 추론 비용을 초과할 수 있다고 추정합니다. 이는 $C_G$가 하락함에 따라 $C_V$와 $C_T$가 지배적인 제약 조건이 됨을 시사합니다.
• 악용 개발 비용: Anthropic 은 샌드박스 환경에서 수백 번의 시도와 약 4,000 달러의 비용으로 두 개의 '거친' 브라우저 악용 코드를 생성했다고 보고했지만, 본 논문은 이는 은폐성, 신뢰성, 그리고 방어 심층 우회가 필요한 프로덕션 급 악용 체인의 비용과 동일하지 않다고 지적합니다.
• 오픈소스 비대칭성: LLM 지원 발견은 기계 속도로 보고서를 생성할 수 있지만, 검증 및 배포를 위한 유지보수자의 역량은 자동으로 확장되지 않습니다. 이는 오픈소스 유지보수자가 이를 처리할 예산 없이 더 많은 저품질 보고서 흐름을 흡수해야 하는 비대칭성을 초래합니다.
• VRP 가격 재설정: 취약점 보상 프로그램은 인센티브를 조정하기 시작했습니다. 후보 생성이 저렴해짐에 따라 프로그램은 재현자, 악용 가능성 추론, 그리고 패치 가이드를 포함한 보고서로 보상을 전환하고 있으며, 이는 단순한 의심이 아닌 '검토 패키지 품질'에 대해 지불하는 효과를 냅니다.

중요성 및 주장

본 논문은 보안 분야에서 LLM 의 중요성이 제로데이 시장의 소멸이 아니라, 취약점 발견 파이프라인의 신비주의 해체와 경제적 병목 지점의 이동에 있다고 주장합니다.

• 신비주의 해체: LLM 은 증거 기반의 타당한 발견 사항을 생산하는 문턱을 낮추어, '버그 찾기' 과정을 소수의 전문가 활동에서 처리량 문제로 변화시키고 있습니다.
• 병목 지점 이동: 핵심 제약 조건은 발견에서 수정으로 이동하고 있습니다. 희소한 자원은 더 이상 버그를 찾는 능력이 아니라, 이를 검증하고 우선순위를 매기며 수정 사항을 배포하는 역량입니다.
• 전략적 방향: 본 논문은 대체보다는 **오케스트레이션 (조율)**을 옹호합니다. 최첨단 모델은 정적 분석, 퍼징, 심볼릭 실행과 결합되어야 합니다. 목표는 유지보수자의 인지적 부담을 줄이는 '검토 패키지 (패치, 테스트, 근거)'를 생산하는 것입니다.
• 기술적 부채: LLM 의 높은 레버리지 적용은 제로데이 사냥뿐만 아니라, 출력물이 방어자가 배포할 수 있는 작업과 직접 매핑되는 기술적 부채 (예: 일관성 없는 입력 유효성 검사, 폐기된 API) 의 수정에 있습니다.
• 미래를 위한 지표: 본 논문은 '발견된 버그 수'를 세는 것을 넘어가야 한다고 주장합니다. 향후 보고서는 정밀도, 승인된 취약점당 비용, 고위험 취약점당 비용, 그리고 유지보수자 시간당 승인된 수정 사항을 측정해야 합니다.

저자들은 LLM 이 전략적으로 중요하지만 방어자를 경제적으로 불필요하게 만들지는 않는다고 결론지었습니다. 대신, LLM 은 일상적인 보안 검토의 문턱을 높이고, 특히 오픈소스 생태계 내에서 확장 가능한 취약점 논리를 견고하고 승인된 보안 개선 사항으로 전환하는 데 전략적 초점을 이동시킵니다.