기술 요약: AgenticVM – 적응형 소프트웨어 취약점 관리를 위한 에이전트형 AI

1. 문제 제기

현대 소프트웨어 취약점 관리는 현대 시스템의 규모와 복잡성으로 인해 점점 더 압박을 받고 있습니다. 보안 운영 센터 (SOC) 는 취약점 발견이 항상 대응 노력을 앞지르는 치명적인 병목 현상에 직면해 있습니다. 이는 다음과 같은 요인들에 의해 주도됩니다:

• 높은 알림 볼륨: 스캐너는 막대한 양의 원시 결과를 생성하여 종종 지속적인 백로그를 초래합니다.
• 분산된 도구 체인: 단절된 도구들과 수동 트라이지 (triage) 프로세스는 비효율성을 야기합니다.
• 불완전한 컨텍스트: 분석가들은 공식 심도 점수 (CVSS) 의 부재 또는 지연 및 불완전한 취약점 설명으로 인해 불확실성 하에서 우선순위를 결정해야 하는 경우가 많습니다.
• 현재 접근법의 한계: 전통적인 규칙 기반 시스템은 진화하는 공격자의 행동에 대해 취약하며, 고전적인 머신러닝은 광범위한 특징 공학과 재학습이 필요합니다. 기존 대규모 언어 모델 (LLM) 응용 프로그램은 종종 전체 운영 통합보다는 고립된 하위 작업에 최적화되어 있어, 실제 배포에 필요한 거버넌스와 관찰 가능성이 부족합니다.

2. 방법론

본 논문은 취약점 관리 전체 라이프사이클을 자동화하도록 설계된 모듈식 다중 에이전트 프레임워크인 AgenticVM을 소개합니다. 방법론은 문헌 검토, 데이터 수집, 시스템 아키텍처 설계, 구현, 평가의 다섯 단계로 구성됩니다.

A. 시스템 아키텍처

AgenticVM 은 LangGraph를 사용하는 다중 에이전트 오케스트레이션 레이어를 활용하여, 각 에이전트가 규칙 기반, 학습된 ML, 또는 LLM 기반의 적절한 기법으로 고유한 작업을 처리하도록 조정합니다:

1. 탐지 에이전트 [하이브리드]: Trivy, Snyk, Grype 이 이질적인 소스를 입력받습니다. 표준 스캐너 출력에는 결정론적 규칙 기반 파서를 사용하고, 비정형 로그에는 LLM 기반 파싱을 적용하여 높은 재현율 (recall) 을 보장합니다.
2. 평가 에이전트 [규칙 기반]: 프로젝트 컨텍스트와 로컬 자산 메타데이터를 참조하여 식별된 취약점을 교차 검증함으로써 오탐 (false positives) 을 줄이는 논리적 검증 게이트 역할을 합니다. 생성적 유연성보다는 투명성과 재현성을 우선시합니다.
3. 예측 에이전트 [학습된 ML]: BERT 기반 트랜스포머 모델을 활용하여 취약점 설명에서 누락된 CVSS v3.1 지표 (공격 벡터, 복잡성, 필요 권한, 사용자 상호작용, 범위, 영향 지표) 를 추론합니다. 낮은 신뢰도의 예측은 수동 검토를 위해 플래그가 지정되는 신뢰도 게이팅 정책을 포함합니다.
4. 통합 에이전트 [규칙 기반]: 이전 에이전트들의 출력을 통합하여 데이터 일관성과 완전성을 보장하기 위해 Pydantic 스타일 레코드를 통한 엄격한 스키마 검증을 시행합니다.
5. 우선순위 지정 에이전트 [규칙 기반]: 결정론적 CVSS 기반 계층화 (예: 7.0 임계값) 를 적용하여 취약점을 필터링하고 우선순위 밴드로 매핑합니다. CISA Known Exploited Vulnerabilities (KEV) 와 같은 신호를 불투명한 승수 대신 보강 정보로 통합합니다.
6. 권고 에이전트 [LLM 기반]: 검색 기반 생성 전략을 사용하여 취약점 컨텍스트와 권위 있는 출처 (NVD, CISA KEV) 를 결합하여 대응 조언을 종합합니다. 분석가의 의사 결정을 지원하지만 파괴적 행동에 대해서는 인간의 승인이 필요합니다.

B. 데이터 및 평가

• 데이터셋: 이 프레임워크는 National Vulnerability Database (NVD), European Union Vulnerability Database (EUVD), CISA KEV 카탈로그의 169,883 개 고유 CVE 레코드를 사용하여 훈련 및 평가되었습니다.
• 시나리오: 실험은 원시 스캐너 출력을 사용하여 실제 오픈소스 애플리케이션 (Online Boutique, Train Ticket, Beer Shop) 에서 수행되었습니다.
• 지표: 평가에는 예측 모델에 대한 표준 분류 지표 (정확도, 정밀도, 재현율, F1) 와 에이전트 워크플로우에 대한 운영 지표 (작업 완료 시간 (TCT), 비용 효율성률 (CER), 토큰 소비율 (TCR), 협력 성능 (Cperf)) 가 포함되었습니다.

3. 주요 기여

본 논문은 세 가지 주요 기여를 합니다:

1. AgenticVM 프레임워크: 탐지부터 대응 권고까지 전체 라이프사이클을 자동화하기 위해 LLM 을 기존 보안 도구와 통합하는 모듈식 다중 에이전트 시스템입니다.
2. 하이브리드 파이프라인: 규칙 기반 처리, BERT 기반 CVSS 예측 모듈, 그리고 전문화된 LLM 에이전트의 독창적인 조합입니다. 이 접근법은 위험 범위를 훼손하지 않으면서 신뢰할 수 있는 심도 추정과 알림 노이즈 감소를 가능하게 합니다.
3. 실증적 검증 및 엔지니어링 통찰: 이 연구는 알림 감소 및 우선순위 지정 효율성의 상당한 개선을 입증합니다. 또한 에이전트 분해, 도구–LLM 통합 경계, 실패 격리, 그리고 인간-루프 내 거버넌스에 관한 실용적인 설계 통찰을 도출합니다.

4. 실험 결과

• CVSS 예측 성능: BERT-small 모델은 여덟 가지 CVSS 기본 지표 전반에서 89.3% 의 전체 정확도를 달성했습니다. 특히 공격 벡터, 공격 복잡성, 사용자 상호작용, 범위 예측에서 매우 강력한 성능을 보였습니다.
• 알림 감소: AgenticVM 은 원시 스캐너 출력을 컴팩트하고 실행 가능한 큐로 성공적으로 압축했습니다.
  • Train Ticket 시나리오에서 원시 탐지 건수가 3,983 건에서 82 개의 고우선순위 항목으로 감소했습니다 (97.9% 감소).
  • Online Boutique 시나리오에서 32 개의 탐지가 6 개의 우선순위 지정 항목으로 감소했습니다 (81.3% 감소).
• 기준 비교: 수동 워크플로우 (0% 감소) 및 단일 에이전트 LLM 워크플로우 (Train Ticket 에서 28.5% 와 같은 modest 감소) 와 비교하여 AgenticVM 은 우수한 노이즈 감소와 출처 제어를 입증했습니다.
• 절차 제거 연구: 예측 에이전트를 제거하면 CVSS 데이터가 누락된 취약점의 우선순위 지정이 부족해졌습니다. 평가 에이전트를 제거하면 오탐이 증가했습니다. 우선순위 지정 에이전트를 제거하면 하류 작업과 실행 시간이 증가했습니다.
• 안정성: 반복 실행은 확률적 LLM 워크플로우의 전형적인 미세한 변동을 보이며 견고한 안정성을 나타냈습니다.

5. 중요성과 주장

본 논문은 AgenticVM 을 완전 자동화 대응 엔진이 아닌 분석가 증폭 프레임워크로 위치시킵니다. 그 중요성은 다음과 같습니다:

• 운영 실현 가능성: 에이전트형 AI 가 신뢰할 수 있는 성능을 유지하면서 수동 작업량을 줄이기 위해 실제 보안 운영에 배포될 수 있음을 입증합니다.
• 위험 가시성: 이 시스템은 위험 가시성을 훼손하지 않으면서 알림 피로도를 줄여 팀이 고우선순위 항목에 집중할 수 있게 합니다.
• 거버넌스 및 신뢰: 작업을 전문화된 에이전트로 분해함으로써 프레임워크는 고립, 관찰 가능성, 감사 가능성을 향상시킵니다. 파괴적 행동에 대한 인간 승인을 보장하기 위해 명시적으로 인간-루프 내 거버넌스를 통합합니다.
• 설계 통찰: 이 작업은 환각 위험을 완화하고 재현성을 보장하기 위해 검증 및 우선순위 지정용 결정론적 논리와 LLM 기능 (파싱 및 권고용) 을 어떻게 균형 있게 조정할지에 대한 실용적인 지침을 제공합니다.

저자들은 시스템이 우선순위 지정 효율성을 크게 개선하지만, 향후 연구에서 권고를 샌드박스 테스트, 회귀 검사, 그리고 신뢰 보정에 대한 더 견고한 인간 중심 평가와 연결할 필요가 있다고 결론지었습니다.