DeepGuard: Secure Code Generation via Multi-Layer Semantic Aggregation

1. 문제 정의 (Problem)

대규모 언어 모델 (LLM) 은 코드 생성 분야에서 뛰어난 성능을 보이지만, 학습 데이터에 포함된 불안전한 코딩 패턴을 그대로 재생성하여 보안 취약점을 초래하는 문제가 있습니다. 기존 보안 강화 기법들은 주로 최종 Transformer 레이어 (Final Layer) 의 은닉 상태 (Hidden State) 를 기반으로 모델을 미세 조정 (Fine-tuning) 하거나 보안 분석을 수행합니다.

그러나 저자들은 이러한 접근 방식이 "최종 레이어 병목 현상 (Final-layer Bottleneck)" 을 겪고 있음을 발견했습니다.

• 병목 현상의 원인: 취약점을 식별하는 중요한 시그널 (신호) 은 모델의 여러 레이어에 분산되어 존재합니다. 특히 중간~상위 레이어에서 가장 명확하게 나타나지만, 최종 레이어로 갈수록 다음 토큰 예측 (Next-token Prediction) 을 최적화하는 과정에서 이러한 보안 관련 시그널이 약화되거나 희석됩니다.
• 결과: 최종 레이어만 의존하는 기존 방법들은 취약점을 효과적으로 감지하거나 방지하는 데 한계가 있습니다.

2. 제안 방법: DEEPGUARD (Methodology)

DEEPGUARD 는 최종 레이어의 한계를 극복하기 위해 분산된 보안 관련 시그널을 활용하는 멀티 레이어 집계 (Multi-Layer Aggregation) 프레임워크를 제안합니다. 이 프레임워크는 크게 두 가지 단계로 구성됩니다.

가. 멀티 레이어 표현 집계 (Multi-Layer Representation Aggregation)

• 핵심 아이디어: 단일 최종 레이어 대신, 모델의 상위 $N$개 레이어 (Intermediate-to-Upper Layers) 에서 추출된 은닉 상태를 결합합니다.
• 어텐션 기반 퓨전 (Attention-based Fusion): 각 토큰 위치에 대해 상위 레이어들의 상태를 스택 (Stack) 하고, 평균화된 상태를 쿼리 (Query) 로 사용하여 어텐션 메커니즘을 적용합니다. 이를 통해 하위 레이어의 구조적 구문 정보와 상위 레이어의 추상적 의미 정보를 동적으로 융합하여, 보안 분석에 가장 민감한 집계된 표현 (Aggregated Representation) 을 생성합니다.

나. 다목적 적응 훈련 (Multi-Objective Adaptation)

• LoRA 기반 미세 조정: 파라미터 효율적인 학습 (LoRA) 을 통해 모델을 적응시킵니다.
• 손실 함수 (Loss Function): 다음 세 가지 목표를 균형 있게 최적화합니다.
  1. 보안 대비 학습 (Security Contrastive Loss): 취약한 코드와 기능적으로 동일한 안전한 코드를 쌍으로 사용하여, 보안 분석기 (Security Analyzer) 가 안전한 코드를 더 높은 점수로 평가하도록 유도합니다.
  2. 유창성 유지 (Fluency Loss): 안전한 코드의 다음 토큰 예측 손실을 통해 언어 모델링 능력을 유지합니다.
  3. 분포 안정화 (KL Divergence): 원본 모델의 분포에서 너무 멀어지는 것을 방지하여 기능적 정확도 (Functional Correctness) 를 보존합니다.

다. 안내된 추론 (Guided Inference)

• 경량화 전략: 추론 시 매 토큰마다 재평가하는 오버헤드를 피하기 위해, 프롬프트 입력에 대해 한 번만 보안 분석을 수행하여 보안 편향 (Security Bias) 을 계산합니다.
• 로짓 보정 (Logit Biasing): 생성 과정에서 이 편향을 모델의 로짓 (Logits) 에 추가하여, 취약한 패턴이 생성될 확률을 낮추고 안전한 패턴을 높입니다. 이는 실시간으로 재평가하지 않아도 되어 매우 효율적입니다.

3. 주요 기여 (Key Contributions)

1. 진단적 증거 제시: 다양한 코드 LLM 에서 취약점 감지 신호가 최종 레이어가 아닌 중간~상위 레이어에서 정점 (Peak) 을 이루고, 최종 레이어로 갈수록 약화된다는 것을 계층별 선형 프로빙 (Linear Probing) 을 통해 실증했습니다.
2. DEEPGUARD 프레임워크 개발: 어텐션 기반의 멀티 레이어 집계와 다목적 훈련을 결합하여, 모델 내부 표현을 활용한 새로운 보안 강화 패러다임을 제시했습니다.
3. 성능 및 일반화 입증: 기존 방법론 (SVEN, SafeCoder 등) 대비 뛰어난 보안 성능과 기능적 정확도를 동시에 달성하며, 학습 데이터에 포함되지 않은 새로운 취약점 유형 (Held-out Vulnerabilities) 에 대해서도 강한 일반화 능력을 보였습니다.

4. 실험 결과 (Results)

다양한 코드 LLM (Qwen2.5-Coder, DeepSeek-Coder, Seed-Coder 등 5 개 모델) 에 대한 광범위한 실험을 통해 다음과 같은 결과를 얻었습니다.

• 보안 및 정확도 동시 향상: 강력한 베이스라인 (SVEN) 대비 평균 11.9% 향상된 "Secure-and-Correct Generation Rate (sec-pass@1)"을 달성했습니다.
  • 예: Qwen2.5-Coder-3B 에서 SVEN 의 sec-pass@1 은 70.47% 였으나, DEEPGUARD 는 80.76% 로 크게 향상되었습니다.
• 기능적 정확도 보존: 보안 강화로 인한 기능 저하 (Catastrophic Forgetting) 가 거의 없었습니다. Pass@1 점수는 원본 모델과 유사하거나 오히려 개선된 수준을 유지했습니다.
• 일반화 능력: 학습 데이터에 포함되지 않은 4 가지 CWE(공통 취약점 목록) 유형에 대한 테스트에서도 높은 보안 점수 (sec@1pass) 를 유지하며, 기존 방법들보다 우수한 전이 학습 능력을 보였습니다.
• 효율성: 추론 시 추가적인 오버헤드는 미미하며 (약 2% 미만), 실시간 코드 생성에 적용 가능한 수준의 지연 시간을 유지했습니다.

5. 의의 및 결론 (Significance)

DEEPGUARD 는 코드 LLM 의 보안 강화 분야에서 단일 레이어 의존성에서 멀티 레이어 시그널 활용으로의 패러다임 전환을 이끌었습니다.

• 기술적 의의: Transformer 모델 내부의 계층적 표현이 보안 취약점 감지에 어떻게 기여하는지에 대한 깊은 통찰을 제공하며, 어텐션 메커니즘을 통해 이러한 분산된 정보를 효과적으로 통합하는 방법을 제시했습니다.
• 실용적 의의: 높은 보안성과 기능적 정확도를 동시에 유지하면서도 추론 오버헤드가 적은 경량화된 솔루션을 제공하여, 실제 개발 환경 (GitHub Copilot 등) 에서의 안전한 코드 생성 도구 구현에 중요한 기여를 합니다.

이 연구는 LLM 기반 코드 생성의 보안 위험을 근본적으로 완화하고, 신뢰할 수 있는 AI 소프트웨어 개발 생태계를 구축하는 데 중요한 이정표가 될 것입니다.