Strengthening Human-Centric Chain-of-Thought Reasoning Integrity in LLMs via a Structured Prompt Framework

1. 연구 배경 및 문제 정의 (Problem)

• LLM 의 보안 취약성: 대규모 언어 모델 (LLM) 은 사이버 보안 (위협 탐지, 사고 분석 등) 분야에서 유망한 도구이나, 보안 민감도 분석 작업에서의 신뢰성은 충분히 검증되지 않았습니다. 특히 구조화된 인간 평가 하에서 논리적 도약, 중복 추론, 환각 (Hallucination) 이 발생할 위험이 큽니다.
• 기존 방법론의 한계: 모델 스케일 확장 (Scaling) 이나 파인튜닝 (Fine-tuning) 은 성능을 향상시킬 수 있으나, 비용이 많이 들고 계산 집약적이며 감사 (Audit) 가 어렵습니다.
• 로컬 LLM 의 특수성: 클라우드 기반 LLM 은 내부 정렬 (Alignment) 계층이 있지만, 로컬 배포 LLM 은 명시적인 지시 (프롬프트) 에만 의존하므로 입력의 구조에 따라 추론의 신뢰성과 일관성이 크게 좌우됩니다.
• 핵심 문제: 기존 프롬프트 엔지니어링 연구는 주로 형식 최적화에 집중했으나, 보안 분석가의 인지 논리와 정합성을 맞추고, 증거 기반의 투명하고 추적 가능한 추론 과정을 제어하는 체계적인 프레임워크가 부족했습니다.

2. 제안된 방법론 (Methodology)

이 연구는 로컬 LLM 배포 환경에서 DDoS 공격 탐지 작업을 수행하기 위해 구조화된 프롬프트 엔지니어링 프레임워크를 제안합니다.

• 프레임워크 구조:
  • 4 가지 핵심 차원과 **16 개의 제어 요소 (Factors)**로 구성됩니다.
    1. Context and Scope Control (맥락 및 범위 제어): 역할 지정, 작업 범위 제한, 데이터셋 기반 추론 강제 등.
    2. Evidence Grounding and Traceability (증거 기반 및 추적 가능성): 관찰된 데이터 특성 (Feature) 에 근거한 추론, 증거 인용 요구, 불확실성 보정 등.
    3. Reasoning Structure and Cognitive Control (추론 구조 및 인지 제어): 단계별 추론 요구, 출력 스키마 강제 (관측→증거→결론), 과도한 추론 방지 등.
    4. Security-Specific Analytical Constraints (보안 특화 분석 제약): 공격 분류 체계 (Taxonomy) 정합성, 신호 - 노이즈 우선순위, 시간적 추론 제약 등.
  • 시스템 프롬프트 vs 사용자 프롬프트 분리: 로컬 LLM 의 특성상 시스템 수준의 전역 제어 (S) 와 사용자 수준의 분석 지시 (U) 를 명시적으로 분리하여 적용합니다.
• 실험 설정:
  • 데이터셋: Kaggle 의 공개 DDoS SDN 데이터셋 (400 개 샘플, 23 개 특성) 사용.
  • 모델: Gemma, Llama, Qwen, GPT-OSS 등 다양한 아키텍처와 파라미터 크기 (2B~70B) 의 로컬 LLM 과 ChatGPT-5.1 을 비교 평가.
  • 비교 조건: 비구조화 프롬프트 (Unstructured) vs 제안된 구조화 프레임워크 (Structured) 적용. 또한 인간이 설계한 프롬프트와 ChatGPT 가 생성한 프롬프트를 모두 테스트하여 프레임워크의 구조적 효과를 검증.
  • 평가 지표:
    • 분류 성능: 정확도 (Accuracy), 정밀도 (Precision), 재현율 (Recall), F1 점수.
    • 추론 품질 (인간 평가): 증거 기반 (Evidence Grounding), 충실도 (Faithfulness), 구조 준수 (Structure), 도메인 정합성 (Taxonomy). (두 명의 독립 연구자가 평가, Cohen's Kappa 사용)

3. 주요 기여 (Key Contributions)

1. 구조화된 프롬프트 프레임워크 제안: 로컬 LLM 의 추론 무결성을 강화하기 위해 4 차원 16 요소로 구성된 체계적인 프롬프트 제어 메커니즘을 제시했습니다. 이는 단순한 문장 다듬기가 아닌, 환각 방지와 추론 드리프트 (Drift) 방지를 위한 명시적 제어 장치입니다.
2. 실증적 검증: SDN 트래픽 기반 DDoS 탐지 사례를 통해, 구조화된 프롬프트가 다양한 크기의 모델에서 추론 품질과 탐지 정확도를 동시에 향상시킨다는 것을 입증했습니다.
3. 인간 중심 평가 방법론 도입: 단순한 정답률뿐만 아니라, 보안 분석가에게 설명 가능하고 검증 가능한 추론 과정을 평가하기 위해 인간 평가자 간의 높은 일관성 (Cohen's κ > 0.80) 을 가진 평가 체계를 구축했습니다.

4. 실험 결과 (Results)

• 분류 성능 향상: 구조화된 프롬프트 적용 시 모든 모델에서 정확도, 정밀도, 재현율, F1 점수가 일관되게 향상되었습니다.
  • 작은 모델 (2B4B) 에서 정확도 향상은 약 45% 수준이었으나, 재현율 (Recall) 은 10% 이상 크게 개선되었습니다.
  • 대형 모델 (70B) 에서는 정확도 향상폭이 작아졌으나 (약 1~2%), 여전히 유의미한 개선을 보였습니다.
• 추론 품질의 비약적 개선 (핵심 발견):
  • 분류 정확도보다 **추론 품질 (Reasoning Quality)**의 개선 폭이 훨씬 컸습니다.
  • 작은 모델 (2B~4B): 추론 품질 지표 (증거 기반, 충실도 등) 에서 최대 40% 이상의 개선 효과를 보였습니다.
  • 대형 모델 (20B~70B): 추론 품질에서도 8~12% 정도의 지속적인 개선을 보였습니다.
  • 이는 구조화된 프롬프트가 모델의 '정답'을 맞추는 능력보다 '왜 그런 결론을 내렸는지'에 대한 설명의 신뢰성과 투명성을 극대화함을 의미합니다.
• 파레토 프론티어 분석: 프레임워크 적용 시 모델 성능이 정확도와 추론 품질 모두에서 우측 상단 (최적 영역) 으로 이동함을 확인했습니다. 특히 추론 품질 향상 (수직 이동) 이 정확도 향상 (수평 이동) 보다 더 두드러졌습니다.
• 모델 크기에 따른 민감도: 파라미터가 작은 로컬 모델일수록 구조화된 프롬프트의 효과에 더 민감하게 반응하여, 작은 모델이 큰 모델에 비해 상대적으로 더 큰 성능 향상을 얻었습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 로컬 LLM 의 실용성 확보: 고비용의 파인튜닝 없이도, 프롬프트 구조화만으로 로컬 LLM 이 보안 분석 업무에 필요한 신뢰할 수 있고 검증 가능한 추론 능력을 갖출 수 있음을 입증했습니다.
• 설명 가능한 AI (XAI) 와 보안의 결합: 사이버 보안 분야에서는 단순한 탐지 결과보다 그 근거와 추론 과정이 중요합니다. 본 연구는 LLM 이 보안 전문가의 인지 워크플로우와 정합성을 갖도록 하여, 감사 (Audit) 와 책임 소재 명확화에 기여합니다.
• 미래 방향: 본 프레임워크는 DDoS 탐지 외에도 침입 탐지 (IDS), 멀웨어 분석 등 다른 보안 작업으로 확장 가능하며, 모델 크기에 따른 적응형 프롬프트 구조화 연구가 필요함을 시사합니다.

요약하자면, 이 논문은 LLM 의 보안 적용 시 발생할 수 있는 '블랙박스' 문제를 해결하기 위해, 구조화된 프롬프트를 통해 추론의 무결성과 투명성을 인위적으로 제어하는 방법론을 제시하고, 이를 통해 소규모 로컬 모델에서도 인간 중심의 신뢰할 수 있는 보안 분석이 가능함을 실증했습니다.