Tri-LLM Cooperative Federated Zero-Shot Intrusion Detection with Semantic Disagreement and Trust-Aware Aggregation

기술 요약: Tri-LLM 협력형 연합 제로샷 침입 탐지

문제 정의
현재의 연합 학습(Federated Learning, FL) 기반 침입 탐지 시스템(IDS)은 현대의 사이버 물리 및 IoT 환경에서 두 가지 결정적인 한계에 직면해 있다. 첫째, 대부분의 시스템은 고정된 레이블 공간과 정적 시그니처에 의존하는 폐쇄 집합(closed-set) 가정 하에서 작동하며, 이는 제로 데이(zero-day) 또는 이전에 본 적 없는 공격 동작을 탐지하는 데 실패한다. 둘째, 기존 프레임워크는 **교정된 불확실성 추정(calibrated uncertainty estimation)**을 위한 원칙적인 메커니즘이 부족하며, 비동일 분포(non-IID) 환경에서의 이질적이고 신뢰할 수 없는 클라이언트 문제를 해결하는 데 어려움을 겪는다. 대규모 언어 모델(LLM)은 강력한 의미론적 추론 능력을 제공하지만, 이를 오픈 월드 보안을 위한 연합 파이프라인에 통합하는 방식, 특히 중앙 집중식 데이터 접근 없이 의미론적 모호성과 클라이언트 신뢰도를 처리하는 방법은 여전히 미개척 영역으로 남아 있다.

방법론
본 논문은 의미론적 지식 생성과 연합 최적화 프로세스를 분리하는 의미론 중심 연합 IDS 프레임워크를 제안한다. 핵심 아키텍처는 세 가지 주요 구성 요소로 이루어진다:

1. Tri-LLM 의미론적 프로토타입 구축:
   본 프레임워크는 LLM을 직접 연합하는 대신, 세 가지 서로 다른 모델인 GPT-4o, DeepSeek-V3, LLaMA-3-8B로 구성된 중앙 집중형 앙상블을 활용하여 의미론적 공격 프로토타입을 생성한다. 각 공격 카테고리에 대해, 모델들은 세 가지 별도의 텍스트 관점(공격 목표, 방어 증상, 적대적 전략)을 처리하여 임베딩을 생성한다. 이들은 공유 임베딩 공간 내에서 공격 개념을 나타내는 단일 의미론적 프로토타입($z_a$)으로 융합된다. 결정적으로, 세 모델 간의 **의미론적 불일치(semantic disagreement, $D_a$)**가 인식론적 불확실성 신호로서 명시적으로 계산된다.

2. 신뢰 기반 연합 집계:
   클라이언트는 저수준 텔레메트리 특징을 LLM 프로토타입에 의해 정의된 공유 의미 공간으로 매핑하는 경량 의미론적 투영 모델($W_i$)을 학습한다. 프레임워크는 클라이언트 업데이트를 **의미론적 정렬 손실(semantic alignment loss)**에 따라 가중치를 부여하는 신뢰 기반 집계 메커니즘을 도입한다. 손실이 낮은(글로벌 프로토타입과 더 잘 정렬된) 클라이언트는 더 높은 신뢰 점수를 받는다. 이 과정은 안정성을 보장하기 위해 시간적 평활화(temporal smoothing)를 포함하며, 드리프트(drift)되거나 침해된 클라이언트의 영향을 완화하기 위해 **신뢰 엔트로피(trust entropy)**를 모니터링하여 수렴 및 신뢰할 수 있는 참여자로의 신뢰 집중도를 감지한다.

3. 제로샷 추론 및 리스크 추정:
   추론 단계에서 유입되는 트래픽은 의미 공간으로 투영되어 언어 유도 프로то타입과 코사인 유사도를 통해 매칭된다. 시스템은 의미론적 유사도 확신도와 모델 간 의미론적 불일치를 결합하여 **제로 데이 점수(Zero-Day Score, ZDS)**를 계산한다. 높은 불일치와 낮은 유사도는 높은 ZDS를 발생시키며, 이는 관측치를 단순히 확신을 가진 잘못된 분류로 강제하는 대신, 교정된 불확실성을 가진 잠재적 제로 데이 위협으로 플래그를 지정한다.

주요 기여

• Tri-LLM 의미론적 감독: 통계적 특징 학습을 넘어 제로샷 속성을 가능하게 하기 위해 언어 유도 의미론적 프로토타입을 통합하는 연합 패러다임을 도입하였다.
• 불일치 인지 리스크 모델링: 모델 간 의미론적 불일치를 인식론적 불확실성의 직접적인 신호로 취급하여, 레이블이 지정된 제로 데이 샘플 없이도 교정된 제로 데이 리스크 추정을 가능하게 하는 새로운 지표를 제시하였다.
• 신뢰 기반 집계: 의미론적 정렬 품질에 따라 클라이언트의 영향력을 동적으로 조정하는 손실 기반 가중치 메커니즘을 통해, non-IID 데이터 및 신뢰할 수 없는 참여자에 대한 견고성을 향상시켰다.

실험 결과
본 프레임워크는 프로토콜 호환 가능한 연합 베이스라인(예: FedAvg 변형) 및 대표적인 FL-IDS 프레임워크를 대상으로 평가되었다. 주요 결과는 다음과 같다:

• 제로샷 성능: 전체 프레임워크는 미학습 공격 패턴에 대해 80% 이상의 제로샷 탐지 정확도를 달 기록하였으며, 이는 유사도 기반 베이스라인 및 폐쇄 집합 연합 방식들을 크게 상회하는 수치이다.
• 불확실성 교정: 의미론적 불일치와 탐지 확신도 사이의 강한 역관계($\partial C / \partial D_a < 0$)가 관찰되었다. 시스템은 불일치를 활용함으로써 제로 데이 리스크를 성공적으로 식별하였으며, 베이스라인 대비 제로 데이 판별력을 10% 이상 개선하였다.
• 수렴 및 안정성: 신뢰 엔트로피 분석은 단조 감소를 보여주었으며, 이는 신뢰가 신뢰할 수 있는 클라이언트로 집중되는 안정적인 수렴을 나타낸다. 의미론적 정렬은 연합 라운드 전반에 걸쳐 꾸준히 개선되었으며, 이는 이질적인 클라이언트들이 원시 데이터 교환 없이도 일관된 글로벌 의미 공간으로 수렴할 수 있음을 확인시켜 준다.
• 자산으로서의 다양성: 연구 결과, 의미론적 다양성(신뢰 엔트로피로 측정)과 탐지 정확도 사이에 약하지만 양의 상관관계가 있음이 발견되었으며, 이는 통제된 이질성이 성능을 저하시키기보다 일반화 성능을 향상시킨다는 것을 시사한다.

의의 및 주장
본 논문은 적응형, 해석 가능하며 프라이버시를 보호하는 IDS를 위한 새로운 패러다임을 구축한다고 주장한다. LLM, FL, 그리고 의미론적 추론을 결합함으로써, 본 프레임워크는 공격 레이블이 불완전하거나 가용하지 않은 "오픈 월드" 문제를 해결한다. 저자들은 이 접근 방식이 설계의 초점을 한계적인 폐쇄 집합 정확도에서 **교정된 오픈 월드 행동(calibrated open-world behavior)**으로 전환하며, 제로 데이 리스크 평가를 위한 원칙적인 방법을 제공한다고 강조한다. 또한, 신뢰 기반 융합을 통해 조절된 의미론적 다양성이 일반화를 위한 체계적 이점으로 작용함을 역설한다. 제안된 시스템은 레이블이 지정된 제로 데이 사례에 대한 재학습 없이도 동적인 위협 환경에서 효과적으로 작동하는 차세대 사이사이버 보안을 위한 이론적 근거를 갖춘 솔루션으로 제시된다.

한계 및 향후 방향
저자들은 현재 구현이 네트워크 보안 의미론에 특화되어 미세 조정되지 않은 사전 학습된 LLM에 의존하고 있으며, 원시 패킷 레벨보다는 의미론적 레벨의 특징에 집중하고 있다는 점을 인정한다. 또한, 신뢰 메커니즘이 '정직하지만 호기심 많은(honest-but-curious)' 클라이언트를 가정하고 있으며, 의미론적 임베딩에 대한 표적 포이즈닝(poisoning) 문제는 완전히 다루지 못했다고 언급한다. 향후 연구로는 강화 학습을 통한 적응형 신뢰 모델링, 멀티모달 텔레메트리 통합, 그리고 실제 산업용 IoT 환경에서의 대규모 배포 연구를 제안하였다.