Evaluation of Variational Quantum Classifiers (VQC) for Cyberattack Detection in the NISQ Era

기술 요약: NISQ 시대의 사이버 공격 탐지를 위한 변분 양자 분류기 평가

문제 정의
본 논문은 NISQ(Noisy Intermediate-Scale Quantum, 잡음이 있는 중간 규모 양자) 시대의 제약 조건 내에서 네트워크 침입 탐지에 양자 기계 학습(QML)을 적용하는 과제를 다룹니다. 변분 양자 분류기(VQC)는 고차원 힐베르트 공간을 통해 이론적으로 비선형 분리 가능성을 제공하지만, 실제 적용은 제한된 큐비트 수와 결맞음(decoherence)과 같은 하드웨어 한계에 의해 저해됩니다. 본 연구의 핵심 질문은 진폭 인코딩(Amplitude Encoding)—클래식 데이터를 제한된 수의 큐비트로 압축하는 방식—을 사용하는 VQC가 NSL-KDD 데이터셋 상의 네트워크 이상 징후를 탐지하는 데 효과적인 솔루션이 될 수 있는지, 아니면 이 인코딩 전략이 구조적인 성능 상한선을 부과하는지에 대해 조사합니다.

연구 방법론
본 연구는 NSL-KDD 데이터셋의 공식 25,192개 레코드 중 20% 연구용 서브셋을 사용하여 80/20 훈련-테스트 분할로 구성된 엄격한 실험 프레임워크를 채택했습니다. 방법론은 다음과 같은 특정 아키텍처 구성에 집중합니다:

• 데이터 전처리: 희소성 문제를 피하기 위해 범주형 특성은 **타겟 인코딩(Target Encoding)**을 통해 변환되었으며, 이후 **주성분 분석(PCA)**을 수행하여 41개의 원래 특성을 약 86.78%의 분산을 유지하는 16개의 주성분으로 축소했습니다.
• 양자 아키텍처: 4-큐비트 VQC를 구축했습니다. 16개의 PCA 성분은 진폭 인코딩($2^4 = 16$)을 통해 4-큐비트 상태 공간에 임베딩되었습니다. 학습 가능한 구성 요소는 5회 반복되는 **RealAmplitudes 안사츠(ansatz)**로 구성되었으며, 결과적으로 24개의 학습 가능한 파라미터를 가집니다.
• 최적화 전략: 최적화 실패와 구조적 표현력(expressibility)의 한계를 구분하기 위해, 본 연구는 근본적으로 다른 두 가지 최적화 도구인 COBYLA(결정론적, 기울기 미사용)와 SPSA(확률적, 잡음 탄력적)를 활용했습니다.
• 비교 벤치마크: 입력 차원 및 복잡성에 대한 아키텍처적 동등성을 보장하기 위해 VQC를 로지스틱 회귀(Logistic Regression) 모델 및 "Tiny MLP"(4개의 은닉 노드를 가진 클래식 신경망)와 비교 벤치마킹했습니다.
• 실험 범위: 실험에는 이진 분류(정상 vs 공격)와 다중 클래스 분류(4개의 그룹화된 패밀리 및 22개의 원시 공격 카테고리)가 포함되었습니다.

주요 결과

1. 이진 분류 성능: 4-큐비트 VQC는 홀드아웃 테스트 세트에서 일관된 88%의 정확도를 달성했습니다. 결정적으로, COBYLA와 SPSA 최적화 도구 모두 정확히 동일한 정확도 지점에서 정체(plateau)되었는데, 이는 성능 한계가 국소 최솟값(local minima)에 빠진 최적화의 문제가 아니라 아키텍처의 고유한 특성임을 나타냅니다.
2. 클래식 벤치마킹: 동일한 입력 압축(16개 PCA 특성) 조건 하에서, 4개의 은닉 노드를 가진 클래식 Tiny MLP는 97%의 정확도를 달성했습니다. 이는 데이터셋이 압축 후에도 선형 분리 가능성을 유지하고 있음을 시사하지만, 비선형 활성화 함수(ReLU 등) 없이 선형 유니터리 변환에 의존하는 양자 모델은 압축된 확률 진폭을 효과적으로 분리해내지 못함을 의미합니다.
3. 다중 클래스 실패 (모드 붕괴): 클래스 균형이 맞춰진 22개 원시 공격 카테고리에 대해 학습하고 인샘플(in-sample) 평가를 수행했을 때, VQC는 9%의 정확도로 붕괴되었습니다. 모델은 클래스를 구별하는 데 실패했으며, 대다수의 입력에 대해 오직 두 가지 특정 클래스('back' 및 'buffer overflow')만을 예측했습니다. 이러한 "퇴행적 모드 붕괴(degenerate mode collapse)"는 진폭 인코딩을 통한 16개 특성의 공격적인 압축이 서로 다른 공격 시그니처를 양자 확률 공간 내에서 구별 불가능하게(높은 충실도로) 만들어, 선형 분리성을 상실하게 만든다는 것을 시사합니다.

핵심 기여

• NISQ IDS를 위한 경험적 베이스라인: 본 논문은 VQC가 이진 이상 탐지에는 기능할 수 있지만, NISQ 제약 조건 하의 정밀한 다중 클래스 침입 탐지에는 심각한 구조적 병목 현상에 직면한다는 것을 보여주는 정량적 베이스라인을 확립했습니다.
• 최적화와 표현력의 격리: 결정론적 및 확률적 최적화 도구가 동일한 성능 상한을 나타냄을 입증함으로써, 본 연구는 성능 한계가 최적화의 부산물이 아니라 진폭 인코딩에 의한 구조적 표현력 문제라는 것에 대한 경험적 증거를 제공합니다.
• "양자 병목(Quantum Bottleneck)"의 정량화: 공격적인 클래식 차원 축소(PCA)와 진폭 인코딩의 결합이 소수 클래스 분리에 필요한 결정적인 분산 성분을 제거할 수 있으며, 이로 인해 클래식 비선형 모델은 여전히 회복할 수 있는 클래스 분리 정보의 손실이 발생할 수 있음을 강조합니다.
• 대안적 패러다임 제안: 본 논문은 진폭 인코딩에서 벗어나 "하나의 특성당 하나의 큐비트" 접근 방식(예: 16-큐비트 VQC)을 사용하는 **각도 인코딩(Angle Encoding)**으로의 전환을 제시합니다. 이 접근 방식은 커 버스 정리(Cover's Theorem)를 활용하여 힐베르트 공간의 차원을 확장하며, 이론적으로 손실이 큰 클래식 압축에 의존하지 않고도 복잡하고 비선형적인 공격 벡터에 대해 선형 분리성을 보장합니다.

의의 및 주장
본 논문은 NSL-KDD 20% 서브셋에 대한 4-큐비트 진폭 인코딩 VQC에 관한 구체적인 연구 질문에 대해 확정적인 답을 제공한다는 점을 겸허히 주장합니다. 본 논문은 모든 양자 분류기에 적용되는 보편적인 수학적 경계를 증명하거나, 잠재적인 혼란 변수(안사츠 깊이나 최적화 예산 등)를 고려하지 않은 채 인코딩을 유일한 실패 원인으로 단정 짓지는 않습니다(단, 인코딩을 가장 유력한 원인으로 식별함).

본 연구의 의의는 현재의 "양자 경제성(Quantum Economy)" 전략—즉, 데이터를 적은 수의 큐비트로 압축하는 방식—이 복잡한 다중 클래스 사이버 공격 탐지에는 불충분하다는 실패 모드를 건설적으로 식별했다는 데 있습니다. 본 논문은 QML의 이론적 약속을 실현하기 위해서는 손실이 큰 클래식 차원 축소를 포기하고, 데이터의 정밀도를 보존하는 확장 가능한 고충실도 인코딩(예: 각도 인코딩)과 시뮬레이션 오버헤드를 우회하기 위한 물리적 하드웨어 실행을 지원하는 아키텍처로 전환해야 한다고 주장합니다.