Quantum Machine Learning in Cybersecurity: A Hybrid Convolutional Neural Network with Skip Connections for QR Code Phishing Detection

기술 요약: QR 코드 피싱 탐지를 위한 하이브리드 양자-고전 CNN

문제 정의
QR 코드 피싱("quishing")은 QR 코드의 불투명성을 악용하여 전통적인 이메일이나 링크 기반 방어 체계를 우회하여 악성 페이로드를 전달하는 심각한 사이버 보안 위협으로 부상했습니다. 현재의 대응책은 대부분 사후 대응적이며 결함이 많습니다. 즉, URL을 추출하기 위해 QR 코드를 디코딩한 후 블랙리스트 확인이나 평판 분석을 수행하는 방식에 의존합니다. 이러한 접근 방식은 목적지가 제로 데이(zero-day) 도메인이거나, URL이 난독화되어 있거나, 스캔 장치가 네트워크 연결이 없는 경우(예: 오프라인 키오스크) 실패합니다. 또한, 구조적 메타데이터 기반 탐지는 코드가 물리적으로 손상되거나 의도적으로 변형된 경우 작동하지 않습니다. 이미지 기반 분류는 디코딩이 필요 없는 대안을 제공하지만, 순수 고전 딥러닝 모델은 보안 연구에서 흔히 나타나는 라벨링된 소규모 데이터셋에 대해 과적합(overfitting)되는 경향이 있습니다.

방법론
본 연구는 디코딩 단계를 완전히 생략하고 시각적 픽셀 데이터로부터 직접 QR 코드를 분류하는 **하이브리드 양자-고전 합성곱 신경망(HQCNN)**을 제안합니다. 아키텍처는 세 가지 주요 구성 요소로 이루어집니다:

1. 고전 합성곱 백본(Classical Convolutional Backbone): 5개 층의 CNN이 48×48 픽셀의 그레이스케일 QR 이미지를 처리하여 계층적 공간 특징을 추출합니다. 추출된 특징은 완전 연결 층(fully connected layer)과 tanh 활성화 함수를 통해 양자 각도 임베딩(angle embedding)에 적합하도록 $[-1, 1]$ 범위 내로 투영됩니다.
2. 변분 양자 회로(Variational Quantum Circuit, VQC): 투영된 고전적 특징은 매개변수화된 양자 회로의 입력으로 사용됩니다. 이 회로는 각도 임베딩(특징을 $RY$ 게이트의 회전 각도로 인코딩)을 사용하며, 이후 $L$개의 변분 층이 이어집니다. 각 층은 모든 큐비트에 대한 학습 가능한 $RY$ 및 $RZ$ 회전과 결합된 CNOT 얽힘 사다리(entangling ladder)로 구성됩니다. 회로는 파울리-Z 기대값(Pauli-Z expectation values)을 출력하며, 이는 고전적 분류 헤드로 전달됩니다.
3. HybridSkip 아키텍처: 새로운 변형인 **잔차 바이패스(residual bypass, skip connection)**를 도입합니다. 이 설계에서는 고전적 백본 특징($z$)이 양자 처리 경로($q$)와 병렬로 분류 헤드에 직접 전달됩니다. 두 스트림은 최종 분류 층 이전에 결합($h = [q; z]$)됩니다. 이 설계는 그래디언트 흐름을 보존(바렌 플래토(barren plateau) 위험 완화)하고, 저차원 양자 인코딩 중에 손실될 수 있는 공간적 문맥을 유지하며, 넓은 보상용 완전 연결 층의 필요성을 제거하는 것을 목표로 합니다.

모델은 1,000개의 균형 잡힌 QR 코드 이미지 코퍼스(정상 500, 악성 500)를 사용하여 층화된 5-겹 교차 검증(stratified five-fold cross-validation)과 홀드아웃 테스트 세트로 평가되었습니다. 여섯 가지 구성이 비교되었습니다: 두 개의 고전적 베이스라인, 두 개의 표준 HQCNN, 그리고 큐비트 수(4 vs 6)와 변분 층 수(3 vs 4)를 달리한 두 개의 HybridSkip 변형입니다.

주요 기여

1. 최초의 디코딩 없는 양자 시각 분류기: 본 연구는 디코딩이나 네트워크 연결 없이 오직 픽셀 데이터만으로 작동하는 QR 코드 피싱 탐지를 위한 최초의 하이브리드 양자-고전 아키텍처를 제시합니다.
2. HybridSkip 설계: 하이브리드 양자-고전 네트워크에 잔차 바이패스를 도입하여, 분류기가 양자 특징과 함께 가공되지 않은 고전적 특징에 접근할 수 있도록 함으로써 그래디언트 흐름과 매개변수 효율성을 개선했습니다.
3. 매개변수 효율적 벤치마킹: HybridSkip 아키텍처가 고전적 베이스라인보다 현저히 적은 학습 가능한 매개변수를 사용하면서도 우수한 성능을 달로 달성함을 보여주는 엄격한 매개변수 정규화 비교를 수행했습니다.
4. 통계적 엄밀성: 단순한 점 추정치를 넘어 소규모 데이터셋에서의 개선 사항을 검증하기 위해 t-검정, 윌콕슨 부호 순위 검정(Wilcoxon signed-rank test), 효과 크기 분석(Cohen's d), 신뢰 구간을 포함한 쌍체 통계 테스트를 적용했습니다.

결과
HybridSkip-6q4L 구성(6 큐비트, 4 변분 층)이 정확도와 모델 크기 사이에서 가장 유리한 트레이드오프를 보였습니다:

• 성능: 교차 검증 F1-스코어 0.694 ± 0.027 및 재현율(recall) 0.710 ± 0.031을 달성했습니다. 홀드아웃 테스트 세트에서는 F1-스코어 0.715, 재현율 0.724에 도달했습니다.
• 비교: 가장 강력한 고전적 베이스라인(Classical-h8)과 비교했을 때, HybridSkip-6q4L은 재현율을 6.8%, F1-스코어를 3.3% (교차 검증 기준) 향상시켰습니다.
• 효율성: 이 모델은 21,015개의 학습 가능한 매개변수를 사용하였으며, 이는 고전적 베이스라인(33,673개) 대비 37.6% 감소한 수치입니다.
• 유의성: 통계적 분석 결과, 재현율 향상은 유의미함(p < 0.05)이 확인되었으며 큰 효과 크기(Cohen's d > 0.8)를 보였습니다. 이 모델은 정확도 대비 매개변수 수의 파레토 프런트(Pareto front)를 차지합니다.

의의 및 주장
본 논문은 매개변수 효율적인 하이브리드 아키텍처가 NISQ(잡음이 있는 중간 규모 양자) 시대의 자원이 제한된 엔드포인트(예: 모바일 기기, 임베디드 리더)를 위한 선제적 퀴싱(quishing) 방어의 실행 가능한 경로를 제공한다고 주장합니다.

주요 주장은 다음과 같습니다:

• 오프라인 기능: 모델은 네트워크 연결 없이 작동하며, 이는 URL 기반 방어 체계의 결정적인 실패 모드를 해결합니다.
• 그래디언트 보존: 스킵 연결은 하이브리드 모델의 공통 문제인 양자 병목 현상에서의 그래디언트 감쇠를 성공적으로 완화합니다.
• 일반화 능력: 양자 특징 맵은 힐베르트 공간의 암시적 고차원 특징 매핑 덕분에, 유사한 용량의 고전 모델보다 제한된 데이터(1,000개 샘플)로부터 더 효과적으로 일반화할 수 있습니다.
• 배포 준비성: 현재 양자 구성 요소는 시뮬레이션된 상태이지만, 매개변수 절감 효과는 오늘날의 고전적 하드웨어에서도 실현 가능하며, 아키텍처는 미래의 물리적 양자 장치와 호환되도록 설계되었습니다.

저자는 절대적인 성능에 대해서는 겸허한 태도를 유지하며, 시각적 분류가 페이로드 문자열이 없는 더 어려운 문제이기 때문에 F1-스코어(0.63–0.72)가 URL 기반 탐지기보다 낮다는 점을 인정합니다. 저자는 주된 기여가 URL 기반 방법론을 능가하는 것이 아니라, 고전적 이미지 기반 베이스라인 대비 재현율과 효율성을 개선한 것임을 강조합니다. 향후 과제로 더 크고 다양한 데이터셋 확보, 실제 하드웨어를 위한 노이즈 인식 학습, 그리고 적대적 강건성(adversarial robustness) 테스트가 필요함을 명시했습니다.