AdeptHEQ-FL: Adaptive Homomorphic Encryption for Federated Learning of Hybrid Classical-Quantum Models with Dynamic Layer Sparing

AdeptHEQ-FL 기술 요약: 동적 계층 생략을 통한 하이브리드 고전 - 양자 모델의 연방 학습을 위한 적응형 동형 암호화

1. 문제 제기

연방 학습 (FL) 은 비동일 및 비독립 분포 (non-IID) 데이터에서 발생하는 통계적 이질성, 데이터 로컬라이제이션에도 불구하고 모델 업데이트에 내재된 프라이버시 취약점, 그리고 높은 통신/계산 오버헤드라는 세 가지 상호 연결된 도전에 직면해 있습니다. 기존 솔루션들은 종종 이러한 문제들을 개별적으로 해결합니다. 양자 연방 학습 (QFL) 프레임워크는 모델 표현력을 향상시키지만, 종종 형식적인 프라이버시 보장이나 non-IID 데이터에 대한 견고성이 부족합니다. 반면, 차분 프라이버시 (DP) 와 동형 암호화 (HE) 와 같은 프라이버시 보호 기술은 non-IID 환경에서 유용성을 저하시키거나 prohibitive 한 계산 비용을 초래하는 경우가 많습니다. 더 나아가, 효율성 중심의 방법들은 일반적으로 양자 기능을 간과합니다. 하이브리드 고전 - 양자 컨텍스트 내에서 성능, 프라이버시, 효율성을 동시에 최적화하는 통합 프레임워크에 대한 중요한 격차가 존재합니다.

2. 방법론

제안된 프레임워크인 AdeptHEQ-FL은 이러한 격차를 해결하기 위해 네 가지 핵심 구성 요소를 통합합니다:

• 하이브리드 CNN-PQC 아키텍처: 이 모델은 특징 추출을 위한 고전적 합성곱 신경망 (CNN) 과 향상된 특징 처리를 위한 매개변수화 양자 회로 (PQC) 를 결합합니다.
  • 고전적 구성 요소: 3 개의 순차적 합성곱 블록 (합성곱, ReLU, 최대 풀링) 과 이어지는 완전 연결 계층으로 구성된 CNN 이 에지, 질감 등의 국소화된 특징을 추출합니다. 출력은 $f_{CNN} \in \mathbb{R}^{2^n}$ 벡터로 평탄화됩니다.
  • 양자 구성 요소: 고전적 특징은 진폭 임베딩을 통해 4 큐비트 양자 상태로 인코딩됩니다. PQC 는 매개변수화된 단일 큐비트 회전 ($R_z, R_y, R_z$) 과 제어 NOT(CNOT) 얽힘 게이트로 구성된 2 층의 "강한 얽힘 층 (Strongly Entangling Layers)"을 활용합니다. 회로는 파울리-Z 측정을 통해 4 차원 양자 특징 벡터를 출력하며, 이는 이후 고전적 완전 연결 계층에 의해 최종 분류 출력으로 매핑됩니다.
• 차분 프라이버시를 활용한 적응형 정확도 가중 집계: non-IID 데이터를 처리하기 위해 서버는 클라이언트 업데이트를 로컬 검증 성능에 기반하여 집계합니다.
  • 클라이언트는 라플라스 메커니즘을 사용하여 검증 정확도를 프라이버시화하여 라운드당 $(\epsilon, 0)$-차분 프라이버시를 보장합니다.
  • 서버는 이러한 프라이버시화된 정확도에 대해 수치적으로 안정적인 템퍼드 소프트맥스 (tempered softmax) 를 사용하여 집계 가중치를 계산합니다. 이는 노이즈에 대한 견고성을 유지하면서 고성능 클라이언트의 기여를 우선시합니다.
• 선택적 동형 암호화 (HE): 완전 동형 암호화 (FHE) 의 전체 오버헤드를 초래하지 않으면서 프라이버시를 보장하기 위해, 프레임워크는 CKKS 방식을 선택적으로 적용합니다. 전송 및 집계 시 최종 완전 연결 계층 (FC4) 의 매개변수만 암호화됩니다. 다른 계층은 평문으로 집계됩니다. 서버는 가중 합산 후 비밀 키를 사용하여 집계된 FC4 계층을 복호화합니다.
• 동적 계층별 적응형 동결: 통신 오버헤드를 최소화하기 위해 프레임워크는 영향력이 적은 고전 계층을 동결하는 메커니즘을 사용합니다.
  • 계층의 중요성은 라운드 전반에 걸친 매개변수 변화의 L2 노름을 기반으로 점수를 매기며, 지수 이동 평균 (EMA) 을 통해 평활화됩니다.
  • 점수가 고정 임계값 (0.001) 이하인 계층은 동결됩니다 (매개변수가 업데이트되거나 전송되지 않음).
  • 중요하게도, 분산 데이터의 복잡한 패턴을 모델링하는 데 필수적인 적응성과 표현력을 유지하기 위해 양자 계층은 명시적으로 동결 대상에서 제외됩니다.

3. 주요 기여

본 논문은 네 가지 주요 기여를 제시합니다:

1. 새로운 적응형 집계: 차분 프라이버시를 갖춘 클라이언트 검증 정확도와 HE 를 활용하여 non-IID 데이터 분포를 효과적으로 해결하면서 프라이버시를 보장하는 집계 메커니즘.
2. 하이브리드 아키텍처: 연방 설정에서 모델 표현력을 향상시키기 위해 특징 추출을 위한 CNN 과 PQCs 를 통합한 통합 고전 - 양자 모델.
3. 효율적인 동적 계층 생략: 양자 계층의 유연성을 유지하면서 영향력이 적은 고전 계층을 적응적으로 동결하여 통신 오버헤드를 줄이는 기술.
4. 이론적 수렴 분석: 적응형 집계, 계층 생략, 그리고 프라이버시 메커니즘의 상호작용을 고려한 프레임워크의 수렴을 확립하는 형식적 증명.

4. 실험 결과

실험은 non-IID 분포 (Dirichlet $\alpha=0.1$) 하에서 10 개 클라이언트를 사용하여 20 회 통신 라운드 동안 CIFAR-10, SVHN, Fashion-MNIST 데이터셋에서 수행되었습니다.

• 성능: AdeptHEQ-FL(4 큐비트 및 2 층으로 구성) 은 모든 데이터셋에서 표준 FedQNN 과 최첨단 FHE-FedQNN 보다 우수한 성능을 보였습니다.
  • 복잡한 CIFAR-10 데이터셋에서 AdeptHEQ-FL 은 **72.61%**의 정확도를 달성하여, Standard-FedQNN(63.60%) 대비 약 25.43% 향상, FHE-FedQNN(57.89%) 대비 14.17% 향상을 보였습니다.
  • SVHN 과 Fashion-MNIST 에서도 성능 향상이 관찰되었으나, 그 폭은 다소 작았습니다.
• 자원 효율성: 베이스라인 (6 큐비트, 6 층) 에 비해 적은 자원 (4 큐비트, 2 층) 을 사용함에도 불구하고 AdeptHEQ-FL 은 우수한 결과를 달성했습니다. 이는 모든 클라이언트를 동등하게 취급하는 대신 프라이버시화된 정확도에 기반하여 업데이트에 가중치를 부여하는 적응형 집계 전략과 불필요한 통신을 줄이는 계층 동결 메커니즘에 기인합니다.
• 민감도: 양자 자원을 더 줄이는 것 (예: 2 큐비트, 1 층) 은 특히 복잡한 데이터셋에서 성능 저하로 이어졌으며, 이는 복잡한 데이터가 충분한 양자 용량을 필요로 함을 나타냅니다.

5. 중요성 및 주장

본 논문은 AdeptHEQ-FL 이 하이브리드 고전 - 양자 FL 패러다임에서 성능, 프라이버시, 효율성을 통합한 포괄적인 솔루션을 제공한다고 주장합니다. 그 중요성은 다음과 같습니다:

• 시너지 통합: 양자 표현력과 형식적 프라이버시 보장 (DP 및 선택적 HE), 그리고 통신 효율성을 성공적으로 결합.
• non-IID 견고성: 기존 QFL 및 FHE 기반 접근법의 균일 집계 한계를 극복하고, 정확도 가중 집계를 통해 non-IID 데이터를 우수하게 처리함을 입증.
• 실용성: 동적 계층 생략을 통해 통신 오버헤드를 줄이면서도 양자 구성 요소의 적응성을 유지하는 자원 인식형 설계 제공.

인정된 한계:
저자들은 처리 가능성 (tractability) 을 위해 현재 HE 를 최종 계층에만 적용하고 나머지 계층은 암호화하지 않았음을 지적합니다. 이 프레임워크는 시뮬레이션 환경에서 평가되었으며 아직 실제 양자 하드웨어에서 테스트되지 않았습니다. 또한, 수렴 분석은 고도로 비볼록 (non-convex) 환경에서 성립하지 않을 수 있는 매끄러움과 유계 그래디언트 분산에 대한 가정에 의존합니다. 향후 연구는 암호화 범위를 확장하고, 물리적 장치에서 테스트하며, 더 큰 데이터셋으로 일반화하는 것을 제안합니다.