Exploring CKKS Parameter Trade-offs for Privacy-Preserving Personalized Federated Learning

기술 요약: 개인정보 보호형 개인화 연합 학습을 위한 CKKS 파라미터 트레이드오프 탐색

문제 정의

개인화 연방 학습(Personalized Federated Learning, PFL)은 클라이언트가 로컬의 이질적인 데이터를 공유하지 않고도 맞춤형 모델을 협력적으로 학습할 수 있게 해준다. 그러나 표준적인 PFL은 "정직하지만 호기심 많은(honest-but-curious)" 서버로부터의 추론 공격에 취약하며, 이를 통해 서버는 교환된 모델 업데이트로부터 개인적인 학습 데이터를 재구성하거나 민감한 속성을 추리할 수 있다. Homomorphic Encryption(HE), 특히 CKKS 스킴은 암호화된 업데이트에 대해 서버 측 집계를 가능하게 함으로써 해결책을 제시하지만, PFL에서의 적용에는 체계적인 가이드가 부족하다. 실무자들은 CKKS 파라미터(예: ciphertext moduli)를 구성하여 개인정보 보호, 복호화 정밀도, 그리고 계산 및 통신 효율성 사이의 상충하는 요구사항들 사이에서 균형을 맞추기 위한 원칙적인 프레임워크가 없다는 비판적 간극에 직면해 있다.

방법론

저자들은 CKKS HE 스킴을 PFL 워크플로우에 통합하는 generic 프레임워크인 pFedCKKS를 소개한다. 방법론은 다음과 같다:

1. 시스템 및 위협 모델: 이 프레임워크는 정직하지만 호기심 많은 서버와 정직한 클라이언트를 가진 cross-silo 환경에서 작동한다. 신뢰할 수 있는 리더(또는 제3자)가 CKKS 키를 생성하여, 공개 키와 평가 키를 서버에 배포하고 비밀 키를 클라이언트들에게 배축한다.
2. 워크플로우 통합: 학습 과정은 클라이언트가 글로벌 파라미터를 복호화하고, 로컬 PFL 업데이트(FedFinetune, FedPer, 또는 Ditto 알고리즘 사용)를 수행한 후, 업데이트된 글로벌 파라미터를 암호화하여 서버로 전송하는 과정을 포함한다. 서버는 복호화 없이 이 암호문들의 동형 가중 집계(homomorphic weighted aggregation)를 수행한다.
3. 파라미터 분석: 저자들은 128비트 보안 수준 하에서 CKKS 파라미터에 대한 제약 조건을 도출한다. 이들은 PFL 설정(단 한 번의 homomorphic multiplication이 필요함)의 경우, 문제가 두 가지 값인 내부 프라임(inner prime) ($q_1$)과 외부 프라임(outer prime) ($q_0 = q_2$)을 선택하는 문제로 축소됨을 확인했다.
   • $N = 8192$ (보안을 위해 고정).
   • $L = 1$ (곱셈 깊이).
   • 제약 조건: $q_0 > q_1$ 이고, $\log_2(q_0) + \log_2(q_1) + \log_2(q_2) < 218$.
4. 경험적 평가: 이 프레임워크는 Flower FL 프레임워크와 TenSEAL 라이브러리를 사용하여 구현되었다. 실험은 세 가지 데이터셋(FEMNIST, CelebA, Sentiment140)과 세 가지 PFL 알고리즘에 대해 수행되었다. 연구는 내부 및 외부 프라임 비트 크기를 체계적으로 변화시키며 다음을 측정하였다:
   • 통신(Communication): 대역폭 사용량 및 암호화되지 않은 베이스라인 대비 오버헤드.
   • 계산(Computation): 실행 시간 오버헤드 (암호화/복호화 vs. 로컬 학습).
   • 정밀도(Precision): 파라미터 수준의 오차 ($L_1$ norm) 및 모델 수준의 테스트 정확도.

주요 기여

• pFedCKKS 프레임워크: CKKS를 PFL에 통합한 최초의 generic 프레임워크로, 주요 PFL 전략(FedFinetune, FedPer, Ditto)과의 호환성을 입증하였다.
• 체계적인 파라미터 가이드: PFL을 위한 전체 CKKS 파라미터 제약 조건을 도출하였으며, 선택의 복잡성을 내부 및 외부 프라임을 선택하는 것으로 축소하였다.
• 트레이드오프 분석: 정밀도와 비용 사이의 내재된 트레이드오프를 드러내는 광범적인 경험적 평가를 수행하였다. 연구는 내부 프라임이 복호화 정밀도의 지배적인 요인인 반면, 두 프라임 모두 통신 및 계산 비용에 유의미한 영향을 미친다는 것을 식별하였다.
• 실용적 가이드라인: 효율성과 정확도 사이의 균형을 맞추는 최적의 운영 지점을 식별하였다.

결과

• 통신: 통신 오버헤드는 내부 및 외부 프라임의 크기에 따라 선형적으로 증가한다. 예를 들어, (고정된 40비트 외부 프라임 상황에서) 내부 프라임을 18비트에서 38비트로 증가시키면 100% 이상의 추가 오버헤드가 발생했다. PFL 알고리즘의 선택 또한 절대적인 대역폭에 영향을 미쳤다. FedPer는 공유되는 베이스 레이어만 전송함으로써 FEMNIST에서 오버헤드를 크게 줄였으나, 공유 레이어가 모델의 거의 전부를 차지하는 Sentiment140에서는 오버헤드를 증가시켰다.
• 계산: 계산 오버헤드는 CKKS 연산(암호화/복호화)이 로컬 학습 시간을 압도할 때만 유의미하다. 작은 모델(예: CelebA)이나 작은 암호화된 서브셋(FEMNIST에서의 FedPer)을 사용하는 설정에서는 로컬 학습이 CKKS 오버헤드를 가려 전체 실행 시간 증가가 미미했다. 그러나 CKKS 연산이 지배적인 경우에는 더 큰 프라임이 더 높은 실행 시간을 초래했다.
• 정밀도:
  • 내부 프라임: 이것이 정밀도의 핵심 요소이다. 18비트 내부 프라임은 수치적 불안정성과 오버플로로 인해 심각한 정확도 저하(일부 케이스에서 최대 80% 하락)를 일으켰다. 내부 프라임을 22비트로 늘리면 정확도가 개선되었으나 여전히 관찰 가능한 저하를 보였다. 26비트 이상은 암호화되지 않은 베이스라인과 대등한 모델 정확도를 일관되게 유지했다.
  • 외부 프라임: 파라미터 수준 및 모델 수준 정밀도 모두에 미치는 영향이 미미했다.
  • 수렴: 22비트 내부 프라임을 가진 모델은 장기간 학습 시 (누적된 노이즈로 인해) 정확도 저하를 보였으나, 26비트 이상의 구성은 베이스라인과 유사하게 수렴하였다.

의의 및 권장 사항

본 논문은 CKKS가 PFL을 가능하게 하지만, 나이브한(naive) 파라미터 선택은 과도한 비용이나 사용 불가능한 모델 정확도로 이어질 수 있다고 결론짓는다. 저자들은 실무자를 위한 구체적인 가이드라인을 제공한다:

• 권장 구성: (28, 26, 28) (28비트 외부 프라임, 26비트 내부 프라임)의 ciphertext modulus 구성.
• 근거: 이 구성은 모델 수준의 정확도가 암호화되지 않은 베이스라인과 대등하게 유지되도록 보장하면서 통신 및 계산 오버헤드를 최소화한다. 이는 내부 프라임을 더 높여도 정확도 면에서 한계 효용이 감소하면서 비용만 증가하게 되는 "스윗 스팟(sweet spot)"을 나타낸다.

이 연구는 CKKS 파라미터를 신중하게 튜닝하면 효율적인 성능과 함께 개인정보 보호가 가능한 PFL을 달实现할 수 있음을 검증하며, 개인화된 연합 학습을 위한 개인정보 보호 기술 배포의 중요한 공백을 메운다.