ZK-HybridFL: Zero-Knowledge Proof-Enhanced Hybrid Ledger for Federated Learning

본 논문은 개인 정보 보호를 위한 영지식 증명 (ZKP) 과 DAG 기반 하이브리드 원장을 통합하여 확장성, 보안 및 업데이트 검증 문제를 해결하고, 적대적 공격에 견고하며 낮은 지연 시간으로 빠른 수렴을 달성하는 새로운 분산 연합 학습 프레임워크인 ZK-HybridFL 을 제안합니다.

핵심

1. 배경: 왜 새로운 방식이 필요할까요?

기존의 문제점 (Blade-FL, ChainFL):
지금까지 여러 기관이 데이터를 공유하지 않고 모델을 함께 학습할 때, 중앙 관리자가 없으면 서로를 믿기 어렵다는 문제가 있었습니다.

• 비유: 마을 사람들이 각자 자신의 요리 레시피 (데이터) 를 가지고 모여서 '최고의 국물' (AI 모델) 을 만들려는데, 누군가 가짜 레시피를 넣거나, 이미 다 만든 레시피를 다시 가져와서 시간을 낭비하는 경우가 생깁니다.
• 기존 방식의 한계:
  • Blade-FL: 모든 사람이 경쟁해서 블록을 만드는 방식이라 에너지가 많이 들고, 검증용 '공개된 테스트 데이터'를 쓰다 보니 사생활이 털릴 위험이 있습니다. (비유: 모든 사람이 공개된 시험지로 실력을 검증받으려니, 자신의 비법 레시피가 유출될까 봐 불안합니다.)
  • ChainFL: 여러 팀으로 나누어 작업을 하지만, 여전히 공개된 데이터로 검증하다 보니 '게으른 사람' (이미 만든 레시피를 다시 내는 사람) 이나 '악의적인 사람' (가짜 레시피를 넣는 사람) 을 완벽하게 막지 못합니다.

2. ZK-HybridFL 의 핵심 아이디어: "비밀은 비밀로, 진실은 진실로"

이 연구는 ZK-HybridFL이라는 새로운 시스템을 제안합니다. 핵심은 세 가지 기술을 섞은 것입니다.

① DAG (방향성 비순환 그래프) = "빠른 우편 시스템"

기존의 블록체인이 한 줄로 된 '열차'라면, DAG 는 여러 갈래로 뻗어 있는 **'고속도로 네트워크'**입니다.

• 비유: 모든 사람이 동시에 레시피를 제출할 수 있어, 한 줄로 기다리는 병목 현상이 없습니다. 우편물이 서로 얽히지 않고 빠르게 전달됩니다.

② 제로 지식 증명 (ZKP) = "비밀을 밝히지 않는 증명"

이것이 가장 마법 같은 부분입니다.

• 상황: "내가 진짜로 내 레시피로 국을 끓였어"라고 주장할 때, 레시피 (데이터) 를 보여줄 필요 없이 증명하는 것입니다.
• 비유: 요리사가 "내 비법 레시피로 만든 국물이 정말 맛있어"라고 말하며, 국물 맛을 보는 시식자 (검증자) 는 레시피를 보지 않고도 "이 국물은 진짜 재료로 만든 게 맞아"라고 증명해줍니다.
• 효과: 데이터는 절대 유출되지 않지만, 그 데이터로 학습한 결과가 진짜임을 100% 확신할 수 있습니다.

③ 사이드체인과 오라클 = "전문 심사 위원회"

주요 작업 (DAG) 은 가볍게 처리하고, 복잡한 검증 작업은 별도의 **'전문 심사 위원회 (사이드체인)'**에서 처리합니다.

• 비유: 마을 전체의 업무는 가볍게 처리하되, "이 레시피가 진짜인가?"라는 복잡한 질문은 전문 심사관 (오라클) 들이 모여서 비밀리에 검증합니다. 검증이 끝나면 그 결과만 마을에 알립니다.

---

3. 시스템이 어떻게 작동하나요? (단계별 비유)

1. 학습 (요리): 각 참가자는 자신의 비법 레시피 (개인 데이터) 로 국물 (모델) 을 만듭니다.
2. 증명 (비밀 봉인): 자신의 레시피를 공개하지 않고, "이 국물은 내 레시피로 만들었고, 맛은 이렇다"는 **비밀 증명서 (ZKP)**를 만듭니다.
3. 제출 (우편 발송): 증명서와 국물 샘플을 '우편 시스템 (DAG)'에 보냅니다.
4. 검증 (심사): '심사 위원회 (사이드체인)'가 증명서를 확인합니다.
   • "이 국물이 진짜 레시피로 만들어졌는가?" (ZKP 검증)
   • "이 레시피는 이전에 쓰던 걸 다시 쓴 게 아닌가?" (게으른 사람 방지)
   • "이 레시피는 너무 작은 변화만 준 건가?" (악의적인 사람 방지)
5. 결합 (최종 국물): 검증된 진짜 국물들만 모아 새로운 '최고의 국물' (글로벌 모델) 을 만듭니다.

---

4. 왜 이 방식이 더 좋은가요? (실험 결과)

논문은 이 방식이 기존 방식보다 훨씬 뛰어나다고 증명했습니다.

• 더 빠른 convergence (수렴): 가짜나 게으른 레시피가 걸러지므로, 진짜 맛있는 국물이 더 빨리 완성됩니다.
• 높은 정확도: 악의적인 사람 (Adversarial nodes) 이 20~30% 를 차지해도 시스템이 무너지지 않고, 오히려 더 정확한 모델을 만듭니다.
• 사생활 보호: 데이터는 절대 공개되지 않습니다.
• 효율성: 검증 시간이 매우 짧아 (0.1 초 미만), 실시간으로 작동할 수 있습니다.

5. 결론: "신뢰할 수 있는 협력의 미래"

ZK-HybridFL은 "서로를 믿지 않아도, 서로의 비밀을 지키면서 함께 일할 수 있는" 완벽한 시스템을 제안합니다.

• 기존 방식: "너의 데이터를 보여줘야 내가 너를 믿어줄게." (불편하고 위험함)
• ZK-HybridFL: "네 데이터를 보여주지 않아도, 네가 진짜로 일했음을 증명해줄 수 있어. 그래서 우리는 함께 일할 수 있어." (안전하고 효율적)

이 기술은 의료 데이터, 금융 정보 등 민감한 데이터를 가진 기관들이 서로 경쟁하지 않고 협력하여 더 똑똑한 AI 를 만들 수 있는 길을 열어줍니다. 마치 각자 자신의 비법을 지키면서도, 마을 전체를 위해 더 맛있는 국물을 만들어내는 스마트한 마을과 같습니다.

기술 요약

1. 문제 정의 (Problem Statement)

연방 학습 (Federated Learning, FL) 은 데이터 프라이버시를 보호하면서 분산된 데이터에서 모델을 공동으로 훈련할 수 있게 해주는 중요한 패러다임입니다. 그러나 기존 중앙 집중식 및 탈중앙화 FL 프레임워크는 다음과 같은 심각한 한계를 겪고 있습니다.

• 확장성 및 보안의 트레이드오프: 기존 블록체인 기반 FL(예: Blade-FL, ChainFL) 은 합의 메커니즘 (PoW, PBFT 등) 의 병목 현상으로 인해 확장성이 낮고, 지연 시간이 길어집니다.
• 프라이버시 침해 위험: 모델 업데이트의 무결성을 검증하기 위해 공용 데이터셋 (Public Dataset) 을 사용하는 방식은 데이터 노출 위험을 내포하며, 실제 데이터의 이질성 (Heterogeneity) 을 반영하지 못합니다. 또한, 공격자가 공용 데이터셋에 맞춰 모델을 조작할 수 있는 취약점이 있습니다.
• 적대적 공격 및 비활성 노드:
  • 적대적 노드 (Adversarial Nodes): 그라디언트 역전 (Gradient Inversion) 이나 라벨 추론 공격을 통해 민감한 정보를 유출하거나, 글로벌 모델을 오염시키는 노이즈를 주입할 수 있습니다.
  • 비활성/게으른 노드 (Lazy Nodes): 재훈련 없이 이전 세대의 모델을 다시 제출하여 학습 효율을 떨어뜨립니다.
• 기존 솔루션의 한계:
  • Blade-FL: PoW 기반이라 에너지 소모가 크고, 공용 데이터셋 검증으로 인해 프라이버시와 보안이 취약합니다.
  • ChainFL: 샤딩 구조를 도입했으나 여전히 공용 데이터셋 검증에 의존하며, 크로스-샤드 동기화 오버헤드와 '고아화 공격 (Orphanage Attack)'에 취약합니다.

2. 제안 방법론 (Methodology: ZK-HybridFL)

저자들은 ZK-HybridFL을 제안하며, 이는 지향성 비순환 그래프 (DAG) 원장, 전용 사이드체인, 그리고 영지식 증명 (Zero-Knowledge Proofs, ZKPs) 을 통합한 하이브리드 아키텍처입니다.

A. 핵심 아키텍처

1. 하이브리드 원장 시스템 (Hybrid Ledger System):
   • DAG 원장: 모델 업데이트의 고처리량 (High-throughput) 저장을 위해 IOTA Coordicide 의 변형된 합의 메커니즘을 사용합니다.
   • 사이드체인 (Sidechain): 이벤트 기반 스마트 계약 (EDSCs) 을 실행하여 합의 및 검증 작업을 처리합니다. 이는 메인 원장의 부하를 줄이고 확장성을 높입니다.
2. 영지식 증명 (ZKP) 기반 검증:
   • 프라이버시 보존 검증: 공용 데이터셋 대신 각 노드의 개인 테스트 데이터를 사용하여 모델의 추론 정확도를 검증합니다.
   • 작동 원리: 노드는 로컬 모델 ($W_j$) 과 개인 테스트 데이터 ($D_{test}$) 를 KZG 커밋먼트로 제출한 후, Groth16 SNARK 를 사용하여 "모델이 개인 데이터에 대해 올바른 손실 값을 계산했다"는 사실을 증명합니다. 이 과정에서 데이터나 내부 계산 과정은 노출되지 않습니다.
   • 예측 후 증명 (Predict-then-Prove): 증명 생성 지연을 방지하기 위해, 로컬 훈련을 완료하고 블록을 제출한 후 백그라운드에서 비동기적으로 ZKP 를 생성합니다.
3. 확장된 ZKP 방어 메커니즘 (Extended ZKP Defenses):
   • 단순한 재사용 (Replay) 공격뿐만 아니라, 미묘한 '스텔스' 공격을 막기 위해 추가 증명을 도입합니다.
   • Bulletproof: 모델 업데이트의 노름 (Norm) 이 의미 있는 범위 내에 있는지 검증하여 미세한 노이즈만 추가하는 공격을 차단합니다.
   • Cosine SNARK: 임베딩 공간에서의 변화가 충분히 큰지 (의미 있는 학습이 있었는지) 검증하여 의미 없는 업데이트를 차단합니다.
4. 도전 및 검증 메커니즘 (Challenge Mechanism):
   • 고아화 공격 (Orphanage Attack) 대응: DAG 에서 무효한 블록이 팁 (Tip) 풀에서 제거되어 검증되지 않고 숨겨지는 공격을 방지합니다.
   • 그래프 도달성 분석 (GRA): 의심스러운 블록을 탐지하고, 오라클 위원회 (Oracle Committee) 가 다수결로 무효를 판정하면 해당 블록을 폐기하고 공격자의 스테이크를 몰수 (Slashing) 합니다.

B. 워크플로우

1. 훈련 및 증명: 노드는 로컬 훈련을 수행하고 ZKP 번들을 생성합니다.
2. 블록 제출: DAG 에 블록을 제출하며, 오라클 위원회가 이벤트를 승인하면 사이드체인 스마트 계약이 실행됩니다.
3. 검증 및 합의: 스마트 계약이 ZKP 를 검증하고, DAG 에서 부모 블록을 선택합니다. 검증된 블록만 글로벌 모델 집계 (Aggregation) 에 참여합니다.
4. 집계 및 보상: 스테이크 가중치를 반영하여 글로벌 모델을 업데이트하고, 기여도에 따라 보상을 분배합니다.

3. 주요 기여 (Key Contributions)

1. 하이브리드 원장 시스템 제안: DAG 기반의 확장 가능한 저장소와 이벤트 기반 스마트 계약을 실행하는 사이드체인을 결합하여, 기존 PoW 또는 순수 DAG 시스템의 병목 현상을 해결했습니다.
2. ZKP 기반 보안 검증: 공용 데이터셋 없이도 개인 데이터를 보호하면서 모델 업데이트의 정확성을 공개적으로 검증할 수 있는 체계를 구축했습니다. 이는 프라이버시와 무결성을 동시에 달성합니다.
3. 강건한 도전 메커니즘: 고아화 공격 및 스텔스 공격을 탐지하고 대응하는 메커니즘을 도입하여, 악성 노드와 게으른 노드가 시스템에 미치는 영향을 최소화했습니다.
4. 실험적 검증: Blade-FL 과 ChainFL 과의 광범위한 시뮬레이션을 통해 제안된 프레임워크의 우수성을 입증했습니다.

4. 실험 결과 (Results)

MNIST(이미지 분류) 와 Penn Treebank(텍스트 생성) 태스크를 대상으로 한 실험 결과, ZK-HybridFL 은 기존 방식보다 뛰어난 성능을 보였습니다.

• 수렴 속도와 정확도:
  • Blade-FL: PoW 기반의 오버헤드와 적대적 공격으로 인해 수렴에 실패하거나 정확도가 급격히 떨어졌습니다.
  • ChainFL: 공용 데이터셋 검증의 취약점으로 인해 게으른 노드와 적대적 노드의 영향을 받아 ZK-HybridFL 보다 낮은 정확도와 높은 퍼플렉시티 (Perplexity) 를 보였습니다.
  • ZK-HybridFL: 20% 의 적대적 노드와 10% 의 게으른 노드가 존재하는 환경에서도 가장 빠른 수렴 속도와 최고의 정확도 (Task 1: 98-99%), 최저의 퍼플렉시티를 달성했습니다.
• 확장성 (Scalability):
  • 노드 수가 5 개에서 30 개로 증가할 때, ZK-HybridFL 은 정확도가 0.80 에서 0.98 이상으로 급격히 향상되는 반면, 다른 방식들은 성능이 정체되거나 저하되었습니다.
  • 지연 시간 (Latency): ZK-HybridFL 은 7.7~8.9 초 (Task 1) 로 가장 낮았으며, 처리량 (Throughput) 은 가장 높았습니다.
• 보안성:
  • 고아화 공격, 재사용 공격, 의미 없는 업데이트 공격 등을 효과적으로 차단하여, 무효한 업데이트가 글로벌 모델에 영향을 미치는 것을 방지했습니다.
  • 오라클 위원회의 다수결 합의와 스테이크 몰수 (Slashing) 제도를 통해 악성 노드의 행동을 경제적으로 억제했습니다.

5. 의의 및 결론 (Significance)

이 논문은 프라이버시 보호와 검증 가능성 사이의 긴장 관계를 해결하는 획기적인 솔루션을 제시합니다.

• 프라이버시와 무결성의 동시 달성: 공용 데이터셋에 의존하지 않고도 ZKP 를 통해 모델 업데이트의 무결성을 검증함으로써, 데이터 프라이버시를 완전히 보호하면서도 신뢰할 수 있는 탈중앙화 FL 을 가능하게 합니다.
• 실용적인 확장성: DAG 와 사이드체인의 하이브리드 구조를 통해 높은 처리량과 낮은 지연 시간을 달성하여, 대규모 IoT 및 엣지 환경에서의 적용 가능성을 높였습니다.
• 강건한 보안: 다양한 유형의 적대적 공격과 비활성 노드에 대한 강력한 방어 메커니즘을 통해, 실제 환경에서의 FL 시스템 안정성을 보장합니다.

결론적으로, ZK-HybridFL은 차세대 탈중앙화 연방 학습을 위한 안전하고 확장 가능하며 프라이버시를 존중하는 표준 아키텍처로 평가받으며, 블록체인 기반 머신러닝의 새로운 지평을 열었다고 볼 수 있습니다.