A Survey on Decentralized Federated Learning

이 논문은 2018 년부터 2026 년 초까지의 탈중앙화 연방학습 (DFL) 연구들을 체계적으로 검토하고, 기존 중앙집중식 FL 의 한계를 극복하는 두 가지 아키텍처를 분류하며, 핵심 병목 현상에 기반한 통합 분류 체계를 제시하고 향후 연구 방향을 제안합니다.

핵심

🎓 핵심 주제: "스승 없이도 함께 공부하는 방법"

1. 기존 방식 (중앙 집중형) vs 새로운 방식 (탈중앙화)

• 기존 방식 (중앙 집중형 FL):
  imagine **한 명의 뛰어난 '스승 (중앙 서버)'**이 있습니다. 학생들 (사용자 기기) 은各自的로 공부를 하고, 스승에게만 답안지 (학습 데이터) 를 보냅니다. 스승은 모든 답안지를 모아 정답을 만들고, 다시 학생들에게 돌려줍니다.

  • 문제점: 만약 스승이 갑자기 사라지거나 (시스템 다운), 스승이 사기를 치거나 (보안 위협), 학생 수가 너무 많아 스승이 감당하지 못하면 (확장성 문제) 전체 시스템이 멈춥니다.

• 새로운 방식 (탈중앙화 FL, DFL):
  이제 스승은 없습니다. 대신 학생들끼리 **동료 (Peer)**가 되어 서로 옆에 앉은 친구와만 답안지를 주고받으며 공부합니다.

  • 장점: 한 명이 사라져도 다른 친구들이 계속 공부할 수 있어 시스템이 튼튼합니다. 또한, 모든 답안지를 한곳에 모으지 않으므로 사생활 보호에 더 좋습니다.
  • 단점: 누가 누구와 공부를 할지 정하는 '지도'가 중요하고, 나쁜 친구가 끼어들면 전체가 망가질 수 있는 위험이 있습니다.

이 논문은 바로 이 **'스승 없는 동료 학습 시스템'**이 어떻게 발전해 왔는지, 그리고 앞으로 어떤 문제들을 해결해야 하는지를 2018 년부터 2026 년까지의 연구들을 분석하여 정리했습니다.

---

🗺️ 두 가지 주요 길: "일반적인 길" vs "블록체인 길"

저자들은 탈중앙화 학습을 크게 두 가지 방식으로 나눕니다.

1. 일반적인 분산 학습 (TD-FL):

   • 비유: 친구들끼리 직접 대화하는 방식입니다.
   • 특징: 기술적으로 가볍고 빠릅니다. 하지만 서로가 서로를 얼마나 신뢰할지, 누가 공부를 안 하고 있는지 ('게으른 친구') 를 감시하기 어렵습니다.
   • 최근 동향: 최근 연구들은 주로 '통신 속도 개선', '데이터 편향 해결', '이론적 증명' 등에 집중하고 있습니다.

2. 블록체인 기반 학습 (BC-FL):

   • 비유: 모든 거래를 공적인 장부 (블록체인) 에 기록하는 방식입니다.
   • 특징: 누가 무엇을 했는지 투명하게 기록되어 조작이 어렵고, 보상을 주는 시스템 (인센티브) 을 만들기 쉽습니다.
   • 단점: 장부를 기록하고 검증하는 데 시간이 걸려 속도가 느리고 비용이 많이 듭니다. 최근 연구 동향은 이 방식이 너무 무거워서, 특정 목적 (감시나 보상) 에만 쓰이는 것으로 변하고 있습니다.

---

⚠️ 해결해야 할 5 가지 큰 난관

이 논문은 탈중앙화 학습이 성공하려면 다음 5 가지 문제를 해결해야 한다고 강조합니다.

1. 고장 나면 어떡하지? (내결함성)

   • 비유: 친구들 중 누군가 갑자기 전화를 끊거나 (오프라인) 인터넷이 끊기면, 그 친구와 연결된 다른 친구들도 공부를 못 할까요?
   • 해결: 네트워크가 끊겨도 다시 연결될 때까지 공부를 이어갈 수 있는 튼튼한 연결 고리가 필요합니다.

2. 통신 과부하 (대역폭)

   • 비유: 친구 100 명이 모두 서로에게 답안지를 보내면 우편물이 너무 많아 우체국이 마비됩니다.
   • 해결: 필요한 정보만 잘라내서 보내거나, 가까운 친구끼리만 소통하게 하는 '지능적인 길 찾기'가 필요합니다.

3. 데이터의 차이 (이질성)

   • 비유: 어떤 친구는 '수학'만 잘하고, 어떤 친구는 '영어'만 잘합니다. 서로 다른 데이터를 가지고 있으면, 함께 공부해도 정답이 하나로 모이기 어렵습니다.
   • 해결: 서로 다른 배경을 가진 친구들이 서로의 강점을 이해하고 조화롭게 공부할 수 있는 방법이 필요합니다.

4. 나쁜 친구들 (보안 및 사생활)

   • 비유: 일부 친구가 고의로 틀린 답을 내거나, 다른 친구의 답을 훔쳐보려고 합니다.
   • 해결: 나쁜 친구를 걸러내는 '신용 점수 시스템'이나, 답안지를 보지 않고도 정답을 합칠 수 있는 '비밀 암호 기술'이 필요합니다.

5. 왜 공부를 해야 하지? (인센티브)

   • 비유: "내가 열심히 공부해도 다른 친구들이 다 가져가면 어떡하지?"라고 생각하면 아무도 공부를 안 합니다.
   • 해결: 열심히 공부한 친구에게 보상을 주는 공정한 시스템이 있어야 합니다.

---

🔮 미래 전망: 무엇을 배웠고, 어디로 가야 할까?

이 논문은 다음과 같은 중요한 교훈을 남깁니다.

• 블록체인은 만능 열쇠가 아니다: 블록체인이 무조건 좋은 것은 아닙니다. 속도가 느리고 비용이 비싸기 때문에, 정말로 '투명성'이나 '보상'이 필요할 때만 사용하는 것이 좋습니다.
• 보안은 더 복잡해졌다: 중앙 서버가 없으니, 나쁜 친구가 특정 지역 (네트워크 토폴로지) 에 몰려서 공격할 수 있습니다. 이를 막기 위한 새로운 방어 전략이 필요합니다.
• 사생활 보호의 새로운 기준: 중앙 서버가 없으니, 내 정보가 '서버'가 아닌 '이웃 친구들'에게 노출됩니다. 이를 고려한 새로운 사생활 보호법이 필요합니다.
• 보상 시스템의 중요성: 사람들이 자발적으로 참여하도록 만드는 '동기 부여'가 없으면 시스템이 무너집니다.

💡 결론

이 논문은 **"중앙의 지휘자가 사라진 세상에서, 어떻게 하면 서로 다른 기기들이 신뢰하고 협력하여 똑똑한 AI 를 만들 수 있을까?"**에 대한 답을 찾기 위한 지도입니다.

앞으로 우리는 단순히 기술을 개발하는 것을 넘어, 누가, 어떻게, 왜 참여할지에 대한 사회적, 기술적 규칙을 함께 만들어가야 할 것입니다. 마치 거대한 도시에서 경찰 (중앙 서버) 이 없이도 시민들끼리 서로 신뢰하며 평화롭게 살아가는 방법을 찾는 것과 같습니다.

기술 요약

논문 요약: 탈중앙화 연방 학습 (DFL) 에 대한 종합 조사

1. 문제 정의 (Problem)

기존의 연방 학습 (Federated Learning, FL) 은 중앙 서버가 클라이언트와 모델을 조정하는 클라이언트 - 서버 구조를 기반으로 합니다. 이 방식은 다음과 같은 심각한 한계를 가지고 있습니다.

• 단일 장애점 (Single Point of Failure): 중앙 서버가 고장 나면 전체 시스템이 마비됩니다.
• 신뢰 및 보안 문제: 중앙 서버는 모든 클라이언트의 로컬 모델을 접근할 수 있어, 모델 역전 (Model Inversion), 멤버십 추론 (Membership Inference), 데이터 재구성 공격 등의 위험에 노출됩니다. 또한 서버 자체가 악의적으로 행동할 경우 모델 중독 (Poisoning) 공격이 가능합니다.
• 확장성 및 통신 병목: 수백만 대의 디바이스가 연결될 경우 서버의 통신 부하와 지연 시간이 급증합니다.

이러한 문제를 해결하기 위해 **탈중앙화 연방 학습 (Decentralized FL, DFL)**이 제안되었습니다. DFL 은 중앙 조정자를 제거하고 피어 - 투 - 피어 (P2P) 네트워크를 통해 노드들이 서로 직접 모델을 교환하고 집계합니다. 그러나 이 방식은 새로운 도전 과제 (네트워크 토폴로지 의존성, 이질적인 데이터 분포, 악성 노드의 확산, 인센티브 부재 등) 를 야기합니다.

2. 방법론 (Methodology)

이 논문은 2018 년부터 2026 년 초까지의 DFL 관련 문헌을 체계적으로 검토하기 위해 PRISMA (Systematic Reviews and Meta-Analyses) 가이드라인을 따랐습니다.

• 검색 및 선별: IEEE Xplore, ScienceDirect, ACM Digital Library, Google Scholar 등에서 키워드 검색을 수행했습니다.
• 포함/제외 기준: 중앙 집중식 조정을 제거하고 피어 간 집계를 수행하는 진정한 탈중앙화 아키텍처를 제안한 논문만 포함했습니다. (단순 서버 기반 FL 의 개선안은 제외)
• 분석 프레임워크: 선정된 35 편의 논문을 두 가지 주요 아키텍처 패밀리로 분류하고, 각 연구가 해결하려는 핵심 병목 현상 (Challenge) 에 따라 체계화했습니다.

3. 주요 기여 (Key Contributions)

이 논문은 DFL 연구의 지형을 명확히 하고 향후 연구 방향을 제시하는 다음과 같은 기여를 합니다.

1. 통합된 분류 체계 (Unified Taxonomy):
   기존 설문조사들이 특정 축 (보안, IoT, 블록체인 등) 에만 집중했던 것과 달리, 본 논문은 DFL 접근 방식을 두 가지 주요 패밀리로 분류하고 이를 공통의 '도전 과제 (Challenges)'에 매핑하는 통합 분류 체계를 제안했습니다.

   • 전통적 분산 FL (TD-FL): 표준 분산 컴퓨팅 기술 (P2P 네트워크, 그래프 기반 알고리즘 등) 을 활용한 방식.
   • 블록체인 기반 FL (BC-FL): 블록체인 기술 (원장, 합의 알고리즘, 스마트 계약) 을 활용하여 조정과 감사 기능을 구현한 방식.

2. 도전 과제 중심의 체계적 분석:
   두 가지 패밀리를 다음과 같은 핵심 병목 현상별로 분석했습니다.

   • 내결함성 (Fault Tolerance): 노드 이탈, 연결 불안정성 대응.
   • 대역폭 활용 (Bandwidth Utilization): 통신 오버헤드 감소 및 압축 기법.
   • 데이터 이질성 (Data Heterogeneity): Non-IID 데이터로 인한 클라이언트 드리프트 (Client Drift) 해결.
   • 적대적 공격 및 보안 (Adversarial Attacks): 모델/데이터 중독, 악성 노드 탐지 및 방어.
   • 인센티브 메커니즘 (Incentive Mechanisms): 참여 유도 및 무임승차 (Free-riding) 방지.

3. 블록체인의 역할에 대한 통찰:
   블록체인이 DFL 의 '기본 인프라'로 자리 잡기보다는, 감사 가능성 (Auditability), 책임 소재 명확화, 인센티브 정산 등 특정 요구사항이 있을 때만 선택적으로 도입되는 '옵션'으로 진화하고 있음을 시사합니다. TD-FL 이 최근 연구 (2023-2025) 에서 더 활발하게 연구되는 반면, BC-FL 은 2019-2022 년에 집중되었다가 상대적으로 감소한 경향을 보였습니다.

4. 평가 관행의 한계 및 격차 지적:
   대부분의 연구가 MNIST, CIFAR-10 등 소규모 벤치마크와 단순한 수평 분할 (Horizontal Partitioning) 데이터에 의존하고 있음을 지적하며, 실제 환경 (이질적 리소스, 동적 토폴로지, 복잡한 Non-IID) 에 대한 평가의 부재를 강조했습니다.

4. 주요 결과 및 발견 (Results & Findings)

• TD-FL 의 진화: 통신 효율성, 이질성 처리, 이론적 증명에 중점을 둔 연구가 지속적으로 증가하고 있습니다. (예: GossipFL, Def-KT, PANM 등)
• BC-FL 의 특성: 보안, 감사 가능성, 인센티브 메커니즘 구현에 강점이 있으나, 합의 알고리즘의 지연 시간과 저장/통신 오버헤드가 큰 단점으로 작용합니다. (예: FED-BC, DeepChain, BlockFL 등)
• 보안 위협의 변화: DFL 환경에서는 중앙 서버가 없기 때문에, 악성 노드가 이웃 노드를 통해 공격을 확산시킬 수 있으며, 각 노드가 로컬 데이터를 검증 세트로 사용할 수 있다는 점 (BytoChain 등) 이 새로운 방어 기법의 가능성을 열었습니다.
• 인센티브의 부재: TD-FL 연구에서는 인센티브 메커니즘이 거의 다루어지지 않았으며, BC-FL 에서는 주로 데이터 양이나 정확도에 기반한 보상 체계가 제안되었으나, 전략적 악용 (Strategic Manipulation) 에 대한 방어는 미흡합니다.

5. 의의 및 향후 연구 방향 (Significance & Future Directions)

이 논문은 DFL 연구자들이 현재 기술의 성숙도와 한계를 파악하고, 실제 배포 가능한 시스템을 설계하는 데 중요한 로드맵을 제공합니다.

• 토폴로지 인식 위협 모델: 네트워크 구조 (토폴로지) 를 고려한 중독 및 백도어 공격에 대한 체계적인 평가 기준이 필요합니다.
• 탈중앙화된 프라이버시 개념: 중앙 서버가 없는 환경에서의 데이터 노출을 반영한 새로운 프라이버시 정의와 측정 지표 개발이 필요합니다.
• 강인한 인센티브 메커니즘: 조작에 강하고, 프라이버시를 보호하며, 토폴로지를 고려한 인센티브 설계가 시급합니다.
• 글로벌 모델의 재정의: DFL 환경에서는 단일 글로벌 모델이 항상 달성 가능한 목표가 아닐 수 있으므로, 클러스터별 모델이나 개인화된 솔루션을 목표로 하는지 명확히 해야 합니다.
• 실제 환경 평가: 정적인 실험 환경을 넘어, 노드 이탈 (Churn), 비동기 통신, 동적 토폴로지 변화가 있는 실제 시나리오에서의 평가 프로토콜이 표준화되어야 합니다.

결론적으로, 이 논문은 DFL 이 중앙 집중식 FL 의 대안으로서 가진 잠재력과 복잡성을 명확히 조명하며, 보안, 프라이버시, 시스템 효율성 간의 균형을 맞추기 위한 향후 연구의 방향성을 제시합니다.