Private and Robust Contribution Evaluation in Federated Learning

1. 연구 배경 및 문제 정의 (Problem)

페더레이션 러닝 (FL) 과 기여도 평가의 딜레마

• 배경: 크로스-사일로 (Cross-silo) 페더레이션 러닝은 여러 조직이 원본 데이터를 공유하지 않고 모델을 공동 학습하는 방식입니다. 하지만 개별 클라이언트의 모델 업데이트 (그래디언트) 는 추론 공격을 통해 민감한 정보를 유출할 수 있습니다.
• 보안 조치: 이를 방지하기 위해 안전 집계 (Secure Aggregation, SA) 가 표준적으로 사용됩니다. SA 는 서버가 개별 업데이트를 볼 수 없도록 암호화하여 집계된 모델만 확인하게 합니다.
• 핵심 문제: FL 에서 공정한 보상 분배와 악성/저품질 참여자 감지를 위해 기여도 평가 (Contribution Evaluation, CE) 가 필수적입니다.
  • 기존 방법 (예: Shapley Value, Leave-One-Out) 은 개별 클라이언트의 업데이트를 직접 관찰해야 하므로 SA 와 호환되지 않습니다.
  • SA 환경에서 유일한 대안인 Leave-One-Out (LOO) 은 매우 단순한 근사치일 뿐만 아니라, 각 클라이언트가 자신의 점수를 직접 계산하여 보고해야 하는 자기 평가 (Self-evaluation) 방식입니다. 이는 이기적인 클라이언트가 점수를 조작할 수 있는 치명적인 취약점을 가집니다.

연구 목표:
SA 와 호환되면서도, 공정한 성격을 유지하고 (Fairness), 자기 평가 조작에 강건한 (Robust) 기여도 평가 방법론을 개발하는 것.

---

2. 제안 방법론 (Methodology)

저자들은 안전 집계 (SA) 환경에서 계산 가능한 제한된 정보 (전체 연합 $S=[N]$, 빈 연합 $S=\emptyset$, 그리고 각 클라이언트 $i$ 가 가진 $S=\{i\}$ 및 $S=[N]\setminus\{i\}$ 모델) 만을 사용하여 두 가지 새로운 기여도 점수를 제안합니다.

가. Fair-Private (FP)

• 개념: 기존 LOO(한 명 제외) 와 대칭적인 IOI (Include-One-In, 한 명 포함) 방식을 결합한 점수입니다.
• 수식:
  • $\alpha(i) = [v(M) - v(M-U_i)] + [v(M_0 + U_i) - v(M_0)]$
  • 여기서 첫 번째 항은 LOO(전체에서 $i$ 제외), 두 번째 항은 $i$ 를 빈 집합에 추가한 효과입니다.
  • 최종 점수는 이 값을 정규화하여 전체 가치에 배분합니다.
• 특징:
  • 효율성 (Efficiency), Null Player, 대칭성 (Symmetry) 등 공정한 분배의 3 가지 핵심 속성을 만족합니다.
  • 단점: 여전히 클라이언트 $i$ 가 자신의 업데이트 $U_i$ 를 이용해 점수를 계산하므로 자기 평가에 의존합니다.

나. Everybody-Else (EE)

• 개념: 자기 평가를 배제하고 다른 클라이언트들이 서로를 평가하는 방식을 도입합니다.
• 원리:
  • 클라이언트 $i$ 의 점수는 다른 모든 클라이언트 $j (\neq i)$ 가 계산한 '자신과 $i$ 를 포함한 연합'과 '자신만 있는 연합'의 차이를 통해 간접적으로 추정됩니다.
  • $i$ 는 모든 다른 클라이언트 $j$ 가 계산하는 연합에 항상 포함되므로, $j$ 들의 평가들을 집계하면 $i$ 의 기여도가 자연스럽게 도출됩니다.
• 수식:
  • $\beta(i)$ 와 $\gamma(i)$ 를 다른 클라이언트들이 계산한 차이를 평균화하여 $i$ 의 점수를 산출합니다.
• 특징:
  • 조작 저항성 (Manipulation Resistance): 클라이언트가 자신의 점수를 직접 조작할 수 없습니다.
  • Trade-off: 'Null Player(기여도가 0 인 플레이어는 점수가 0 이어야 함)' 속성은 만족하지 않을 수 있으나, FL 환경에서 능동적인 악성 행위를 막는 데 더 실용적입니다.

---

3. 주요 기여 (Key Contributions)

1. SA 호환성 확보: 안전 집계 (SA) 하에서도 계산 가능한 두 가지 새로운 기여도 점수 (FP, EE) 를 제안했습니다.
2. 이론적 보장:
   • FP: 모든 공평성 속성 (Efficiency, Null Player, Symmetry) 을 만족하며 SA 와 호환됨을 증명했습니다.
   • EE: 자기 평가 의존성을 제거하여 조작에 강건함을 증명했습니다. (단, Null Player 속성은 일부 희생됨).
   • 복잡도: 두 방법 모두 $O(N)$ 의 선형 시간 복잡도를 가지며 계산적으로 효율적입니다.
3. 실증적 검증: 의료 영상 데이터셋 (ISIC2019, PatchChameleon, Brain-MRI) 과 CIFAR10 을 사용하여 다양한 시나리오에서 기존 방법 (LOO, Cosine Similarity) 보다 우수한 성능을 입증했습니다.

---

4. 실험 결과 (Results)

실험은 9 명의 클라이언트가 참여하는 시나리오에서 수행되었으며, Ground Truth 로서 재학습 (Retraining) 을 기반으로 한 정확한 Shapley Value (MR-SV) 와 비교했습니다.

• 순위 상관관계 (Ranking Correlation):
  • 제안된 FP와 EE는 MR-SV 와 매우 높은 스피어만 상관관계 (Spearman correlation, $\phi \approx 0.9$ 이상) 를 보였습니다.
  • 기존 방법인 LOO는 상관관계가 낮았으며 (약 0.6~0.8), Cosine Similarity는 거의 무상관 ($\phi \approx 0$) 에 가까웠습니다.
• 조작 저항성 (Robustness):
  • EE는 클라이언트가 자신의 점수를 직접 조작할 수 없으므로, 이기적인 클라이언트의 점수 조작 공격에 완전히 방어됩니다.
  • 반면 FP 와 LOO 는 자기 평가 방식이라 조작에 취약합니다.
• 하류 작업 성능 (Downstream Tasks):
  • 모델 성능 향상: 기여도 점수를 기반으로 가중치를 부여하여 모델을 집계했을 때, FP 와 EE 는 노이즈가 있는 데이터 (라벨 뒤집기) 를 가진 클라이언트를 효과적으로 억제하고 고품질 기여자를 강조하여 최종 모델 정확도를 크게 향상시켰습니다.
  • 악성 행위 탐지: 악성 클라이언트 (Byzantine) 가 가장 낮은 점수를 받을 확률이 FP 와 EE 에서 MR-SV 에 근접하게 높게 나타났습니다. 즉, 악성 사용자를 효과적으로 식별할 수 있습니다.

---

5. 의의 및 결론 (Significance)

• 실용적 해결책: 이 논문은 페더레이션 러닝의 핵심 난제인 "개인정보 보호 (SA)"와 "공정한 기여도 평가" 사이의 모순을 해결하는 실용적인 솔루션을 제시합니다.
• 시스템 설계의 변화: 기존에 불가능하다고 여겨졌던 SA 환경에서의 정교한 기여도 평가가 가능해졌으며, 이는 의료, 금융 등 민감한 데이터가 필요한 크로스-사일로 FL 배포에 필수적입니다.
• 조작 방지: 특히 Everybody-Else (EE) 방식은 이기적인 클라이언트의 점수 조작을 원천 차단하여, FL 생태계의 신뢰성을 높이는 데 기여합니다.
• 확장성: 계산 복잡도가 낮아 대규모 클라이언트 환경에서도 확장 가능하며, 다양한 데이터 분포 (Non-IID) 에서도 안정적인 성능을 보입니다.

결론적으로, 이 연구는 공정성 (Fairness), 프라이버시 (Privacy), 강건성 (Robustness) 을 동시에 달성할 수 있는 새로운 기여도 평가 패러다임을 제시하며, 현실 세계의 페더레이션 러닝 시스템에 바로 적용 가능한 원칙적인 해결책을 제공합니다.