기술적 요약: 해석 가능한 연방 학습을 위한 방향성

문제 제기

연방 학습 (FL) 은 여러 데이터 소유자 간에 로컬 개인 데이터를 노출하지 않고 협력적 모델 훈련을 가능하게 합니다. 그러나 금융 및 의료와 같은 임무 수행이 중요한 분야에서 FL 의 광범위한 채택은 해석 가능성의 부재로 인해 저해받고 있습니다. 현대의 FL 모델은 종종 수백만 개의 매개변수를 가진 복잡하고 비선형적인 아키텍처 (예: 심층 신경망) 에 의존하여, 이해관계자들에게 내부 메커니즘과 의사결정 과정을 불투명하게 만듭니다. 이러한 불투명성은 신뢰를 훼손하고, 자동화된 의사결정에 대해 "의미 있는 설명"을 의무화하는 GDPR 과 같은 규정 준수를 복잡하게 만듭니다.

중앙 집중식 학습을 위한 해석 가능한 AI 가 존재하지만, 다음과 같은 이유로 이러한 개념을 FL 에 적용하는 것은 훨씬 더 어렵습니다:

1. 데이터 비가시성: 로컬 데이터는 서버 및 다른 클라이언트에게 숨겨져 있습니다.
2. 자원 제약: 클라이언트는 종종 제한된 연산 및 통신 능력을 가진 장치에서 작동합니다.
3. 학제 간 복잡성: 솔루션은 기계 학습, 최적화, 암호학, 그리고 인간 요소를 통합해야 합니다.

현재 **해석 가능한 연방 학습 (IFL)**의 이러한 특정 과제를 다루는 포괄적인 조사는 존재하지 않습니다.

방법론: 제안된 분류 체계

본 논문은 IFL 에 대한 최초의 포괄적인 조사와 고유한 분류 체계를 제안합니다. 이 프레임워크는 FL 훈련 과정, 이해관계자 분석, 그리고 개인정보 보호 요구 사항을 중심으로 구조화되어 있습니다.

1. 정의 및 범위

저자들은 클라이언트 선택을 넘어 해석 가능성의 정의를 확장합니다:

• 정의: FL 프로토콜 하에서 모델 및 데이터와 관련된 행동을 다른 당사자에게 이해하기 쉬운 용어로 설명하거나 제시할 수 있는 능력 (서버 또는 클라이언트 등 모든 당사자).
• 이해관계자:
  • 직접: FL 서버 (클라이언트 데이터 품질, 모델 행동, 보상 할당을 이해해야 함) 및 FL 클라이언트 (선택 기준과 보상 근거를 이해해야 함).
  • 간접: 연구자, 규제 기관, 정책 입안자 (디버깅 통찰력과 규제 준수 검증 필요).
• 개인정보 보호 대상:
  • 서버에 대해: 원시 데이터 및 데이터 분포 보호.
  • 클라이언트에 대해 (VFL 의 경우): 다른 클라이언트에게 노출되지 않도록 레이블 보호.
• 위협 모델: 반정직한 참여자 (프로토콜을 따르지만 데이터를 추론함) 및 악의적 참여자 (모델을 손상시킴).
• 개인정보 보호 기술: 차등 프라이버시 (DP), 동형 암호화 (HE), 안전한 다자간 계산 (MPC).

2. IFL 접근법의 분류 체계

본 조사는 기존 연구들을 FL 수명주기의 다섯 단계로 분류합니다:

A. 해석 가능한 클라이언트 선택

집적을 위해 고품질 클라이언트를 식별하는 방법.

• 중요도 기반:
  • 모델 편차: 전역 업데이트로부터의 로컬 업데이트 편차를 사용하여 (예: Krum, Bulyan) 노이즈가 있거나 악의적인 클라이언트를 탐지합니다.
  • 손실 기반: 로컬 손실 또는 손실 기반 유틸리티를 통해 중요도를 정량화합니다.
  • 기울기 노름 기반: 손실만 사용하는 것보다 더 정확한 측정을 위해 기울기 노름 (또는 상한) 을 사용합니다.
• 영향도 기반:
  • 재훈련: 성능 영향을 측정하기 위해 클라이언트를 교란/제거합니다 (계산 비용이 많이 듦).
  • 영향 함수: 전체 재훈련 없이 영향을 근사하기 위해 2 차 최적화 (Hessian) 를 사용합니다. 최근 연구들은 복잡도를 $O(p^3n)$에서 $O(np)$로 줄이기 위해 Hessian 벡터 곱 (HVP) 을 활용합니다.

B. 해석 가능한 샘플 선택

클라이언트의 로컬 데이터셋 내에서 특정 데이터 샘플을 선택하는 방법.

• 논리 기반: 업데이트를 집계하거나 프롬프트를 선택하기 위해 논리적 추론 또는 규칙 학습을 사용합니다 (예: LLM 의 경우).
• 중요도 기반: 손실 임계값 또는 기울기 노름 상한에 기반하여 샘플을 선택하며, 종종 이상치를 필터링합니다.
• 영향도 기반: 높은 계산 비용을 피하기 위해 HVP 또는 부호 기반 영향도 값을 사용하여 개별 샘플이 모델 예측에 미치는 영향을 근사합니다.

C. 해석 가능한 특징 선택

관련 특징을 식별하고 노이즈/중복성을 제거하는 방법.

• 모델 무관: 모델을 블랙박스로 간주합니다.
  • 지도 학습: MPC 또는 분산 집적을 통해 통계적 측정 (상호 정보, 지니 불순도, F-통계량) 을 사용합니다.
  • 비지도 학습: 비 IID 환경에서 이상치 특징을 탐지하기 위해 One-Class SVM 과 같은 방법을 사용합니다.
• 모델 특정: 모델을 화이트박스로 간주합니다.
  • 훈련 중 직접 특징을 선택하기 위해 제약 조건 (L1, L2, L0) 및 아키텍처 (오토인코더, 확률적 듀얼 게이트) 를 활용합니다.

D. 해석 가능한 모델 최적화

• 본질적으로 해석 가능한 모델: 복잡한 DNN 을 결정 트리 (예: FedForest) 나 중간 표현과 같은 자체 설명 모델로 대체합니다.
• 해석 가능한 강건한 집적:
  • 반정직한: 고품질 업데이트를 보상하기 위해 인센티브 메커니즘 (예: 스택엘버그 게임) 을 사용합니다.
  • 악의적: 비잔틴 공격을 완화하기 위해 영향도 값을 기반으로 이상치 클라이언트에 낮은 가중치를 할당합니다.

E. 해석 가능한 기여도 평가

공정한 보상 할당을 위해 클라이언트나 특징의 가치를 정량화하는 방법.

• 클라이언트 기여도:
  • 유틸리티 게임: 한계 유틸리티 변화를 측정합니다.
  • 샤플리 값 (SV): 공정한 할당을 위한 금표준입니다. 연구들은 지수적 복잡도를 피하기 위해 SV 계산 가속화 (예: 기울기 기반, 로컬 임베딩) 에 초점을 맞춥니다. 악의적 환경에서는 HE 또는 블록체인을 사용하여 안전한 SV 계산을 탐구합니다.
• 특징 기여도:
  • SV 기반: 특징 중요도를 추정합니다 (종종 VFL 에서 프라이버시를 위반하는 가정을 요구함).
  • 주의 기반: 특징 상관관계를 시각화하기 위해 계층적 주의 메커니즘을 사용합니다.
  • 활성화 기반: 뉴런을 강력하게 활성화하는 입력 특징을 추출합니다 (예: 시계열을 위한 Flames2Graph).

주요 기여

1. 최초의 포괄적인 조사: 본 논문은 FL 과 해석 가능성 간의 간극을 메우는 IFL 에 대한 최초의 전용 조사를 제공합니다.
2. 새로운 분류 체계: 클라이언트/샘플/특징 선택, 모델 최적화, 기여도 평가를 아우르는 구조화된 분류 체계를 도입하며, 이를 이해관계자 요구, 위협 모델, 개인정보 보호 기술에 명시적으로 매핑합니다.
3. 체계적 분석: 저자들은 대표적 접근법, 그 근본 메커니즘 (예: HVP 근사, MPC 프로토콜), 그리고 정확도, 효율성, 프라이버시 간의 트레이드오프를 분석합니다.
4. 평가 지표 검토: 본 논문은 평가 지표를 효과성 (해석 후 성능, 일부 제외 재훈련을 통한 충실도) 과 효율성 (연산 및 통신 비용) 으로 분류합니다.
5. 미래 방향: 저자들은 다음과 같은 구체적인 연구 격차를 제시합니다:
   • 해석 가능한 모델 근사: 중요한 정확도 손실 없이 복잡한 FL 모델을 해석 가능한 모델로 근사하기 위한 모방 학습 사용.
   • 하드 샘플 인식 노이즈 강건 IFL: 임계값에 대한 사전 지식 없이 노이즈 샘플과 긍정적 영향을 미치는 하드 샘플을 구별하는 방법 개발.
   • LLM 을 위한 해석 가능성: 입력이 조합 객체인 Federated Large Language Models(FedLLM) 에 IFL 적용.
   • 복잡한 위협 모델: 반정직한 가정을 넘어 악의적/결탁 행위자를 처리.
   • 프라이버시 - 효율성 트레이드오프: 자원 제약 장치를 위한 개인정보 보호 기술 (DP, HE, MPC) 의 높은 비용 절감.
   • 표준화된 평가: 달성된 해석 가능성에 대한 프라이버시 노출 수준을 측정하는 지표 개발.

결과 및 주장

본 논문은 새로운 실험 결과나 새로운 알고리즘을 제시하지 않습니다. 대신, 그 "결과"는 최첨단 기술의 종합입니다.

• 발견: 현재 IFL 연구는 단편화되어 있으며, 종종 단일 단계 (예: 클라이언트 선택만) 나 특정 위협 모델 (반정직한) 에 초점을 맞춥니다. 많은 방법들은 실제 상황에서 성립하지 않을 수 있는 비싼 재훈련이나 강력한 가정 (예: 테스트 데이터에 대한 서버 접근) 에 의존합니다.
• 의의: 본 논문은 이러한 분류 체계와 분석을 제공함으로써 새로운 연구자들의 진입 장벽을 낮추고 다양한 IFL 기술 개발을 안내한다고 주장합니다. 또한 FL 생태계에서 신뢰 구축, 규제 준수 보장, 공정한 인센티브 메커니즘 구현을 위해 해석 가능성 달성이 중요하다고 강조합니다.

저자들은 겸손한 어조를 유지하며, IFL 이 신흥 분야이지만 악의적 행위자와 자원 제약 장치가 포함된 복잡하고 현실적인 시나리오에서 해석 가능성, 프라이버시, 효율성 사이의 균형을 맞추는 데 여전히 상당한 과제가 남아 있음을 인정합니다.