Expected Gain-based Escalation in Vertical Federated Learning

기술 요약: 수직적 연합 학습에서의 기대 이득 기반 에스컬레이션 (Expected Gain-based Escalation in Vertical Federated Learning)

문제 정의
수직적 연합 학습(Vertical Federated Learning, VFL)에서 여러 클라이언트는 동일한 샘플에 대한 서로 다른 뷰(view)를 보유하며, 서버는 이 정보를 집계하여 예측 성능을 향提升합니다. 협업 추론(모든 클라이언트의 중간 표현을 융합하는 방식)은 일반적으로 로컬 추론보다 높은 정확도를 제공하지만, 상당한 통신 및 계산 오버헤드를 발생시킵니다. 본 연구가 다루는 핵심 과제는 이 비용이 많이 드는 협업 경로를 언제 호출할 것인가를 결정하는 것입니다. 모든 샘플에 융합을 적용하는 것은 비효천적이며, 많은 입력값은 가벼운 로컬 예측만으로도 충분히 해결될 수 있습니다. 목표는 2단계 추론 프로토콜 내에서, 기대되는 정확도 개선이 추가적인 통신 비용을 정당화하는지 여부를 결정하는 per-sample 라우팅 정책을 개발하는 것입니다.

방법론
저자들은 별도의 라우팅 네트워크를 학습할 필요가 없는 기대 이득 추정(expected gain estimation) 기반의 분석적 라우팅 규칙을 제안합니다. 시스템은 다음 두 단계로 작동합니다:

1. 1단계 (로컬): 클라이언트들이 저차원의 로컬 사후 확률(posteriors)을 서버로 전송합니다. 서버는 평균 풀링(average pooling)을 통해 풀링된 예측을 형성합니다.
2. 2단계 (협업): 샘플이 에스컬레이션(escalation)되면, 클라이언트들은 고차원 임베딩을 전송하며, 이는 더 강력한 서버 측 VFL 모델에 의해 융합됩니다.

라우팅 결정은 임계값 기반 정책으로 모델링됩니다: 만약 기대 이득 $E[G | \bar{p}]$가 임계값 $\tau$를 초과하면 에스컬레이션을 수행합니다. 여기서 $G$는 2단계와 1단계 예측 간의 정확도 차이입니다.

라우터 학습 없이 이 점수를 분석적으로 계산하기 위해, 저자들은 홀드아웃 교정 데이터(held-out calibration data)로부터 추정된 두 가지 구성 요소를 사용하는 플러그인 근사법을 도출합니다:

1. 교정된 풀링 사후 확률 (Calibrated Pooled Posterior): 1단계의 원시 풀링 사후 확률은 종종 교정되지 않은 상태입니다. 저자들은 조건부 클래스 사후 확률 $P(y=k | \bar{p})$를 추정하기 위해 멀티클래스 디리클레 교정 맵(multiclass Dirichlet calibration map)을 적용합니다.
2. 클래스별 신뢰도 (Classwise Reliability): 저자들은 클래스 수준의 신뢰도 계수(2단계 혼동 행렬의 대각 성분인 $CVFL[k,k]$)를 사용하여 2단계 모델의 조건부 정확도$P(\hat{y}_{VFL}=k | y=k, \bar{p})$를 근사합니다. 이는 일단 실제 클래스가 결정되면, 1단계 사후 확률과 관계없이 2단계 모델의 성능이 비교적 안정적이라는 가정에 기초합니다.

최종 라우팅 점수 $\hat{s}(\bar{p})$는 다음과 같이 계산됩니다:
$$\hat{s}(\bar{p}) = \sum_{k=0}^{K-1} \hat{m}_{\hat{\phi}}(\bar{p})[k] \cdot (CVFL[k,k] - \mathbb{1}[\hat{y}_{loc} = k])$$
여기서 $\hat{m}_{\hat{\phi}}$는 교정된 사후 확률이고 $\hat{y}_{loc}$는 1단계 예측입니다. 이 점수가 양수이거나(또는 예산에 의해 제어되는 임계값을 초과하면) 샘플은 에스컬레이션됩니다.

주요 기여

1. 추론 시 선택적 에스컬레이션: 본 연구는 2단계 프로토콜에서 비용이 많이 드는 협업 VFL 경로를 선택적으로 호출하는 문제를 공식화하며, 정확도와 통신 예산 사이의 균형을 맞춥니다.
2. 분석적 라우팅 규칙: 저자들은 오직 풀링된 1단계 사후 확률과 클래스별 신뢰도 통계만을 사용하여 에스컬레이션의 기대 이득을 추정하는 방법을 제안합니다. 이 방식은 별도의 라우팅 네트워크 학습을 요구하지 않으므로 해석 가능하며 가볍습니다.
3. 경험적 검증: 제안된 방법은 테스트 타임 뷰 저하(가우시안 노이전) 시나리오를 포함하여, 멀티 뷰 분류 벤치마크(CIFAR-10, CIFAR-100, ModelNet40)를 통해 검증되었습니다.

결과
실험 결과, 제안된 분석적 라우터는 다음과 같은 여러 베이스라인에 비해 우수한 정확도-에스컬레이션 트레이드오프를 달enc성함을 보여줍니다:

• vs. 신뢰도 기반 (Confidence-based): 제안된 방법은 단순 신뢰도 임계값을 능가하며, 이는 신뢰도만으로는 에스컬레이션의 이득을 예측하기에 불충분함을 나타냅니다.
• vs. 학습된 이득 (Learned Gain, DIFF-01): 분석적 접근 방식은 실현된 이득을 회귀하도록 학습된 학습형 라우터보다 일관되게 우수한 성능을 보였으며, 이는 분석적 근사가 필수적인 라우팅 신호를 효과적으로 포착하고 있음을 시사합니다.
• vs. 학습 기반 유예 (Learning-to-Defer, L2D): 동일한 에스컬레이션 예산에서, 제안된 라우터는 더 높은 정확도와 더 나은 에스컬레이션 정밀도(EP)를 달성하여, 중립적인 샘플은 피하면서 유익한 에스컬레이션의 더 큰 비율을 포착합니다.
• vs. 오라클 (Oracle): 제안된 방법이 실제 이득을 알고 있는 오라클의 이론적 상한에 도달하지는 못하지만, 특히 중간 정도의 에스컬레이션 영역(40–60%)에서 그 격차를 크게 좁힙니다.

또한 결과는 테스트 샘플의 상당 부분이 에스컬레이션에 대해 "중립적"(즉, 1단계와 2단계의 정확도가 동일함)임을 강조합니다. 제안된 라우터는 이러한 샘플을 효과적으로 필터링하는 반면, 공격적인 베이스라인들은 정확도 이득 없이 통신 비용만 발생하는 과도한 에스컬레이션을 수행하는 경우가 많습니다.

의의 및 주장
본 논문은 에스컬레이션을 기대 이득 결정 문제로 취급하는 것이 VFL에서 실용적이고 해석 가능하며 효율적인 라우팅 메커니즘을 허용한다고 주장합니다. 복잡한 학습형 라우터 대신 교정 데이터를 활용함으로써, 이 방법은 직관적인 배포 경로를 제공합니다. 저자들은 이 접근 방식이 기존의 신뢰도 기반, 학습 이득 기반, 유예 기반 베이스라인들에 비해 통신-정확도 트레이드오프를 개선한다고 강조합니다.

본 연구는 클래스별 신뢰도 근사가 2단계 모델의 행동 내에서의 클래스 내 변동성을 무시한다는 점과 성능이 교정 세트의 대표성에 의존한다는 점 등 한계를 인정합니다. 그러나 저자들은 교정 데이터가 합리적으로 대표성을 갖는다면 분포 변화(뷰 저하로 시뮬레이션됨) 하에서도 방법론이 견고하게 유지된다고 주장합니다. 결론적으로, 선택적 에스컬레이션은 예측 성능을 희생하지 않으면서 VFL의 추론 비용을 줄이기 위한 유효한 전략입니다.