Who Trains Matters: Federated Learning under Enrollment and Participation Selection Biases

ゴータ・モリシタによる論文「Who Trains Matters: Federated Learning under Enrollment and Participation Selection Biases（誰が学習するかは重要である：登録と参加の選択バイアス下における連合学習）」の詳細な技術的要約を以下に示す。

1. 問題定義

連合学習（FL）は、生データを中央集約することなく、分散クライアントのターゲット集団に対してグローバルモデルを学習することを目的としている。標準的なアルゴリズム（例：FedAvg）は、各通信ラウンドに参加するクライアントがターゲット集団の代表性のある標本であるという仮定を暗黙的に置いている。しかし、実際にはこの仮定は選択バイアスによりしばしば破綻する。本論文は、このバイアスが 2 つの異なる段階で生じることを特定している。

1. 登録バイアス（Enrollment Bias）: 機器の制約、ソフトウェア要件、ユーザーの同意などの適格性ルールによって、どのクライアントが学習のために到達可能かが決定される。これにより、登録プールとターゲット集団との間にミスマッチが生じる。
2. 参加バイアス（Participation Bias）: バッテリー、ネットワーク、現地時間などの動的要因によって、どの登録済みクライアントが特定の通信ラウンドに実際に参加するかが決定される。

核心的な課題: 既存の文献は主にラウンドレベルの参加バイアスに対処している。しかし、本論文は、参加バイアスが完全に補正されたとしても、登録バイアスが学習目的（登録された部分集合の最適化）とターゲット集団の目的との間に永続的なミスマッチを引き起こすと主張している。登録プールが代表性を持たない場合、モデルは意図された集団にとって最適ではない解に収束する。

2. 手法

本論文は、連合学習を2 段階選択モデルの下で定式化し、**逆確率重み付け（IPW）**に基づくバイアス除去フレームワークを提案する。

A. 2 段階選択フレームワーク

著者らは、クライアントの包含を因果プロセスとしてモデル化する。

• 第 1 段階（登録）: クライアント $i$ が登録される（$E_i=1$）確率は $\pi^{enroll}_i = P(E_i=1 | Z_i)$ であり、ここで $Z_i$ は登録前の共変量（例：機器の種類、地域）である。
• 第 2 段階（参加）: 登録を条件として、クライアント $i$ がラウンド $r$ に参加する（$A_{i,r}=1$）確率は $\pi^{part}_{i,r} = P(A_{i,r}=1 | E_i=1, Z_i, X_{i,r})$ であり、ここで $X_{i,r}$ はラウンド前の共変量（例：バッテリー、ネットワーク）である。

全体の包含確率は以下のように因数分解される。
$$p_{i,r} = \pi^{enroll}_i \times \pi^{part}_{i,r}$$

B. 提案アルゴリズム：FedIPW

ターゲット集団の平均更新を回復するために、著者らはFedIPW（Federated Inverse Probability Weighting）を提案する。

• メカニズム: 更新を均等に平均するのではなく、サーバーは各クライアントの更新 $\Delta_{i,r}$ を、その包含確率の逆数で重み付ける。
  $$\hat{\bar{\Delta}}_r = \frac{1}{N} \sum_{i: A_{i,r}=1} \frac{\Delta_{i,r}}{\hat{p}_{i,r}}$$
• 推定: 真の確率は未知であるため、FedIPW は 2 つの成分を個別に推定する。
  1. $\hat{\pi}^{enroll}_i$ は、登録前の共変量と登録インジケーター（集団レベルのデータを必要とする）を用いて推定される。
  2. $\hat{\pi}^{part}_{i,r}$ は、登録済みクライアントの間でラウンドレベルの共変量を用いて推定される。
• 理論的保証: 無視可能性と正の確率の仮定の下で、FedIPW はターゲット集団の平均更新の不偏推定量を提供する。

C. 限定情報拡張：集約較正（Aggregate Calibration）

多くの現実のシナリオでは、未登録クライアントの個人レベルの共変量が利用できず、完全な登録 IPW が不可能となる。

• 解決策: 著者らは集約較正拡張を導入する。
• 手法: 登録済みサンプルを再重み付けし、登録前の共変量（例：地域、OS バージョン）の重み付け分布が、ターゲット集団の既知の集約要約（例：国勢調査データ）と一致するようにする。
• 役割: これは、個人レベルのデータが完全には欠落している場合の登録バイアスに対する部分的な補正として機能する。

3. 主要な貢献

1. 2 段階選択の定式化: 本論文は、登録バイアスと参加バイアスを区別し、それらを逐次的な因果プロセスとして定式化する。登録バイアスを無視することは、参加のみを補正するだけでは修正できない構造的なミスマッチをもたらすことを実証している。
2. FedIPW アルゴリズム: 標準的な仮定の下でターゲット集団の目的を回復する、逆確率重み付け集約スキームの導出。
3. バイアスフロアを伴う最適化解析: 著者らは、アルゴリズムに依存しない解析を提供し、残余の重み付け誤差（推定誤差や、登録段階の省略などの構造的な誤指定によるもの）が消えないバイアスフロアを引き起こすことを示している。
   • 誤差の上限は、過渡項、分散項、および $\epsilon_w^2 G^2 / \mu$ に比例するバイアスフロアに分解される。ここで $\epsilon_w$ は重み付け誤差、$G$ は勾配の不均一性である。
   • これは、不完全な選択補正（例：参加のみを修正）が、永続的な最適化不足をもたらすことを証明している。
4. 集約較正: 限定情報環境において、集団要約を用いて登録バイアスを部分的に軽減するための実用的な手法。

4. 実験結果

著者らは、真のターゲット集団の最適解を正確に計算できる合成連合ロジスティック回帰を用いて、理論を検証した。

• 目的のミスマッチ: 単純な FedAvg は、真の最適解と比較してターゲット集団の損失が著しく高い「選択済みクライアント解」に収束する。
• FedIPW の性能: FedIPW は、登録バイアスが増大しても「オラクル（理想的）」の性能に密接に追従し、ターゲット集団の目的を成功裡に回復する。
• 参加のみ補正の失敗: ラウンドレベルの参加のみを補正する手法は FedAvg よりも改善されるが、登録バイアスが強まるにつれて最適解に到達できず、バイアスフロアの存在を確認する。
• 集約較正: 未登録の個人データが欠落している設定において、集約較正は参加のみを補正する手法が残す残余誤差を著しく低減するが、集団要約のノイズに対しては敏感である。

5. 意義と示唆

• パラダイムシフト: 本論文は、「そもそも誰が学習できるか（登録）」が「誰がラウンドに参加するか（参加）」と同様に重要であると主張する。登録プールが代表性を持たない場合、ラウンドレベルの選択にのみ焦点を当てた現在の FL バイアス除去努力は不十分である。
• 構造的誤差と統計的誤差: 解析は、より良いモデルで低減可能な統計的推定誤差と、（登録段階の省略などの）構造的誤指定を区別し、後者が回避不可能なバイアスフロアを生み出すことを示している。
• 実践的ガイダンス: この研究は、実務家へのロードマップを提供する。
  1. 未登録ユーザーの個人データが利用可能な場合、2 段階重み付けを用いたFedIPWを使用する。
  2. 集約された集団データのみが利用可能な場合、登録バイアスを部分的に補正するために集約較正を使用する。
  3. 不均一な環境で集団と整合する目的を達成するには、参加補正のみを頼ることは理論的に不十分である。

要約すると、本論文は、FL においてターゲット集団を代表するモデルを達成するには、登録と参加の両段階で選択バイアスを補正する必要があることを確立し、これを達成するための厳密な数学的フレームワークと実用的なアルゴリズムを提供している。