技術要約：忘却なきオンボーディング：データフリー・リプレイを用いたハイパーネットワークによるパーソナライゼーションとパーソナライズド連合学習

1. 問題定式化：連合学習における漸進的クライアント・オンボーディング (PCO-FL)

本論文は、既存のパーソナライズド連合学習（pFL）および連合継続学習（FCL）の文献におけるギャップを指摘している。標準的なpFLはクライアントの集合が静的であることを想定しており、FCLはタスクの逐次的なシフトを想定しているが、現実世界のシナリオでは、分類タスクとラベル空間は固定されている一方で、クライアントの集団が時間の経過とともに進化する場合がある。

著者らはこの設定を、**連合学習における漸進的クライアント・オンボーディング（Progressive Client Onboarding in Federated Learning: PCO-FL）**と定義した。このレジームでは以下の通りとなる：

• タスクの安定性： 分類タスクとラベル空間は一定に保たれる。
• 動的なコホート： クライアントは時間の経過とともにバッチ（$B_t$）として到着する。一度オンボーディングされた既存のクライアント（$C_{<t}$）は、ローカルでの再学習を行わず、「凍結」された状態で新しいバッチが参加するのを待つ。
• 核心的な対立：
  1. 積極的適応 (Proactive Adaptation: PA): 新しいクライアントのために共有モデルを更新することは、彼らのパフォーマンスを向上させる（強力な初期化を提供する）が、通常、勾配の不整合や容量の競合によって既存のクライアントの精度を低下させる。
  2. 遡及的改善 (Retroactive Improvement: RI): 共有モデルを凍結することは既存のクライアントを保護するが、後のバッチによって獲得された新しい知識から恩恵を受けることを妨げる。

目的は、新しいクライアントに対してPAを最大化しつつ、既存のクライアントを再学習させたりその生データにアクセスしたりすることなく、既存クライアントに対して非負のRI（改善または安定）を確保することである。

2. 手法：pFedDSH

これらのトレードオフに対処するため、著者らは pFedDSH (Personalized Federated Learning via Data-free Sub-Hypernetwork) を提案している。このフレームワークは、統合された3つのコンポーネントで構成される。

A. パーソナライゼーションのための中央ハイパーネットワーク

クライアントが直接ローカルモデルを訓練する代わりに、中央サーバーはハイパーネットワーク $H(\cdot; \phi)$ を保持する。

• メカニズム： 各クライアント $c$ は埋め込みベクトル $e_c$ によって表現される。ハイパーネットワークは、ベースとなるアーキテクチャに対してパーソナライズされた重み $\theta_c = H(e_c; \phi)$ を生成する。
• 利点： これにより、サーバーはパーソナライゼーションを制御し、新しいクライアントに対して即座にモデルを生成し、クライアントによるハイパーネットワーク・パラメータのローカルな微調整を必要とせずに容量の割り当てを管理できる。

B. バッチ固有のバイナリ・マスキング

新しい更新が既存のクライアントにとって重要な知識を上書きするのを防ぐため、本手法は学習可能なバイナリ・マスクを採用している。

• 容量割り当て： 各オンボーディング・ステップ $t$ およびレイヤー $\ell$ に対して、サーバーはマスク・ロジット $z^{(\ell)}_t$ を学習する。シグモイド関数と高いスケール $\gamma$ を用いて、これらをニア・バイナリ・ゲート $g^{(\ell)}_t$ に変換する。
• 累積和集合： 累積マスク $m^{(\ell)}_{\le t}$ は、以前のマスクと現在のステップのゲートの要素ごとの最大値として維持される。
• 勾配変調： 重みがステップ $t$ における新たにアクティブになったチャネルに関与する場合にのみ、勾配が変調される。もしある接続が既に以前のバッチに割り当てられていた場合、その勾配はゼロにされ、既存のクライアントのためにその容量を実質的に凍結する一方で、新しい容量が競合する更新を吸収できるようにする。

C. サーバーサイドのデータフリー・リプレイ

既存のクライアントは再学習を行わず、そのデータもプライベートであるため、サーバーは DeepInversion を使用してデータを合成し、改善をバックプロパゲーション（逆伝播）させる。

• 合成： サーバーは、クライアントの学習フェーズにおけるBatchNorm層の実行統計量（平均と分散）を一致させる損失関数と、自然な画像の構造を保証するための全変動（TV）およびL2正則化を組み合わせることで、合成画像 $\tilde{x}$ を生成する。
• 遡及的ファインチューニング： 現在のバッチから派生した合成データセット $S_t$ を用いて、サーバーはハイパーネットワークをファインチューニングする。極めて重要な点は、各過去のバッチ $t' < t$ のバッチ固有のマスクによって定義される特定のサブネットワークを呼び出し、それらのパラメータを更新することである。
• 結果： これにより、サーバーは既存のクライアントが生のデータや勾配を保持することなく、最近のバッチから得られた新しい知識を「教える」ことができる。

3. 主な貢献

1. PCO-FLの定義： 本論文は、タスクは固定されているがクライアントの集団が進化するという、標準的なpFLやFCLとは異なる「漸進的クライアント・オンボーディング」のシナリオを正式に導入し、分析した。
2. 実証的研究： 制御された実験を通じて、著者らは以下を実証した：
   • 漸進的な集約は新しいクライアントを助ける（正のPA）が、既存のクライアントを害する（負のRI）。
   • モデルを凍結することは既存のクライアントを保護する（RI $\approx$ 0）が、知識転送を妨げる。
   • 正のPAと正のRIを同時に達成するためのメカニズムが必要である。
3. pFedDSHフレームワーク： ハイパーネットワーク、バッチ固有のマスキング、およびデータフリー・リプレイを組み合わせた新しいアーキテクチャの提案。
4. 包括的な評価： 様々なデータセット（CIFAR-10, CIFAR-100, Tiny-ImageNet）において、従来のpFL、遅れて参加するクライアント向けのハイパーネットワーク、およびFCLのベースラインを凌駕することを広範な実験で示した。

4. 実験結果

著者らは、様々なオンボーディング・スケジュール（2, 5, 11 バッチ）の下で、pFedDSHをベースライン（FedPer, FedRep, FedSelect, pFedHN, PeFLL, FedWeITなど）と比較評価した。

• パフォーマンス (PA & RI):
  • 既存のクライアント： pFedDSHは、一貫して正のRI（例：スケジュールの違いによりCIFAR-10で+3.80%から+6.20%）を達成できる唯一の手法であり、これは既存のクライアントが新しいバッチが参加するにつれて実際に改善すること（RI > 0）を意味する。他のすべてのベースラインは大幅な精度の低下（負のRI）を経験している。
  • 新しいクライアント： pFedDSHは強力なPA（孤立した学習による利得を上回る）を維持し、他のハイパーネットワークベースの手法と同等、あるいはそれ以上の性能を示す。
• 容量効率：
  • ニューロンの使用率の分析により、pFedDSHはすべてのバッチに対して互いに素なサブネットワークを割り当てるのではなく、チャネルの最大40%を再利用し、必要に応じて徐々に総容量を増加させていることが示された。
• 効率性：
  • 通信： 1ラウンドあたりの通信オーバーヘッドは、他のハイパーネットワーク手法と同程度である（数キロバイト程度の差しかない）。
  • レイテンシ： サーバーサイドのリプレイは計算負荷を加えるが、pFedDSHは各バッチにつき一度だけ実行される（償却コスト）ため、リプレイを毎ラウンド実行する手法（HRなど）やリプレイを全く行わない手法と比較して、レイテンシの増加は緩やかである。

5. 意義と主張

本論文は、pFedDSHが、クライアントの参加が動的な現実世界の連合システムに対して実用的な解決策を提供すると主張している。その意義は以下の通りである：

• 「オンボーディング vs 忘却」のトレードオフの解決： 既存のクライアントのパフォーマンスを犠牲にすることなく、新しいクライアントをオンボーディングし、システムのグローバルな知識を向上させることが可能であることを実証した。
• プライバシー保護： 生のデータや勾配ではなく、BatchNorm統計量から画像を合成するサーバーサイドのデータフリー・リプレイを使用することで、本手法はクライアントのデータを公開することなく知識転送を促進し、FLにおける重要なプライバシー懸念に対処している。
• スケーラビリティ： マスキングメカニズムにより、モデルのサイズがバッチ数に応じて線形に増大しないことを保証しており、長期的なデプロイメントに対するスケーラビリティを備えている。

著者らは、pFedDSHがこれまで見過ごされてきた設定において、パーソナライゼーションと継続学習の間の溝を埋めるものであり、ヘルスケアのようなプライバシーに敏感な領域における進化するクライアント・コホートのための堅牢なフレームワークを提供すると結論付けている。