Personalized Additive Modeling for Multi-level Federated Learning

技術要約：マルチレベル・フェデレーテッド学習のためのパーソナライズされた加法モデル

問題提起
現代のフェデレーテッド学習（FL）は、高度に不均質なクライアントデータの存在下で、汎化性能とユーザー固有のパーソナライゼーションの必要性をいかに両立させるかという、極めて重要な課題に直面している。標準的なFLの仮定である独立同一分布（IID）データは、現実世界のシナリオに見られる複雑で構造化された非IIDパターンを捉えるには不十分であることが多い。Clustered FLやPersonalized FL（PFL）を含む既存の手法は、固定されたクラスター数や、厳格な「グローバル＋ローカル」構造といった限定的な不均質性の設定向けに設計されている。これらのアプローチは、クライアント間の関係性が多層的な粒度（例：粗いOSレベルの類似性、サブグループのアプリケーション・パターン、および微細な活動特性）を持つ場合、タスクの境界に関する事前知識を必要としたり、基礎となるデータ分布と一致しない固定された階層へのコミットメントを強いたりするため、困難に直面する。

手法：Federated Multi-level Additive Modeling (FeMAM)
著者らは、マルチレベルの非IIDの観点からFLをモデル化する柔軟なフレームワークであるFeMAMを提案する。FeMAMは、固定された階層構造ではなく、複数の粒度（グローバルからクライアント固有まで）にわたって共有可能なモデルの階層を学習し、加法的な合成によってパーソナライズされた予測器を構築する。

• マルチレベル加法アーキテクチャ: システムは知識を$L$個のレベルに整理する。各レベル$l$において、サーバーは当該粒度における知識を表す$K_l$個のモデルを保持する。クライアントのパーソナライズされた予測器は、各レベルから選択された一つのモデルを加法的に合成することで形成される：
  $$f_i(X_i) = \sum_{l=1}^{L} \sum_{k=1}^{K_l} r_{i,k}^{(l)} f(X_i; \Theta_{k}^{(l)})$$
  ここで、$r_{i,k}^{(l)}$は割り当てインジケーターである。この構造により、高次レベルが共有構造を提供し、低次レベルが残差補正として機能する、粗から細への精緻化が可能となる。

• ブースティング風の最適化: 全レベルの同時最適化のコストや、階層の深さを事前に指定する必要性を回避するため、FeMAMは逐次的かつブースティングに近い学習戦略を採用している。レベルを一つずつ学習し、以前に学習したレベルを凍結した上で、残差誤差を最小化するように現在のレベルのみを最適化する。これにより、学習の安定性が確保され、事前に固定された構造を決定することなく、データに適応することが可能になる。

• クライアント側での構造プルーニング（枝刈り）: コスト効率を確保し、過学習を防ぐために、FeMAMはプルーニング・メカニズムを実装している。新しいレベルの学習後、クライドはそれが検証誤差を減少させる場合にのみ、そのレベルを受け入れる。これにより、「オンデマンド」なパーソナライゼーションの深さが実現され、単純なデータ分布を持つクライアントは早い段階のレベルで停止し、複雑な不均質性を持つクライアントはより深い階層を利用することになる。

• コスト適応型設計: 複数のモデルを維持しているにもかかわらず、FeMAMは通信効率が高い。学習中、各クライアントはラウンドごとに現在のレベルのモデルのみを通信するため、通信コストは単一モデルのFLと同程度に抑えられる。推論時、クライアントはプルーニングによって受け入れたモデルのみを保存するため、保存されるモデル数は最大階層数よりも少なくなるのが一般的である。

主な貢献

1. 定式化: 本論文は、マルチレベルの非IID不均質性下におけるフェデレーテッド・パーソナライゼーションを定式化し、現代のAIパーソナライゼーションのニーズによって誘発される構造的複雑さに対処している。
2. メカニズム: タスクの境界を明示的に必要とせずに、残差スタイルの合成を通じてクライアントの予測器を構築する、マルチレベル加法パーソナライゼーション・メカニズムを導入している。
3. アルゴリズム: 固定された構造を持たずに適応性を実現するために、階層を漸進的に拡張しながら、クライアントごとに不要なレベルを削ぎ落とす「成長とプルーニング（grow-and-prune）」型の学習パイプラインを提案している。
4. 理論: 勾配ブースティングと同様に、目的関数のシーケンスが単調非増加であることを示す収束解析を提供している。
5. 実証的検証: 広範な実験により、多様な非IID設定において、FeMAMが代表的なクラスタリング型およびパーソナライズ型FLのベースラインを一貫して上回ることを示している。

実験結果
著者らは、画像分類データセット（Tiny ImageNet, CIFAR-100）および大規模な基盤モデルのシナリオ（FLAN-T5タスクにおけるQwen3-4B + LoRA）を用いてFeMAMを評価した。

• パフォーマンス: FeMAMは、3つの非IIDパーティション・タイプ（Cluster-wise, Client-wise, Multi-level）のすべてにおいて、一貫して最高のテスト精度およびMacro-F1スコアを達成した。これは、FedAvg、Ditto、FeSEM、FedCAM、pFedMoEといった強力なベースラインを凌駕している。
• 適応性: マルチレベルおよびクライアント単位の非IID設定において、FeMAMは自動的に深い階層（最大5レベル）を利用したが、Cluster-wise設定ではより少ないレベルへとプルーニングされた。これは、基礎となるデータ構造に適合する能力を示している。
• 基盤モデル: 大規模実験において、FeMAMは最も低い平均損失と最高のROUGE-1スコアを達成し、単純なグローバル・ローカル設計に依存する手法を上回った。
• 効率性: 本手法は競争力のあるウォークスルータイム（Dittoよりも高速）と通信効率を示した。プルーニングにより、クライアントあたりの平均保存モデル数は低く抑えられ（例：Cluster-wise設定では約2.4）、FedEMのような手法と比較してストレージコストを削減している。

意義と主張
本論文は、FeMAMが現代のFLにおける「汎化とパーソナライゼーションの間の緊張関係」に対する堅牢な解決策を提供すると主張している。その主要な意義は、クラスター数や階層の深さに関する事前知識を必要とせずに、多様で複雑な非IID構造を近似できる点にある。パーソナライゼーションの深さをクライアント依存とし、加法的かつブースティング型のプローチを用いることで、FeMAMはあらかじめ定義されたモデル構造にデータを強制するのではなく、データに適応する。著者らはこれを、クライアント側での適応を伴う大規模かつ多機能なAIシステム（基盤モデルなど）に内在する構造的不均質性を扱うためのステップとして位置づけている。

限界と今後の課題
著者らは、現在のレベルごとのコンポーネントの評価が、代表的なインスタンス（FedAvg、K-meansクラスタリング、およびローカル・ファインチューニング）に限定されていることを控えめに述べている。また、代替となるレベルごとの手法（例：IFCA、FedPer）や、それらのレベル間の相互作用に関する体系的な研究は未解決の課題であることも認めている。さらに、基盤モデルの実験は実施されたものの、その規模は現実的なデプロイメントよりも小さいため、将来的には、より大規模で多様なタスクセットにおいてFeMAMを評価する必要があるとしている。