技術的サマリー：CRAFT（Federated Training 用のコンフリクト解決集約）

1. 問題提起

連合学習（FL）は、生データを共有することなく、分散クライアント間での協調モデル学習を可能にします。しかし、根本的なボトルネックとして、局所更新の乖離を引き起こすデータ異質性（非 IID 分布）が存在します。FedAvg などの従来の集約手法は、これらの更新の加重平均を計算します。本論文は、単純な平均化が、グローバル目的関数を改善しつつも特定のクライアントと対立する（すなわち、グローバル更新とクライアントの局所更新の内積が負となる）グローバル更新方向を生み出す可能性があると主張しています。この対立は、特定のクライアントのパフォーマンス低下を招き、平均的なグローバル精度が高くても、クライアントごとの精度に大きな格差が生じ、公平性が損なわれます。

既存のアプローチは、正則化（FedProx）、正規化（FedNova）、公平性を考慮した目的関数（AFL、q-FedAvg）、またはパーソナライズされたモデルを通じてこれを緩和しようと試みています。対立を認識する手法（FedFV、FedLF、ConFIG）は、更新幾何学を直接操作するために登場しましたが、これらはしばしばヒューリスティックなルールに依存するか、解決を導くための時間的情報の統合が欠如しています。

2. 手法：CRAFT フレームワーク

CRAFT は、集約問題を加重平均ではなく、幾何学的補正問題として再定義します。中核的な目的は、厳格な対立なしの整列制約を満たしつつ、安定した参照方向に可能な限り近いグローバル更新ベクトル $g$ を見出すことです。

2.1 中核的な定式化

ゼロ事前情報を持つ手法のように更新をゼロから再構築したり、モーメント手法のように単に平滑化したりするのではなく、CRAFT は参照アンカー付きの制約付き最小二乗問題を解きます：

$$\min_{g \in \mathbb{R}^d} \frac{1}{2} \|g - \hat{g}_t\|^2 \quad \text{s.t.} \quad U_t g = \rho_t$$

ここで：

• $\hat{g}_t$ は参照方向であり、前ラウンドからの正規化されたグローバル更新として定義されます（$\hat{g}_t = U(g_{t-1})$）。初回ラウンドでは、$\hat{g}_0 = 0$ です。
• $U_t$ は、アクティブなクライアントからの正規化された局所更新の行列です（$u_i = g_i / (\|g_i\| + \epsilon)$）。
• $\rho_t$ は正の整列ターゲットのベクトルであり、通常はクライアントのデータ割合から導出されます（$\rho_i = |D_i| / \sum |D_j|$）。
• 制約 $U_t g = \rho_t$ は、グローバル更新 $g$ が参加するすべてのクライアントの正規化された更新と正の内積を持つことを保証し、対立のない方向を確保します。

2.2 閉形式解

この問題は未定（モデル次元 $d \gg$ クライアント数 $m$）です。CRAFT は、反復ソルバーや二次計画法の計算オーバーヘッドを回避し、モーペンス・ペンローズの擬似逆行列を用いて閉形式解を導出します。更新は、参照に対する補正 $\Delta_t$ として計算されます：

$$g_t = \hat{g}_t + \Delta_t, \quad \text{where} \quad \Delta_t = U_t^\dagger (\rho_t - U_t \hat{g}_t)$$

この定式化により、参照方向がすでに制約を満たしている場合、補正は適用されません。そうでない場合、整列を強制するために最小のユークリッド補正が加えられます。

2.3 レイヤー別適応

深層ニューラルネットワークがレイヤー固有の最適化ダイナミクスを示すこと（例えば、浅いレイヤーは入力分布のシフトに苦しむ一方、深いレイヤーはラベルの歪みに苦しむ）を認識し、CRAFT はレイヤー別適応を実装します。最適化問題は、各レイヤー $q$ に対して $Q$ 個の独立した部分問題に分解され、補正を個別に解きます：
$$g^q_t = \hat{g}^q_t + (U^q_t)^\dagger (\rho_t - U^q_t \hat{g}^q_t)$$
これにより、あるレイヤーでの深刻な対立が、他のレイヤーの有用な成分を抑制することを防ぎます。

2.4 理論的性質

本論文は、CRAFT が共通降下構造を促進することを示す理論的解析を提供しています。すべてのクライアント更新との非負の整列を強制することで、この手法は対立を緩和します。著者は、標準的な滑らかさと有界勾配の仮定の下で非凸目的関数に対する有限時間収束保証を確立し、局所学習率が適切に減衰する場合、標準的な非凸最適化と同等の $O(1/\sqrt{T})$ の収束速度を示しています。

3. 主要な貢献

1. 問題の再定式化：著者は、連合集約を加重平均則ではなく、参照アンカー付きの制約付き最小二乗問題として再定式化することを提案します。これにより、グローバル更新とすべてのクライアント間の正の整列が直接強制されます。
2. 効率的な閉形式解：反復的な対立解決手法とは異なり、CRAFT はモーペンス・ペンローズ補正を用いて明示的な解を導出し、サーバー側の計算を軽量（$O(dm^2 + Qm^3)$）に保ちます。
3. モーメントのような参照：前ラウンドのグローバル更新を参照方向として使用することで、CRAFT は時間的整合性を維持し、サンプリングノイズに対する更新を安定させます。これはゼロベクトルに向けて投影する手法とは区別されます。
4. レイヤー別粒度：このフレームワークはモデルレイヤーの粒度で対立に対処し、グローバルベクトル制約が粗すぎる可能性のある深層ニューラルネットワークに適しています。
5. プラグインとしての拡張性：CRAFT は、既存のパーソナライズされた FL パイプライン（例：Ditto）において、局所適応メカニズムを変更することなく、加重平均を置き換えることができる汎用集約演算子として設計されています。

4. 実験結果

多様なモデル（MLP、CNN、ResNet-20/56/110）とクライアント集団（最大 1000 クライアント）を用いて、異質ベンチマーク（FEMNIST、CIFAR-10、CIFAR-100）で広範な実験が行われました。

• グローバルパフォーマンス：CRAFT は平均精度において、一貫して最先端のベースラインを上回りました。ResNet-20 を使用した CIFAR-10 において、ConFIG に対して53.5% の相対改善を達成し、FEMNIST において FedAvgM に対して7.8% の改善を達成しました。
• 公平性と格差：CRAFT は、クライアントごとの精度の標準偏差を大幅に削減しました。「テール」クライアント（最悪の 10%）のパフォーマンスを向上させつつ、「ヘッド」クライアントを犠牲にすることはありませんでした。例えば、CIFAR-10 において、FedLF に対して最悪 10% の精度を**221.5%**改善しました。
• 収束性：CRAFT は、他の手法が早期に飽和したり、クライアントドリフトに苦しんだりすることが多い深いネットワークにおいて、より速い収束とより高い最終精度を示しました。
• パーソナライズ FL への統合：Ditto フレームワークに統合された場合、CRAFT は、CIFAR-10 で19.7%、CIFAR-100 で**98.8%**の平均テスト精度の向上を、バニラ版 Ditto に対して達成し、パーソナライズされたパイプラインを強化する能力を実証しました。

5. 意義と主張

本論文は、CRAFT が集約設計に対する新たな視点を提供し、ヒューリスティックな対立解決から幾何学的に原理に基づいた制約ベースのアプローチへと移行させることを主張しています。その意義は以下の点にあります：

• 異質性の緩和：目的関数の調整や局所学習の正則化だけでなく、FL における公平性の問題の根本原因（対立する更新）に直接対処します。
• 精度と公平性の両立：既存の手法ではしばしば困難であった、高い平均精度を達成しつつ同時にパフォーマンス格差を削減するという二重の目標を達成します。
• 実用性：この手法は計算効率が良く、追加の通信を必要とせず、既存のパーソナライズ FL フレームワークに容易に拡張可能です。

著者は限界を認め、現在の参照方向は単純なモーメントのような事前分布であり、整列ターゲットはデータ割合に基づいていると指摘しています。今後の研究として、トレーニングの進捗や公平性の要件に基づいた適応的な参照やターゲットの探求が提案されています。しかし、現在の研究は、CRAFT を異質連合学習のための堅牢で対立のない集約メカニズムとして確立しています。