技術的概要：1 クライアントあたり 1 サンプルによるプライベートかつ分散回帰のための変調学習

問題定義

本研究は、標準的な連合学習（FL）および差分プライバシー（DP）学習パラダイムにおける重要な限界に対処するものである。すなわち、クライアントデバイスが意味のある勾配更新を計算するのに十分な大きさの局所データセットを保有しているという仮定である。多くの現実のシナリオ、例えばフィットネストラッカー、身体装着型センサー、日常イベントモニターなどでは、クライアントが保有するデータサンプルは 1 つ（あるいは非常に少数）に限られる可能性がある。

この「1 クライアントあたり 1 サンプル」の regime において、標準的な DP-SGD ベースの FL が失敗する理由は以下の通りである：

1. 信頼性の低い局所更新：単一の点で計算された局所勾配は非常にノイズが多く、特にトレーニングの初期段階においてモデル係数を推定する上で信頼性が低い。
2. プライバシーノイズの増幅：差分プライバシーを満たすために注入されるノイズは、もともと脆弱なこれらの局所更新の実用性をさらに低下させ、グローバルモデルの収束を無効化する。

本論文は、各クライアントが 1 つのデータポイントのみを提供する場合に、有用かつ差分プライバシーが保証された分散学習を可能にできるかという問いを投げかける。

手法

著者らは、変調学習（Modulated Learning）フレームワークを提案する。クライアントはモデル係数（標準的な FL の場合）や生勾配を送るのではなく、単一のデータサンプルのプライベートに変換された表現を送信する。サーバーはこれらの表現を集約し、中央集権的な勾配の不偏推定量を復元する。

中核メカニズム：コサイン変調変換

プロトコルはラウンド単位で動作する。各ラウンド $t$ において、サーバーはグローバルモデル $\beta_t$ を維持し、$\beta_t$ に直交する変調方向 $v_t$ を選択する。

1. クライアント側処理：
プライベートなサンプル $(x_i, y_i)$ が与えられたとき、クライアントは以下のステップを実行する：

• 変調：クライアントはランダムな位相 $\phi_i \sim \text{Unif}[0, 2\pi]$ をサンプリングし、変調された特徴ベクトルを計算する：
  $$g_i = (1 - \alpha)x_i + \lambda \cos(\omega \langle x_i, v_t \rangle + \phi_i) v_t$$
  ここで、$\alpha, \lambda, \omega$ はハイパーパラメータである。項 $(1-\alpha)x_i$ は信号を保持し、コサイン項は収束性を持ちプライバシーを保護する摂動を導入する。
• ノイズ注入：$(\epsilon, \delta)$-局所差分プライバシー（LDP）を確保するために、クライアントはガウスノイズ $\xi_i \sim \mathcal{N}(0, \sigma_{DP}^2 I)$ を追加する：
  $$\tilde{g}_i = g_i + \xi_i$$
• 送信：クライアントはペア $(\tilde{g}_i, y_i)$ をサーバーに送信する。なお、この特定の設定では $y_i$ は公開/非機密とみなされ、$x_i$ がプライベート入力である。

2. サーバー側集約とバイアス除去：
サーバーは $\{(\tilde{g}_i, y_i)\}_{i=1}^K$ を受信し、変調とノイズによって導入されたバイアスを除去するために代数的補正を行う：

• 共分散推定：サーバーは受信した特徴の経験的共分散を計算し、既知のバイアス項（変調分散とノイズ分散）を減算する：
  $$\hat{\Sigma}_x = \frac{1}{(1-\alpha)^2} \left( \frac{1}{K}\sum \tilde{g}_i \tilde{g}_i^\top - \frac{\lambda^2}{2} v_t v_t^\top - \sigma_{DP}^2 I \right)$$
  定理 3.1 および系 3.2 は、$\hat{\Sigma}_x$ が真のデータ共分散 $\Sigma_x = \frac{1}{K}\sum x_i x_i^\top$ の不偏推定量であることを証明している。
• 勾配復元：サーバーは不偏勾配推定量 $G$ を構築する：
  $$G = \hat{\Sigma}_x \beta_t - \frac{1}{1-\alpha} \frac{1}{K} \sum y_i \tilde{g}_i$$
  この $G$ は $\mathbb{E}[G] = \nabla L(\beta_t)$ を満たし、期待値として非プライベートな中央集権的勾配と一致する。

変種

• 多ベクトル変調：リプシッツ定数（したがって必要なノイズ $\sigma_{DP}$）を低減するために、著者らは $m$ 個の正規直交ベクトルを使用するように手法を一般化する。これにより、感度上限は $|1-\alpha| + \lambda\omega$ から $|1-\alpha| + \frac{\lambda\omega}{\sqrt{m}}$ に低減される。
• 非反復（ワンショット）推定量：本論文はまた、反復手法のプライバシー合成コストを回避し、単一ステップで $\beta$ を解く閉形式のモーメント推定量を導出している。

主要な貢献

1. 単一サンプルからの不偏勾配推定：本論文は、特定のコサイン変調マップによるデータ変換と事後処理によるバイアス除去を適用することで、クライアントがそれぞれ 1 サンプルしか保有していない場合でも、サーバーが不偏勾配推定量を復元できることを実証している。
2. プライバシーと実用性のトレードオフの最適化：
   • 本手法は、再構成誤差に対するクラメール・ラオ下限を確立し、変調パラメータ（$\lambda, \omega$）がガウスノイズ単独が提供する保護を超えて、プライベート入力 $x_i$ の再構成の難易度を積極的に高めることを証明している。
   • 多ベクトル変種は、必要なノイズ分散を $\sqrt{m}$ に関連する因子で低減することが示されており、固定されたプライバシー予算に対して実用性を向上させる。
3. 理論的保証：
   • 不偏性：サーバーの推定量が不偏であることの厳密な証明。
   • 収束：推定量の漸近正規性の確立と分散限界の導出、および射影型確率的勾配降下法に対する収束率の提示。
   • プライバシー会計：本手法は、標準的な $(\epsilon, \delta)$-DP よりも厳密な合成限界を提供するゼロ集中差分プライバシー（zCDP）会計を使用する。
4. 再構成下限：著者らは、送信されたメッセージから $x_i$ を再構成しようとする任意の不偏攻撃者の平均二乗誤差に関する理論的下限を導出し、プロトコルパラメータの観点からプライバシー保護を直接定量化している。

実験結果

著者らは、各トレーニング例を別々のクライアントとして扱った 5 つの現実世界の回帰データセット（例：CO2 排出量、結婚期間の公平性、モード選択）において、このアプローチを評価した。

• 比較：提案された変調反復および変調ワンショット推定量は、調整済みのDP-SGD FedAvgベースラインと比較された。
• 知見：
  • 高プライバシー（低 $\epsilon$）：変調ワンショット推定量は反復手法を上回った。単一のプライベート解放に依存するため、反復的な DP-SGD に内在する累積的なプライバシー損失（合成）を回避し、プライバシー予算が極めて厳しい場合に頑健である。
  • 中程度/低プライバシー（高 $\epsilon$）：変調反復推定量は、より多くのラウンドとともに着実に改善し、最終的にほとんどのタスクにおいてワンショット手法および DP-SGD ベースラインを上回った。
  • ベースラインのパフォーマンス：DP-SGD は、この regime において大幅に苦しんだ。これは、1 ラウンドあたりの単一サンプルを保護するために必要なノイズが、複数のラウンドにわたって累積され、信号を圧倒してしまったためである。

意義と主張

本論文は、標準的な連合学習が適用不可能である特定の regime、すなわち極めて限られたデータ（1 サンプル）を持つデバイスから、厳格なプライバシー制約の下で学習する問題を解決すると主張している。

• パラダイムシフト：モデル更新（勾配/重み）を共有する従来のプライベート FL と異なり、このアプローチはプライベート化されたデータ表現を共有する。この転換により、クライアントがノイズの多い局所勾配のみを送信する場合に不可能であったグローバル統計的補正をサーバーが行うことを可能にする。
• 実用性：この手法は、最小限のデータしか持たないデバイスが、個人のプライバシーを犠牲にしたり、大規模な局所データセットを必要としたりすることなく、正確な回帰モデルを協調的に学習することを可能にする。
• 理論的厳密性：この研究は、不偏性の証明、分散分析、収束保証、再構成下限を含む完全な理論的枠組みを提供しており、この手法が単なるヒューリスティックではなく、統計的に健全であることを確立している。

著者らは、このアプローチが、データの不足とプライバシー要件のために以前は不可能と考えられていたシナリオにおいて、プライバシー保護型機械学習の実用化を可能にすると結論付けている。