技术摘要：面向单样本客户端的私有分布式回归调制学习

问题陈述

本研究针对标准联邦学习（FL）和差分隐私（DP）学习范式中的一个关键局限性：即假设客户端设备拥有足够大的本地数据集以计算有意义的梯度更新。在许多现实场景中——例如健身追踪器、可穿戴传感器和日常事件监测器——客户端可能仅持有一个（或极少数）数据样本。

在这种“每客户端单样本”的体制下，基于 DP-SGD 的标准联邦学习会失效，原因如下：

1. 不可靠的本地更新：在单个数据点上计算的本地梯度噪声极大，对于估计模型系数极不可靠，尤其是在训练早期阶段。
2. 隐私噪声放大：为满足差分隐私而注入的噪声进一步降低了这些本已微弱的本地更新的效用，导致全局模型收敛无效。

本文提出：当每个客户端仅贡献一个示例数据点时，我们能否实现有用的、差分隐私的分布式学习？

方法论

作者提出了一种调制学习（Modulated Learning）框架。客户端不再发送模型系数（如标准联邦学习）或原始梯度，而是传输其单个数据样本的私有变换表示。服务器随后聚合这些表示，以恢复中心化梯度的无偏估计。

核心机制：余弦调制变换

该协议按轮次运行。在每一轮 $t$ 中，服务器维护一个全局模型 $\beta_t$ 并选择一个调制方向 $v_t$（与 $\beta_t$ 正交）。

1. 客户端侧处理：
给定私有样本 $(x_i, y_i)$，客户端执行以下步骤：

• 调制：客户端采样一个随机相位 $\phi_i \sim \text{Unif}[0, 2\pi]$ 并计算调制特征向量：
  $$g_i = (1 - \alpha)x_i + \lambda \cos(\omega \langle x_i, v_t \rangle + \phi_i) v_t$$
  其中，$\alpha, \lambda, \omega$ 为超参数。项 $(1-\alpha)x_i$ 保留了信号，而余弦项引入了具有收缩性的隐私保护扰动。
• 噪声注入：为确保 $(\epsilon, \delta)$-本地差分隐私（LDP），客户端添加高斯噪声 $\xi_i \sim \mathcal{N}(0, \sigma_{DP}^2 I)$：
  $$\tilde{g}_i = g_i + \xi_i$$
• 传输：客户端将配对 $(\tilde{g}_i, y_i)$ 发送给服务器。注意，在此特定设置中，$y_i$ 被视为公开/非敏感信息，而 $x_i$ 是私有输入。

2. 服务器侧聚合与去偏：
服务器接收 $\{(\tilde{g}_i, y_i)\}_{i=1}^K$ 并执行代数修正，以消除由调制和噪声引入的偏差：

• 协方差估计：服务器计算接收特征的实证协方差，并减去已知的偏差项（调制方差和噪声方差）：
  $$\hat{\Sigma}_x = \frac{1}{(1-\alpha)^2} \left( \frac{1}{K}\sum \tilde{g}_i \tilde{g}_i^\top - \frac{\lambda^2}{2} v_t v_t^\top - \sigma_{DP}^2 I \right)$$
  定理 3.1 和推论 3.2 证明了 $\hat{\Sigma}_x$ 是真实数据协方差 $\Sigma_x = \frac{1}{K}\sum x_i x_i^\top$ 的无偏估计量。
• 梯度恢复：服务器构建无偏梯度估计量 $G$：
  $$G = \hat{\Sigma}_x \beta_t - \frac{1}{1-\alpha} \frac{1}{K} \sum y_i \tilde{g}_i$$
  该 $G$ 满足 $\mathbb{E}[G] = \nabla L(\beta_t)$，在期望上与非私有中心化梯度相匹配。

变体

• 多向量调制：为了降低 Lipschitz 常数（从而降低所需的噪声 $\sigma_{DP}$），作者将方法推广为使用 $m$ 个正交向量。这将敏感度界限从 $|1-\alpha| + \lambda\omega$ 降低至 $|1-\alpha| + \frac{\lambda\omega}{\sqrt{m}}$。
• 非迭代（单次）估计量：本文还推导了一个闭式矩估计量，可在单步中求解 $\beta$，避免了迭代方法的隐私累积成本。

主要贡献

1. 基于单样本的无偏梯度估计：本文证明，通过特定余弦调制映射变换数据并应用后处理去偏，即使每个客户端仅持有一个样本，服务器也能恢复无偏的梯度估计。
2. 隐私 - 效用权衡优化：
   • 该方法建立了重构误差的Cramér-Rao 下界，证明调制参数（$\lambda, \omega$）主动增加了重构私有输入 $x_i$ 的难度，其效果超越了仅靠高斯噪声提供的保护。
   • 多向量变体被证明可将所需噪声方差降低与 $\sqrt{m}$ 相关的因子，从而在固定隐私预算下提升效用。
3. 理论保证：
   • 无偏性：严格证明服务器估计量是无偏的。
   • 收敛性：本文建立了估计量的渐近正态性并推导了方差界限，展示了投影随机梯度下降的收敛速率。
   • 隐私核算：该方法使用零集中差分隐私（zCDP）核算，相比标准 $(\epsilon, \delta)$-DP，为顺序轮次提供了更紧的复合界限。
4. 重构下界：作者推导了任何试图从传输消息中重构 $x_i$ 的无偏攻击者的均方误差理论下界，直接将隐私保护量化为协议参数。

实验结果

作者在五个真实世界回归数据集（例如：CO2 排放、婚姻持续时间的公平性、模式选择）上评估了该方法，其中每个训练样本被视为一个独立的客户端。

• 对比：将提出的调制迭代和调制单次估计量与经过调整的DP-SGD FedAvg基线进行了比较。
• 发现：
  • 高隐私（低 $\epsilon$）：调制单次估计量优于迭代方法。由于它依赖于单次私有发布，它避免了迭代 DP-SGD 固有的累积隐私损失（复合），因此在隐私预算极其紧张时更为稳健。
  • 中等/低隐私（高 $\epsilon$）：调制迭代估计量随着轮次增加而稳步提升，最终在大多数任务上优于单次方法和 DP-SGD 基线。
  • 基线表现：DP-SGD 在此体制下表现显著不佳，因为每轮保护单个样本所需的噪声，在多轮累积后压倒了信号。

意义与主张

本文声称解决了一个标准联邦学习不适用的特定体制：即在严格隐私约束下，从数据极其有限（单样本）的设备中进行学习。

• 范式转变：与传统的私有联邦学习共享模型更新（梯度/权重）不同，该方法共享私有化数据表示。这种转变使得服务器能够执行全局统计修正，而当客户端仅发送含噪的本地梯度时，这些修正是无法实现的。
• 实用性：该方法使数据极少的设备能够在不牺牲个人隐私或不需要大型本地数据集的情况下，协作学习准确的回归模型。
• 理论严谨性：这项工作提供了一个完整的理论框架，包括无偏性证明、方差分析、收敛保证和重构下界，确立了该方法不仅是启发式的，而且在统计上是可靠的。

作者总结道，这种方法使得在以往因数据稀缺和隐私要求而被认为不可行的场景中部署隐私保护机器学习成为可能。