🤖 machine learning

Federated and differentially private estimation of KL divergence

本文介绍了 FedPriKL，这是一种在联邦设置下估计 KL 散度的创新差分隐私方法，该方法实现了无偏、低方差的准确性，并具有受限的敏感度，同时与现有基准相比最小化了通信开销。

原作者： Sayan Biswas, Graham Cormode, Carsten Maple, Mary Scott

发布于 2026-08-24

📖 1 分钟阅读☕ 轻松阅读

原作者： Sayan Biswas, Graham Cormode, Carsten Maple, Mary Scott

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

在现代数据世界中，信息往往分散在数以百万计的独立设备中，从智能手机到可穿戴健康追踪器。这种分散的特性创造了一种无需将所有人的数据收集到一个中央库中即可了解世界的方式。这种被称为联邦学习（federated learning）的方法，允许中央系统通过要求设备在其本地数据上进行计算，然后仅分享计算结果来构建模型。然而，一个关键的挑战仍然存在：我们如何知道正在使用的数据是否随时间发生了变化？如果使用应用程序的人群行为发生转变，基于旧数据构建的模型可能会变得不准确或不再适用。为了解决这个问题，分析师需要衡量当前数据与已知标准之间的差异，而这项任务通常需要查看原始数据。但在隐私至上的世界里，揭示原始数据往往是不可能的。解决方案需要一种数学方法，在不暴露构成数据的个人细节的情况下，测量这种差异。

来自洛桑联邦理工学院（EPFL）、牛津大学、华威大学以及传染病数据观测站（Infectious Diseases Data Observatory）的研究人员开发了一种名为 FedPriKL 的新方法来解决这个确切的问题。他们的工作专注于一种用于比较两组数据的特定数学度量工具，该工具可以告诉我们一组信息偏离参考点的程度。在这种情景下，参考点是所有人公认的公共标准，而另一组则是用户设备上持有的私密敏感数据。目标是在中央服务器从未见过个人记录的情况下，计算这两组数据之间的距离。研究人员创建了一种协议，允许中央协调员询问一小部分随机选择的设备，检查某些项目在它们本地数据中出现的频率。这些设备随后仅返回这些特定项目的计数，并将这些计数进行安全组合。为了确保即使是这些计数也无法追溯到个人，系统会在最终结果中加入经过精心计算的数学噪声。

团队发现，该方法在保持严格隐私保障的同时，具有高度的准确性。他们从数学上证明了该方法产生的是无偏估计，这意味着结果在平均意义上是正确的，并且保护隐私所需的噪声量足够小，不会破坏数据的可用性。在实验中，他们使用大型手写数字数据集测试了该系统，模拟了数千名用户贡献数据的真实场景。他们发现，通过仔细选择询问设备的数量和添加噪声的量，该系统可以产生几乎与不使用任何隐私保护时一样准确的结果。这与以往的方法相比是一个显著的改进，在以往的方法中，设备试图通过在发送数据前添加噪声来隐藏数据，这种技术往往会导致结果不准确。新方法将噪声添加过程放在了最后一步，即在数据被安全组合之后，从而保留了测量的完整性。

研究人员还探讨了不同设置如何影响结果。他们发现，即使在每一轮中只要求总用户中的一小部分参与，该系统仍然运行良好，且每个用户需要发送的数据量非常小，通常不到 1 千字节。这使得该系统对于电池和内存有限的设备来说非常实用。研究表明，该方法能够准确区分数据的微小变化和剧烈变化，这对于决定计算机模型何时需要更新至关重要。虽然当前版本的系统依赖于一个受信任的中间步骤来安全地组合数据，但研究人员证明，这一步骤可以使用现有的安全硬件或先进的密码学技术来完成，从而确保没有任何单一实体能看到原始数据。这项工作为以尊重用户隐私的方式监测数据趋势提供了一条具体的路径，使组织能够在不损害生成数据的个人机密性的情况下，保持其模型的准确性。

技术摘要：FedPriKL —— 基于联邦与差分隐私的 KL 散度估计

问题陈述

在现代联邦学习与分析领域，监测分布漂移（distribution drift）是一项关键任务，用于确定何时需要对模型进行重训练或微调。这需要将分布式客户端持有的经验分布 ( $P$ ) 与一个固定的公开参考分布 ( $\Pi$ ) 进行比较。然而，由于高昂的通信成本和隐私限制，直接共享客户端数据或完整的直方图通常是不可行的。

现有方法面临显著障碍：

隐私性： 中心化收集样本会违反用户隐私。
不可能结果： 移位不变性定理（Shift Invariance Theorem）[9] 表明，在空间小于定义域大小的情况下，估计两个未知分布之间的 KL 散度是不可能的。
通信： 对于大规模定义域，从客户端向服务器传输完整的直方图会导致带宽过载。
局部扰动的偏差： 标准的本地差分隐私（LDP）方法（即客户端在聚合前添加噪声）在估计如 KL 散度这类非线性函数时，会引入显著偏差，尤其是在处理较小的概率质量时。

本文旨在解决在水平联邦设置下估计 $D_{KL}(\Pi \parallel P)$ 的问题，其中 $P$ 由 $n$ 个客户端的聚合数据定义，而 $\Pi$ 是一个已知的公开基准。目标是在实现形式化样本级差分隐私（DP）的同时，最小化通信开销并保持估计器的准确性。

方法论：FedPriKL

作者提出了 FedPriKL，这是一种基于采样的协议，它利用“可信聚合器”模型来实现差分隐私下的无偏估计。其核心技术创新是基于似然比（likelihood ratios）的无偏蒙特卡洛估计器，并结合了安全聚合与校准噪声注入。

关键组件：

无偏蒙特卡洛估计器：
该方法并非计算完整的散度，而是从参考分布 $\Pi$ 中抽取 $m$ 个点 $x_i$ 。对于每个样本，协议会估计似然比 $r(x) = P(x)/\Pi(x)$ 。
利用由 Fact IV.2 推导出的恒等式，通过以下函数来估计 KL 散度：
$\Phi(r(x), \lambda) = \lambda(r(x) - 1) - \ln(r(x))$
该函数在 $\Pi$ 样本上的期望等于 $D_{KL}(\Pi \parallel P)$ 。参数 $\lambda$ 用于控制估计器的方差。
协议工作流（算法 2）：
- 采样： 服务器选择不相交的客户端批次 ( $C_t$ )，并从 $\Pi$ 中抽取点 $x_{i,t}$ 。
- 安全聚合 (SecAgg)： 客户端计算采样点在其本地数据集中的频率。这些频率通过安全聚合协议（例如 Shamir 秘密共享）进行聚合，以计算全局经验概率质量 $P(x)$ ，而不会泄露单个客户端的数据。
- 可信聚合器处理： 聚合后的概率被发送至一个可信聚合器。聚合器计算似然比 $r(x)$ ，应用非线性变换 $\Phi$ ，并添加校准后的高斯噪声 ( $\eta_{\epsilon, \delta}$ )。
- 最终估计： 经过加噪的变换值被取平均，以产生最终的 DP 估计值。
隐私机制：
不同于客户端在本地添加噪声（聚合前）的基准方法，FedPriKL 在安全聚合之后、但在非线性变换最终完成之前添加噪声。这避免了因对负值进行截断（LDP 中的常见问题）而引入的偏差。该估计器的敏感度是受限的（定理 IV.4 和 IV.5），从而允许进行精确的噪声校准以满足 $(\epsilon, \delta)$ -DP。
信任模型：
该协议假设存在一个可信聚合器（或 TEE/SMC 实现），它仅能看到采样点的安全聚合统计数据，而非原始客户端数据。服务器是“诚实但好奇”的，仅接收最终的加噪估计值。

核心贡献

问题形式化： 本文将计算联邦设置下 KL 散度的过程进行了形式化处理，并提供了形式化的差分隐私保证，特别针对公开参考分布与私有经验分布的情况。
FedPriKL 算法： 作者提出了首个针对 $D_{KL}(\Pi \parallel P)$ 的通信高效、基于采样的联邦估计器，该估计器提供了形式化的样本级 DP。
理论分析：
- 无偏性： 证明了该估计器是无偏的（定理 IV.7）。
- 敏感度界限： 建立了估计器的有界敏感度，从而能够推导出最优噪声规模（定理 IV.4, IV.5）。
- 方差特征： 提供了估计器方差随 $\lambda, \epsilon$ 及样本量变化的理论特征，并推导出了使方差最小化的最优 $\lambda$ （定理 V.1, V.3）。
通信效率： 每个客户端的有效载荷与定义域大小无关。对于包含 $2^{16}$ 个元素的定义域，有效载荷仍保持在 1 KB 以下。

实验结果

作者在 FEMNIST 数据集（按作者划分的手写数字）上对 FedPriKL 进行了评估，并将其与非隐私估计器及基准 LDP 方法（算法 1）进行了对比。

准确度 vs. 隐私度： 当隐私预算 $\epsilon$ 处于中等水平（ $0.5 \le \epsilon \le 1.0$ ）时，FedPriKL 达到了与非隐私估计器相当的准确度。
优于基准方法： 在准确度和稳定性方面，FedPriKL 显著优于基准方法（局部扰动）。基准方法由于必须对负概率估计进行截断，从而产生了偏差。
参数敏感性：
- $\lambda$ ： 经验发现，最优方差参数 $\lambda$ 接近于 0。
- 样本量 ( $m$ )： 少量的样本（ $m=10$ ）足以实现近乎最优的准确度，使客户端通信保持轻量化。
- 批次大小： 参与客户端数量的变化会影响收敛速率，但不会从根本上改变最优 $\lambda$ 。
鲁棒性： 该方法在不同的散度量级（从极小到极大 KL 值）下均能保持较低的绝对误差。

重要性与主张

本文声称 FedPriKL 是首个针对公开参考分布与私有总体之间的 KL 散度，提供通信高效且具备形式化样本级差分隐私保证的联邦估计器。

其重要性在于能够：

实现漂移检测： 为平台提供一种保护隐私的机制，用以检测分布偏移并触发模型重训练，而无需暴露敏感的用户数据。
克服不可能结果： 通过将问题限制在已知的公开参考分布内，规避了关于绘制未知分布的“不可能结果”。
平衡效用与隐私： 它证明了通过可信组件将噪声注入步骤移至聚合后阶段，可以维持高水平的效用并满足严格的隐私约束，从而避免了局部扰动方法固有的偏差。

作者指出，对可信聚合器（或 TEE/SMC）的依赖是一种实际的权衡，可以通过安全硬件或多方计算来解决，并指出消除这一信任假设是未来的研究方向。