Federated Learning Framework with Differential Privacy over Homomorphic Vector Encryption for Data-Sensitive Applications
本文提出了一种轻量级且安全的联邦学习框架，该框架将差分隐私与同态向量加密相结合，旨在保护如物联网医疗（IoMT）等数据敏感型应用免受逆向工程攻击，并量化了相关的预测与加密开销。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在现代数字世界中，人工智能已成为驱动医疗、金融和日常生活中决策的无声引擎。为了进行有效学习，这些系统传统上需要海量数据，通常需要从数百万用户那里提取个人信息并汇集到一个中央仓库中。这种方法产生了一个显著风险：如果该中央仓库遭到破坏，个人的隐私细节就会暴露。为了解决这个问题，研究人员开发了一种称为联邦学习的方法。与其将数据移动到中央计算机，不如让计算机模型前往数据所在地。每个设备（如智能手机或医疗传感器）利用自身的私有信息在本地训练模型，并仅将学到的改进部分传回中央服务器。原始数据永远不会离开设备。然而，即使是这些改进有时也会被好奇的观察者通过逆向工程还原，从而揭示原始数据，这为最敏感的应用留下了安全漏洞。
一个研究小组提出了一种旨在填补这一空白的新型框架，专门针对数据高度机密的环境，例如医疗记录或金融细节。他们的解决方案名为 Fed-DHVE，结合了两层截然不同的保护机制，以确保无论是中央服务器还是外部窃听者都无法看到任何单个用户的贡献。第一层是在发送学习更新之前加入计算出的随机噪声。这种被称为差分隐私的技术确保了任何单个人的数据的存在与否都不会显著改变最终结果，从而有效地模糊了更新与个人之间的联系。第二层使用一种特殊的数学系统对这些带有噪声的更新进行加密，该系统允许服务器在不解锁或查看单个部分的情况下对其进行组合。只有最终的组合结果才会被解密以改进全局模型。
研究人员通过模拟一千个设备协同工作进行图像识别（这是人工智能的一项常见任务）来测试该系统。他们将这一新框架与标准方法和其他现有的安全技术进行了对比。结果显示，该系统在保持个体贡献隐藏的同时，成功训练出了准确的模型。在四个不同的图像数据集上，该框架实现了高水平的准确度，范围大约在 94% 到接近 98% 之间。虽然这略低于标准的、无安全防护的系统，但这种下降是预料之中的，代表了为了获得更强隐私保护而进行的刻意权衡。系统还测量了执行复杂的加密和解密步骤所需的时间，发现加密更新仅耗时两秒多一点，而解密最终组合结果则不到一秒。
该研究强调，尽管该系统在模拟环境中运行良好，但它尚未成为应对所有可能威胁的完整解决方案。研究人员明确指出，他们目前的设置可以防御遵循规则但试图从数据中学习的服务器，以及外部监听者，但尚未解决用户可能尝试毒化模型或欺骗系统的攻击。此外，研究并未包含具体的测试，以观察攻击者是否仍能从带噪声且加密的数据中重建原始图像，也未计算整个过程的精确数学隐私评分。这些都被确定为必要的后续验证步骤。这项工作证明，在资源受限的环境下，通过叠加这两类安全方法来保护数据是可行的，为互联网医疗等对数据泄露代价极高的敏感应用领域提供了一条稳定的发展路径。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。