Dynamic Entanglement-Weighted Pruning for Quantum Federated Unlearning in Supply-Chain Risk Prediction
本文引入了纠缠加权剪枝(Entanglement-Weighted Pruning, EWP),这是一种用于供应链风险预测中量子联邦学习的新型遗忘方法,它通过基于量子费舍尔信息与结构纠缠的综合评分来剪枝参数,从而高效地消除客户端影响,在实现与完整重训练相当的准确度的同时,显著降低了计算成本。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
在现代物流世界中,预测风险是一项团队协作的任务。运输公司、制造商和承运商都掌握着拼图的一块——关于延迟、财务状况和航线中断的数据——但没有任何一家公司可以合法或安全地与其他公司共享这些数据。为了解决这个问题,他们使用了一种被称为联邦学习的方法。他们并没有将敏感数据汇集到一个中央数据库中,而是通过发送回传的微小且加密的更新来训练一个共享的计算机模型。原始数据永远不会离开所有者的场所。这种方法最近被扩展到了新兴的量子计算领域,其中共享的模型不是一个标准的程序,而是一个复杂的量子比特(qubits)排列,能够以经典计算机无法实现的方式处理信息。然而,一个新的复杂情况出现了。隐私法(例如欧洲的《通用数据保护条例》)赋予了个人和公司“被遗忘权”。如果一家公司加入了一个协作模型并随后决定退出,法律要求必须从最终系统中抹除其影响。在经典设置下,这很难实现;而在量子设置下,由于信息通过一种被称为“纠缠”的现象交织在一起,这变得更加神秘。核心问题变成了:如何在不破坏模型为其他人预测风险的能力的情况下,从量子模型中移除一个人的贡献?
印度理工学院焦杜布尔分校(IIT Jodhpur)的研究人员针对这一问题提出了一个解决方案,他们称之为“纠缠加权剪枝法”(Entanglement-Weighted Pruning)。由 Aditya Kumar 和 Sumit Chongder 领导的团队通过模拟一个涉及五家不同公司的供应链风险预测场景来应对这一挑战。在实验中,每家公司都持有关于运输风险的一小部分数据。他们共同训练了一个共享的量子模型,然后在一个模拟的法律请求中,其中一家公司要求被移除。研究人员需要一种方法,能够精准地切除那家特定公司的影响,而不必从头开始重新训练整个模型,因为在目前的量子硬件上,重新训练是一个极其缓慢且昂贵的过程。
团队意识到,并非量子模型的所有部分对每家公司都同等重要。为了确定要移除哪些部分,他们开发了一套评分系统,该系统会对量子电路中的每一个可调旋钮(即参数)观察两个特定指标。首先,他们测量了一个特定旋钮对想要退出的公司数据的敏感程度。如果一个旋钮在输入该公司的特定数据时会导致模型输出发生剧烈变化,那么它就被视为对该公司高度敏感。其次,他们测量了该旋钮对系统量子纠缠的贡献程度。纠缠是连接粒子的独特量子纽带;有些旋钮在粒子之间创造强链接,而有些则创造弱链接。研究人员发现,最安全的移除方式是针对那些对退出公司的特定数据高度敏感、但创造的纠缠链接却非常微弱的旋钮。这些部分是模型的组成部分,它们持有了特定公司的秘密,但对于维持模型整体结构的完整性并不重要。
他们将这两个测量值结合成一个单一的分数。任何得分较低的旋钮——即意味着它虽然对离开的公司具有特异性,但在结构上对群体并不重要——都会被重置为中性状态,从而有效地抹除其贡献。进行此类剪枝后,研究人员仅使用剩余公司的部分数据进行了简短且有针对性的调整,以确保模型依然有效。他们将这种方法与几种替代方案进行了对比测试,其中包括仅仅是从头开始重新训练整个模型(这是衡量标准,但耗时极长),以及仅考虑其中一个因素的其他方法。
结果令人瞩目。在他们的模拟中,这种新的剪枝方法实现了约 84% 的风险预测准确率,这一数值在统计学上与完全重新训练的方法并无二致。更重要的是,它在“遗忘”方面表现得更为出色。当研究人员测试黑客是否仍能通过模型推断出已退出公司的训练数据时,新方法使得模型比完全重新训练的方法更难被破解。然而,最显著的发现是速度。在他们的模拟中,从头开始重新训练整个模型大约需要 65 秒,而新的剪枝方法完成“遗忘”过程仅需不到 4 秒。这代表了大约 16 倍的加速,对于一个每一秒计算成本都很高的系统来说,这是一个巨大的提升。
研究还探讨了如果研究人员仅使用其中一个因素会发生什么。如果他们仅根据对离开公司的敏感度来移除旋钮,而忽略纠缠强度,模型的准确率会下降超过 35 个百分点。同样,如果他们仅根据微弱的纠缠强度来移除旋钮,而忽略特定的数据敏感度,模型则无法有效地实现“遗忘”。这证实了结合这两个信号的必要性;该方法之所以奏效,是因为它找到了一个特定的交集,即一个参数既是目标数据的载体,又是可以安全丢弃的部分。
研究人员谨慎地指出了他们工作的局限性。他们的发现来自于在经典计算机上的模拟,而非真实的量子机器,并且使用的是一个仅包含四个量子比特的小型模型。他们还强调,虽然他们的方法模拟了法律上“被遗忘权”的效果,但它并不像密码学证明那样提供数学上的保证来证明数据已彻底消失。尽管如此,这项研究提供了一条清晰且实用的路径。它表明,在未来当量子模型被用于供应链或医疗保健等关键决策领域时,人们将能够在不牺牲模型性能或等待数日进行重新训练的情况下,尊重隐私法并移除特定的贡献。该方法将一个潜在的破坏性过程转变为一种精确且高效的操作,确保了即使在个体成员进出时,群体的集体智能也能不断进化。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。