💻 computer science

PrivFusion: A Privacy-preserving Multi-Agent Framework for Harmonizing Distributed Datasets

PrivFusion 是一个隐私保护的多智能体框架，它通过迭代特征对齐实现异构分布式临床数据集的自动化协调，从而克服了有效联邦学习的关键障碍。

原作者： Anisa Halimi, Liubov Nedoshivina, Kieran Fraser, Stefano Braghin

发布于 2026-05-26

📖 1 分钟阅读☕ 轻松阅读

原作者： Anisa Halimi, Liubov Nedoshivina, Kieran Fraser, Stefano Braghin

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在组织一场盛大的百家宴，每位客人都要带一道菜，但没人被允许离开自己的厨房。目标是共同制作一份所有人都能享用的美味菜单。然而，这里有个难题：每位厨师使用的量杯不同，语言各异，对同一种食材的称呼也各不相同。有人称之为“面粉”，有人称之为“小麦粉”，还有人将其列为“白色粉末”。

这正是医院和研究机构在希望整合医疗数据以训练人工智能（AI）模型时所面临的问题。由于隐私法规的限制，他们无法将患者记录发送到中央计算机。这就是联邦学习发挥作用的地方：它允许他们在不移动数据的情况下共同训练 AI。但正如论文所解释的，由于数据过于混乱和不一致，这种系统往往难以奏效。

于是，PrivFusion 登场了。这是一种全新的“数字媒人”，旨在在烹饪（训练）开始之前就解决这些混乱。

问题：数据的“巴别塔”

作者指出，虽然联邦学习在理论上很出色，但在现实中却遇到了瓶颈。一家医院可能将患者的年龄记录为数字（例如"45"），而另一家则将其写为文本（“四十五”）。有的将地点列为城市名称，有的列为 GPS 坐标，还有的列为国家代码。

传统上，解决这一问题需要人类团队坐下来手动重写数千行数据。这不仅缓慢、昂贵，而且往往在不违反隐私规则的情况下无法完成。

解决方案：数字代理团队

PrivFusion 通过利用一组AI 代理（可以将其视为专门的数字助手）协同工作，以隐私安全的方式解决了这一问题。以下是该过程的逐步说明：

本地检查（分析师）：
各医院不再将实际患者数据发送到中央服务器，而是发送由各自本地 AI 生成的“摘要报告”。该报告包括：
- 他们拥有何种类型的数据（数字、日期、文本）。
- 数据的含义（例如，“此列代表日期”）。
- 一些合成样本。想象这些是在厨房中制作的“样板菜”。它们看起来和尝起来像真正的食物（格式相同，结构相同），但不包含真正的食材（没有真实患者姓名或秘密）。这些样本有助于服务器在不查看实际数据的情况下理解数据的形态。
中央媒人（服务器）：
中央服务器接收这些摘要报告和样板样本。它看不到真实数据，只看到“菜单描述”。
- 聚类： 服务器将相似的项目分组。它意识到“总病例数”、“总阳性病例数”和“病例”都指代同一事物。
- 建议： 服务器像主厨一样，向每家厨房发送一份指令清单：“将您的列名更改为‘病例’，将日期转换为此特定格式，并忽略这一与其他任何人不匹配的列。”
转换（厨师）：
每家医院根据这些指令在本地对其数据进行转换。他们更新自己的“菜单”以符合新标准。
循环：
他们将更新后的摘要发送回服务器。如果服务器发现仍未完全对齐，它会发送新指令。这一过程会循环进行（通常只需 2 到 3 次），直到大家使用同一种语言。

结果：速度与隐私

研究人员使用来自四个不同国家（阿富汗、印度尼西亚、意大利和美国）的四个真实世界 COVID-19 数据集测试了该系统。这些数据集在格式和名称上混乱不堪。

效率： 该系统仅通过2 到 3 轮通信就成功实现了数据协调。
准确性： 它成功对齐了日期和地点代码等特征，将混乱的格式混合体转变为干净、标准化的数据集。
隐私： 至关重要的是，论文声称服务器在任何时候都未看到实际患者数据。它仅看到了“样板”样本和元数据。服务器无法推断出患者是谁，也无法窃取有关个人的具体细节。

“秘密配方”（大型语言模型）

该系统依赖先进的 AI 模型（如 GPT 和 Llama）来理解词语背后的含义，而不仅仅是拼写。例如，它知道"Date"和"yyyy-mm-dd"代表同一概念，即使它们看起来不同。论文发现，不同的 AI 模型具有不同的“个性”：有些非常严格，完美地遵循规则；而另一些则更具创造性，但有时会进行不必要的更改。

核心结论

PrivFusion 是一种自动化工具，能够处理繁琐且可能破坏隐私的医疗数据清理工作。它允许不同机构在不分享秘密配方的情况下“使用同一种语言”。论文总结道，只要 AI 代理遵循正确的规则，这就使得在不损害患者隐私的前提下开展大规模协作医学研究变得更加容易。

技术摘要：PrivFusion

问题陈述

临床和生物医学数据的快速增长推动了机器学习（ML）在风险预测和队列发现等任务中的应用。然而，由于隐私、安全和治理方面的限制，传统的集中式数据聚合对于敏感信息（如电子健康记录）往往不可行。虽然联邦学习（FL）通过将数据保留在本地提供了一种分布式替代方案，但其在现实世界中的部署受到机构间数据异构性的阻碍。

临床数据集在特征定义、编码系统、粒度以及测量实践方面经常存在差异。在进行分布式分析之前，必须对这些数据集进行协调——这是一个涉及变量对齐和语义解析的劳动密集型过程。当前的联邦学习方法论往往不切实际地假设协调工作已预先完成，从而造成了一个主要瓶颈。现有的基于本体的解决方案通常需要集中化或预定义的映射，而这些在不同工作流的机构之间难以建立。因此，迫切需要一种自动化、可扩展且保护隐私的协调方法，使其能够在分布式环境中运行，而无需集中原始敏感数据。

方法论：PrivFusion 框架

PrivFusion 是一个隐私保护的多智能体框架，旨在自动化结构化数据集在联邦训练前的协调工作。它在诚实但好奇的威胁模型下运行，即中央服务器遵循协议，但可能会尝试推断敏感信息。该框架涉及两方：研究人员（持有本地数据集）和服务器（聚合器）。

该过程是迭代的，包含四个主要阶段：

本地元数据生成（数据集分析器）：
每位研究人员使用一系列智能体在本地分析其数据集（ $D_i$ ），以生成元数据（ $M_i$ ），而无需共享原始数据。这包括：
- 特征提取： 使用通用本体（DBPedia）识别数据类型（如字符串、数值）和语义类型。
- 描述生成： 智能体（ $A_D$ 、 $A_F$ ）生成数据集描述和语义特征描述。
- 关系推断： 一个智能体（ $A_R$ ）推断特征之间的关系，而另一个（ $A_T$ ）提取相关主题。
- 合成数据： 研究人员使用差分隐私（DP）方法生成 $n$ 个低效用合成样本，以指导服务器了解特征格式和领域。
特征聚类（服务器端）：
服务器接收来自所有站点的元数据（ $M_i$ ）。一个智能体（ $A_C$ ）基于语义相似性（名称、数据类型和 DBPedia URI）跨数据集对特征进行聚类。同一聚类内的特征被确定为合并或对齐的候选项。
转换推荐（服务器端）：
推荐智能体（ $A_H$ ）分析聚类和元数据以确定必要的转换。它比较 DBPedia URI 和语义描述，以收敛到代表性的 URI 和粒度级别。服务器为每个站点输出具体指令，详细说明哪些特征需要合并、删除或修改，以及目标表示形式。
本地转换与迭代：
研究人员使用 Python 脚本或代码生成大语言模型（ $M_C$ ）在本地应用推荐的转换。更新后的元数据被重新发送给服务器。此循环持续进行，直到不再需要进一步转换或达到最大迭代次数（ $T$ ）。

主要贡献

自动化隐私保护协调： PrivFusion 引入了一个框架，可在不集中原始数据的情况下自动化跨机构异构数据集的对齐，解决了联邦学习中常被文献忽视的关键前提。
多智能体架构： 该系统利用专门的智能体处理不同任务（分析、聚类、推荐、代码生成），以应对语义对齐和转换逻辑的复杂性。
基于本体的语义对齐： 通过利用 DBPedia URI 和语义描述，该框架超越了简单的字符串匹配，能够推理特征的语义含义，从而实现概念等价但结构不同的列的对齐。
合成数据指导： 使用低效用合成样本使服务器能够了解特征领域和格式，同时保持隐私保证，避免泄露个体层面的统计信息。

评估与结果

该框架在来自印度尼西亚（IDN）、阿富汗（AFG）、意大利（IT）和美国的四个真实世界异构 COVID-19 数据集上进行了评估。这些数据集在日期格式、位置粒度（例如，县与省与国家）以及特征命名约定方面存在显著差异。

实验设置：

模型： 作者测试了各种大语言模型（LLM）的组合，包括 GPT-OSS-120b（GPT-120b）、Llama-3-70b（Llama-70b）和 DeepSeek-Coder-33b（DSC-33b）。
指标： 收敛速度（迭代次数）、推荐的转换总数以及协调后共有特征的数量（共享名称和 DBPedia URI）。

主要发现：

效率： 对于成对数据集组合，PrivFusion 通常在 2–3 次迭代内实现协调。例如，IDN-AFG 组合在使用 GPT-120b 时，2 次迭代即收敛。
特征对齐： 该框架成功标准化了特征名称（例如，转换为蛇形命名法），协调了日期格式，并对齐了位置粒度。
LLM 影响：
- GPT-120b 表现出卓越的指令遵循能力，通常能识别何时不再需要进一步迭代，并倾向于增量更新。
- Llama-70b 显示出更高的创造性，但偶尔会误用归一化步骤或引入不必要的更改（例如，任意重命名特征），导致某些配置下的迭代次数增加。
- DeepSeek-Coder 生成了正确的代码，但偶尔会产生不完整的响应，需要人工干预。
可扩展性： 复杂性随参与方数量呈非线性增加。虽然成对协调所需的转换较少，但多方场景（例如 AFG-IDN-IT）则需要显著更多的转换（某些配置下高达 49 次）和迭代。
收敛性： 特征名称之间的 Jaccard 相似度得分通常在 3–6 次迭代内达到峰值，表明模式迅速稳定。

意义与局限性

意义：
PrivFusion 证明了自动化、隐私保护的协调是可行且有效的。通过减少数据集对齐的人工负担，它扩大了协作分析的可及性，并提高了所生成模型的泛化能力。该框架成功弥合了联邦学习的理论潜力与异构、孤立的临床数据现实之间的差距。

局限性：

LLM 依赖性： 性能依赖于底层 LLM 的推理一致性，这可能会发生变化。LLM 可能会偶尔过度对齐或对齐不足特征。
人机回环： 在高危临床环境中，作者承认可能需要人工审查建议，以确保语义准确性和可靠性。
理论保证： 虽然该框架在实验中实现了收敛，但缺乏关于收敛所需迭代次数的理论保证。
计算成本： 多智能体工作流可能计算密集，可能对资源受限的机构构成挑战。

该论文得出结论，虽然 PrivFusion 能够以最小的转换有效协调数据集，但未来的工作将探索其在其他领域的应用，并评估替代 LLM 以进一步增强可扩展性。