A Consensus Privacy Metrics Framework for Synthetic Data
通过专家共识过程，本文建立了一个评估合成数据隐私的框架，该框架反对使用相似性指标进行身份泄露评估，强调了衡量成员资格泄露和属性泄露的重要性，并为支持立法合规和广泛采用提供了具体的建议和研究机会。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在现代健康研究领域，科学家们经常需要分享详细的患者信息，以寻找治愈方法或了解疾病。然而，分享真实的个人记录、医疗史和基因代码带有严重的风险：有人可能会通过拼凑数据来确定一个人的真实身份，从而暴露其私密秘密。为了解决这个问题，研究人员开发了一种名为“合成数据生成”的方法。他们不再发布真实的记录，而是利用计算机程序创建全新的、虚构的数据集。这些虚构记录在统计学上看起来并表现得与真实记录几乎一致，这使得研究人员可以在从未见过真实患者姓名的情况下进行研究。但这产生了一个新的谜题：你如何知道这些虚构数据是否真的安全？如果生成数据的计算机程序过于完美，它可能会不小心逐字逐句地复制某个真实的人的记录，从而使整个初衷失效。
来自世界各地的隐私专家团队最近聚集在一起，试图解决这个谜题。他们想要制定一套统一且公认的规则，用于衡量合成数据是否安全。他们并没有发明新的计算机程序或修复现有的程序；相反，他们扮演了评判者的角色，审查了目前科学家尝试测试隐私风险的各种方式。通过一个细致的多步骤讨论和投票过程，他们检查了用于衡量风险的工具，并决定了哪些工具确实有效，哪些是具有误导性的。他们的目标是消除目前围绕该领域存在的混乱，因为目前存在数十种不同的测试方法，其中许多测试给出的答案是相互矛盾的。
研究人员发现，目前最流行的测试安全性的方法之一实际上是一个死胡同。许多科学家目前通过检查一条虚构记录与一条真实记录之间的接近程度来衡量隐私，假设如果两者之间的数值差异较大，数据就是安全的。专家们得出结论，这种方法是有缺陷的。仅仅因为一条虚构记录看起来与真实记录不同，并不意味着黑客无法查出那个人是谁，或者无法得知其私密的医疗状况。事实上，依赖这些简单的距离测量可能会给人一种虚假的安全感。专家组明确建议不要将这些“相似性”评分作为安全性的主要证明。
相反，专家组一致认为，测试合成数据的唯一可靠方法是模拟攻击。他们推荐了两种特定的测试类型。第一种是成员身份测试（membership test），它询问：“攻击者能否查出某个特定的人是否属于用于训练计算机程序的那个群体？”第二种是属性测试（attribute test），它询问：“攻击者是否可以仅通过查看虚构数据，就猜出一个人的敏感细节，例如某种特定的疾病？”专家们强调，必须仔细进行这些测试。例如，在测试某人是否在训练组中时，必须假设攻击者仅知道公开可获得的信息，而不是这个人的每一个生活细节。他们还发现，目前对这些测试进行评分的方式往往忽略了某种状况在人群中的普遍程度或稀有程度，这会导致结果看起来比实际情况更好或更差。
该小组还探讨了名为“差分隐私”（differential privacy）的流行隐私技术。这种方法通过向数据添加特定数量的数学“噪声”来隐藏个人细节。多年来，研究人员一直试图将添加噪声的数量作为衡量安全性的简单评分。专家组发现，除非噪声极高，高到使数据对于研究几乎毫无用处，否则这个评分是没用的。对于任何能保持数据可用性的现实水平的噪声，专家们表示，你不能仅仅信任这个评分；你仍然必须运行上述相同的攻击模拟，以观察数据是否真正安全。
这项工作的最终成果是一个清晰的未来框架。专家们一致认为，不存在一个能保证安全的单一“魔术数字”。相反，数据控制者必须运行特定的攻击模拟，以衡量泄露数据中包含的人员身份及其秘密的风险。他们还指出，虽然他们可以建议一个关于什么程度算作可接受风险水平的起点，但最终的决定取决于数据的敏感程度以及对相关人员可能造成的伤害。通过从模糊的距离测量转向具体的攻击模拟，这一框架为研究人员和监管机构提供了一种切实可行且可靠的方法，使他们能够在不损害所代表个体隐私的前提下分享合成数据。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。