Creation begins with understanding: LLMs as strategy designers for privacy-preserving tabular data synthesis
本文介绍了 TabSSD，这是一个利用大语言模型设计基于变量依赖摘要而非原始数据的隐私保护合成程序的创新框架，在实现卓越的统计保真度、效用和隐私权衡的同时，显著降低了现有方法的计算成本和专业知识门槛。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在从医学到金融的许多领域，最有价值的洞察往往来自于对行与列数字的观察：一个患者的年龄、血压和检测结果；一个客户的消费习惯和地理位置。这些是表格数据，是驱动现代决策的结构化记录。然而，由于旨在保护个人的严格隐私法律，共享这些信息往往受到阻碍。如果一家医院想要与研究人员合作，它不能简单地发送一份包含真实患者姓名和病史的电子表格。多年来，解决方案一直是创建“合成”数据：看起来并表现得像真实数据，但并不属于任何实际个人的虚假记录。挑战一直在于如何让这些伪造数据既足够好用，又不至于完美到足以意外泄露其模仿的真实人物的秘密。
传统上，创建这些合成表格依赖于两条艰难的路径。一条路径使用复杂的“黑箱”计算机模型，通过调整数百万个内部设置来学习模式。虽然这些模型功能强大，但难以检查；如果它们失败或泄露信息，人们往往无法看出原因。另一条路径则是近期尝试使用大型语言模型（即驱动先进聊天机器人的同类技术）来逐条编写虚假记录。但这种方法经常失败，因为它迫使计算机将电子表格视为一段长而连续的文本流，这会打乱列与列之间的自然关系，并可能在过程中意外暴露敏感细节。
一项新研究介绍了一种不同的前进方式，将人工智能的角色从“记录员”转变为“建筑师”。研究人员没有要求计算机直接生成数千行虚假数据，而是开发了一个名为 TabSSD 的系统，该系统要求计算机设计制造这些数据的指令。该系统首先在安全的计算机上本地分析真实数据，总结不同列之间的相互关系，而绝不会将原始数字发送到云端。然后，它将这些摘要发送给大型语言模型，后者充当策略设计师。该模型阅读摘要并编写一套可执行的计算机代码指令——即生成虚假数据的“配方”。随后，这段代码在本地运行，以产生合成数据集。通过将策略的设计与实际的数据生成分离，该系统确保了原始私密记录永远处于所有者的控制之下，同时仍能产生保留了现实世界复杂关系的优质合成数据。
研究人员在十二个不同的现实世界数据集上测试了这种方法，涵盖了从小型医疗记录到大型人口统计信息的各种数据。他们将该方法与十种其他领先技术进行了对比，包括深度学习模型和其他基于语言的方法。结果显示，这一新系统达到了卓越的平衡。它生成的合成数据在统计学上与真实数据非常接近，这意味着在虚假数据上训练的模型表现得与在真实数据上训练的模型一样出色。同时，它将重新识别真实个体的风险降到了极低。事实上，在他们衡量的所有指标中，这种新方法在测试的十种方法中取得了最佳平均排名。它在实现这一性能的同时，消耗的计算能力和时间也显著减少，能够在标准的计算机处理器上高效运行，无需昂贵的图形显卡。
这种方法最显著的优势之一是透明度。因为该系统输出的是一段可读的计算机代码，而非隐藏的神经网络，人类专家实际上可以查看这些指令以了解数据是如何生成的。如果医生或数据分析师注意到潜在的偏差，例如系统意外地将一个人的性别与其职业头衔联系起来，而这并不符合现实，他们只需打开代码并修改规则即可。在一次涉及人口普查数据集的测试中，研究人员展示了人类如何通过从指令中移除特定的变量来减少性别偏差，系统会立即生成尊重这一变更的新数据，而无需从头开始重新训练。这种审计和微调过程的能力，使得该技术更适用于信任和安全至关重要的高风险领域。
研究还强调了该系统如何适应不同类型的数据。当面对变量紧密关联的数据集时（例如依赖于彼此的血液检测结果），系统会设计一套适用于连续数值的统计工具策略。当遇到主要是类别型数据的数据集时（如汽车类型），它会切换到另一套规则。这种灵活性使其能够处理从简单的表格到拥有数百个变量的复杂高维数据。在一个涉及临床数据集的特定案例中，该数据集包含一种罕见结局——即在手术后一年内死亡的患者——系统成功生成了足够多的虚假案例来帮助训练更好的预测模型，同时保留了其他方法所忽略的疾病细微模式。
最终，这项工作表明了我们应该如何看待用于结构化数据的人工智能。研究人员指出，与其将这些模型视为不断产出数据的引擎，不如将其视为设计过程的建筑师。通过利用语言模型来编写指令，并将实际的数据生成保持在本地且受人类监督，该系统为安全地共享敏感信息提供了一条路径。它降低了组织使用合成数据的门槛，消除了对专门团队来调整复杂模型或管理庞大计算资源的依赖。研究结果表明，对于表格数据而言，使用先进人工智能最有效的方式可能不是生成数据本身，而是设计那些透明、可审计的规则，从而让我们能够安全地创造数据。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。