Domain Agnostic Text Redaction from Natural Language Rules using Instruction Tuning

在现代世界中，大量的个人和企业信息以简单的文本形式存在，从医疗记录、法律合同到财务报告。随着这些数据的日益数字化，一个关键的挑战也随之而来：如何在不泄露敏感秘密的情况下共享或分析这些文档。诸如《通用数据保护条例》（GDPR）和《健康保险流通与责任法案》（HIPAA）等法律要求，在文档离开安全环境之前，必须隐藏特定的细节，例如姓名、地址或私密的医疗状况。传统上，这种“脱敏”任务依赖于僵化的计算机程序，通过搜寻可预测的模式（如电话号码或社会保障号码）来执行。虽然这些工具对于标准格式非常有效，但当敏感信息出现在复杂的非结构化句子中时（例如合同中的特定条款或细微的医疗诊断），它们往往会失效。此外，当这些自动化工具决定隐藏文本时，它们很少解释原因，导致人类审计人员只能猜测脱敏背后的逻辑。

为了解决这一问题，Mphasis Limited 的研究团队开发了一种新方法，将文本脱敏视为一个推理问题，而非简单的搜索与替换任务。他们没有为每种可能的敏感数据类型编写硬编码规则，而是创建了一个系统，让用户可以用自然语言描述需要隐藏的内容。例如，用户只需简单地说明：“隐藏这份财务报告中任何关于特定客户费用的提及”，或者“删除这份法律协议中关于土地地块位置的所有细节”。随后，该系统利用大语言模型将这些自然语言指令转化为一套逻辑规则。这些规则被用于训练一个更小、更高效的语言模型，使其能够阅读文档、理解上下文，并准确判断哪些词汇或短语符合用户对敏感信息的定义。至关重要的是，该系统不仅仅是涂黑文本；它还会为被移除的每一处信息生成一段书面解释，并引用触发该动作的具体规则。

研究人员在多种类型的文档上测试了这种方法，包括财务披露、客户参与详情和医疗记录。他们发现，该系统能够准确识别并脱敏传统工具可能会遗漏的内容，例如复杂的法律术语或特定的商业策略，同时保持非敏感信息不受影响。为了确保系统的安全性，他们对脱敏后的文档进行了严格测试，即利用一种强大的人工智能尝试根据上下文信息推测隐藏的信息。结果显示，该系统表现出了极高的韧性；人工智能无法重建被脱敏的细节，这表明敏感信息已被有效移除，而不仅仅是被遮蔽。在测试中，该模型成功识别并脱敏了超过 95% 的目标敏感实例。

这项工作的一个核心创新是使用合成数据来训练系统。研究人员并没有将真实的私人文档输入模型，而是利用大语言模型生成了数千份模拟现实场景的虚构文档。这些合成文档包含了敏感与非敏感内容，以及正确的脱敏处理和解释。这使得较小的模型能够在训练过程中从未接触过真实个人隐私数据的情况下，学习如何针对隐私规则进行推理。其结果是一个既灵活又透明的工具。它可以通过听从人类的指令，即时适应新的文档类型和新的敏感性定义。通过为每一次脱敏提供清晰的自然语言理由，该系统弥合了自动化效率与人类问责制之间的鸿沟，提供了一种既易于理解又行之有效的隐私保护方式。