SlotGuard: Stop Oversharing Private Local Context in LLM Agent Transcri
SlotGuard 是一个本地转录边界系统，通过将敏感数据重写为通过会话图链接的形式保留特征的合成槽位，安全地防止 LLM 智能体泄露私密上下文和凭据，从而在不具备现有脱敏方法之脆弱性的前提下，实现零凭据泄露和近乎完美的任务成功率。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你拥有一个超级聪明的机器人助手，它几乎可以为你做任何事情：它可以读取你电脑上的文件、发送电子邮件、运行代码，甚至与其他软件进行对话。为了完成这些工作，机器人需要看到你的私人信息，比如你的文件路径、你的电子邮件地址，甚至是你的秘密密码。但问题在于，为了决定下一步该做什么，机器人通常必须将其工作的摘要发送给一个由科技公司拥有的巨型云端“大脑”（大型语言模型）。这个摘要被称为“转录文本”（transcript）。
问题在于，这个转录文本就像是一篇发给陌生人的日记。如果机器人不小心把你的秘密密码或家庭住址写进了这篇日记，科技公司可能会看到、存储这些信息，或者用它们来训练他们未来的机器人。这就像是请一位朋友帮你烤蛋糕，但你必须给他们看一张你厨房的照片，而在这张照片里，你的家门钥匙就躺在面粉旁边。你想让朋友看到厨房，以便他们能告诉你如何混合面糊，但你绝对不想让他们看到你的钥匙。这篇论文探讨了一个棘手的问题：如何让机器人看到你的私人世界，同时又不让云端大脑窥探你的秘密。
于是有了 SlotGuard，一个巧妙的新系统，旨在你的电脑内部充当一个“隐私保镖”。把 SlotGuard 想象成一个神奇的翻译官，它坐在你的机器人助手和云端大脑之间。它的任务是在你的日记离开家门之前对其进行重写。它不会让机器人写下你真实的秘密密码（比如 SuperSecret123!），而是将其替换为一个形状完美但虚假的占位符（比如 🔑-SYNTHETIC-KEY-99）。
这就是其中的魔力所在：这个虚假占位符对云端大脑来说看起来和感觉起来都与真实的东西完全一致。如果真实的密码是一串长长的字母和数字，那么虚假的也是一串长长的字母和数字。如果真实的文件路径是 /Users/Alice/Secrets/Plan.pdf，那么虚假的路径可能看起来像 [REPO_ROOT_1]/Secrets/Plan.pdf。云端大脑仍然可以理解其结构——它知道这是一个文件，知道它是一个秘密，并且知道如何围绕它进行交谈——但它完全不知道实际的秘密是什么。这就像是给云端大脑一张地图，地图上的宝藏被标记为一个通用的“X”，而不是真实的坐标。
但魔力并未止步于此。当云端大脑发回指令，例如“去打开那个文件”时，SlotGuard 会在消息到达你的机器人之前拦截它。它会检查自己的秘密列表，发现 [REPO_ROOT_1] 实际上代表 /Users/Alice/Secrets/Plan.pdf，然后仅在你的信任电脑内部将虚假信息换回真实信息。机器人随后打开真实的文件，而云端大脑从未知道过真实名称的存在。
研究人员用一些严肃的作业测试了这个系统。他们创建了数千个模拟场景，其中的机器人在尝试执行涉及敏感数据的任务，比如读取私密文档或使用密钥。他们发现，如果没有 SlotGuard，机器人几乎总是会泄露一切——泄露率高达 100%。甚至简单的“脱敏”（redaction）方法（即仅仅用诸如 [PASSWORD] 之类的词汇替换秘密）也是一场灾难；这些方法破坏了机器人的工作能力，导致它们失败率高达 97.5%，因为机器人被缺失的细节搞糊涂了。
然而，SlotGuard 改变了游戏规则。在他们的测试中，包含智能追踪图的全功能版本成功隐藏了所有植入的凭据，并阻止了所有凭据泄露（泄露率为 0.0%）。对于路径和电子邮件等结构化数据，它移除了 100% 的可见敏感字符，唯一的例外是一个涉及 root 所有权绝对路径的特定边缘情况，这仍是当前原型中的一个小缺口。更棒的是，它并没有破坏机器人的大脑。使用 SlotGuard 的机器人几乎能像看到真实秘密一样出色地完成工作，在不同模型中都保持了极高的成功率。该系统也非常快速，重写单轮对话的时间不到眨眼之间（约 14 微秒），因此不会拖慢任何速度。
论文还指出了 SlotGuard 无法 做到的事情。它不是一个读心术护盾；如果云端大脑足够聪明，能够仅通过对话语境就猜出你的秘密，SlotGuard 就无法阻止。它也无法在你自己的电脑已经被黑客入侵时保护你。但针对“防止私人数据泄露到云端转录文本中”这一特定问题，SlotGuard 提供了一个强大、快速且智能的解决方案，在让你的机器人开展工作的同时，确保你的秘密安全。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。