Tracking Conversations: Measuring Content and Identity Exposure on AI Chatbots
本文系统性地测量了 20 款流行 AI 聊天机器人的网络追踪情况，并揭示出即使在私密聊天模式下，大多数机器人仍会将敏感的用户内容和身份信息分享给第三方分析、广告及会话回放服务。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，AI 聊天机器人就像是高科技、友好的图书管理员。你走到它们面前，低声问一个问题，它们便取出一本书来帮助你。在过去，你可能会想：“这仅仅是我和图书管理员之间的一次对话。”
然而，这项研究论文揭示，当你与这位图书管理员交谈时，一大群陌生人正站在一面单向玻璃墙后，做着笔记、拍着照片，甚至录制音频。
以下是研究人员发现的要点，使用了简单的类比：
1. 设置：“玻璃屋”图书管理员
研究人员进入了 20 个最受欢迎的 AI 聊天机器人网站（如 ChatGPT、Gemini、Claude 等）。他们并非随意提问，而是问了一个非常具体且敏感的问题：“我在附近哪里可以买到验孕棒？”
这就像走进图书馆，用非常低沉的声音询问医疗建议。研究人员想要看看，一旦这句话从你口中说出，这条特定信息会发生什么。
2. 大揭秘：“第三方窥视者”
研究发现，20 个聊天机器人中有 17 个正在将你的对话详情分享给外部公司（第三方）。
这样理解：你正在一个房间里进行私密对话，但墙壁是由玻璃制成的，而且聊天机器人的所有者邀请了 17 位不同的邻居过来偷听。
- “会话回放”摄像头：其中三个聊天机器人使用了一种名为"Microsoft Clarity"的工具。想象一下，这不仅仅是一个记录房间的安全摄像头，它还能以纯文本形式精确记录你说了什么以及图书管理员如何回应。研究人员发现，这些摄像头将“验孕棒”对话的完整文本发送给了微软，使其能够阅读你的私密医疗查询。
- “聊天 ID"明信片：即使聊天机器人没有发送完整文本，其中 15 个也向广告商和分析公司发送了一张“明信片”。这张明信片没有说明你问了什么，但它包含了一个独特的聊天 ID或指向你特定对话的链接。这就像给一家营销公司寄了一张便条，上面写着：“我在 404 号房间。”他们可能还不知道你问了关于验孕棒的事，但他们知道你在那个特定的房间里，并且可以在以后将该房间与你的身份关联起来。
3. “姓名牌”问题
研究人员还发现，许多聊天机器人在提供对话内容的同时，也交出了你的身份（你的姓名、电子邮件或账户 ID）。
- “支持小部件”泄露：一些聊天机器人在屏幕上设有小小的“帮助”按钮。当你加载页面时，这些按钮会自动向制造该按钮的公司（如 Intercom）大声喊出你的姓名和电子邮件地址，即使你从未点击过该按钮。
- “哈希化”的秘密：一些聊天机器人发送了你的电子邮件地址，但将其“打乱”（哈希化）。这就像发送一个只有接收者才能解码的秘密代码。如果你在购物网站和聊天机器人网站上使用相同的打乱代码，广告商就可以将两者关联起来，并意识到：“哦，那个买尿布的人和那个询问验孕棒的人是同一个人。”
4. “隐身”模式：它有效吗？
许多聊天机器人提供“私密”或“临时”聊天模式，承诺不会保存任何内容。研究人员对此进行了测试。
- 结果：它有效！在私密模式下，“邻居群”在很大程度上消失了。监听的外部公司数量显著减少，在他们测试的私密聊天中，没有人看到对话文本或你的身份。
- 陷阱：聊天机器人的隐私政策并没有明确说明“私密模式会阻止广告商”。它只是谈论不保存你的历史记录。研究人员发现，是私密模式的设计阻止了追踪，即使规则没有清楚地解释这一点。
5. “隐私政策”与现实
研究人员比较了聊天机器人声称所做的（在其冗长乏味的隐私政策中）与他们实际所做的。
- 不匹配：一些政策含糊其辞，称“我们与合作伙伴共享数据”。另一些政策虽然具体，却遗漏了最大的泄露者。例如，三个聊天机器人在其政策中列出了具体的合作伙伴，却忘记提及 Microsoft Clarity，尽管正是 Clarity 在以纯文本形式记录他们的私密对话。
- 例外：其中一个聊天机器人 Duck.ai 是“诚实的图书管理员”。他们不与任何人共享数据，甚至在将问题发送给 AI 之前就去除了你的位置信息。
总结
该论文得出结论，虽然 AI 聊天机器人是极好的工具，但它们目前被建造得像玻璃屋。
- 20 个聊天机器人中有 17 个允许外部公司窥视。
- 3 个聊天机器人允许这些公司大声朗读你的私密医疗或个人问题。
- 15 个聊天机器人向广告商发送一个独特的 ID，将你的对话与你的身份关联起来。
- 私密模式是唯一能有效阻挡邻居的“窗帘”，但聊天机器人并不总是告诉你这就是它的作用。
研究人员建议，聊天机器人的所有者需要建造更好的墙壁（设计变更），并就谁在监听更加诚实（更清晰的政策）。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。