Adjust for Trust: Mitigating Trust-Induced Inappropriate Reliance on AI Assistance
本文表明，AI助手可以通过根据对用户信任水平的实时评估来动态调整其干预措施（例如提供定制化解释或强制停顿），从而显著减少不当依赖并提高决策准确性。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正在与一个机器人助手合作解决难题。论文《调整信任》（Adjust for Trust）探讨了一个非常人性化的问题：你对机器人的信任程度如何改变了你倾听它的方式，而这种改变往往会损害你的表现。
有时你过于不信任机器人，从而忽略了它精辟的建议。有时你又过于信任它，从而盲目地听从了它糟糕的建议。研究人员发现，如果机器人能够“察言观色”，并根据你当前的信任水平来改变其行为，你就能做出更好的决策。
以下是他们研究结果的拆解，使用了简单的类比：
1. 问题所在：“信任摆钟”
把信任想象成一个在两个极端之间摆动的摆钟。
- “怀疑”的一端（低信任）： 当你不信任机器人时，你会把它当作一个吵闹的邻居。即使机器人是对的，你也可能会想：“没门，我比你懂。”并因此忽略它。这被称为过度不依赖（under-reliance）。
- “粉丝”的一端（高信任）： 当你过度信任机器人时，你会把它当作一位导师。即使机器人错了，你也可能会想：“噢，它一定是正确的，只是我没理解透。”并盲目跟随。这被称为过度依赖（over-reliance）。
研究人员针对两组人群进行了测试：一组是回答科学问题的普通人，另一组是进行患者诊断的实际医生。他们发现，当信任度过低或过高时，人们都会犯更多的错误。
2. 解决方案：“变色龙”机器人
论文提出，机器人不应该仅仅是一个静态的工具，而应该是一个能根据你的情绪（信任水平）改变自身颜色（行为）的变色龙。
情景 A：你在怀疑（低信任）
机器人的招数： 它不再保持沉默，而是开始解释它的作业。
- 做法： 当用户的信任分数较低时，机器人会提供“支持性解释”（例如：“我认为是肺炎，因为有咳嗽和疲劳症状……”）。
- 结果： 这不仅仅是说服了用户，还让他们停下来思考：“噢，其实这确实有道理。”这阻止了他们忽视机器人，在某些情况下减少了高达 38% 的错误。
- 类比： 这就像一位知道你在怀疑他，所以掏出白板清晰地画出步骤以赢得你的信任的老师。
情景 B：你过于自信（高信任）
机器人的招数： 它不再扮演啦啦队队员，而是开始扮演反方辩友。
- 做法： 当用户的信任分数较高时，机器人会给出“反向解释”（例如：“我认为是肺炎，但也有可能是支气管炎，因为……”）。
- 结果： 这打破了用户的盲目崇拜。它迫使他们去想：“等等，也许我不该直接同意机器人的看法。”这显著减少了过度依赖。
- 类比： 这就像一位知道你正准备买一件糟糕商品的朋友，他会委婉地说：“你确定吗？你考虑过退货政策吗？”以此让你慢下来思考。
情景 C：“减速”按钮
研究人员还尝试了另一种策略：仅仅是放慢速度。
- 招数： 当信任度高时，机器人强制用户在点击“提交”之前等待 10 秒。
- 结果： 这对高信任用户很有效（阻止了他们匆忙操作），但对怀疑型用户没有帮助，因为他们已经在忽略机器人了。
- 类比： 这就像十字路口的红灯。它强迫你停下并观察，但如果你已经讨厌这辆车，它并不能让你产生驾驶的欲望。
3. 大测试：真实机器人 vs. 模拟机器人
研究人员大部分测试是使用“模拟”机器人（一个充当 AI 的计算机程序）进行的。但他们也用了一个真实的、现代的 AI（大语言模型）进行了测试。
- 发现： 这一策略在真实的 AI 上同样有效。尽管真实的 AI 更复杂，但告诉它“当用户怀疑时多做解释”以及“当用户过于信任时自我质疑”，依然能让人们变得更聪明。
4. 难点：读心术很难
论文最后提出了一个现实问题。要让这个系统奏效，机器人需要知道你此时此刻的信任水平。
- 问题： 在研究中，用户会告诉机器人：“我对你的信任度是 10 分里的 3 分。”
- 现实： 在现实世界中，机器人不可能每次都问这个问题。研究人员尝试构建一种机器人，通过观察你的点击和回答来“猜”出你的信任水平。
- 结果： 机器人猜得非常糟糕。它们无法仅通过观察数据就区分出一个是怀疑型用户还是自信型用户。
- 启示： 我们有一个修复信任问题的绝佳策略，但我们仍需研究如何构建能够“察言观色”的机器人，而不必让我们亲口说出想法。
总结
论文认为，并非所有方案都适用于所有人。
- 如果你在怀疑 AI，请给它一个理由来获得信任。
- 如果你信任过度，请给它一个理由去产生怀疑。
通过将行为调整到你的当前情绪，AI 可以帮助你找到信任的“金发姑娘区”（Goldilocks zone）——即既能恰到好处地依赖它来变得聪明，又不至于过度依赖而停止独立思考。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。