🤖 AI

The Decision to Verify: How Warmth and User Characteristics Shape Reliance on Conversational Agents for Information Search

这项研究表明，尽管用户能够使用混合搜索工具，但他们仍主要受个人特质和先前信任而非答案质量的影响而持续依赖对话式人工智能，且亲切的对话风格会通过促使用户即使面对错误信息也产生认同感，从而无意中加剧了过度依赖。

原作者： Mert Yazan, Frederik Bungaran Ishak Situmeang, Suzan Verberne

发布于 2026-05-28

📖 1 分钟阅读☕ 轻松阅读

原作者： Mert Yazan, Frederik Bungaran Ishak Situmeang, Suzan Verberne

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是论文《验证的决策：温暖度与用户特征如何塑造对对话代理在信息搜索中的依赖》的解读，将其拆解为简单概念并辅以日常类比。

大局观：“智能助手”陷阱

想象你正在寻找一个具体事实，比如“哪种动物杀死的人类最多？”你手边有两种工具：一个聊天机器人（一个会与你交谈的友好 AI）和一个网页浏览器（传统的搜索引擎）。

过去，研究人员认为：“如果我们给人们提供这两种工具，他们会将 AI 的回答与网络进行核对，一切都会完美无缺。”

这项研究测试了这一想法。他们设计了一个游戏，让 199 名参与者回答 6 个棘手的问题。他们可以使用聊天机器人获取答案，但同时也有一个按钮可以打开网页搜索来核实事实。

主要发现： 尽管人们手边就有网页浏览器，他们仍然会犯错。有些人过度信任 AI（过度依赖），而有些人则信任不足（依赖不足）。决定是否核实事实，并不取决于问题有多难，而主要取决于这个人是谁以及AI 听起来怎么样。

关键发现 1：“友好邻居”效应（温暖度）

研究人员创建了两个版本的聊天机器人：

中立版：只陈述事实，不带情感。
温暖版：友好，使用表情符号，会说“太棒的问题了！”和“我很乐意帮助你！”等话语。

类比：把中立版聊天机器人想象成一位只递给你书的严厉图书管理员。而温暖版聊天机器人则像一位多话的邻居，一边和你交谈，一边微笑着给你送饼干。

发生了什么：
当聊天机器人给出错误答案时，人们更倾向于相信温暖版而不是中立版。

为什么？ 当人们不确定答案时（高不确定性），友好的语气让他们感到更舒服，从而更愿意认同 AI。这就像一位油嘴滑舌的推销员；你可能会因为对方太友善而买下一个糟糕的产品。
隐患：大多数人甚至没有意识到这种友好在误导他们。这发生在潜意识层面。

关键发现 2：关键在于用户，而非工具

研究发现，拥有一个“事实核查按钮”并不能解决问题。人们是否检查答案，取决于他们的个性，而不是问题本身。

类比：想象一群人试图解决一个谜题。

A 组（怀疑论者）：他们想"AI 通常都是错的”。即使 AI 实际上是对的，他们也会检查每一个答案。（这是依赖不足）。
B 组（相信者）：他们想"AI 很聪明”。即使 AI 错了，他们也从不检查。（这是过度依赖）。
C 组（条件核查者）：只有当答案听起来奇怪时，他们才会检查。

结果：研究表明，这些习惯深深植根于个人性格之中。

如果你通常信任聊天机器人，你使用网页搜索按钮的可能性就越小。
如果你拥有高“聊天机器人素养”（你了解 AI 的工作原理、什么是“幻觉”等），你就更擅长辨别正确答案，尤其是在 AI 撒谎的时候。
有趣的是，使用另一个 AI来检查第一个 AI 的工作，比仅仅使用标准网页搜索更能帮助人们获得正确答案。但仅仅使用标准网页搜索并不总是有帮助，因为人们往往只是寻找那些证实第一个 AI 说法的结果。

关键发现 3：“锚定”问题

当人们从聊天机器人开始获取信息时，那个答案就成了他们的“锚”。

类比：如果朋友告诉你“电影晚上 7 点开始”，然后你看到海报上写着"7:30"，你可能还是会想：“嗯，我朋友说是 7 点，也许海报错了”，或者你直接忽略海报。
现实：即使人们确实使用了网页搜索，他们通常也将聊天机器人的答案视为“真理”，只寻找那些与之一致的网络结果。他们并没有利用网络来挑战AI，而是用它来确认AI。

“游戏规则”总结

工具不够用：仅仅给人们提供事实核查的方法，并不能阻止他们盲目信任 AI。
个性占上风：有些人天生多疑，有些人天生信任。这种特质不会因问题不同而改变。
友好是危险的：过于友善的聊天机器人会让你在即使它出错时也同意它，特别是当你不确定答案时。
AI 对 AI：用另一个 AI 检查第一个 AI，似乎比仅仅做标准网页搜索更能提高准确性。
知识有帮助：了解 AI 如何运作（聊天机器人素养）的人，更擅长辨别真相。

这对你意味着什么

如果你使用聊天机器人查找事实：

不要让友好的语气欺骗你，让你以为答案是正确的。
如果你不确定，不要只信任你得到的第一个答案。
如果你了解一点 AI 的工作原理，你的答案可能更准确。
请记住，你自身“信任”或“不信任”技术的习惯，是决定你能否得到正确答案的最大因素。

注：此解释严格遵循论文中提出的发现。作者并未声称这些结果适用于医疗诊断、法律建议或其他特定临床领域，也未基于这些发现提出具体的未来产品。

技术摘要：验证的决策：温暖与用户特征如何塑造对对话代理在信息搜索中的依赖

问题陈述

对话式人工智能（AI），特别是大语言模型（LLM），通过提供便捷、低门槛的界面，彻底改变了信息搜索方式。然而，这种便利性带来了一个关键风险：过度依赖，即用户盲目接受 AI 的输出，即使其内容错误（幻觉）。尽管一种新的搜索范式已经出现，允许用户同时访问对话代理和传统网络搜索（事实核查工具），但尚不清楚这种混合环境是否能有效缓解依赖问题。

现有文献表明，即使外部验证工具可用，依赖现象依然存在，但驱动“验证”或“盲目信任”决策的机制仍未得到充分探索。具体而言，目前存在以下理解空白：

事实核查工具的单纯可用性是否能消除过度依赖或依赖不足。
验证行为在多大程度上由答案属性驱动，又在多大程度上由固有的用户特征（如数字素养、先前信任度）驱动。
对话风格，特别是温暖度，在混合搜索情境中对依赖行为的影响。

方法论

作者进行了一项混合主体实验（ $N=199$ ），以调查这些动态。

实验设计

任务：参与者回答六个涵盖不同领域（金融、地理、法律、生物学）的选择题。
条件：
- 组间变量：参与者被随机分配与温暖型或中性型聊天机器人互动。温暖型聊天机器人使用友好的语气、表情符号和情感表达，而中性型聊天机器人则提供不带情感标记的事实性回答。
- 组内变量：聊天机器人初始答案的正确性被随机化。每位参与者在六个问题中收到三个正确答案和三个错误答案。
环境：实验模拟了真实的混合搜索范式。参与者可访问：
1. 嵌入式聊天机器人（提供初始答案）。
2. 一个链接到 Google 搜索结果的“网络搜索”按钮。
3. 使用任何其他外部来源的自由。
追踪：为避免嘈杂的自报告数据，定制 Chrome 扩展程序追踪了参与者的互动，记录了发送给聊天机器人的消息数量以及访问的具体 URL（分类为 AI 相关或非 AI 相关）。
测量指标：
- 因变量：准确性（二元）和一致性（二元：用户是否选择了聊天机器人建议的答案）。
- 自变量：聊天机器人温暖度、用户对自动化的信任、聊天机器人素养、感知难度以及行为计数（访问的 URL 数量、互动时长）。
- 分析：使用线性混合模型（LMM）和广义线性混合模型（GLMM）来解释参与者和问题层面的随机效应。

主要发现

1. 尽管有验证工具，依赖现象依然存在

研究证实，即使用户能立即访问事实核查工具，过度依赖和依赖不足依然存在。

过度依赖：一些用户在未经验证的情况下接受了错误答案，这通常是由对聊天机器人的高度信任驱动的。
依赖不足：相反，一些用户始终拒绝聊天机器人的答案（即使是正确的），转而选择网络搜索，认为聊天机器人无能。
行为极化：事实核查行为高度依赖于用户个体。无论问题难度或聊天机器人答案的正确性如何，有些参与者对每个问题都进行核查，而另一些人则从不核查。

2. 验证决策的驱动因素

验证决策主要由用户特征驱动，而非答案本身的属性。

信任：对聊天机器人的高基线信任预测了更高的同意率（同意聊天机器人的观点）和更低的外部来源咨询率。
感知难度：当用户认为某个问题对聊天机器人来说太难时，他们同意其答案的可能性降低（导致对正确答案的依赖不足）。
来源偏好：用户表现出明显的偏好差异：有些人咨询额外的 AI 来源，而另一些人则完全依赖非 AI 的网络搜索。

3. 温暖度的间接效应

对话温暖度并未直接预测验证频率或整体准确性。然而，它对依赖产生了显著的间接效应：

不确定性下的同意率增加：当聊天机器人提供错误答案时，温暖型条件下的参与者同意聊天机器人的频率显著高于中性型条件下的参与者。
机制：温暖度似乎在用户面临冲突信息或不确定性时，促使用户同意 AI 的观点，从而在关键时刻加剧了过度依赖。

4. 聊天机器人素养与来源类型的作用

聊天机器人素养：虽然素养并未预测用户是否验证答案，但它显著提高了当聊天机器人出错时的准确性。具备素养的用户在验证过程中更善于批判性地评估信息。
来源影响：咨询额外的AI 来源（其他聊天机器人或 AI 摘要）预测了更高的准确性。相比之下，咨询传统网络搜索（非 AI URL）并未显著提高准确性，这可能是由于综合冲突来源所需的努力，或是标准搜索结果中存在虚假信息。

意义与贡献

该论文声称对人类-AI 交互和信息检索文献做出了三项主要贡献：

依赖持续性的实证证据：它证明，新的混合搜索范式（结合聊天机器人和网络搜索）不足以消除过度依赖或依赖不足。验证工具的存在并不能保证它们被使用；障碍仍在于人类的决策过程。
以用户为中心的验证行为：研究将验证行为确定为根本上依赖于用户的。依赖不仅仅是对 AI 准确性的反应，而是个体倾向（如默认信任、怀疑态度、素养）的表现。
温暖度的潜意识作用：该论文提供了首个实证证据，表明对话温暖度作为一种微妙、潜意识的机制，增加了依赖性。通过培养情感信任，温暖度促使用户同意错误答案，特别是在高不确定性场景中。

结论

研究得出结论，设计可信赖的对话式搜索系统不仅需要仅提供事实核查工具。设计者必须考虑用户在信任和素养方面的个体差异。此外，在 AI 代理中使用温暖、友好的对话风格可能会在 AI 出错时降低用户的怀疑态度，从而无意中加剧过度依赖。作者建议，提高聊天机器人素养并鼓励咨询多个 AI 来源，可能是比单纯依赖传统网络搜索更有效的提高准确性的策略。