Personalized to Persuade: The Effects of Contextualization and Warmth on Trust and Reliance in Conversational AI
这项研究表明，虽然仅靠情境化会降低人工智能助手针对专家建议的劝说力，但将其与对话式温暖相结合则能恢复其影响力，尽管这两种设计元素都没有显著改变用户的依赖程度，而这种依赖性依然很高，且是由信任度和人工智能素养而非界面设计所驱动的。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正站在一个十字路口。在其中一边，有一群经验丰富的专家正为你提供一份地图和一条特定的路线。而在另一边，一个友好的机器人助手（AI）走上前来说：“其实，我觉得你应该走另一条路。”
这项研究的研究人员想要探究：是什么让你听从机器人的建议，而不是专家的？ 具体来说，他们测试了机器人可以用来增加说服力的两种“魔术技巧”：
- 情境化（“定制西装”技巧）： 机器人会根据你的特定背景来量身定制它的解释。如果你是一名面包师，它会用烘焙方面的类比来解释路线；如果你是一名教师，它会使用课堂案例。这让感觉像是机器人在用你的语言交流。
- 温暖感（“友好邻居”技巧）： 机器人改变了它的语气。它不再听起来像一台冰冷的计算机，而是听起来温暖、热情，并使用表情符号，就像一个正在和你聊天的友好邻居。
他们设计了一个包含 380 人的游戏来观察哪种技巧效果最好。以下是他们的发现，简单分类如下：
1. “定制西装”会适得其反（除非……）
你可能会认为，如果机器人使用你的特定背景来解释事情，你会更信任它。令人惊讶的是，研究结果恰恰相反。
- 类比： 想象一名销售员试图向你推销一辆车。如果他开始谈论你的童年记忆来解释汽车的特性，你可能会觉得很奇怪，或者想：“他为什么要拿我的生活来解释这个？”这实际上让机器人变得更不具说服力。
- 例外情况： 然而，这里有一个转折。当机器人同时使用“定制西装”（情境化）和“友好邻居”（温暖感）时，这种负面效应就消失了。这就像是一种交叉作用：温暖感起到了安全网的作用，抵消了个性化带来的尴尬感。但在单独使用个性化时，它并没有帮助；它反而损害了机器人的说服力。
2. 机器人依然胜出（“依赖”问题）
这是最令人震惊的发现：机器人的表达方式或语气其实并不重要。
- 类比： 想象你在一个房间里，身边有一位人类专家和一个机器人。无论机器人的语气是冷淡且通用的，还是温暖且个性化的，人们都会不断地转向机器人，选择跟随机器人的建议而非人类专家的建议。
- 现实情况： 人们已经倾向于信任 AI。对话的设计（无论是变得温暖还是具有个性化）并没有改变这种行为。无论机器人是机器人还是人类，人们已经在向机器让步了。
3. “聪明用户”悖论
研究观察了那些对 AI 了解较多（高 AI 素养）的人。你会预期这些人会更加怀疑，从而更少信任机器人。
- 悖论： 这些知识渊博的用户确实更少信任机器人。他们更加挑剔。但是，尽管他们信任度较低，他们仍然更有可能听从机器人的建议并改变主意。
- 类比： 想象一个知道魔术原理的人。他们知道魔术师是在演戏（低信任度），但他们仍然因为被精湛的技艺所折服，而选择配合演出（高依赖度）。他们可能对自己在判断建议方面的能力过于自信，即便他们并不完全信任该来源。
4. 信任是引擎，但不是驾驶员
研究证实，如果你信任机器人，你就更有可能听从它。
- 然而，这些“魔术技巧”（表现得温暖或个性化）并没有增加信任。它们并没有让人们更信任机器人，它们只是尝试改变对话风格。
- 由于这些技巧没有改变信任感，而信任又是驱动人们听从的关键，因此这些技巧未能完成任务。
核心结论
论文总结道，我们正处于一个人们已经非常迅速地让 AI 代理取代人类专家的世界中。试图让 AI 听起来更“亲切”或更“个性化”并不能真正解决或改变这种行为。对话的设计（语调或个性化）在决定我们是听从 AI 还是人类方面，作用非常有限；这种向机器让步的倾向本身就已经存在，无论机器人如何说话。
简而言之： 让 AI 听起来像个朋友或私人顾问，并不一定会让它更具说服力。事实上，除非它同时也表现得非常温暖，否则它可能会适得其反。而且，无论 AI 如何说话，人们都已经非常渴望让它来做决定。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。