Correct Yourself, Keep My Trust: How Self-Correction and Social Connection Shape Credibility in Social Chatbots
本研究表明，虽然各种纠错方法都能同样有效地修复社交聊天机器人的事实错误，但自我纠错能独特地保留机器人的可信度并利用用户间的社交纽带来驱动信念转变，而将纠错外包给外部来源则会损害信任并切断这种心理联系。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下你正在和一个名叫德鲁（Drew）的友好机器人聊天。你们聊得很开心，分享着故事，并建立了一点默契。突然，德ru说了一句事实错误的话——比如声称菠菜是铁元素的终极来源（实际上并不是）。
现在，核心问题来了：德鲁该如何修正这个错误，以维持你的信任？
这篇论文测试了德鲁处理错误的三种不同方式，其结果为我们理解人类如何与人工智能建立联系提供了一个令人惊讶的启示。
修复错误的三种方式
研究人员设计了一个实验，让120人与德鲁进行聊天。在德鲁犯错后，参与者被分为三组，以观察纠错是如何传达的：
- “网页”组： 德鲁保持沉默，用户会被引导至一个显示“实际上，德鲁错了”的网页。
- “专家”组： 一个名为“凯里博士”（Dr. Kerry）的、看起来很严肃的机器人介入并说道：“德鲁犯了一个错误；以下是事实真相。”
- “自我修正”组： 德鲁说：“嘿，我刚刚意识到我刚才说错了。关于那件事我错了。这是正确的信息。”
大大的惊喜：修正事实 vs. 修正关系
转折点在于：这三种方法在改变你的想法方面效果同样出色。 如果你之前相信那个错误的事实，这三组方法都能让你不再相信它。在每种情境下，“真相”都成功传达了。
然而，对德鲁名誉造成的损失却截然不同。
- “网页”组和“专家”组： 虽然你了解了真相，但你失去了对德鲁的信任。这感觉像是一种背叛。你会想：“如果德鲁错了，也许他并不聪明，”或者更糟的是，“他只是在假装友好来欺骗我。”这种关系感破裂了。
- “自我修正”组： 你了解了真相，并且你比以前更信任德鲁了。事实上，你对他的信任度和专业度评价比其他两组都要高。
类比：
把德鲁想象成一个在晚宴上讲些夸张故事的朋友。
- 如果一名服务员（网页）或一位严厉的老师（专家）打断并说：“他在撒谎，”你可能会为你的朋友感到尴尬，或者你会认为你的朋友是个拙劣的骗子。
- 但如果你的朋友亲自说：“等等，我刚才意识到我搞错了！我的错，真实的说法是这样的，”你会想：“哇，他们很诚实且有自知之明。”你会更加尊重他们。
核心要素：“社交纽带”
研究发现，这块拼图还有一个关键的第二部分。事实证明，你在出错前对德鲁的好感度确实很重要，但仅限于一种特定情况。
- 在“自我修正”组中： 如果你与德鲁建立了深厚的友好联系（你觉得是在与一个真实的人聊天），你更有可能接受他的纠正。你们的友谊越深厚，你就越愿意倾听他的理由。
- 在其他组中： 你有多喜欢德鲁并不重要。如果一个网页或凯里博士纠正了他，你与德鲁之间的友谊并无帮助。“社交纽带”被切断了，因为纠正并非出自他本人。
类比：
想象你正试图说服一位亲密的朋友改变对一部电影的看法。
- 如果你（作为朋友）说：“其实，我对那部电影的想法错了，”他们会仔细倾听，因为他们信任你。
- 但如果一个陌生人走过来并说：“你的朋友说错了，”你的朋友可能会忽略那个陌生人，即便那个陌生人是对的。你们之间的连接才是让纠正产生作用的关键。
主要启示
- 承担你的错误： 如果一个社交聊天机器人犯了错，它应该自己去修复它。将纠错外包给第三方虽然能修正事实，但会破坏信任。
- 友谊是一种工具： 建立社交联系不仅仅是为了有趣；它是一个功能性的工具。当聊天机器人与你有良好的关系时，当它承认错误时，你更愿意倾听它。
- 完美并非目标： 论文表明，聊天机器人不应该试图追求完美（因为它们做不到）。相反，它们应该被设计为能够诚实地承认错误。承认错误并加以修正，实际上会让它们看起来比从不犯错更具人性化和可靠性。
简而言之：对于机器人来说，保持你信任的最佳方式是说：“我搞砸了，这是我修复它的方式，”而不是让别人代为发声。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。