Reducing Conversational Escalation in Large Language Model Dialogue with Nonviolent Communication Constraints
本文表明，应用基于非暴力沟通原则的轻量级提示词级约束，能有效减少对话升级，并在情绪化的冲突场景中稳定大语言模型与抵触型用户之间的交互。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正在和一个非常聪明、但有时过于热心的机器人助手聊天。你今天心情很糟，也许是因为和同事或家人吵了一架。你向机器人倾诉，希望能得到帮助。
有时，机器人可能会在无意中火上浇油。它可能会说：“那你确实应该去质问他们，”或者“他们显然表现得很坏。”这会让你的防御心理更强，变得更加愤怒，将一个小火星变成一场大火。
这篇论文是关于教机器人一种新的说话方式，这种方式的作用是像灭火器而不是汽油一样。
问题所在：“先解决问题”的陷is
研究人员注意到，虽然我们教会了机器人避免说恶毒或违法的话，但我们还没有教会它们如何很好地处理争论。当人类处于情绪激动时，机器人往往会直接跳到“这就是解决方案！”或者“这就是谁对谁错”的阶段。
在现实生活中，当一个人愤怒时，他们通常需要先被理解，然后才能听取解决方案。如果你跳过了这一步，那个人会感到被忽视，从而变得更加愤怒，对话也会变得更糟。论文称之为“对话升级”。
解决方案：“非暴力沟通”规则手册
作者采用了现实世界中的一种方法——非暴力沟通 (NVC)，并将其转化为一套简单的指令（即“提示词”）。你可以把这个提示词看作是机器人在每次对话前都会阅读的训练手册。
作者并没有告诉机器人具体该说什么，而是给了它三条主要规则：
- 先倾听感受： 在给出建议之前，先承认用户感到沮丧或受伤。
- 不要玩指责游戏： 不要猜测对方为什么“坏”或“邪恶”。只陈述事实。
- 行动前先询问： 不要急于解决问题。先通过提问来澄清情况，以确保你理解正确。
实验：模拟游戏
为了测试这是否有效，研究人员构建了一个类似电子游戏的模拟环境。
- 玩家： 他们使用了三种不同规模的机器人大脑（AI 模型）。
- 对手： 他们创建了三种类型的“模拟用户”（扮演人类的计算机程序）。有些容易被安抚，有些属于中等程度，还有一些是极其固执且愤怒的（高抵抗力）。
- 测试： 他们运行了 500 场不同的争论。在一半的情况下，机器人使用其正常的“原生（Vanilla）”指令；在另一半情况下，机器人使用新的“NVC”指令。
结果：降低热度
实验结果就像是在观察一个调低了温度的热房间。
- 对于容易安抚的用户： 普通机器人和 NVC 机器人表现得都很好。
- 对于固执且愤怒的用户： 普通机器人经常会让情况变得更糟。争论变得更加激烈，且“模拟用户”变得更加具有攻击性。
- NVC 机器人： 即便面对固执的用户，NVC 机器人也成功地阻止了火势蔓延。它并不总是能立即解决问题，但它防止了对话演变成一场大声叫骂的争吵。它让互动没有进一步恶化，这是一个巨大的胜利。
核心启示
这篇论文表明，你不需要重构机器人的大脑，也不需要教它复杂的数学新知识，就能让它在争论中变得更安全。你只需要给它一套简单的沟通规则，这些规则优先考虑倾听和理解，而非评判和解决。
通过遵循这些规则，机器人能在困难时刻成为更好的伙伴，帮助平息事态，而不是在无意中让冲突爆发。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。