💬 NLP

Surprisal Minimisation over Goal-directed Alternatives Predicts Production Choice in Dialogue

本文表明，将话语生成建模为对语言模型生成的目标导向替代方案的概率性成本敏感选择，揭示出相对于这些替代方案的惊讶度最小化是对话中说话者选择的最强预测因子，其表现优于均匀信息密度和基于长度的成本。

原作者： Tom Utting, Mario Giulianelli, Arabella Sinclair

发布于 2026-05-04

📖 1 分钟阅读☕ 轻松阅读

原作者： Tom Utting, Mario Giulianelli, Arabella Sinclair

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象你正在参加一场晚宴，需要补全朋友说了一半的句子。你有一个想要表达的具体观点（你的目标），但你也知道朋友正在倾听并试图理解你。

这篇论文就像一部侦探小说，调查我们如何选择确切的词语来完成那个句子。作者想要解开一个谜团：当我们说话时，我们是在试图让自己的工作更轻松，还是在试图让听众的工作更轻松？

为了解开这个谜团，他们使用了一个巧妙的技巧，涉及两个不同的“选项列表”（alternatives）和一个数字大脑（大型语言模型）。

两个选项列表

研究人员意识到，要理解我们为何选择某些词语，就必须知道我们本来可以选择哪些其他词语。他们创建了两类列表：

“相同目标”列表（目标导向型）： 想象你想说：“会议是一场灾难。”
- 选项 A： “会议是一场灾难。”
- 选项 B： “会议简直是一场彻底的浩劫。”
- 选项 C： “会议进行得糟透了。”
- 所有这些选项表达的意思完全相同。它们只是表达同一件事的不同方式。这个列表代表了说话者在仅仅试图传达其特定信息时所拥有的选择。
“随意发挥”列表（目标无关型）： 现在，想象听众还不知道你将要说什么。他们只是根据目前的对话进行猜测。
- 选项 A： “会议是一场灾难。”
- 选项 B： “会议被重新安排了。”
- 选项 C： “会议被取消了。”
- 选项 D： “会议很有趣。”
- 这个列表代表了无论你的实际意图如何，听众可能预期听到的所有内容。

四种“成本”衡量标准

这篇论文测试了关于什么使一个句子变得“昂贵”或“难以”产生的四种不同观点。可以将这些视为衡量努力程度的不同方式：

惊讶度（“意外”因素）： 这个词有多出乎意料？如果你说“会议是……"然后接着说“灾难”，这并不太令人惊讶。如果你说“会议是……菠萝”，那就会让人非常惊讶。高惊讶度对大脑处理来说是“昂贵”的。
均匀信息密度（“流畅度”因素）： 词语是否流畅均匀，还是先出现一堆难词随后又是简单的词？说话者通常偏好平稳、稳定的节奏。
长度（“简洁”因素）： 通常较短比较长更容易。
全局均匀性： 类似于流畅度，但是着眼于整个句子。

实验：谁是主导者？

研究人员利用超级智能 AI（GPT-4）为真实的人类对话生成了成千上万个这样的“相同目标”和“随意发挥”列表。然后，他们将人类实际所说的内容与 AI 的列表进行了比较。

他们问道：人类是否根据这些规则选择了成本最低的选项？

以下是他们的发现：

1. “说话者”规则胜出（惊讶度）：
当查看“相同目标”列表时，人类压倒性地选择了惊讶度最低的选项。

类比： 想象你开车去上班（你的目标）。你有三条路线都能到达那里。你总是选择交通最少（惊讶度最低）的那一条。
结论： 当我们确切知道想说什么时，我们会选择对我们自己来说最容易产生的词语。我们坚持走最常见、最可预测的路径。这表明惊讶度是一种说话者侧的成本。

2. “听众”规则较弱：
当查看“随意发挥”列表时，结果参差不齐。

人类并没有一致地选择最“流畅”或最短的选项来帮助听众。
事实上，对于某些衡量标准，人类有时选择了比 AI 认为他们应该选择的更令人惊讶或更长的选项。
结论： 虽然我们关心听众，但我们为了自己的目标而选择最自然、低惊讶度词语的驱动力，远强于我们为听众平滑信息流的驱动力。

主要启示

这篇论文认为，你不能只说“说话者最小化成本”。你必须问：“为谁最小化成本，以及针对哪些选项？”

如果你查看所有表达相同意思的选项（目标导向型），说话者就像高效的司机，选择最流畅、最可预测的路线（低惊讶度）。
如果你查看所有完全改变含义的选项（目标无关型），规则就会变得混乱。

简单来说： 当我们说话时，我们主要通过选择最熟悉的词语来表达特定想法，从而让自己轻松。我们并不是不断地重组句子以使其对听众来说完美流畅，至少不像以前的理论所建议的那样频繁。我们是司机，我们选择通往目的地阻力最小的路径。

以下是论文《目标导向替代方案上的惊讶度最小化预测对话中的产出选择》的详细技术总结。

1. 问题陈述

本文探讨了语言产出信息论模型中的一个根本性歧义：如何解释成本度量（如惊讶度、均匀信息密度和长度）是说话者导向（产出努力）还是听者导向（理解努力）。

先前的模型通常隐式地处理这些成本，或假设一组固定的替代方案，而未区分：

目标导向的替代方案：实现与说话者实际选择相同交际意图的话语。
目标无关的替代方案：在语境上合理但可能实现不同交际意图的话语。

作者认为，成本函数的解释完全取决于对其进行评估的替代方案集合。如果不明确定义这些替代空间，就不可能确定说话者是在最小化自身的努力，还是在优化听者的理解。

2. 方法论

A. 理论框架：成本敏感选择

作者将语言产出形式化为对语境替代方案的概率选择。他们为任何给定的语境 $c$ 和选择点定义了两组不同的替代方案：

目标无关集合 ( $A_c$ )：通过仅基于语境（以及可能的对话历史）对语言模型进行采样生成。这些代表了听者对说话者接下来可能说什么的不确定性。
目标导向集合 ( $A_{c,g}$ )：通过基于语境和固定交际目标 ( $g$ ) 对语言模型进行采样生成。这些代表了说话者对如何实现特定意图的不确定性。

产出概率使用基于成本的 softmax 规则建模：
$P_S(a | c, g) \propto \exp(-\alpha C(a; c))$
其中 $C$ 是成本， $\alpha$ 是敏感度参数。

说话者导向解释：在 $A_{c,g}$ 上最小化成本（选择表达同一内容的最简单方式）。
听者导向解释：在 $A_c$ 上最小化成本（选择一种在听者不确定性背景下易于处理的话语）。

B. 实验设置

数据集：Switchboard 对话行为语料库（自然口语对话）。
数据处理：选取了 1,342 个话语（10–30 词，陈述/疑问行为）。每个话语在根动词（选择点）处被分割为语境 ( $c$ ) 和人类续写 ( $a^*$ )。
替代方案生成：
- 目标无关：提示 GPT-4o 使用不同数量的对话历史（无历史、前一句话语、完整历史）来完成句子。
- 目标导向：提示 GPT-4o 生成 10 个人类续写的独特释义，约束条件为以相同的语境开头。
- 过滤：LLM-as-a-judge（GPT-4o）验证目标导向替代方案是否为真正的释义（准确率 98.75%）。
成本度量：
1. 惊讶度： $-\log p(a|c)$ （通过 GPT-2 Small 估算）。
2. 局部均匀性：相邻词语之间惊讶度的方差。
3. 全局均匀性：整个句子中惊讶度的方差。
4. 长度：续写中的单词数量。
对齐：为防止分布混淆，作者使用分层采样使生成的替代方案在长度和全局均匀性方面与人类话语对齐。

C. 分析技术

确定性成本最小化：计算人类续写在其替代方案中的排名。如果人类最小化成本，人类选择应频繁出现在第 1 名（最低成本）。
概率成本敏感度：使用成对逻辑回归模型，基于成本差异 ( $\Delta C$ ) 预测人类续写是否优于生成的替代方案。这测试了分级敏感度而非严格的最小化。

3. 主要贡献

明确的替代空间：本文提供了一种原则性方法，通过使用大语言模型（LLM）显式生成目标导向和目标无关的替代方案集合，来操作化“说话者”与“听者”压力。
成本的重释：它表明，相同的成本度量（如惊讶度）根据所使用的替代方案集合不同，会产生不同的预测能力和解释。
可扩展框架：它引入了一个可扩展的流程，用于研究开放对话中的产出偏好，超越了受限的句法变体，转向丰富且基于语境的替代方案。

4. 主要结果

A. 确定性分析（第 1 名结果）

惊讶度（目标导向）：最强的预测因子。53.4% 的人类续写是目标导向替代方案中惊讶度最低的选项（比随机 chance 高出 3.24 倍）。这支持了说话者导向的观点：说话者选择其预期目标的最可预测的实现方式。
惊讶度（目标无关）：效应较弱（15.2% 的第 1 名），表明说话者主要并不是相对于听者的广泛不确定性来最小化惊讶度。
长度：在目标无关设置中显示出最强的相对效应（比随机 chance 高出 3.69 倍），表明长度最小化是一种听者导向的压力（减少处理努力）。
均匀性：结果显示混合，第 1 名结果高于随机水平，但不如惊讶度一致。

B. 概率分析（逻辑回归）

惊讶度：惊讶度的系数显著为负（表明偏好较低的惊讶度），且在目标导向条件下的强度约为目标无关条件下的 7 倍。这证实了惊讶度主要作为产出侧约束（说话者努力）起作用。
均匀性：较低的成本（较高的均匀性）预测了目标导向条件下的选择，但在目标无关条件下关系反转（有时偏好较高的成本/较低的均匀性），表明复杂的听者导向动态。
长度：预测了目标无关条件下的选择，但在目标导向条件下无显著影响，进一步证实长度是一种听者导向的约束。

5. 意义与结论

研究结论表明，相对于目标导向替代方案的惊讶度最小化为对话中的人类产出选择提供了最稳健的解释。这支持了说话者作为理性行动者的观点，即在选择固定意图的实现方式时，他们最小化自身的产出努力（认知控制）。

相反，长度和均匀性似乎更多地作为听者导向的压力发挥作用，即当交际目标未固定或考虑听者的广泛不确定性时，说话者会调整其产出以促进理解。

更广泛的影响：

理论层面：通过将成本度量明确链接到替代空间，解决了其歧义性。
方法层面：建立了一个框架，利用 LLM 模拟“本可以说什么”（反事实），以大规模测试心理语言学理论。
实践层面：表明自然语言生成系统应针对目标导向替代方案上的惊讶度最小化进行优化，以在产出效率方面听起来更像人类。

局限性：本研究仅限于英语、特定的句法选择点（根动词），并且依赖 LLM 进行成本估算和替代方案生成，这可能无法完美镜像人类认知或覆盖低资源语境。