🤖 machine learning

"very likely" Means "uncertain"? How LLMs Diverge from Humans in Linguistic Uncertainty Quantification

本文通过引入一种基于优化的算法 METHODNAME，研究了人类与大语言模型在言语不确定性量化方面的差异，该算法直接从模型输出中学习言语标记的最佳概率映射，从而在无需重复采样的情况下揭示系统性的置信度差异。

原作者： Jinhao Duan, Zicheng Liu, Zijie Liu, Kaidi Xu, Tianlong Chen

发布于 2026-10-02

📖 1 分钟阅读☕ 轻松阅读

原作者： Jinhao Duan, Zicheng Liu, Zijie Liu, Kaidi Xu, Tianlong Chen

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

我们在说话时，经常会进行“对冲”。我们会说某事是“很可能的”、“可能的”或“几乎确定的”，利用这些词汇来传达我们真实的认知程度。这种表达怀疑的能力是一种元认知，即一种通过承认自身知识边界来进行的心理检查。这是人类交流中至关重要的一部分，让我们能够在不假装拥有并不掌握的答案的情况下，应对不确定性。在人工智能领域，特别是对于大型语言模型而言，这种能力正成为一项关键的安全特性。这些模型有时会生成听起来充满自信但事实错误的信息，这种现象被称为“幻觉”。为了信任这些系统，特别是在医学或法律等敏感领域，我们需要知道它们何时处于不确定状态。挑战在于，弄清楚人工智能用来表达怀疑的词汇，其含义对于人类听众是否与对于机器本身而言是相同的。

一个研究团队致力于调查大型语言模型所表达的言语不确定性是否与人类的理解相一致。他们首先收集了大量关于人类如何解读诸如“极有可能”或“不确定”等短语的数据。他们借鉴了数十年的心理学和决策科学研究，编制了一份参考指南，将这些常见的短语映射到特定的数值概率上。例如，在人类的心智中，“极有可能”这个短语对应着高度的信心，而“可能”则处于中间位置。随后，研究人员测试了几种先进的语言模型，要求它们回答问题并使用这些相同的自然语言短语来解释它们的信心程度。他们将模型的回答与人类参考指南进行了对比，以观察机器是否在用与用户相同的语言进行交流。

结果显示出显著的脱节。虽然模型能够使用这些词汇，但它们赋予这些词汇的确定性水平与人类并不一致。例如，当人类听到“极有可能”时，会将其理解为很高的概率，但研究中的模型经常使用这个短语来描述它们实际上相当不确定的情况。相反，模型可能会为那些在人类看来仅仅是猜测的短语表达高度的信心。这种错位意味着，仅仅阅读模型的输出并假设其言语线索反映了其内部状态是具有误导性的。研究表明，仅仅依靠人类制定的不确定性词汇词典，不足以准确衡量机器的信心；这些模型对于这些词汇有着自己独特的内部逻辑。

为了弥补这一差距，研究人员开发了一种名为 VOCAL 的新方法。该方法并非强迫模型符合人类的定义，而是直接从模型自身的行为中学习不确定性词汇的具体含义。该系统分析了数千个模型的响应，记录它在正确和错误时分别使用了哪些短语。然后，它构建了一个定制的映射表，将模型特定的言语习惯转化为准确的概率得分。这个过程涉及一种数学优化，用于平滑数据，确保即使是那些很少使用的相似短语也能获得相似的得分。通过针对特定机器量身定制解释方式，该方法创造了一种更可靠的方式来检测模型何时处于不确定状态。

实验证明，这种定制化的方法比试图将人类标准强加于机器的效果要好得多。在包括复杂数学问题和医学问题在内的各种数据集测试中，与仅使用人类参考指南相比，这种新方法在预测模型答案正确或错误方面要准确得多。在某些情况下，这种提升是巨大的，它将一种表现几乎仅比随机猜测稍好一点的方法，转变为一种能够可靠识别错误的方法。研究人员发现，这种技术可以达到与那些需要模型生成多个答案并进行比较的、成本高得多的方法相当的性能水平，且无需额外的计算时间或计算能力。

研究结论指出，尽管大型语言模型可以模仿人类的言语模式，但它们对不确定性的内部理解与我们有着本质的不同。像“极有可能”这样的短语，对于机器而言并不具备与人类相同的分量。为了使这些系统真正值得信赖，我们不能仅仅要求它们像人类一样说话，并期望它们表达的意思也相同。相反，我们必须学会阅读它们特有的不确定性“方言”。通过创建定制的映射表，将模型独特的言语信号转化为清晰的信心信号，我们可以更好地区分正确答案与自信的幻觉，从而使这项技术在现实应用中更加安全、可靠。

技术摘要：“极有可能”意味着“不确定”？LLM 在语言不确定性量化方面如何与人类产生分歧

问题陈述

尽管大语言模型（LLMs）已取得了显著成功，但在确定何时可以信任其回答（特别是针对幻觉问题）方面，仍面临一个根本性的挑战。现有的不确定性量化（Uncertainty Quantification, UQ）方法通常分为两类：基于采样的（例如，语义熵、集成方差）和基于 Logits 的（例如，预测熵、困惑度）。然而，这些方法存在明显的局限性：采样法计算成本高昂且会引入延迟；而基于 Logits 的方法往往受词汇敏感性影响，无法捕捉人类推理的细微差别。

人类自然地使用言语标记来表达不确定性（例如，“可能”、“很可能”、“几乎确定”）。虽然最近的研究探索了言语化 UQ，但存在一个关键差距：LLM 在如何理解和利用这些语言标记方面与人类存在分歧。 目前的方法通常依赖于源自人类心理学文献的查找表，将言语短语映射到数值概率。作者指出，这些源于人类的映射并不能准确反映 LLM 的内部不确定性状态，从而导致量化结果不可靠。

研究方法

1. 人类言语不确定性基准 (UM-Lookup)

作者首先构建了一个大规模的言语不确定性标记查找表 (Verbal Uncertainty Marker Lookup Table, UM-Lookup)。该资源汇总了来自心理学和决策科学基础研究的数据（例如，Lichtenstein & Newman, 1967; Beyth-Marom, 1982; Vogel et al., 2022）。

构建： 该表根据每个短语平均 336 个人类评分，将 115 种不同的言语不确定性表达映射到数值概率得分。
聚合： 当 LLM 生成包含多个标记的响应时，该方法（记作 $Q_{VU-H}$ ）通过提取出的标记的数值得分的平均值来生成最终的不确定性估计。
初步评估： 作者在多种模型（GPT-4o, DeepSeek-V3.1）和数据集（GSM8K, MedQA, SciQ）上将 $Q_{VU-H}$ 与标准基准（预测熵、语义熵）进行了对比。虽然 $Q_{VU-H}$ 在某些情况下表现出了非平凡的性能，但它经常逊色于基于采样的方法，并且在某些情况下（例如 GSM8K 上的 GPT-4o），其表现甚至差于随机猜测。这证实了人类语言直觉与 LLM 内部置信度之间存在根本性的失配。

2. VOCAL：优化的言语不确定性量化

为了解决这种失配问题，作者提出了 VOCAL，一种新型的基于优化的算法，用于学习特定于 LLM 的言语标记与数值不确定性水平之间的映射。

目标： VOCAL 学习每个言语标记 ( $u_i$ ) 的一组数值得分 ( $c_i$ )，使得聚合后的不确定性得分 ( $q_y$ ) 能够忠实地反映模型的实际正确性。其目标是将较高的不确定性得分分配给错误的生成内容，并将较低的得分分配给正确的生成内容。
优化公式： 该问题被公式化为最小化二元交叉熵 (Binary Cross-Entropy, BCE) 损失：
$\mathcal{L}(c) = \min_{c} \mathbb{E}_{(x,y)} \left[ -z \log c_y - (1-z) \log(1-c_y) \right]$
其中 $z$ 是正确性指示符（正确为 1，错误为 0）， $c_y$ 是由生成 $y$ 中的标记的已学习得分聚合而成的。
语义平滑： 为了处理数据稀疏问题（例如，“微小的机会”等罕见标记的样本较少），VOCAL 引入了图拉普拉斯正则项 (Graph Laplacian Regularizer)。它通过惩罚语义相似标记之间的巨大差异（通过 3-gram Jaccard 相似度衡量）来实现平滑性。总目标函数为 $\mathcal{L}(c) + \gamma \mathcal{L}_{lap}(c)$ 。
效率： 与基于采样的方法不同，VOCAL 仅需单次模型响应即可生成不确定性得分，避免了多次生成的计算开销。

核心贡献

人类言语不确定性查找表： 本文提供了一个经过整理的资源，包含 115 个映射到数值概率的言语标记，其基础源于心理学文献。这为分析 LLM 在元认知监控方面的人机分歧提供了基础基准。
VOCAL 算法： 作者介绍了 VOCAL，这是一种轻量级的、基于优化的方法，能够为特定的 LLM 量身定制言语不确定性映射，且无需进行参数更新或微调。它根据经验正确性学习每个标记应传达的优化概率质量。
全面的实证分析： 研究深入分析了 LLM 如何与人类产生分歧。例如，论文证明了虽然人类将“极有可能”视为高度自信（~~0.85），但 GPT-4o 在其内部状态中将其与显著较低的置信度（~~0.35）联系在一起。

结果

优于人类查找表： VOCAL 始终优于源于人类的 UM-Lookup ( $Q_{VU-H}$ )。在 GSM8K 数据集上，VOCAL 将 GPT-4o 的 AUROC 从 0.41（使用人类查找表时）提升到了约 0.60。
与单样本基准对比： VOCAL 显著优于单样本 UQ 方法，如 G-NLL 和困惑度 (PPL)。在 6 个评估设置中的 5 个中，VOCAL 均取得了最高的 AUROC。例如，在 GSM-Hard 数据集配合 DeepSeek-V3.1 的测试中，VOCAL 达到了 0.715 的 AUROC，而 G-NLL 仅为 0.520。
与多样本方法的竞争性： 尽管仅使用单次响应，VOCAL 仍能达到与昂贵的多样本方法（如语义熵、语义密度）相媲美的性能。在若干案例中（如使用 Qwen2.5-72B 的 SciQ 数据集），VOCAL 达到了最高的 AUROC (0.717)，超越了基于采样的基准方法。
校准性： VOCAL 展示了强大的校准特性。当结合后验校准方法（如保序回归, IR）时，它实现了 0.0281 的平均期望校准误差 (ECE)，优于其他基准。
可迁移性： 实验表明，虽然言语不确定性指标在不同 LLM 之间具有很大程度的可迁移性（在一种模型上训练并在另一种模型上测试时，AUROC 保持在 0.60–0.72 范围内），但通过 VOCAL 进行的模型特定调优能产生更优的结果。

意义与主张

本文主张，言语不确定性表达是依赖于模型的，依赖固定的、人类定义的表格对于可靠的 LLM UQ 是不够的。这项工作的意义在于：

弥合人类与 LLM 的差距： 它揭示了“极有可能”对 LLM 而言并不意味着与人类相同的含义，凸显了当前信任机制中的关键脱节。
效率与实用性： VOCAL 提供了一个强大的准确性-效率权衡。它提供了接近最先进水平的不确定性判别能力，且无需承担多样本语义一致性流水线的延迟和成本，使其在实际部署中更具实用性。
元认知洞察： 研究结果表明，虽然 LLM 可以用言语表达不确定性，但其内部将这些表达映射到置信水平的方式与人类认知截然不同。VOCAL 提供了一种机制，使这些表达能够与模型的实际可靠性相一致，从而支持更值得信赖的人机交互。

作者总结道，通过适当校准到特定模型，将 LLM 的不确定性建立在言语表达之上，为实现更可靠、更负责任的生成式 AI 提供了一条可行路径。