💬 NLP

Verbal Confidence Saturation in 3-9B Open-Weight Instruction-Tuned LLMs: A Pre-Registered Psychometric Validity Screen

这项研究通过心理测量学验证发现，3-9B参数规模的开源指令微调模型在通过数值或类别形式进行口头置信度表达时，均无法有效反映其真实的预测准确性，且模型输出的置信度与内部对数概率（logprobs）并不相关。

原作者： Jon-Paul Cacioli

发布于 2026-04-27

📖 1 分钟阅读☕ 轻松阅读

原作者： Jon-Paul Cacioli

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这是一篇关于人工智能（AI）“过度自信”现象的研究报告。为了让你轻松理解，我们可以把这些 AI 模型想象成一群正在参加**“知识问答大赛”**的小学生。

核心结论：AI 的“迷之自信”

简单来说，这项研究发现：在 3B 到 9B（即参数量较小）的 AI 模型中，它们表现出一种极其严重的“盲目自信”。 无论题目难易，无论它们答对还是答错，它们给出的信心分数几乎永远是“100分”。

用三个比喻来理解研究内容

1. “只会说‘我绝对行’的复读机” (关于饱和现象 - Saturation)

想象一下，你正在考一场数学竞赛。无论是一加一等于二，还是一个复杂的微积分难题，每当你写完答案，监考老师问你：“你有多大把握？”你每次都毫不犹豫地大喊：“100%！绝对没问题！”

这就是研究中发现的**“饱和现象”**。这些小规模的 AI 模型就像这个学生，它们失去了“怀疑”的能力。因为它们给出的信心分数全都挤在 95%-100% 这个区间，导致这个分数失去了意义——如果大家都说自己 100% 确定，那这个分数就没法用来判断谁真的懂，谁在瞎猜了。

2. “换个问法就大脑宕机” (关于格式失效 - Format Rescue)

研究人员想：既然让 AI 直接说数字（0-100）不行，那我们换个温柔点的方式，给它几个选项（比如：没把握、有点把握、非常有把握），看看它能不能表现得正常点？

结果发现，这反而把 AI “问懵了”。原本还能勉强答题的 AI，一旦换成这种分类问法，准确率竟然直接从 60% 掉到了接近 0%。这就像是你原本能正常做选择题，但老师突然要求你必须用一种极其复杂的哲学逻辑来分类你的信心，结果你直接把卷子撕了，连题目都看不懂了。

3. “越啰嗦，心里越虚” (关于推理过程 - Reasoning Contamination)

研究中还观察了一个有趣的现象：对于那些会“边思考边回答”的模型（比如 DeepSeek-R1），研究人员发现：如果 AI 写了很长很长的推理过程，它最后给出的信心分数反而越低。

这就像一个学生，如果他一眼看出答案，会很自信；但如果他写了满满一整页的草稿纸，还在那儿反复推导，最后往往会小声嘀咕：“呃……可能不对吧？”写得越多，说明它越纠结，内心越没底。

这项研究为什么重要？（现实意义）

如果你把这些 AI 当作“专家”来使用，后果可能很严重。

想象一下，你正在使用一个 AI 医疗助手。如果 AI 给出了一个错误的诊断方案，但它却用极其笃定的语气说：“我有 100% 的把握这是对的！”——这种“虚假的确定性”会误导人类做出错误的决策。

研究者的建议是：
在把这些 AI 模型投入到需要“判断对错”或“风险评估”的实际工作之前，我们必须先给它们做一个“心理测评”（即论文中提到的 Validity Screen），看看它们是真的懂，还是只是在“装腔作势”。

总结一句话：

现在的这些小型 AI 模型，虽然看起来很聪明，但它们在表达“我不确定”这件事上，表现得像个只会说“我全知道”的自大狂。

这是一篇关于大语言模型（LLM）置信度评估的学术论文。以下是对该论文的详细技术总结：

1. 研究问题 (Problem)

在实际应用中，人们经常通过“言语置信度”（Verbal Confidence，即让模型直接说出它对答案有多大把握）来提取模型的确定性估计，从而进行不确定性量化、模型路由或安全决策。

然而，该研究指出当前存在一个**“读取问题”（Readout Problem）**：虽然模型内部可能存在区分正确与错误答案的信号，但通过简单的提示词（Prompt）提取出的言语置信度，是否真的具备区分能力？研究的核心问题是：在 3–9B 参数规模的开源指令微调模型中，言语置信度是否达到了能够进行项级（item-level）区分的最低心理测量学有效性标准？

2. 研究方法 (Methodology)

研究采用了严谨的**预注册（Pre-registered）**实验设计，确保了结果的客观性。

实验对象：测试了 7 个指令微调模型（涵盖 Llama 3, Mistral, Qwen 2.5, Gemma 2, DeepSeek-R1-Distill 等四个家族），参数规模在 3B 到 9B 之间。
数据集：使用 TriviaQA 数据集中的 524 个条目，通过贪婪解码（Greedy Decoding）进行 8,384 次确定性试验。
提取方式（Elicitation）：
1. 数值型 (NUM)：要求模型给出 0–100 的百分比。
2. 类别型 (CAT)：要求模型将置信度归入 10 个等级的有序类别中。
有效性筛选协议 (Validity Screening Protocol)：研究者没有直接讨论“校准度”（Calibration），而是引入了心理测量学标准，通过二值化置信度（ $\ge 0.5$ $\geq 0.5$ 为高， $< 0.5$ $< 0.5$ 为低）构建 2×2 列联表，计算以下指标：
- $L$ ：错误时给出高置信度的概率（错误检测率的补集）。
- $F_p$ ：正确时给出低置信度的概率（假阴性率）。
- $RBS$：方向性反转指标。
- 退化预检 (Degeneracy pre-check)：若超过 95% 的响应集中在单一类别，直接判定为“无效（Invalid）”。

3. 核心结果 (Key Results)

研究结果证实了预设的假设，揭示了该规模模型在置信度表达上的严重缺陷：

置信度饱和 (Saturation, H1 & H2 证实)：在数值型提取下，所有 7 个模型均被判定为 Invalid（无效）。平均而言，91.7% 的试验结果都集中在 95% 以上的极高置信度区间。这意味着模型几乎对所有问题都表现出“过度自信”，导致置信度信号失去了区分正确与错误的能力。
类别格式无法挽救 (H4 未证实)：尝试使用 10 级类别格式（CAT）来规避饱和问题，结果不仅没有改善有效性，反而导致了任务性能崩溃。在大多数模型中，采用类别格式后，其回答问题的准确率从 60-70% 骤降至 5% 以下。
Token 概率与置信度脱节 (H5 证实)：模型输出 Token 的对数概率（Log-probability）无法有效预测其言语置信度（交叉验证 $R^2 < 0.01$ ），说明言语置信度与模型内部的概率分布是解耦的。
推理污染效应 (Reasoning Contamination Effect)：在 DeepSeek-R1-Distill 模型中，发现推理链（Reasoning trace）的长度与置信度呈显著负相关（ $\rho = -0.36$ ）。即推理过程越长，模型给出的置信度往往越低。

4. 主要贡献与意义 (Significance)

技术贡献：

区分了“有效性”与“校准度”：论文强调，如果一个信号在输出端已经发生了“饱和”（即所有值都挤在 95% 以上），那么它就失去了区分度。在这种情况下，讨论如何进行“校准”（Calibration）是没有意义的，因为信息在提取阶段就已经丢失了。
提出了心理测量学筛选标准：为评估 LLM 的不确定性表达提供了一套标准化的、可移植的验证协议，建议在进行任何下游应用前先进行有效性筛查。

实践意义：

警示开发者：对于 3–9B 规模的小型开源模型，严禁直接使用其言语置信度进行关键决策（如自动拒绝回答、安全过滤或模型路由），因为这些信号在默认配置下是高度退化的、无意义的。
研究方向指引：研究表明，模型内部确实含有不确定性信息（E3 证实），但目前的“最小化提示词提取方式”无法将其有效传递到输出接口。未来的研究应探索更复杂的、结构化的提示策略（Scaffolded Prompts）来解锁这些潜在信号。