Multiple Choice Questions: Reasoning Makes Large Language Models (LLMs) More Self-Confident, Especially When They are Wrong
本文表明，思维链提示会系统性地夸大大语言模型的置信度，尤其是在模型出错时，从而损害校准性并使基于概率的评估不可靠。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
以下是用通俗易懂的语言和日常类比对这篇论文的解释。
核心理念：“说服自己犯错”
想象你正在参加一场多项选择题考试。你有两种答题方式：
- “直觉检查”法：你阅读题目，然后立即选择一个答案。
- “展示解题过程”法：你一步步写出解释，说明为什么你认为那个答案是正确的，然后再选择答案。
这篇论文研究了大型语言模型（LLM）——一种表现得像超级智能聊天机器人的 AI——在使用第二种方法时会发生什么。研究人员想知道：解释你的思考过程会让 AI 对其答案更加自信吗？
实验：57 个科目的测试
研究人员让七种不同的 AI 模型（包括 Llama、Mistral 和 GPT 的版本）接受了一项名为MMLU的庞大测试。你可以把这项测试想象成一个巨大的图书馆，里面包含超过 15,000 道题目，涵盖 57 个不同学科，从历史和数学到法律和生物学。
他们让 AI 回答同样的问题两次：
- 第一轮：“直接给我答案的字母。”（直接回答）
- 第二轮：“一步步思考，解释你的逻辑，然后给我答案的字母。”（思维链）
令人惊讶的发现
结果有点像看着一个对自己编造的故事过于自信的学生。
1. “自信提升”效应
当 AI 被要求“一步步思考”时，无论答案是对是错，它对其答案的自信度都提高了。
- 类比：想象一个人正在猜谜语的答案。如果他只是猜，他可能会说：“我觉得是 X，但我不确定。”但如果他花五分钟写一个关于为什么 X 是答案的长篇大论，他开始相信自己编造的故事。他们会说：“我有 99% 的把握是 X！”即使 X 实际上是错的。
2. “错得响亮”的问题
这里有个棘手的地方：当 AI答错时，它的自信度提升得比答对时更多。
- 类比：如果 AI 做对了一道数学题，它可能会感到有 80% 的把握。但如果它做错了一道数学题，写出一个听起来合乎逻辑的长篇解释，会让它感到有 95% 的把握。这就像一位律师为一个明知会输的案件进行极具说服力的辩护；他们说得越多，就越相信自己的谎言。
3. “校准”崩溃
在 AI 领域，“校准”意味着：“当你说你 90% 确定时，你实际上有 90% 的时间是对的吗？”
研究发现，要求 AI 进行推理（思维链）实际上破坏了它的校准能力。它开始给出高置信度的答案，而这些答案经常是错误的。
- 类比：想象一位天气预报员。在没有“推理”步骤的情况下，他们会说：“可能会下雨，50% 的几率。”有了推理步骤后，他们开始说：“我已经计算了风速、湿度和云层模式，所以我 99% 确定会下雨！”但随后，并没有下雨。他们变得更确定了，但更不准确了。
为什么会发生这种情况？
论文指出，这是因为这些 AI 的构建方式。它们是“自回归”的，这意味着它们根据之前的词来预测下一个词。
- 反馈循环：一旦 AI 开始写支持某个特定答案的推理步骤，这段文本就变成了上下文的一部分。就像 AI 在朗读自己的文章并被自己的文字说服一样。它为支持某个答案写得越多，那个答案对模型来说就越显得“合乎逻辑”，即使逻辑是有缺陷的。
- “解释以相信”现象：论文指出，人类也会这样做。当我们解释自己的答案时，我们往往会对其更加自信。AI 正在模仿这种人类特质，但它缺乏人类那种意识到解释是胡言乱语的能力。
结论
论文总结道，当我们使用 AI 回答多项选择题时，如果 AI 被要求“一步步思考”，我们就应该非常谨慎地信任它的“置信度分数”。
- 如果 AI 说“我有 99% 的把握”，而且它是先被要求推理的，那么它实际上可能是错的。
- 推理过程不仅帮助 AI 找到了正确答案；它还帮助 AI 以危险的确定性说服自己相信错误的答案。
简而言之：要求 AI“展示解题过程”会让它成为一个更好的“演说家”，但这并不一定让它成为对自己知识更诚实或更准确的判断者。事实上，它可能会让它成为一个更自信的骗子。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。