💬 NLP

Thinking Hard, Not Smart: Reasoning Models Fail to Ration Test-Time Compute Across Questions

本文引入了一种考试风格的评估框架，揭示了当前的推理模型无法在多个问题之间策略性地分配共享的测试时计算预算，而是表现为贪婪的顺序求解器，优先考虑呈现顺序而非问题难度或价值。

原作者： Chenrui Fan, Yize Cheng, Ming Li, Yongyuan Liang, Tianyi Zhou, Soheil Feizi

发布于 2026-08-11

📖 1 分钟阅读☕ 轻松阅读

原作者： Chenrui Fan, Yize Cheng, Ming Li, Yongyuan Liang, Tianyi Zhou, Soheil Feizi

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正坐在一座巨大的、高科技的图书馆里，书本是由被称为“推理模型”的高级计算机编写的。这些计算机非常擅长解决谜题，但它们有一个奇怪的癖好：谜题越难，它们在回答之前“思考”得就越多。这个思考过程会消耗一种叫做“计算量”（compute）的东西，这就像是一种有限的能量供应，或者是一个严格的时间限制。科学家们早就知道，如果你给这些计算机更多的时间来思考单个难题，它们解决问题的能力就会提高。但现在出现了一个新问题：如果你给这些计算机一叠不同的谜题，但只给它们一个共享的、总体的时限，会发生什么？计算机能否决定哪些谜题值得它投入精力，还是说它只会机械地按顺序处理出现的每一个谜题，在简单的题目上浪费时间，导致在看到后面的难题之前就精疲力竭了？这就是研究人员试图解决的大谜团，因为如果这些聪明的计算机无法在处理一组任务时管理好自己的能量，它们在需要同时处理多项工作的现实世界场景中可能会失败。

这篇题为《思考过度而非思考聪明》（Thinking Hard, Not Smart）的论文深入探讨了正是这样一个问题。研究人员为世界上几种最先进的推理模型设计了一场数字“考试”。他们没有给每个问题分配独立的时间限制，而是给了整场考试一个共享的“思考 Token”预算（一种计算努力的单位）。这场考试包含不同难度的题目，有些题目分值更高，模型必须弄清楚如何分配有限的能量以获得最高总分。结果令人震惊：这些模型的表现并不像那些懂得策略的考生。它们并没有为了给高分值的简单题留出能量而跳过一个低分值的难题，而是表现得像一个贪婪的学生，只是从头到尾机械地阅读题目。它们在最初的几个问题上投入了巨大的精力，往往在还没看到试卷末尾时就用完了 Token，而无论后面的题目分值有多高，情况都是如此。

研究发现，这些模型是“位置盲目”的策略家。它们似乎并不在意一个问题是被标记为“难”还是“易”，也不在意它是值 20 分还是 5 分。它们大多只是遵循题目呈现的顺序。如果一个问题排在第一位，它们就会把所有精力倾注其中；如果排在最后，它们往往会完全忽略它。研究人员通过打乱题目顺序并改变其分值进行了测试，但模型并未做出调整。即使研究人员给模型提供了特殊的提示，要求它们“提前计划”和“明智分配”，模型也没有改变习惯。它们仍然以同样的方式消耗能量，只是将这种缺乏策略的行为分布得稍微均匀了一些。这表明，虽然这些模型在针对单个问题进行“深度思考”方面做得越来越好，但它们尚未学会如何对“哪些问题值得思考”进行“聪明思考”。

为了让这一点更清晰，想象一下你有一个背包，重量限制严格为 10 磅，而你在一个有 20 件物品的跳蚤市场上。有些物品很重但很值钱（高价值、高成本），有些很轻但几乎不值钱（低价值、低成本），还有些很重但毫无价值。一个聪明的购物者会查看整个清单，挑选出那些“单位重量价值最高”的物品，填满背包以获得最多的钱。但这些 AI 模型表现得就像一个只顾着抓取第一个看到的物品，然后是第二个，接着是第三个，直到背包重到拎不动为止的购物者。等到他们走到队伍后端时，已经没有空间装下那些最好的交易了。研究人员发现，随着问题（或物品）的数量从 5 个增加到 20 个，模型在覆盖整个列表方面的表现变得越来越差。例如，面对 20 个问题时，模型仅对其中的 4 到 8 个问题进行了认真处理，剩下的则完全被忽视了。

论文还观察了模型是否会对问题的难度做出反应。事实证明，它们确实会在开始处理难题后花费更多时间，但它们是在已经开始处理之后才这样做的。它们不会看着一个难题说：“这看起来很难，我先跳过它，为以后留点能量。”相反，它们直接投入其中，意识到很难，然后不断进行，直到耗尽能量。这就是作者所说的“反应式”而非“前瞻式”思考。它们擅长在开始解决一个问题时去解决它，但不擅长决定哪些问题值得开始。

有趣的是，研究人员在数学问题和编程问题上都进行了测试，结果是一致的。无论是解决方程还是编写计算机程序，模型的行为都像是在固定轨道上的火车：它们向前移动，一个问题接一个问题，直到燃料耗尽。它们不会跳出轨道去寻找更容易或更有价值的站点。这项研究结论指出，这种在多个任务之间管理共享预算的能力，是当前模型所缺乏的一种独特技能。它们知道如何“思考得深”，但还没有学会如何“分配思考”。这不仅仅是一个小小的瑕疵；它表明，当我们要求这些模型执行更复杂的、多步骤的任务时，我们可能需要教给它们一种全新的“元认知”——即思考自身思考过程并管理资源的能力，而不仅仅是解决眼前的谜题。

技术摘要：深思而非善思 (Thinking Hard, Not Smart)

问题陈述

当前的推理语言模型越来越多地利用测试时计算（test-time compute）来提高解决单个问题的性能。然而，现有的评估通常是对这些模型进行逐题评估，为每个问题分配独立的预算。这种设置未能捕捉到现实世界部署中的一个关键约束：全局预算分配。当多个问题竞争单一且有限的推理预算（例如 Token 限制或延迟约束）时，模型必须做出战略决策，决定如何分配其计算资源。它必须确定哪些问题值得尝试，何时跳过或推迟，以及在每个问题上投入多少努力，以实现总分最大化。

本文指出，虽然模型可能具备对单个问题“深思”（thinking hard）的能力，但它们缺乏在相互竞争的一组问题中进行“善思”（thinking smart）的元认知控制。具体而言，目前尚不清楚模型是否能够相对于其成本来评估问题的价值，并动态调整其推理策略以优化全局效用，类似于解决一个权重（成本）并非显式已知的背包问题。

研究方法

评估框架：“考试”设定

作者引入了一个“考试式”评估框架，用以探测共享预算分配行为。

任务： 模型同时接收 $N$ 个问题，每个问题都有可见的分值（ $v_i$ ）。
约束： 模型获得一个用于整个考试的单一共享预算 $B$ 个推理 Token。
目标： 最大化总分（正确回答问题的得分总和）。
机制： 模型针对整个考试生成一个单一的推理轨迹（reasoning trace）。提示词并不强制要求特定的顺序。在推理阶段结束后，模型被要求根据该轨迹提供最终答案。

数据集与构建

来源： 主要实验使用 Omni-MATH (Gao et al., 2024)。
变量： 考试通过 $N \in \{5, 10, 20\}$ 个问题进行构建。
评分方案： 为了测试对价值的敏感性，作者改变了分值分配方式：
- 固定型 (Fixed)： 所有问题均为 10 分。
- 随机型 (Random)： 分数在 1–15 之间，与难度无关。
- 对齐型 (Aligned)： 较难的问题获得更高的分数。
- 反向型 (Reversed)： 较易的问题获得更高的分数。
排序： 问题以随机、升序难度或降序难度顺序呈现，以将呈现位置与内在难度解耦。

评估模型

研究涵盖了一系列开源模型和前沿模型：

开源模型： DeepSeek-R1-Distill-Qwen (7B, 14B) 和 Qwen3 (8B, 14B, 32B)。
API 模型： DeepSeek-V4 Flash 和 Pro（预览版）。
泛化性： 研究结果在代码推理领域通过 CRUXEval-O 进行了验证。

指标

为了分析分配行为，作者定义了以下指标：

Token 投入量 ( $t_i$ )： 归属于问题 $i$ 的总推理 Token 数。
工作集 ( $W$ )： 接收实质性投入（定义为 $\ge 200$ 个 Token 或 $\ge 2$ 个推理段落）的问题。
求解顺序： 在 $W$ 中实质性处理问题的序列，通过推理段落的 Token 加权质心来确定。
相关性分析： 计算分配行为（投入量、顺序）与信号（呈现位置、难度、分值）之间的 Spearman 相关系数。使用偏相关分析来控制位置与难度之间的混淆因素。

核心发现

1. 顺序执行而非战略分配

模型的行为很大程度上表现为贪婪的顺序求解器，而非战略分配器。

位置主导： 预测投入量和求解顺序的最强预测因子是呈现位置。模型根据问题在提示词中出现的顺序进行优先级排序。
忽视后续问题： 随着问题数量 ( $N$ ) 的增加，推理过程越来越集中在考试的前部。呈现位置与 Token 投入量之间的相关性呈强负相关（当 $N=20$ 时， $\rho \approx -0.48$ ），而位置与求解顺序之间的相关性呈强正相关（ $\rho \approx +0.68$ ）。
对价值不敏感： 模型对给定的分值几乎没有敏感性。在所有条件下，投入量/顺序与分值的相关性都接近于零。

2. 反应式而非前瞻性的难度处理

模型不会在尝试困难问题之前主动分配更多计算资源。
虽然较难的问题确实获得了更多 Token，但这是一种反应式效应：一旦模型进入一个困难问题，它会持续推理直到预算耗尽或问题解决。随着预算收紧（即 $N$ 增加），这种效应减弱，表明模型无法预先识别高成本问题并选择跳过或推迟。

3. 预算压力放大失败

覆盖范围萎缩： 随着考试长度的增加，接收实质性投入的问题比例（覆盖率）单调下降。对于 $N=20$ ，开源模型的覆盖率降至约 40%，而 API 模型甚至低至 23%。
零 Token 率： 大量问题（对于 $N=20$ 时的 DSV4-F 高达 69%）完全没有获得推理 Token，这意味着它们实际上被忽略了。

4. 规划提示词无法解决问题

明确指令要求“规划分配”或“考虑难度与成本”虽然能改善覆盖率（模型尝试更多问题），但未能诱导出基于价值的优先级排序。
模型仍然遵循呈现顺序，并且在问题价值或难度顺序被重新排列或重新定价时，不会调整其策略。

5. 代码推理的泛化

相同的行为模式（位置驱动的求解、对价值的不敏感性）也延伸到了 CRUXEval-O 上的代码推理任务，这表明这是一个根本性的架构局限，而非特定领域的现象。

贡献

评估框架： 本文引入了一个受控的“考试式”框架，用于研究共享预算下的推理，将其与传统的逐题评估区分开来。
基于轨迹的分析： 它提供了对实际推理投入和求解顺序的细粒度、基于轨迹的分析，揭示了对象级推理能力与战略控制力之间的差距。
实证证据： 它证实了当前的推理模型尽管具备解决复杂单个问题的能力，却无法展现出进行战略性计算分配所需的元认知控制。

重要性与主张

论文得出结论，全局预算分配是一项独特的能力，这在传统的评估中无法体现。作者认为，目前的模型“知道如何对眼前的题目‘深思’，但不知道如何决定哪个问题‘值得思考’”。

研究结果表明，仅仅扩大推理模型的规模或提高其单题性能，不足以应对具有有限全局资源的场景。无法进行战略性的计算配给——特别是无法根据价值进行优先级排序，以及无论问题价值如何都会在前部堆积投入的倾向——代表了当前推理模型部署中的一个重要瓶颈。本文并未提出解决方案，而是强调了这是该领域一个关键且尚未得到解决的挑战。