🤖 machine learning

Mirror Horizon: Viable Path Entropy as a Measure of Bounded Reflection

本文引入了镜像理论（Mirror Theory）及其操作性度量——可行路径熵（Viable Path Entropy, VPE），旨在将智能能力定义为在有限反思下可达到的、经过验证且多样化的延续结构，并通过语言模型实验证明，该指标比参数量或单次准确率更有效地捕捉了可获得的推理能力。

原作者： Tiantian Zhang (Crystal)

发布于 2026-07-15

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Tiantian Zhang (Crystal)

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你拥有一面神奇的镜子，它不仅能照出你的脸，还能展示出如果你继续交谈、思考或解决问题时，所有可能存在的未来版本的你。大多数人在照镜子时会问：“我得到正确答案了吗？”而这篇论文提出了一个更有趣的问题：“这面镜子能找到多少个不同的正确答案，而其中又有多少个答案能经受住测试的考验？”

作者们将这个想法称为镜像理论（Mirror Theory）。他们不把人工智能视为一个仅仅存储事实的静态百科全书，而是将其视为一面活生生的镜子，必须经历一个被称为“反射（reflection）”的过程。请不要将“反射”理解为一次瞬间的闪光，而要将其看作一条漫长且曲折的路径，在这条路径上，AI 会尝试用许多不同的方式来解决一个问题。

核心发现：大并不总是更好

这篇论文最大的惊喜在于，大并不总是更好。在 AI 世界中，我们通常假设拥有更多“脑力”（参数）的模型会自动变得更优越。但作者通过一个特定的设置测试了这一点：他们要求三个不同版本的 AI（名为 Qwen2.5）去解决 30 道数学题。他们给了它们有限的“思考时间”（以 token 衡量，token 就像是词片）。

以下是他们的发现：

当给予模型较短的思考时间（96 个 token）时，较小的模型表现挣扎。
当他们将思考时间增加到 160 个 token 时，神奇的事情发生了。那个 15 亿参数的模型（中等规模的模型）成为了冠军。它找到了更多的正确答案，更重要的是，它找到这些答案的方式更加多样化。
30 亿参数的模型（最大的那个）在这次特定测试中的表现反而不如中等规模的模型。它虽然得到了一些正确答案，但它陷入了某种窠臼，反复寻找同样的几种解法，而中等规模的模型则探索了更广泛的成功路径。

论文指出，“能力”不仅仅取决于模型的规模；还在于它能在有限的时间和能量预算内，实际触达多少条可行路径（正确的、多样化的解决方案）。

“可行路径熵”计分板

为了衡量这一点，作者发明了一个新的评分标准，称为可行路径熵（Viable Path Entropy, VPE）。想象你是一位才艺表演赛的评委：

旧方法 (Pass@k)： 你只检查是否至少有一位选手获得了满分。如果是，你就给他们一颗金星；如果不是，他们就一无所获。
新方法 (VPE)： 你要检查两件事：
1. 可达性（Reachability）： 他们是否找到了任何正确的解法？
2. 多样性（Diversity）： 如果找到了，他们找到了多少种不同类型的正确解法？他们是用巧妙的捷径、冗长的计算，还是视觉图表来解决问题的？或者他们只是把同一个答案猜了三次？

论文显示，中等规模的模型（1.5B）拥有最高的 VPE 分数。它不仅得到了更多正确答案，而且是以更多创造性的、截然不同的方式得到正确答案。最大的模型（3B）得分较低，因为尽管它很聪明，但在这些特定规则下，它的“探索性”较弱。

这篇论文排除了哪些可能性

作者非常明确地说明了这不是什么。

它不是一条规定说“大模型总是胜出”的规则。实验明确表明，如果条件不对，一个更大的模型可能会拥有比小模型更小的“镜像视界”（即更难触及成功）。
它不是一个可以预测 AI 将如何永远扩展下去的万能公式。作者认为，不存在一条单一的、简单的直线能说明“参数越多 = 能力越强”。相反，能力取决于具体的游戏规则（提示词、时间限制、验证器）。
它不仅仅是关于获得一次正确答案。论文认为，仅以一种僵化的方式获得正确答案，其含金量远不如能找到许多种不同的有效路径。

他们有多确定？

作者小心地没有声称他们已经解决了 AI 的终极奥秘。他们将研究结果描述为在特定实验中测量和观察到的结果，而非宇宙的普遍定律。

他们针对每道 30 道数学题 进行了 32 次采样（尝试）。
他们使用了一个特定的“验证器”（一个寻找正确数字的严格检查器）和一个特定的“模式映射”（一种对相似解法进行分组的方法）。
他们承认他们的“模式映射”有点粗糙（类似于按长度或简单的数学符号进行分类），未来的测试可能会使用更复杂的分类方式。
他们表示，他们的发现支持了镜像理论的观点，但并未声称已经对此进行了无懈可击的证明。他们说其结果“表明”该度量标准有效并“支持了这一主张”，但同时也为使用不同任务和模型的进一步测试留下了空间。

总结

请不要把 AI 看作是一个背诵教科书的机器人，而要把它看作是一个燃料有限的探险家。论文表明，最好的探险家不一定是体型最大的那个；而是那个能利用其燃料，在森林中找到最多不同且正确路径的探险家。当你给探险家更多的燃料（将 token 预算从 96 增加到 160）时，中等规模的探险家突然变得最为出色，它找到了丰富的解法多样性，而那个更庞大、更沉重的探险家却错过了这些路径。

论文得出结论：要真正理解一个 AI 的智能，我们不应仅仅问：“它得到答案了吗？”我们应该问：“它本可以找到多少种不同的、有效的途径来得到答案，而它实际发现了其中的多少种？”这就是新的“镜像视界”。

技术摘要：镜像地平线与可行路径熵

问题陈述
当前针对大语言模型（LLM）的评估指标——如损失（loss）、准确率（accuracy）、pass@k 以及基准测试得分——将系统的内部能力坍缩为单一的结果统计量。这些指标无法区分以下情况：一个模型仅解决了一次问题但反复失败；一个模型解决的问题较少但展现出多样化的解题策略；以及一个具有高原始输出熵但缺乏经验证的结构的模型。本文认为，能力的定义不应仅仅是单次尝试的成功或参数量，而应是系统在重复反思下能够维持的可行延续（viable continuations）的结构。

方法论
本文通过一种被称为**可行路径熵（Viable Path Entropy, VPE）**的新度量标准，将“镜像理论”（Mirror Theory）的操作化。VPE 被定义为一个有限预算下的经验证延续能力度量。

理论框架：
- 镜像作为延续律（Mirror as Continuation Law）： 镜像被定义为一种诱导可行延续之律的内部结构，而非静态表示（例如隐藏向量）。
- 组成部分： 该理论整合了直觉（来自证据的局部约束）、品味（保留价值不变性的选择压力）以及几何（确保稳定选择的学习结构）。
- 构造兼容性（Constructive Compatibility）： 如果一个可能性能在不破坏不变性的前提下增加有限预算内的可行延续能力，则称其为“构造兼容”的。
度量标准 (VPE)：
- 给定预算 $B$ （采样次数/rollouts）、时界 $T$ （Token 数）、验证器 $V$ 和模式映射 $\psi$ ，VPE 定义为：
  $H_{B,T}(M) = \log \Pr[V=1] + H(\psi \mid V=1)$
- 项 1（经验证的可达性）： 到达可行延续的概率 ( $\Pr[V=1]$ )。
- 项 2（经验证的模式多样性）： 在成功的采样中，所达到的语义模式的熵。
- 这种分解将广度（模型能否解决问题？）与深度/多样性（它有多少种不同的、经验证的解题方式？）区分开来。
实验实例化：
- 任务： GSM8K 数学推理问题。
- 模型： Qwen2.5-Instruct 系列（0.5B, 1.5B, 和 3B 参数）。
- 协议： 30 个问题，每个问题 32 次采样，温度 0.8，top-p 0.95。
- 变量： 测试了两个反思时界：96 个 Token 和 160 个 Token。
- 验证器： 一个严格的基于正则表达式的提取器，用于检查数值是否与标准答案一致。
- 模式映射： 一个启发式函数，通过长度区间、算子特征、方程数量和推理风格对经验证的解进行分组。

核心贡献

形式化路径空间理论： 提供了一个镜像理论的版本，其中镜像被定义为延续律而非静态状态。
可行路径熵 (VPE)： 定义了镜像地平线，将其分解为经验证的可达性和经验证的模式多样性。
理论联系： 将抽象概念（直觉、品味、几何、构造兼容性）与可测量的 VPE 对象联系起来。
经验验证： 实验表明，增加反思时界（reflection horizon）可以扩展经验证的可行延续能力，且镜像地平线有别于参数量。

结果

预算扩张： 将 Token 时界从 96 增加到 160 显著提升了 0.5B 和 1.5B 模型的各项指标。经验证概率上升，零验证比例下降，且经验证的模式熵增加。
160 Tokens 下的模型表现：
- Qwen2.5-1.5B 在所有测试模型中展现了最强的镜像地平线，在经验证概率、pass@32、零验证比例和经验证模式熵方面均占据主导地位。
- Qwen2.5-3B 未能超越 1.5B 模型。虽然它的平均经验证概率高于 0.5B 模型，但在广度（pass@32 较低）和经验证模式熵（显著低于 1.5B 模型）方面表现较差。
覆盖曲线： 经验覆盖曲线显示，1.5B 模型在所有采样预算（ $b \in \{1, \dots, 32\}$ ）下都能达到更高的预期不同经验证模式数，证实了其“镜像地平线”随着预算增加展开得更为有效。

意义与主张
本文声称提供了一种度量层面的能力解释，认为系统的强度在于其在有限反思协议下能够使其触达的可行延续的结构，而非单纯的原始参数量或单答案准确率。

协议条件的时界： 结果表明，镜像地平线并非模型的内在标量，而是取决于协议（预算、验证器、模式映射）。在特定约束下，较大的模型（3B）其可访问的镜像地平线可能比较小的模型（1.5B）更小。
超越 Pass@k： VPE 揭示了 pass@k 所掩盖的区别。一个模型可能具有高 pass@k 但低模式多样性（以单一且脆弱的方式解决问题），而 VPE 捕捉了拥有多种经验证解题模式的鲁棒性。
反思的操作化： 实验验证了理论主张，即增加反思时界（Token 预算）允许镜像的内部结构得以展开，从而揭示更多可行的延续。

本文保持了谦逊的态度，承认目前的模式映射较为粗糙且实验仅为初步尝试。它并不声称发现了一个通用的缩放法则，而是确立了“经验证的延续律”是一个研究智能系统中有限反思的有用且可测量的对象。

核心发现：大并不总是更好

“可行路径熵”计分板

这篇论文排除了哪些可能性

他们有多确定？

总结

技术摘要：镜像地平线与可行路径熵

类似论文