💬 NLP

Cross-Entropy Is Load-Bearing: A Pre-Registered Scope Test of the K-Way Energy Probe on Bidirectional Predictive Coding

这项预注册研究证实，交叉熵损失函数是 K 向能量探针在标准判别式预测编码网络中近似于对数 Softmax 边界的关键支撑因素，其移除会导致探针性能显著下降，而双向预测编码虽能提升性能但并未产生预期的潜在动态变化。

原作者： Jon-Paul Cacioli

发布于 2026-04-24

📖 1 分钟阅读☕ 轻松阅读

原作者： Jon-Paul Cacioli

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇论文其实是在做一场“科学侦探游戏”，目的是搞清楚：为什么在人工智能（AI）的某些测试中，一种叫“交叉熵（Cross-Entropy）”的数学工具，会让 AI 显得比它实际更聪明？

作者发现，如果去掉了这个工具，AI 的“自我评估能力”就会突然变强，甚至超过它原本的表现。

为了让你更容易理解，我们可以用"考试评分"和"音量旋钮"来打比方。

1. 背景：AI 的“自我感觉”与“实际表现”

想象 AI 是一个正在参加考试的学生。

实际表现（Softmax）：这是老师（标准算法）根据学生的答案给出的分数。
自我感觉（Energy Probe）：这是学生自己根据解题过程中的“内心挣扎程度”来预测自己考得怎么样。

在之前的研究（Cacioli [2026]）中发现了一个奇怪的现象：
在标准的考试模式下（使用“交叉熵”评分），学生总是低估自己。无论学生心里觉得这道题多简单，他自我评估的分数总是比老师给的分数低。这就好像一个学霸，明明考了 90 分，却觉得自己只考了 80 分。

作者之前的理论认为：这是因为 AI 的“大脑结构”（预测编码网络）本身有缺陷，导致它无法准确感知自己的正确率。

2. 这次实验：我们要找出“罪魁祸首”

作者这次想验证：真的是“大脑结构”的问题吗？还是说，是因为**评分规则（交叉熵）**太特殊，把学生给“吓”住了？

为了测试这一点，作者设计了三个场景（就像让同一个学生参加三种不同的考试）：

场景 A（标准考试）：使用传统的“交叉熵”评分。
- 结果：学生再次低估自己（自我感觉 < 实际分数）。
场景 B（换种评分法）：把“交叉熵”换成普通的“均方误差（MSE）”。这就好比把“按排名给分”改成了“按对错给分”，不再刻意放大分数的差距。
- 结果：学生依然低估自己，但差距缩小了一半！这说明“交叉熵”确实是个大问题。
场景 C（双向考试）：使用一种更复杂的“双向预测编码（bPC）”模式。原本作者以为这种模式会让学生的“内心活动”（潜变量移动）更剧烈，从而改变结果。
- 结果：出人意料，学生的自我感觉反而超过了实际分数（自我感觉 > 实际分数）。

3. 核心发现：原来是“音量旋钮”在捣鬼

作者深入分析后发现，真正的问题不在于 AI 的“大脑结构”或“思考方式”，而在于**“音量”（Logit Scale）**。

交叉熵（CE）就像一个巨大的音量旋钮：
在标准模式下，交叉熵会强迫 AI 把“正确答案”的分数拉得非常高，把“错误答案”的分数压得非常低。
- 比喻：这就像老师给正确答案打了 100 分，给错误答案打了 0 分，差距巨大。
- 后果：这种巨大的差距（高音量）让“老师给的分数”（Softmax）看起来非常自信、非常准确。相比之下，学生“内心的感觉”（能量探针）就显得很微弱、很不可靠。
去掉交叉熵（换用 MSE 或 bPC）：
这就好比把音量旋钮调小了。正确答案和错误答案的分数差距变小了（比如 60 分和 50 分）。
- 结果：这时候，学生“内心的感觉”反而显得更真实、更准确了，甚至超过了那个被“音量放大”后的老师评分。

4. 关键实验：温度调节（Temperature Scaling）

为了证实是“音量”的问题，作者做了一个有趣的实验：给标准模式下的 AI 戴上一个“降噪耳机”（温度缩放）。

他们强行把标准模式下那些巨大的分数差距（高音量）压缩，让它变得和“普通模式”一样小。
结果惊人：一旦把“音量”调小，原本那个“总是低估自己”的学生，立刻变得和“普通模式”下的学生一样优秀了！
结论：原本那 66% 的差距，纯粹是因为“音量”太大了，导致老师评分看起来太完美，掩盖了学生真实的自我评估能力。

剩下的 34% 差距，是因为交叉熵确实能训练出一种“更懂自己”的 AI，但这部分优势比较小。

5. 关于“双向动态”的意外

作者原本以为，场景 C（双向模式）之所以表现好，是因为它让 AI 的“大脑”进行了更复杂的内部思考（双向动态）。
但数据打脸了：在这个规模下，AI 的“内部思考”并没有比标准模式剧烈多少（只多了 1.6 倍，远没达到预期的 10 倍）。
真相是：场景 C 表现好，仅仅是因为它没有使用那个巨大的“音量旋钮”（交叉熵），而不是因为它的大脑结构更高级。

总结：这篇论文告诉我们什么？

交叉熵是“负载”关键：在目前的 AI 模型中，交叉熵不仅仅是个数学工具，它像一个巨大的“音量放大器”， artificially（人为地）让标准的评分系统看起来比 AI 的自我评估系统更准。
之前的结论需要修正：以前认为"AI 的结构缺陷导致它无法自我评估”是不完全准确的。实际上，只要去掉那个“音量放大器”（交叉熵），AI 的自我评估能力就能和标准评分系统媲美，甚至更好。
未来的方向：在比较 AI 的“自我感觉”是否准确时，我们不能直接拿原始分数比，而应该先给标准分数“调低音量”（温度缩放），这样才公平。

一句话总结：
这就好比我们以前一直觉得“学生”（AI 探针）很笨，总是猜不对自己的成绩。结果发现，原来是“老师”（交叉熵评分）把分数喊得太大声了，掩盖了学生的真实水平。把音量调小一点，学生其实挺聪明的！

1. 研究背景与问题 (Problem)

核心问题：
Cacioli [2026] 之前的研究提出了一种关于判别式预测编码（Predictive Coding, PC）网络中"K 路能量探针”（K-way energy probe）的近似分解理论。该理论指出，在特定假设下（包括输出端使用交叉熵损失 CE、前向推理动态等），能量探针的表现应略低于 Softmax 基线（即探针的置信度排序能力不如 Softmax）。

研究动机：
Cacioli [2026] 明确指出了该分解理论的适用范围限制，特别是不适用于：

输出端不使用交叉熵（CE）的情况。
双向预测编码（Bidirectional PC, bPC）的情况。

本研究旨在通过预注册实验，测试上述分解理论对交叉熵（CE）移除的敏感性，并探究双向推理动态（bPC）是否改变了这一结果。核心问题是：CE 是否是导致能量探针表现低于 Softmax 的“负载承载”（load-bearing，即关键依赖）组件？

2. 方法论 (Methodology)

实验设计：

架构： 所有条件使用相同的 TinyConv 骨干网络（约 214 万参数，4 层有效深度）。
数据集： CIFAR-10。
种子： 10 个随机种子，每个种子运行 3 种条件，共 30 次训练。
评估指标： 主要指标为 $\Delta = \text{AUROC2}_{\text{probe}} - \text{AUROC2}_{\text{softmax}}$ 。AUROC2 衡量的是读出头（readout）区分“正确”与“错误”的一阶预测（Type-1）的能力（即元认知能力）。

三种实验条件：

Condition A (stdPC-CE, 基线)： 标准判别式 PC，输出端使用交叉熵（CE）损失。复现 Cacioli [2026] 的基线。
Condition B (stdPC-MSE)： 标准判别式 PC，将输出端的 CE 替换为均方误差（MSE）。旨在隔离假设 A1（CE 的存在），保持推理动态不变。
Condition C (bPC)： 双向预测编码（Oliviers et al. 2025），使用双向 MSE 能量函数，无 CE 项。旨在同时测试假设 A1（无 CE）和 A3（双向迭代动态）。

预注册假设：

H3 (操控检查)： bPC 的潜在空间移动量应比标准 PC 大 10 倍以上（用于验证双向动态是否生效）。
H2 (复现)： 标准 PC (CE) 的 $\Delta$ 应显著小于 0。
H1 (主要测试)： bPC 的 $\Delta$ 应显著大于标准 PC (CE) 的 $\Delta$ 。
H4 (探索性)： 比较 MSE 条件与标准 PC 的差距。

后验分析 (Post-hoc)：

温度缩放消融 (Temperature Scaling Ablation)： 对 CE 训练模型进行温度缩放，以匹配 MSE 模型的 Logit 范数，从而分解 Logit 尺度效应与排序优势。

3. 主要结果 (Key Results)

3.1 操控检查失败 (H3)

结果： bPC 的潜在空间移动量（latent movement）仅比标准 PC 高出约 1.6 倍，远低于预注册的 10 倍阈值。
推论： 在此规模下，bPC 并未产生实质性的双向迭代动态效应。因此，后续结果不能归因于“双向动态”，而应主要归因于CE 的移除。

3.2 基线复现成功 (H2)

结果： 在标准 PC (CE) 条件下， $\Delta = -0.082$ ( $p < 10^{-6}$ )。
推论： 能量探针的表现确实显著低于 Softmax 基线，成功复现了 Cacioli [2026] 的负结果。

3.3 主要测试与 CE 的作用 (H1 & H4)

bPC 结果： $\Delta = +0.008$ ( $p = 0.000027$ )。探针表现超过了 Softmax。
MSE 结果： $\Delta = -0.037$ 。移除 CE 仅使用 MSE，探针与 Softmax 的差距缩小了 54%（从 -0.082 变为 -0.037）。
推论：
- CE 的移除是探针表现提升的关键因素。
- 由于 bPC 的操控检查失败，其表现优于标准 PC 的原因并非双向动态，而是CE 的缺失。
- CE 是分解理论中“负载承载”的核心组件。

3.4 Logit 尺度机制与温度缩放 (Post-hoc Analysis)

Logit 范数差异： CE 训练产生的输出 Logit 范数约为 11.5，而 MSE 和 bPC 仅为 0.78（相差约 15 倍）。
温度缩放实验： 将 CE 模型的 Logit 除以温度 $T \approx 15$ $T \approx 15$ 以匹配 MSE 的范数。
- 结果： 探针与 Softmax 的差距（ $\Delta$ ）减少了 66%（从 -0.080 降至 -0.027）。
- 分解：
  1. 尺度依赖部分 (66%)： 由 CE 导致的 Logit 膨胀（Logit-scale inflation）引起。CE 使 Softmax 分布更尖锐，人为提高了 Softmax 基线的 AUROC2，使得探针显得“较差”。
  2. 尺度不变部分 (34%)： 即使消除尺度影响，CE 训练产生的表示在排序上仍具有约 0.027 的固有优势。这是因为 CE 作为严格评分规则（strictly proper scoring rule），优化了正确类别的对数概率，产生了与正确性更相关的 Logit 排序。

4. 关键贡献 (Key Contributions)

界定理论边界： 证实了 Cacioli [2026] 提出的能量探针分解理论高度依赖于**输出端使用交叉熵（CE）**这一假设。一旦移除 CE，该分解不再成立，探针甚至可能超越 Softmax。
揭示 Logit 尺度效应： 发现 CE 训练会导致输出 Logit 范数显著膨胀（约 15 倍），这种膨胀人为地提升了 Softmax 基线的表现（AUROC2），从而掩盖了结构探针的潜力。
量化贡献来源： 通过温度缩放消融，将探针与 Softmax 的差距分解为 66% 的尺度效应（可被温度修正）和 34% 的排序优势（CE 作为评分规则的本质特性）。
否定双向动态的即时作用： 在 TinyConv 规模下，bPC 并未产生预期的强双向迭代动态，其表现改善主要源于损失函数的改变（无 CE），而非架构的动态改变。

5. 意义与启示 (Significance)

对元认知测量的启示： 在评估神经网络的元认知能力（如置信度校准）时，直接比较“结构探针”与“原始 Softmax"可能不公平。对于 CE 训练的网络，经过温度缩放（Temperature-scaled）的 Softmax 可能是更公平的基线，因为它消除了由训练目标（CE）人为引入的 Logit 膨胀偏差。
对预测编码理论的启示： 能量景观探针（Energy landscape probing）并非在所有架构下都劣于 Softmax。其表现劣势主要出现在 CE 训练的标准判别式 PC 中。移除 CE 后，探针能够匹配甚至超越 Softmax。
实验设计建议： 未来的研究在比较不同置信度信号时，应控制 Logit 尺度或报告温度缩放后的结果，以避免将训练目标的副作用误读为架构的局限性。
局限性说明： 研究仅在 CIFAR-10 和较浅的网络（TinyConv）上进行。在更深网络或更高 $\alpha_{gen}$ 设置下，生成链（generative chain）可能贡献更多能量，结果可能不同。此外，bPC 在双向动态未充分激活的规模下，其优势主要归因于 CE 移除。

总结：
这项研究通过严格的预注册实验证明，交叉熵（CE）是导致能量探针在标准预测编码网络中表现低于 Softmax 的关键因素。这种劣势很大程度上源于 CE 训练导致的 Logit 尺度膨胀，而非探针本身的结构性缺陷。移除 CE 后，探针性能显著提升，表明该分解理论具有特定的适用范围，不能推广到所有能量形式或训练目标。