技术摘要：信念空间动力学中可接受学习率步长的闭式上界

问题陈述

学习率传统上被视为通过启发式搜索调整的超参数。本文通过隔离信念空间动力学中的一个特定局部计算，挑战了这一范式。核心问题在于确定建模为概率单纯形上投影前向步的更新的最大可接受步长（$\eta$）。

本文提出，正如启发式搜索（例如 A*）需要满足可接受性条件（$h(n) \leq h^*(n)$）以保持最优性保证一样，信念空间更新需要在概率分布的自然几何（KL/Bregman 几何）中满足收缩条件，以保持稳定性。若不满足此条件，激进的步长会导致信念分布发散或坍缩至单纯形边界，从而破坏收敛至稳定点的保证。

方法论

1. 理论框架

作者将信念状态 $p \in \Delta_{C-1}^\circ$（概率单纯形的内部）的局部更新建模为：
$$F_\eta(p) = \Pi_\Delta \left( p - \eta \nabla E(p) \right)$$
其中 $E(p)$ 是局部能量（损失），$\eta$ 是步长，$\Pi_\Delta$ 是到单纯形的投影。

分析依赖于由负熵势 $\phi(p) = \sum p_i \log p_i$ 生成的Bregman 散度，其对应于 Kullback-Leibler (KL) 散度。证明利用了 Bregman 散度的三点恒等式以及投影梯度最优性条件来推导收缩估计。

2. 可接受上界的推导

证明确立了，如果步长满足由能量景观的强凸性（$\mu$）和平滑性（$L$）常数导出的特定间隙条件，则更新映射 $F_\eta$ 是收缩的：
$$D_{KL}(F_\eta(p_1) \| F_\eta(p_2)) \leq D_{KL}(p_1 \| p_2) - \eta(2\mu - \eta L^2) \|p_1 - p_2\|^2$$
为了使映射具有收缩性，项 $(2\mu - \eta L^2)$ 必须为正，从而得出一般上界：
$$0 < \eta < \frac{2\mu}{L^2}$$

3. 应用于交叉熵和均方误差

• 交叉熵 (CE)： 对于 $E(p) = -\sum q_i \log p_i$，本文使用局部曲率代理 $\nabla^2 E(p) \approx \text{diag}(1/p_i)$。这产生了局部常数 $\mu(p) = 1/\max_i p_i$ 和 $L(p) = 1/\min_i p_i$。将这些代入一般上界，得出了闭式、状态依赖的上界：
  $$\eta_{CE}^{\max}(p) = \frac{2 \min_i(p_i)^2}{\max_i(p_i)}$$
  该上界不是一个固定的标量，而是当前信念分布的函数，随着信念接近单纯形边界（即某些 $p_i \to 0$），该上界会迅速缩小。

• 均方误差 (MSE)： 本文将 MSE 视为归一化的二次比较。在归一化补偿路径 $p_\eta = (1-\eta)p + \eta y$ 上，可接受的终点 simply 为 $\eta_{MSE}^{\max} = 1$。

4. 熵感知回退 (ADS)

本文引入了一种自适应双重搜索 (ADS) 机制，它不替代几何终点，而是基于不确定性作为局部回退。

• 熵度量： $B(p) = H(p)/H_{max}$，其中 $H(p)$ 是熵，$H_{max} = \log C$。
• 对数障碍： $\alpha(B) = -\log(1-B)$。
• 最终可接受步长： 熵感知步长将几何终点乘以一个因子 $\bar{\eta}(B) = 1/(1+\alpha(B))$。
  $$\eta_{CE}(B, p) = \frac{2 \min_i(p_i)^2}{\max_i(p_i)} \cdot \frac{1}{1 + \alpha(B)}$$
  当不确定性较高（$B \to 1$）时，步长被强制趋近于零。

关键结果

1. 闭式上界： 本文提供了交叉熵分类中最大可接受学习率的显式公式：$\eta_{CE}^{\max}(p) = 2 \min_i(p_i)^2 / \max_i(p_i)$。
2. 几何证明： 可接受性通过 KL 收缩得到证明，表明违反该上界会破坏更新映射的收缩性。
3. 诊断实验： 一个最小化的信念空间跟踪任务（不含神经网络）表明：
   • 遵守上界的步长（低固定 $\eta$ 或 ADS 感知）允许信念准确跟踪移动的目标分布。
   • 违反上界的步长（高固定 $\eta$）导致信念过冲，坍缩至单纯形边界，并且即使目标回移也无法恢复。
4. MSE 比较： 本文阐明了归一化 MSE 终点为 1，与 CE 终点不同，防止了这两种几何的混淆。

意义与主张

本文提出的是适度、具体的主张，而非提出新的最先进优化器或与现有方法进行基准测试。

• 几何契约，而非调整口号： 主要贡献在于隔离了一个局部计算，其中“安全”步长是一个由当前信念状态导出的公式，而非需要调整的超参数。
• 训练与推理的统一视角： 本文论证前向传播（推理）和后向传播（训练）是同一底层几何的两个坐标框架。前向传播执行投影到单纯形上的欧拉步，而可接受上界控制着这种运动的稳定性，无论其发生在训练期间还是推理期间。
• 稳定性与正确性： 本文明确区分了稳定性（收敛至固定点）和正确性（收敛至真实答案）。可接受上界保证系统收敛至局部能量景观（经验先验）的固定点，但并不保证该固定点是语义上正确的答案。
• 熵的作用： 熵项并非作为新的终点呈现，而是作为一个安全刹车，当信念分布弥散时限制步长，确保步长保持在由曲率定义的认证区域内。

总之，本文主张用基于信念状态局部曲率和熵的几何上界，取代启发式猜测（“步长可以有多大？”），从而为信念空间动力学提供“安全证书”。