🤖 machine learning

Active Learning for Gaussian Process Regression Under Self-Induced Boltzmann Weights

本文介绍了\texttt{AB-SID-iVAR}，这是一种基于高斯过程的主动学习方法，它通过在不估计配分函数的情况下近似不可处理的靶标，从而在自诱导玻尔兹曼分布下有效学习未知函数，实现了预测误差的渐近消失，并在势能面建模和药物发现等应用中优于现有方法。

原作者： Jixiang Qing, Henry Moss, Matthias Sachs

发布于 2026-05-12

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Jixiang Qing, Henry Moss, Matthias Sachs

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象你是一位试图绘制一座广阔、迷雾岛屿的寻宝猎人。你的目标并非完美地绘制整座岛屿的地图，而是要完美地绘制出藏宝点。

关键在于：你目前还不知道宝藏在哪里。

事实上，“宝藏”（你最关心的地方）正是由你正在绘制的地图所定义的。一个地点越有价值，它就越可能是一个藏宝点。这就形成了一个棘手的循环：为了找到宝藏，你需要一张好地图；但为了知道该去哪里寻找宝藏，你又需要知道宝藏在哪里。

本文解决了一种被称为**主动学习（Active Learning）**的特定问题，即你必须选择下一个探索点以获取最多的学习信息。通常，你可能会选择那些你不确定的点（不确定性采样）或随机选择点。但在这种特定情境下，一个点的“重要性”会根据你正在学习的函数而发生变化。

问题：自我诱导的迷雾

作者将这种情况称为自我诱导分布（Self-Induced Distribution）。这就像是一个天气系统，风（函数）创造了云（你应该在哪里寻找的概率）。

标准学习： 你希望同等程度地了解岛屿的每一个角落。
本文的问题： 你只关心那些阳光普照、高价值的地点。但在开始测量温度之前，你不知道阳光洒在哪里。而“阳光”本身是由温度定义的。

这种情况在现实科学中屡见不鲜，例如化学家试图模拟原子如何结合（势能面）。他们只关心稳定、低能量的状态（即“宝藏”），但在计算出能量之前，他们并不确切知道这些状态在哪里。

解决方案：AB-SID-iVAR

作者提出了一种名为AB-SID-iVAR的新策略。其工作原理如下，使用一个简单的类比：

想象你试图在一个城市里找到最好的咖啡馆，但你只关心那些“舒适”的咖啡馆（这是一种你试图衡量的品质）。

旧方法（随机或不确定性）： 你可能会四处游荡，问：“这家咖啡馆好吗？”或者“我不知道这家好不好，让我检查一下。”这会在没人关心的劣质咖啡馆上浪费时间。
新方法（AB-SID-iVAR）： 你构建了一张“幽灵地图”。
- 你利用当前的猜测来预测“舒适”地点可能在哪里。
- 关键在于，你不仅仅猜测位置；你还猜测该位置的不确定性。如果你不确定某个地点是否舒适，你的“幽灵地图”就会赋予它额外的权重，因为它可能是一颗隐藏的宝石。
- 然后，你选择下一个访问点，以在最可能的舒适区域内最大程度地减少你的不确定性。

本文介绍了这种“幽灵地图”的两个版本：

AB-SID（计算器）： 它使用数学捷径（泰勒展开）来估算“舒适”区域，而无需进行不可能的计算。它既快速又可靠。
TS-SID（赌徒）： 它随机猜测地图的样子并据此制定计划。它稍微有些混乱，但有时能发现计算器错过的隐藏宝石。

为何意义重大

作者证明了两点：

它有效： 即使你在开始时不知道目标分布（“藏宝图”），你的方法也能保证最终极其准确地找到藏宝点。随着你提出更多问题，误差会变得越来越小。
它更优： 在测试中，他们的方法远优于现有策略。
- 合成测试： 他们在虚构的数学问题和现实世界的化学模拟（例如氢分子如何附着在铜上）中测试了该方法。与随机猜测或标准的不确定性采样相比，他们的方法更快、误差更小地找到了重要地点。
- 药物发现： 他们在寻找新药方面进行了测试。在药物发现中，你并不关心平均水平的药物，你关心的是最好的药物。他们的方法将精力集中在顶级候选药物上，而其他方法则在平庸的药物上浪费了时间。

核心结论

本文解决了机器学习中一个“先有鸡还是先有蛋”的问题。当你关心的事物取决于你试图学习的事物时，标准方法就会失效。作者创造了一种智能的、自我调整的指南针（AB-SID-iVAR），它在学习寻找什么的同时，也学习去哪里寻找，从而确保你只将时间花在真正重要的地点上。

技术摘要：自诱导玻尔兹曼权重下的高斯过程回归主动学习

1. 问题定义

本文解决主动学习（AL）问题的一个特定变体，其目标是在由函数本身自诱导的目标分布 $P_f$ 下，以低预测误差学习一个未知函数 $f$ 。与标准主动学习（假设均匀或已知目标分布）或分布鲁棒主动学习（假设可能分布的模糊集）不同，该设定假定目标分布遵循玻尔兹曼形式：
$P_f(x) = Z_f^{-1} \exp(\lambda f(x) + b(x))$
其中 $\lambda \neq 0$ 是已知参数， $b(x)$ 是已知偏置函数， $Z_f$ 是配分函数。

关键挑战：

循环依赖：目标分布 $P_f$ 依赖于未知函数 $f$ ，形成了一种循环依赖，即采样策略依赖于它试图学习的函数本身。
配分函数不可解：归一化常数 $Z_f = \int \exp(\lambda f(x) + b(x)) dx$ 通常难以计算，尤其是当 $f$ 未知且不断演化时。
未知目标：分布并非预先完全指定；它是从学习过程中涌现出来的。

这种设定自然出现在科学领域，例如计算化学中的势能面（PES）建模（其中分子动力学从由能量加权的玻尔兹曼分布中采样）和分子药物发现（其中兴趣集中在高分化合物上）。

2. 方法论

作者提出了 SIDAL（自诱导分布下的主动学习），并引入了两种基于高斯过程（GP）的采集函数：AB-SID-iVAR 和 TS-SID-iVAR。

2.1. 理论基础

该方法通过将未知 $P_f$ 下的期望均方误差（MSE）与可计算的代理分布 $P_{\mu_t}$ （基于 GP 后验均值 $\mu_t$ ）相关联来建立界限。

高概率界限：通过分解 $P_f$ 和 $P_{\mu_t}$ 之间的对数密度比，作者推导出了一个涉及配分函数比的上界。这导致了一个带有指数前置因子的界限，该因子取决于最大预测误差。
平均情况界限：通过对 GP 后验 $f|D_t$ 取期望，作者利用詹森不等式（Jensen's inequality）和高斯变量的矩生成函数（MGF）恒等式。这使得配分函数比可以被吸收，从而产生一个更紧的界限，而无需显式估计 $Z_f$ 。
$\mathbb{E}_{f|D_t}[\mathbb{E}_{P_f}[(f - \mu_T)^2]] \leq C \cdot \mathbb{E}_{P_{\mu_t}}[\sigma_T^2(x)]$
其中 $\sigma_T^2(x)$ 是预测方差。

2.2. 采集函数

两种提出的方法都旨在最小化自诱导分布的可行代理上的积分后验方差。

AB-SID-iVAR（近似贝叶斯 SID）：
- 使用零阶泰勒展开，以闭式形式近似不可解的期望 $\mathbb{E}_{f|D_{t-1}}[P_f]$ 。
- 代理非归一化密度为： $\tilde{p}^u_{t-1}(x) = \exp(\lambda \mu_{t-1}(x) + \frac{\lambda^2}{2}\sigma_{t-1}^2(x) + b(x))$ 。
- 该公式自然地将后验不确定性（ $\sigma^2$ ）纳入加权中，防止过早地承诺于单一模式。
TS-SID-iVAR（汤普森采样 SID）：
- 通过单次蒙特卡洛采样（汤普森采样）近似期望： $\tilde{p}^u_{t-1}(x) = \exp(\lambda \tilde{f}_{t-1}(x) + b(x))$ ，其中 $\tilde{f}_{t-1} \sim f|D_{t-1}$ 。
- 与闭式近似相比，这提供了一种偏差 - 方差权衡。

2.3. 算法实现

算法通过在潜在集 $\bar{X}_t$ 上最小化期望后验方差来选择下一个查询点 $x_t$ ：
$x_t = \arg \min_{x \in \bar{X}_t} \int_{x^* \in \mathcal{X}} \tilde{p}^u_{t-1}(x^*) \sigma_t^2(x^* | x_t = x) dx^*$

约束集 $\bar{X}_t$ ：为了确保探索，搜索被限制在当前方差（通过代理估计）超过阈值的区域。
连续域：对于连续输入，积分和约束阈值使用来自代理分布的**序贯蒙特卡洛（SMC）**采样进行近似。

3. 主要贡献

问题形式化：本文正式定义了 SIDAL 问题，通过目标分布对未知函数的依赖性，将其与标准 AL 和 DRAL 区分开来。
新颖的采集函数：引入了 AB-SID-iVAR 和 TS-SID-iVAR，它们以闭式形式（或通过单样本 MC）近似贝叶斯目标分布，而无需配分函数估计。这些方法适用于离散和连续域。
理论保证：
- 收敛性：作者证明，随着查询次数 $T \to \infty$ ，终端预测误差以高概率消失。
- 速率：他们提供了次线性收敛速率：在常数蒙特卡洛采样下为 $O(T^{-1/2+\epsilon})$ ，当采样数量与 $T$ 线性缩放时为 $O(T^{-1+\epsilon})$ 。
- 平均情况分析：提供了一个更紧的平均情况界限，显示出与高概率界限相比改进的对数因子。
- 启发式分析：本文在该框架内提供了对现有启发式方法（通用启发式主动学习，GHAL）的首次收敛性分析。
实证验证：在合成基准和现实世界任务上，证明了相对于基线（随机采样、不确定性采样、IMSE、EPIG 和 GHAL）的一致改进。

4. 实验结果

该方法在以下方面进行了评估：

合成基准：维度 $d=1$ $d = 1$ 到 $d=6$ $d = 6$ 的函数（例如 Gramacy、Branin、Hartmann、Ishigami）。
- 结果：AB-SID-iVAR 始终实现了比基线更低的加权 MSE。在更高维度和多模态目标（例如 Branin）中，性能差距扩大，标准不确定性采样因集中在高不确定性但低概率的区域而失败。
势能面（PES）建模：涉及 H2 在 Cu 上、H 在 Cu 团簇上、Si 晶体以及 H2O 在 Pt 上的任务。
- 结果：AB-SID-iVAR 在所有系统中实现了最低的加权 MSE，证明了其在物理化学应用中的鲁棒性，在这些应用中，准确的预测仅在特定的低能构型中需要。
分子药物发现：使用 GuacaMol 评分函数的离散基于池的任务。
- 结果：该方法在预测高分（高玻尔兹曼权重）分子的属性方面显著优于基线。虽然基线在前 k% 化合物上退化为负 $R^2$ ，但 AB-SID-iVAR 保持了接近零的精度，表明它成功地将采样集中在相关的化学空间上。

消融研究：

将贝叶斯代理替换为朴素插入（ $\exp(\lambda \mu_t)$ ）导致在多模态目标上失败，证实了将后验方差（ $\sigma^2$ ）纳入代理的必要性。
移除约束集 $\bar{X}_t$ 导致更高的方差和收敛性较差。

5. 意义与主张

本文声称填补了主动学习文献中的一个空白，解决了目标分布为自诱导且遵循玻尔兹曼形式的情景，这是计算化学和药物发现等领域中常见但此前未受研究的设定。

理论意义：它提供了自诱导分布下学习的首个严格收敛保证，表明尽管存在循环依赖和不可解的配分函数，终端误差仍会消失。
实践意义：所提出的方法（特别是 AB-SID-iVAR）提供了一种原则性的、无参数的（关于采集函数的超参数调整）替代方案，以取代现有通常需要仔细调整的启发式方法。这些方法成功平衡了探索和集中，确保在自诱导分布的高概率区域获得准确预测，而无需先验知道分布的支持集。
局限性：作者指出，由于密度比论证，他们的理论界限表现出对 $|\lambda|$ 的指数依赖。在计算上，对连续域依赖 MCMC 采样引入了开销，尽管敏感性分析表明这可以通过减少粒子数来缓解。

总之，本文提出了一个理论扎实且实证有效的框架，用于当数据点的“重要性”由正在学习的未知函数决定时的主动学习，特别是在玻尔兹曼加权分布的背景下。