📊 statistics

Posterior Inference in Latent Space for Scalable Constrained Black-box Optimization

本文提出了一种用于高维约束黑盒优化的可扩展方法，该方法将问题重构为基于流的生成模型潜在空间内的后验推断，利用外包的扩散模型高效采样有前景的候选解，同时避免模式崩溃。

原作者： Kiyoung Om, Kyuil Sim, Taeyoung Yun, Hyeongyu Kang, Jinkyoo Park

发布于 2026-05-08

📖 1 分钟阅读☕ 轻松阅读

原作者： Kiyoung Om, Kyuil Sim, Taeyoung Yun, Hyeongyu Kang, Jinkyoo Park

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图在一片广阔而迷雾笼罩的荒野中，寻找一个建造新城市的绝对最佳地点。这片荒野代表了一个高维黑盒优化问题。

这里的难点在于：

迷雾：你无法清晰地看清地形。你只能派遣一名侦察兵前往特定地点，检查该地点是否理想，并获取报告。你没有地图。
陷阱：到处散布着看不见的“禁行区”（约束条件）。如果你在其中一处建城，城市就会崩塌。这些区域难以发现，且往往占据了大部分土地。
目标：你想要找到不在禁行区内、且海拔最高（即目标函数值最优）的山丘。

传统方法（如标准贝叶斯优化）就像逐个派遣侦察兵，试图猜测地图。但当荒野极其广阔（高维）且禁行区错综复杂时，这些侦察兵会迷路、被困在小山谷中，或者浪费时间去检查那些明显糟糕的地点。

CiBO（黑盒优化中的约束推理）登场了。

作者提出了一种新方法，利用“生成模型”（学习模式的 AI）和“潜在空间”（世界的简化隐藏版本）进行巧妙的两步舞来解决这一问题。

核心理念：“阴影世界”类比

想象真实的荒野是一片混乱、崎岖的山脉，隐藏着深邃的洞穴（即禁行区）。直接在此导航是一场噩梦。

该论文建议创建一个“阴影世界”（即潜在空间）。在这个阴影世界中，崎岖的山脉被平滑为柔和起伏的丘陵；禁行区那令人恐惧的锯齿状边缘变成了易于检测的柔和曲线。

CiBO 的工作原理如下：

第一阶段：学习地图与规则

首先，AI 基于侦察兵已检查的少数地点构建两样东西：

形态变换器（基于流的模型）：它学习“有希望”区域的总体形状。它理解侦察兵去过哪里，以及地形大致是什么样。
神谕（代理模型）：这些是智能预测器。其中一个预测任何地点的山丘高度，其他则预测某地点是否为“禁行区”（即约束违规）。

关键在于，AI 不仅仅查看数据，它还会对数据进行重加权。它格外关注那些既高又安全的地点，而忽略那些低矮或危险的地点。

第二阶段：“阴影”搜索

AI 不再随机派遣侦察兵，也不试图直接攀登崎岖的真实山脉，而是采取更聪明的做法：

转换到阴影世界：它利用“形态变换器”将问题投影到阴影世界中。在这个简化的空间里，复杂的、锯齿状的“禁行区”和“最佳地点”构成了一个更加平滑、更易于导航的地貌。
扩散采样器（引导之旅）：AI 使用一种称为扩散采样器的特殊工具（将其想象为一位非常聪明的向导）。这位向导并非漫无目的地游荡，而是学会专门在“阴影世界”中行走，以找到最高且最安全的山丘。
- 为什么要用阴影世界？ 因为在现实世界中，“最佳地点”可能散落在微小的孤立岛屿上（多模态）。而在阴影世界中，这些岛屿由平滑的桥梁连接，使 AI 更容易找到它们而不会被困住。
投影回现实：一旦向导在阴影世界中找到最佳地点，AI 就会将该坐标转换回真实的荒野。
过滤与重复：AI 生成许多潜在地点，根据其“神谕”预测过滤掉那些看似危险的地点，然后派遣少数最好的真实侦察兵去检查它们。随后，它更新地图并重复该过程。

这为何意义重大？

避免“陷阱”：传统方法常陷入“模式崩溃”，即它们不断发现同一个小的安全地点，而错过了附近真正卓越的地点。通过在平滑的阴影世界中搜索，CiBO 可以广泛探索而不会被困住。
处理不可能：在高维问题中（例如设计一个拥有 200 个部分的分子，或一个拥有 100 个变量的机器人策略），“禁行区”如此复杂，以至于标准数学方法会失效。CiBO 通过在简化的阴影世界中执行复杂的数学运算来绕过这一难题。
速度与效率：论文表明，即使在数百个维度和数十个约束的任务中，CiBO 也能比旧方法用更少的“侦察兵行程”（评估次数）找到更优的解决方案。

结论

该论文声称，通过将寻找最佳解的过程视为后验推理问题（即在已知信息下寻找最可能的良好地点），并在一个**简化且平滑的“阴影世界”**中进行该搜索，我们可以比以往更快、更可靠地解决复杂的工程和科学问题。

他们在合成数学谜题以及现实世界的挑战（如规划漫游车路径、设计机器人动作和优化车辆质量）上测试了这种方法。在每种情况下，他们的方法都比竞争对手更快找到了更好、更安全的解决方案。

技术摘要：潜在空间中的后验推理用于可扩展的约束黑盒优化

问题定义

本文解决了**约束黑盒优化（CBBO）**问题，这是机器学习、药物发现和工业设计等科学与工程领域的一项基本任务。其目标是找到一个输入 $x^*$ ，在满足 $M$ 个黑盒约束 $g^{(m)}(x) \leq 0$ 的前提下，最大化目标函数 $f(x)$ 。

作者强调，由于以下两个主要因素，CBBO 比无约束优化困难得多：

不可处理的可行域：可行域在解析上未定义，且通常仅占据搜索空间的极小部分。
高维性：现有方法，特别是贝叶斯优化（BO），难以扩展到高维空间（例如 $D=200$ ）。虽然 BO 通过新的采集函数或拉格朗日松弛来处理约束，但其在可扩展性方面表现不佳，且难以在复杂、受约束的景观中准确估计代理模型。

生成模型已成为一种替代方案，但由于多模态性和大范围平坦区域，从高维空间中采样目标分布（即可行且高分的候选者）通常是不可处理的。标准方法如马尔可夫链蒙特卡洛（MCMC）的可扩展性较差，而对生成模型进行微调往往会导致模式崩溃。

方法论：CiBO

作者提出了CiBO（基于约束推理的黑盒优化），这是一个将候选者选择重构为在生成模型潜在空间中执行的后验推理的框架。该方法在一个包含两个阶段的迭代循环中运行：

阶段 1：模型训练

给定一个包含观测输入、目标和约束违反情况的 dataset $\mathcal{D}_r$ ：

先验训练：训练一个基于流的模型 $p_\theta(x)$ 以捕捉当前数据集的分布。这是使用流匹配（Flow Matching）配合重加权训练完成的，其中数据点根据拉格朗日增强分数 $l(y, c) = y - \lambda \sum \max(0, c_m)$ 进行加权。这使得先验聚焦于有希望的可行区域。
代理训练：训练一个由 $K$ 个神经网络组成的集成模型，用于预测目标值（ $\mu_\phi, \sigma_\phi$ ）以量化不确定性。为每个约束 $g^{(m)}$ 分别训练代理模型。这些模型也使用重加权损失进行训练。

阶段 2：采样候选者

CiBO 没有对基于流的先验进行微调（这可能导致模式崩溃），而是将候选者选择转化为从后验分布中采样：
$p_{post}(x) \propto p_\theta(x) \exp(\beta \cdot r_\phi(x))$
其中 $r_\phi(x)$ 是一个奖励函数，结合了代理模型的均值、不确定性奖励和约束惩罚。

关键创新：潜在空间的摊销推理
作者观察到，虽然数据空间中的 $p_{post}(x)$ 具有高度多模态性和复杂性，但对应的潜在空间（ $z$ ）中的后验分布要平滑得多。

外包扩散采样器：他们训练了一个独立的扩散模型 $p_\psi(z)$ 来近似潜在后验 $p_{post}(z) \propto p(z) \exp(\beta \cdot r_\phi(f_\theta(z)))$ 。
轨迹平衡（TB）：扩散采样器使用轨迹平衡目标进行训练，这允许进行离线策略训练。这对于覆盖多个模式并避免潜在空间中的模式崩溃至关重要。
投影与过滤：从 $p_\psi(z)$ 中抽取样本，通过确定性映射 $x = f_\theta(z)$ 投影到数据空间，并根据奖励函数 $r_\phi(x)$ 过滤以选择前 $B$ 个候选者。

主要贡献

重构为后验推理：本文将约束候选者选择形式化为从后验分布中采样，利用潜在空间的平滑性来绕过在高维数据空间中直接采样的困难。
潜在空间摊销：通过将采样过程解耦为潜在空间中的噪声生成步骤和确定性投影，该方法避免了直接在复杂、多模态的目标分布上微调基于流的模型所导致的模式崩溃问题。
可扩展性：使用轻量级的基于 MLP 的代理模型以及流/扩散模型，使得该方法能够扩展到高维（在现实世界任务中高达 180 维），而传统的 BO 方法在此处会失效。
指示约束：该框架被证明能够处理“指示约束”（仅提供二元可行性反馈），这是一个具有挑战性的场景，其中无法获得基于梯度或连续的约束信息。

实验结果

作者在三个合成基准（ $D=200$ 的 Rastrigin、Ackley、Rosenbrock）和四个现实世界任务（Rover Planning、HalfCheetah、Mopta、Lasso DNA）上评估了 CiBO，维度范围从 60 到 180。

性能：CiBO 始终优于最先进（SOTA）的基线，包括 BO 变体（cEI, LogcEI, SCBO, PCAGP-SCBO, FuRBO）、进化算法（CMA-ES）以及其他生成式方法（DiffOPT）。
可行性：在合成任务中，CiBO 在 5–10 个批次内实现了近乎完美的可行性比率，速度显著快于 BO 基线。在现实世界任务中，它通常是唯一能在 Mopta 和 DNA-180D 等困难基准上找到可行解的方法。
样本效率：该方法表现出卓越的样本效率，与竞争对手相比，用更少的评估次数找到了高质量的可行解。
消融研究：实验证实，重加权训练、过滤以及扩散采样器的离线策略训练是关键组件。该方法对超参数（如拉格朗日乘子 $\lambda$ 和缓冲区大小 $L$ ）的变化具有鲁棒性。
运行时间：尽管每轮需要训练多个模型，但由于避免了传统 BO 所需的昂贵高斯过程（GP）拟合，CiBO 保持了与基于 BO 的方法相当或更低的每轮运行时间。

意义与主张

本文声称，CiBO代表了可扩展约束黑盒优化领域的重大进步。其主要意义在于：

克服约束中的“维数灾难”：通过在潜在空间中执行推理，该方法有效地导航了复杂、多模态的可行区域，而这些区域对于标准 BO 或直接生成模型微调来说是难以处理的。
鲁棒性：该框架在各种任务中表现出鲁棒性，包括那些具有二元约束反馈和大量约束的任务。
实际适用性：该方法的计算效率足以在实际部署中应用于评估预算有限的现实世界设计和控制问题。

作者谦逊地指出了局限性，特别是每轮都需要重新训练模型，以及未来可以通过利用基于流训练的进展和扩散采样器的改进来进一步提升。他们强调，他们的工作为更稳健、感知约束的优化框架奠定了基础。