Choosing a Suitable Acquisition Function for Batch Bayesian Optimization: Comparison of Serial and Monte Carlo Approaches

该研究通过数学函数与钙钛矿太阳能电池实验数据的对比分析，表明在六维及以下且缺乏先验知识的黑盒优化场景中，qUCB 作为默认的批量采集函数，能在最大化模型最优解置信度的同时最小化昂贵样本数量。

要点

这篇论文其实是在解决一个非常实际的问题：当我们在做昂贵的科学实验（比如研发新材料）时，如何用最少的尝试次数，找到最好的配方？

想象一下，你是一位**“寻宝猎人”**，手里有一张藏宝图，但地图是模糊的（黑盒函数），而且每走一步去挖宝（做实验）都要花很多钱和时间。你的目标是找到那个价值连城的“宝藏”（最优解）。

为了省钱，你决定**“组团寻宝”：每次不派一个人，而是派4 个小队（Batch，批次）**同时去不同的地方挖。但问题来了：你怎么决定这 4 个小队该去哪里？ 是派他们去大家都觉得可能有宝的地方（利用已知信息），还是派他们去从未去过的陌生区域（探索未知）？

这篇论文就是比较了两种不同的“派兵策略”（采集函数），看看哪种策略在复杂地形下最管用。

1. 两种主要的“派兵策略”

论文比较了两类策略：

• 策略 A：串行策略 (UCB/LP) —— “老练的侦探”

  • 怎么工作： 就像侦探一样，先派第一个人去他觉得最好的地方。然后，侦探会根据第一个人回来的报告，立刻调整计划，派第二个人去一个“稍微有点不同但也不远”的地方，以此类推，直到凑齐 4 个人。
  • 特点： 这是一个**按部就班、 deterministic（确定性）**的过程。它很聪明，会利用已知信息不断微调。
  • 比喻： 就像你在一个黑暗的房间里找开关，先摸一下左边，觉得有电，马上摸左边再远一点的地方，再摸再远一点……一步步逼近。

• 策略 B：蒙特卡洛并行策略 (qUCB, qlogEI) —— “随机撒网的渔夫”

  • 怎么工作： 这 4 个小队是同时被派出去的。计算机通过大量的随机模拟（蒙特卡洛方法），计算出哪 4 个点的组合能带来最大的整体收益。
  • 特点： 这是一个概率性、并行的过程。它不依赖上一步的结果来决定下一步，而是直接算出“最佳组合”。
  • 比喻： 就像渔夫撒网，他一次性撒出 4 张网，这 4 张网的位置是经过计算的最优分布，既能覆盖鱼群可能出现的区域，又能互相不重叠。

2. 他们测试了哪些“地形”？

为了测试谁更厉害，作者设计了三个模拟场景：

1. “ haystack 里的针” (Ackley 函数)：

   • 场景： 整个地形大部分是平地（没宝藏），只有一个极小的地方藏着巨大的宝藏（像针尖一样）。
   • 挑战： 很容易迷路，找不到那个针尖。
   • 结果： “老练的侦探”和“随机撒网的渔夫”都找到了针尖，但侦探稍微更精准一点。而另一种策略（qlogEI）就像个笨拙的渔夫，撒了很多网都打不到针。

2. “假宝藏” (Hartmann 函数)：

   • 场景： 地形上有两个很高的山峰，一个是真的宝藏（最高峰），另一个是假的（稍微矮一点点，但看起来很像）。
   • 挑战： 很容易被骗，以为找到了最高峰，其实只是找到了次高峰。
   • 结果： 在没有噪音（天气很好）的时候，侦探和渔夫都能分清真假。

3. “嘈杂的战场” (带噪音的 Hartmann & 真实的太阳能电池实验)：

   • 场景： 这是最难的。不仅有两个山峰，而且天气很差（有噪音），你看到的山峰高度可能是错的（比如今天下雨，测量数据不准）。最后，作者还用了真实的钙钛矿太阳能电池实验数据来测试。
   • 挑战： 在数据不准、环境混乱的情况下，谁能找到真正的最佳方案？
   • 结果： “老练的侦探” (UCB/LP) 彻底输了。 因为天气太坏，侦探的“按部就班”反而让他钻了牛角尖，或者被假象迷惑。而**“随机撒网的渔夫” (特别是 qUCB)** 表现最好！因为随机性反而帮他们避开了噪音的干扰，更稳健地找到了真正的宝藏。

3. 核心结论：谁赢了？

论文的最终建议非常明确：

如果你面对的是一个未知的、复杂的、可能有噪音的实验环境（比如研发新材料），请默认选择"qUCB"策略（随机撒网的渔夫）。

• 为什么选它？
  • 抗干扰能力强： 即使实验数据有误差（噪音），它也能稳住阵脚。
  • 不挑食： 不管地形是“针尖”还是“假山峰”，它都能处理。
  • 省心： 你不需要提前知道实验会有多少误差，也不需要知道地形有多复杂，直接用它，效果通常最好。

4. 总结与启示

这就好比你在玩一个**“盲猜游戏”**：

• 如果你太聪明、太依赖逻辑推理（串行策略），一旦环境有点小混乱（噪音），你就容易钻牛角尖，走错路。
• 如果你懂得“广撒网”并利用概率（蒙特卡洛并行策略），虽然看起来有点“随性”，但在复杂多变的世界里，你反而更容易找到那个真正的最优解。

一句话总结： 在科学实验的“寻宝”过程中，当你对环境一无所知且充满不确定性时，“多点开花、随机探索” (qUCB) 比“步步为营、逻辑推演” (UCB/LP) 更靠谱，能帮你省下更多的实验经费和时间。

技术摘要

这是一份关于论文《Choosing a suitable acquisition function for batch Bayesian optimization: comparison of serial and Monte Carlo approaches》（选择适合批量贝叶斯优化的采集函数：串行与蒙特卡洛方法的比较）的详细技术总结。

1. 研究背景与问题 (Problem)

• 背景：贝叶斯优化（Bayesian Optimization, BO）是一种用于优化昂贵“黑盒”函数（如材料合成、药物发现）的机器学习方法。在实验场景中，为了节省时间和成本，通常可以并行测试一组（批量，batch size $q > 1$）样本，这被称为批量贝叶斯优化。
• 核心问题：在批量贝叶斯优化中，选择何种**批量采集函数（Batch Acquisition Function）**来指导下一批实验参数的选择至关重要。然而，当对目标函数的景观（landscape）和噪声特性一无所知时，缺乏明确的指导原则来选择最佳策略。
• 现有挑战：
  • 串行方法（Serial）：如局部惩罚（Local Penalization, LP）结合上置信界（UCB），通常使用确定性数值方法，但在高维空间（>5-6 维）中计算困难且精度下降。
  • 并行/蒙特卡洛方法（Parallel/Monte Carlo）：如 $q$-logEI 和 $q$-UCB，通过随机采样（蒙特卡洛）在联合概率密度上积分，更适合高维问题，但其性能在不同函数景观和噪声水平下的表现尚需系统评估。

2. 方法论 (Methodology)

研究通过对比串行与**蒙特卡洛（并行）**两类批量采集函数在三种不同测试场景下的表现来评估其性能：

• 测试函数与模型：

  1. Ackley 函数（6 维）：模拟“大海捞针”（needle-in-haystack）问题，具有高度异质性，全局最优解位于一个极小的尖峰上。
  2. Hartmann 函数（6 维）：模拟“虚假最优”（false optimum）问题，存在一个与全局最优值非常接近的局部次优解，容易误导优化过程。测试了无噪声和有噪声（1%-20% 高斯噪声）两种情况。
  3. 实证回归模型（PCE 模型，4 维）：基于柔性钙钛矿太阳能电池最大光电转换效率（PCE）的真实实验数据构建的模型，包含真实世界的噪声和系统性误差。

• 对比的采集函数：

  • 串行基准：UCB/LP（上置信界 + 局部惩罚）。
  • 蒙特卡洛并行方法：
    • $q$-UCB（$q$-Upper Confidence Bound）
    • $q$-logEI（$q$-log Expected Improvement）
    • $q$-logNEI（针对噪声优化的 $q$-logEI 变体，用于有噪声测试）
  • 辅助策略：针对 Ackley 函数的 $q$-logEI，引入了 TuRBO（Trust Region BO）策略以缩小搜索域。

• 实验设置：

  • 使用高斯过程回归（GPR）作为代理模型。
  • 每次实验包含 99 次独立运行（基于不同的拉丁超立方采样初始集），每轮迭代批量大小 $q=4$，最大迭代次数 50 次。
  • 评估指标：瞬时遗憾（Instantaneous Regret, IR）和累积遗憾（Cumulative Regret, CR），分别衡量最终解的准确性和收敛速度。

3. 关键贡献 (Key Contributions)

1. 系统性的性能对比：首次在同一框架下直接比较了串行（UCB/LP）与蒙特卡洛（$q$-UCB, $q$-logEI）批量采集函数在多种典型材料优化景观（尖峰、多峰、平坦、噪声）下的表现。
2. 噪声鲁棒性分析：详细评估了不同采集函数在有噪声环境下的表现，特别是蒙特卡洛方法对噪声的适应性。
3. 实证验证：将理论测试扩展到基于真实实验数据构建的钙钛矿太阳能电池优化模型，验证了算法在实际应用中的有效性。
4. 提供默认选择建议：基于广泛的测试，为缺乏先验知识的材料优化实验提供了明确的采集函数选择指南。

4. 主要结果 (Results)

• Ackley 函数（无噪声，尖峰景观）：

  • UCB/LP 和 $q$-UCB 表现优异，均能快速收敛到全局最优解附近。
  • $q$-logEI 表现较差，难以建模尖峰，即使引入 TuRBO 策略，其性能仍显著低于 UCB/LP 和 $q$-UCB，且对初始条件敏感。
  • 差异分析：UCB/LP 在找到尖峰区域后，利用局部惩罚机制更密集地在该区域采样，从而更精确地重建尖峰；而 $q$-UCB 的随机性导致采样点分布较散，对尖峰的局部重建略逊于 UCB/LP，但整体性能依然可靠。

• Hartmann 函数（无噪声，虚假最优景观）：

  • 所有函数均能收敛到接近最优值，但部分运行会收敛到“虚假最优”解。
  • UCB/LP 和 $q$-UCB 表现相似且优于 $q$-logEI。
  • 约 1/3 的初始条件导致收敛到虚假最优解，这是该函数景观本身的特性，而非算法缺陷。

• Hartmann 函数（有噪声）：

  • 蒙特卡洛方法（$q$-UCB, $q$-logEI, $q$-logNEI）全面优于 UCB/LP。
  • 随着噪声增加（特别是 20% 噪声），UCB/LP 在建模最优值和收敛性上显著退化，对初始条件极度敏感。
  • $q$-UCB 在所有蒙特卡洛方法中表现最佳，显示出对噪声的强鲁棒性。
  • 专门设计的 $q$-logNEI 并未表现出比 $q$-UCB 更明显的优势。

• 实证 PCE 模型（真实实验数据）：

  • 由于真实景观在最优解附近存在平坦区域，寻找精确的 $X_{max}$ 较难，但找到接近最优的 PCE 值是关键。
  • $q$-UCB 表现最佳：在更少的迭代次数内找到接近最优的 PCE 值，且对初始条件的敏感度最低。
  • UCB/LP 和 $q$-logNEI 收敛较慢，且在部分初始条件下表现较差。

5. 意义与结论 (Significance & Conclusion)

• 推荐默认策略：当面对未知的黑盒函数（如材料合成实验），且输入维度在 6 维左右、噪声特性未知时，$q$-UCB（$q$-Upper Confidence Bound） 被推荐为批量贝叶斯优化的默认采集函数。
• 优势总结：
  • 鲁棒性：在“大海捞针”、“虚假最优”及真实噪声环境下均表现稳定。
  • 效率：相比串行方法（UCB/LP），在高维和噪声环境下收敛更快，对初始条件不敏感。
  • 适用性：特别适用于需要最小化昂贵实验次数并最大化结果置信度的材料科学实验。
• 实际影响：该研究为材料科学家和工程师提供了一个经过验证的、开箱即用的优化策略，减少了在优化算法选择上的试错成本，有助于加速新材料的发现与工艺优化。

总结：本文通过严谨的数学测试和实证数据证明，基于蒙特卡洛的并行采集函数 $q$-UCB 在应对复杂、高维、有噪声的材料优化问题时，比传统的串行方法（UCB/LP）和其他蒙特卡洛变体（如 $q$-logEI）具有更优越的综合性能，是此类应用场景的首选。