💬 NLP

Closed-Loop Bayesian Molecular Inverse Design with Semantic LLM Surrogates

本文介绍了 \textbf{\method}，一种闭环贝叶斯分子逆向设计框架，该框架利用冻结的大语言模型作为语义代理，直接对文本指令和优化历史进行推理，从而选择具有信息量的参考分子来引导冻结的生成器，并在药物和材料设计任务中超越或达到传统高斯过程基准的水平。

原作者： Yaoyao Xu, Xinjian Zhao, Xiaozhuang Song, Lei Bai, Tianshu Yu

发布于 2026-08-25

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Yaoyao Xu, Xinjian Zhao, Xiaozhuang Song, Lei Bai, Tianshu Yu

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

寻找新药和先进材料的过程通常始于一个问题：一个分子需要具备什么样的形态才能完成特定的任务？科学家们称之为“逆向设计”。研究人员不再是通过测试成千上万种现有的化学物质来观察它们的作用，而是尝试从零开始构建一个符合精确要求的分子，例如阻断病毒或允许气体通过过滤器。挑战在于，可能的化学结构宇宙是极其广大的，据估计包含约 $10^{60}$ 个类药物分子。在不断变化的形状的“草堆”中寻找那几根针，难度极大。传统上，计算机试图通过生成随机候选者并将其与计算机模型进行比对来解决这个问题，但这个过程往往效率低下，在找到好的选项之前会产生许多糟糕的选择。

来自香港中文大学（深圳）和上海人工智能实验室的研究团队开发了一种引导这种搜索的新方法。他们创建了一个名为 BoMolLLM 的系统，该系统将寻找优质分子的过程不视为一次性的猜测，而是一场计算机程序与大语言模型之间的对话。在他们的方法中，计算机生成一批分子，而一个专门的人工智能则充当引导者。这个引导者阅读上一批次的结果，分析哪些结构表现最好，然后为生成器编写一组新的指令。引导者不仅仅是挑选上一轮中最优秀的分子，还会解释为什么这些分子具有前景，从而有效地教导生成器下一步该尝试什么。这创造了一个闭环，使搜索过程随着每一步而变得更加聪明，不断精炼其焦点，直到找到与所需属性高度匹配的分子。

研究人员在两种截然不同的问题上测试了这个系统。首先，他们要求它设计用于药物发现的分子，特别是寻找能够与 HIV 相互作用、穿过血脑屏障或抑制特定酶（称为 BACE）的化合物。这些任务要求分子具有二元结果：要么有效，要么无效。其次，他们在材料科学领域进行了测试，要求系统设计能够控制二氧化碳、氧气和氮气等气体流动的聚合物。这些任务更具连续性，要求分子达到一个特定的渗透率目标值，而不仅仅是单纯的通过或失败。在两种情况下，系统都被给予了有限的尝试次数来改进其结果，以模拟实际测试化学物质既昂贵又耗时的场景。

结果表明，这种对话式方法优于标准方法。当研究人员将他们的系统与“一发命中”（即计算机在没有反馈的情况下尝试一次性生成完美分子）的方法进行比较时，新方法产生了更高比例的成功候选者。它也表现得与依赖复杂统计模型来预测下一步的传统数学优化技术一样好，甚至更好。关键区别在于，新系统能够“阅读”其自身尝试的历史。它可以查看一份失败分子的列表，并说：“这些分子含有过多的重金属，”或者“这些缺乏正确的环结构”，然后将这些见解传递给下一轮生成。这种对化学结构文本及其得分进行推理的能力，使得该系统能够比仅观察压缩数值数据的模型更有效地导航化学空间。

最有趣的发现之一是，系统会根据问题的类型调整其策略。对于具有明确“通过或失败”标准的药物靶点，当系统仅仅指向上一轮中最优的例子时，效果最好。那些分子的具体结构足以引导下一步。然而，对于目标是达到精确数值目标的材料科学任务，系统需要更多的帮助。在这些情况下，引导者会提供一个简短的一句话总结作为策略，例如“专注于氟化结构”，这有助于生成器理解达到目标所需的更广泛模式。这表明，虽然该系统具有灵活性，但其沟通发现的方式必须根据其正在解决的问题的性质进行定制。

研究人员还观察到，系统会随着时间的推移自然地转变其行为。在早期阶段，它探索了各种各样的化学结构，尝试了许多不同的形状和成分，以观察可能性。随着轮次的推进，它开始更加聚焦，精炼它所发现的最具前景的结构。这模拟了人类科学家的工作方式：从广泛的想法开始，逐渐缩小范围到最可行的选项。该系统并非仅仅靠运气；它比测试的其他方法更一致、更可靠地发现了高分分子。到过程结束时，它生成的分子聚集在发现最佳候选者的化学空间区域，而不是随机散布。

这项工作证明了大语言模型可以作为科学发现的有效引导者，不仅是通过生成文本，更是通过基于数据做出战略决策。该系统并不取代对现实世界测试的需求，但它显著提高了到达实验室阶段的候选者质量。它将分子的搜索变成了一个更加透明的过程，其中每一步背后的推理逻辑都是可以被阅读和理解的。研究人员发现，通过将优化历史视为一个需要分析的故事，而非仅仅是一组数字，他们可以构建一个更高效、更智能的分子世界搜索引擎。这种方法为加速新药和新材料的发现提供了一条充满希望的路径，将一个庞大且混乱的搜索空间转变为通往解决方案的有引导的旅程。

技术摘要：基于语义 LLM 代理的闭环贝叶斯分子逆向设计

问题陈述

实际的分子逆向设计很少是一个单次生成的任务。相反，它通常表现为一个**闭环候选池富集（closed-loop candidate-pool enrichment）**任务。在有限的预言机预算（例如，属性预测的计算成本）下，目标不仅是找到单个高分分子，而是提高生成的分子中符合预期属性特征的比例。

虽然贝叶斯优化（BO）为这一设定提供了自然的框架，但标准方法依赖于在压缩的连续潜嵌入空间中运行的高斯过程（GP）代理。这种范式丢弃了化学家在引导搜索时自然使用的结构和参考相似性信号。此外，GP 在高维空间中的扩展性较差，且通常需要降维，这进一步压缩了可用于代理模型的化学信号。大型语言模型（LLMs）近期展示了强大的分子表示和推理能力，但它们通常以单次（one-shot）方式使用，缺乏显式利用预言机反馈来迭代纠正搜索轨迹的机制。

方法论：BoMolLLM

作者提出了 BoMolLLM，这是一个将代理模型（而非生成器）作为设计决策核心的闭环框架。该框架将分子优化历史视为包含 SMILES 字符串、目标描述和预言机评分的语义对象。

核心组件

冻结的分子生成器 ( $M$ )： 一个指令驱动的生成器（实例化为 Llamole），负责将文本提示映射到候选分子。在整个优化过程中，该生成器保持冻结状态。
任务预言机 ( $O_\tau$ )： 根据特定目标评估生成的分子（针对药物任务如 HIV、BBBP、BACE 进行二分类；针对材料任务如 $CO_2$ 、 $O_2$ 、 $N_2$ 渗透性进行连续回归）。
语义 LLM 代理 ( $L$ )： 一个冻结的 LLM，充当决策模块。与传统的 BO 不同，它直接在其原生文本形式的离散优化历史上进行操作。

优化循环

该过程运行 $T$ 轮：

第 0 轮（热启动）： 生成器仅根据原始设计指令产生初始批次。
第 $t \ge 1$ 轮：
1. 代理模型读取累积的历史记录 $D_{t-1}$ 、任务上下文和当前轮次索引。
2. 基于探索-利用原则，代理模型从历史记录中选择一组前 $k$ 个参考分子 ( $R_t$ )。
3. （可选）代理模型生成一段简洁的引导句子 ( $g_t$ ) 来总结当前的轨迹。
4. 这些元素被格式化为增强提示词 $p_t$ ，用于驱动生成器。
5. 生成器产生新批次 $S_t$ ，经过评分后加入历史记录。

代理模型实例化

论文对比了两种在同一循环内的代理类型：

语义 LLM 代理 (BoMolLLM)： LLM 通过推理历史记录来选择参考分子并提供引导。它将预训练的化学知识视为先验，将上下文学习（in-context conditioning）视为后验更新，并将参考分子选择视为采集（acquisition）步骤。
经典 GP 代理： 一种改编自 BOPRO 的基线方法，在 PCA 压缩后的生成器条件向量嵌入上拟合 GP，优化 LogEI 采集函数，并检索最近邻作为参考。

核心贡献

具有可替换代理的闭环框架： 作者将分子逆向设计表述为一个候选池富集问题，其中代理层被隔离为设计决策的核心。这允许在同一迭代循环内直接比较经典 GP 和基于 LLM 的代理。
语义 LLM 代理： BoMolLLM 引入了一种直接在 SMILES 字符串、评分和任务上下文上操作的 LLM 实例化方式。它提供了以自然语言呈现的可检查优化轨迹，提供了数值型代理无法提供的设计依据。
实证证据与分析： 研究表明，在三种生成器骨干网络（Qwen, Mistral, Llama）和六个任务上，BoMolLLM 能够匹配或超越 GP-BO 基线。至关重要的是，该代理表现出了 BO 式的从探索到利用的转变，并且比基线更早地发现了高分分子。

实验结果

实验在 MolQA 基准测试上进行，涵盖了药物设计（HIV, BBBP, BACE）和材料设计（ $CO_2, O_2, N_2$ ）。

性能： BoMolLLM 在单次提示（Llamole-OneShot）方面表现出持续改进，并且与 GP-BO 基线相比具有竞争力甚至更强。在药物任务中，其优势最为显著，在所有目标任务中，BoMol-LLM 在 Mistral 和 Llama 骨干网络下均取得了最佳的 AUC 分数。
领域相关的接口差异： 消融研究揭示了一个关键的接口差异：
- 药物任务（二分类目标）： “仅参考”（Top-k 分子 + 分数）的效果最好。高分参考分子的结构信号足以提供引导。
- 材料任务（连续目标）： 添加“简洁的代理总结”（引导）能显著提升性能。连续目标的性质较为温和且具有梯度，受益于代理模型将轨迹模式压缩为可操作方向的能力。
搜索行为： 对搜索轨迹的分析显示，BoMolLLM 比基线更早、更可靠地发现高分分子。机制分析证实，代理模型在多轮迭代中平衡了探索（选择多样化结构）与利用（选择高分结构）。
化学空间分配： 通过 ECFP4 指纹的 t-SNE 可视化表明，BoMolLLM 将其搜索预算集中在富含高分候选者的区域，而不会像随机或单次提示方法那样坍缩到单一簇中。

意义与主张

论文声称，LLM 代理是经典 BO 代理在离散分子设计中的有效替代方案。

通过将代理决策从压缩的数值空间转移到以分子和文本表达的具有化学意义的历史记录中，BoMolLLM 在保留贝叶斯优化决策逻辑的同时，使搜索过程变得可检查且可解释。该框架证明了分子优化历史的“语义”特性可以直接被 LLM 利用来引导生成，为更透明、更有效的逆向设计工作流提供了一条路径。

作者指出了一些局限性，承认其预言机是学习到的预测器而非实验验证器，且 LLM 代理并非具有理论保证的校准概率模型（如经典 BO）。然而，结果表明语义方法在有限的预言机预算下能有效地富集候选池。