🤖 machine learning

SemanticOpt: Towards LLM-Based Semantic Black-Box Optimization

SemanticOpt 是一个新颖的框架，它通过在富含自然语言上下文的结构化贝叶斯轨迹上对大语言模型进行微调，以增强其用于语义黑盒优化的能力，使其能够有效利用领域知识，并在高成本实验场景中超越经典优化器及现有的基于大语言模型的优化器。

原作者： Jamison Meindl, Yunsheng Tian, Tony Cui, Veronika Thost, Zhang-Wei Hong, Jie Chen, Wojciech Matusik, Mina Konaković Luković

发布于 2026-05-18

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Jamison Meindl, Yunsheng Tian, Tony Cui, Veronika Thost, Zhang-Wei Hong, Jie Chen, Wojciech Matusik, Mina Konaković Luković

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象你是一位厨师，正试图创造一款完美的新曲奇食谱。你的食材和时间预算有限，因此只能烘烤几批次。

旧方法（传统优化器）：
通常，协助你的计算机程序就像一个盲品测试员。它只看到数字：“2 杯面粉、100 度热量、30 分钟”。如果第一批烤焦了，它只会记录“烤焦”，然后下次尝试略微不同的数字。它不知道为什么会烤焦。它不知道“温度过高”通常会毁掉曲奇，也不知道“小苏打”与“泡打粉”的反应不同。它纯粹基于数学进行猜测，忽略了烹饪的实际故事。

新问题：
有时，仅靠“数字”是不够的。也许你正在设计新的飞机机翼、调配油漆，或调整化学反应。你拥有大量基于文本的知识可用：旧的研究论文、专家笔记（如“高温加速反应但会产生不良副产物”），或类似过往实验的描述。标准计算机程序无法阅读这些笔记；它们只理解数字。

“智能”方法（大语言模型）：
大语言模型（LLMs）就像超级阅读者。它们能阅读所有那些专家笔记、论文和描述。它们理解“酞菁绿”是一种浓烈的绿色油漆。然而，如果你只是让一个 LLM“找到最佳混合方案”，那就好比请一位杰出的美食评论家去烹饪。它们懂得理论，但不擅长实际一步步烘烤曲奇的试错过程。它们可能会建议一个很好的第一批方案，但随后会陷入困境或不断重复同样的错误，因为它们并未被训练成系统化的优化器。

解决方案：SemanticOpt
作者创建了SemanticOpt，这就像聘请了一位既是主厨又是数据科学家的专家。

以下是他们的构建方式：

训练：他们选取了一个聪明的 LLM（“超级阅读者”），并教导它如何成为系统化的优化器。他们不只是向它提问，而是向它展示了成千上万个成功实验的示例。这些示例包括数字（食谱）、结果（味道好吗？）以及上下文（专家笔记和科学论文）。
学习：模型学会了同时观察数字和文本。它学到，如果某篇论文说“高温有风险”，而数据显示高温尝试失败了，那么它未来应避免高温。它学会了在“探索”新想法与“利用”已知有效的方法之间取得平衡。
结果：当面对一个新问题时，SemanticOpt 不只是猜测数字。它会阅读问题描述，查看过去成功或失败的历史，并利用其来自文本的“常识”来选择下一个最佳实验。

油漆调配师的类比：
论文给出了一个调配油漆的精彩例子。

目标：混合 5 种可用油漆，以匹配名为“薄荷绿”的目标颜色。
传统优化器：尝试随机的油漆比例。它可能会尝试 90% 黑色和 10% 白色，得到深灰色，然后意识到这是错误的。它必须盲目尝试成千上万种组合。
SemanticOpt：你告诉它：“目标是薄荷绿，这是一种‘强烈鲜艳的绿’"。它阅读油漆名称：“酞菁绿”（一种浓烈的绿色）、“钛白”等。它立即明白需要大量绿色油漆和一些白色。它跳过了糟糕的猜测，更快地找到了完美混合。

他们的发现：

更好的起点：由于阅读了说明，SemanticOpt 的初始猜测优于标准计算机。
更好的改进：与在几次尝试后陷入停滞的标准 LLM 不同，SemanticOpt 随着收集更多数据而持续进步，就像真正的科学家从错误中学习一样。
获胜者：在从设计飞机机翼到优化化学反应的各项测试中，SemanticOpt 击败了传统的数字运算计算机和原始的、未经训练的超级阅读者。

局限性：
论文指出，该系统高度依赖你提供给它的文本质量。如果你给它误导性的笔记，或者问题纯粹是关于没有逻辑故事的随机类别（例如随机挑选一个 ID 号码），它的帮助就不大。但当问题存在“故事”或“上下文”时，SemanticOpt 会利用该故事更快地找到答案。

简而言之，SemanticOpt 教会了一个超级智能的 AI 不仅阅读手册，而且实际进行实验，利用数学和文字高效地解决难题。

技术摘要：SemanticOpt：迈向基于大语言模型的语义黑盒优化

问题定义

优化实验系统往往受限于单次评估的高昂成本、耗时或执行难度。在这些“昂贵黑盒”场景中，设计参数与结果之间的关系是未知的。传统的优化器（如贝叶斯优化，BO）仅依赖数值观测（配置和标量结果）。它们缺乏整合更广泛领域知识的能力，例如专家启发式方法、科学文献或先前实验的语义描述。虽然大语言模型（LLM）具备解读此类语义信息的能力，但最先进的 LLM 难以执行可靠的迭代优化。它们通常在热启动（提出初始候选项）方面表现出色，但在更长的轨迹中无法维持有效的探索与利用平衡，导致性能停滞。

方法论

作者提出了SemanticOpt，这是一个通过在有自然语言上下文增强的结构化 BO 轨迹上微调 LLM，从而赋予 LLM 鲁棒黑盒优化能力的框架。

1. 问题构建

优化被构建为一个序列决策问题，其中 LLM 策略 $\pi_\theta$ 与未知目标函数 $f$ 进行交互。在每一步 $t$ ，模型接收观测历史 $D_t = \{(x_i, y_i)\}$ 和语义上下文 $C$ （例如问题描述、历史数据或评估反馈）。模型生成下一个配置 $x_{t+1} \sim \pi_\theta(\cdot | C, D_t)$ 。

2. 数据生成与训练

为了克服带有语义数据的真实世界基准测试稀缺的问题，作者构建了一个包含超过 100,000 条优化轨迹的大规模训练数据集：

函数空间：他们使用两种方法生成了多样化的合成目标函数：
- 高斯过程（GP）函数：灵活、可扩展的生成器，辅以非线性坐标扭曲、不连续性、约束和失效区域，以模拟真实世界的不规则性。
- LLM 生成的函数：使用 Qwen 3.5 35B-A3B，他们为真实领域（例如化学反应、航运物流）生成了语义上下文，并配对 100 个评估点，通过代理拟合来定义真实值。
轨迹生成：使用最先进的 BO 框架HEBO在这些函数空间上生成高质量的优化轨迹。该过程包括初始化 5 步（对 GP 函数使用 Sobol 采样，对语义函数使用 LLM 生成的初始化），并运行 3 种不同的代理模型（GP、随机森林和 SVIDKL）。在特定步数（10、25、50、100）处表现最佳的代理模型被选中以编译数据集。
提示结构：训练数据被格式化为多轮对话。系统指令强制输出严格的 JSON 格式，包含提议的配置、预测均值、标准差以及（如适用）失效概率。
微调：作者使用低秩自适应（LoRA）微调了Qwen 3.5 27B（及 9B）模型。该模型被训练为同时输出候选配置和代理风格的预测，有效地学习充当端到端序列优化器，将数值反馈与语义推理相结合。

3. 推理流程

在推理期间，SemanticOpt 遵循相同的多轮结构。它首先根据提供的上下文提出 5 个初始配置。随后，它迭代地提出新配置。为了增强决策，模型在每一步采样两个候选配置，最终选择通过最大化加权预测成功概率的期望改进来做出，从而考虑可行性。

主要贡献

大规模训练数据集：构建了包含超过 100,000 条优化轨迹的数据集，涵盖多样化的 GP 生成和 LLM 生成的函数空间，利用 BO 方法确保高质量优化数据。
结构化微调方法：一种在 BO 数据上微调 LLM 以同时输出候选配置和校准的代理风格预测的新颖方法，从而创建了SemanticOpt模型。
全面评估：在具有不同级别语义上下文的真实世界代理基准测试中进行了评估，表明当提供相关语义信息时，SemanticOpt 的表现优于传统 BO 方法和现有的基于 LLM 的方法。

结果

作者将 SemanticOpt 与一组全面的基线进行了评估，包括 HEBO（带有 GP、RF 和 SVIDKL 代理）、基于 Transformer 的优化器（PFNs4BO）以及前沿 LLM（GPT-5.4、Qwen 3.5 27B）。

性能：在多样化的领域（例如机翼 CFD、MuJoCo 控制、油漆混合、PD1）中，SemanticOpt 实现了最佳平均归一化性能。它在迭代优化方面显著优于基础 LLM（Qwen 3.5 27B），表现出持续改进而非停滞。
语义上下文：包含语义数据（长文本上下文、历史示例、额外指标） consistently 提高了性能。例如，在油漆混合任务中，SemanticOpt 利用颜色描述找到了目标匹配（得分 0.91），远优于 HEBO GP（得分 6.5）。
与前沿模型的比较：虽然 GPT-5.4 在源自公共数据集的基准测试中显示出强大的初始化性能（表明可能存在记忆化），但在通过模拟生成且在线数据较少的基准测试（例如机翼 CFD、MuJoCo 控制）中，SemanticOpt 的表现优于 GPT-5.4。当使用来自 GPT-5.4 的相同初始化时，SemanticOpt 展示了更优越的迭代优化能力。
代理质量：SemanticOpt 的内部预测（均值和标准差）在准确性和不确定性校准方面，与传统 BO 代理模型相比显示出竞争力或更优的表现。
消融研究：
- 模型规模：27B 模型比 9B 模型更好地保持了初始化能力，后者遭受了预训练先验的“容量依赖性遗忘”。
- 初始化与迭代：SemanticOpt 的增益源于改进的热启动和更优越的迭代优化。

意义与主张

该论文声称，SemanticOpt 弥合了 LLM 的语义推理优势与贝叶斯优化的样本高效、不确定性感知搜索之间的差距。通过在带有语义上下文增强的结构化 BO 轨迹上直接微调 LLM，作者证明了 LLM 可以被训练为有效的序列优化器。

其意义在于创建了一个端到端语义优化器，它不依赖外部 BO 循环或简单的提示。它使优化系统能够在提出新实验时利用文档、先前实验和辅助测量。作者指出了局限性，特别是在纯分类空间（BO 方法本身在此类空间中也会遇到困难）以及目标函数高度不连续的领域（BO 校准可能会失效）。他们建议未来的工作可以包括纳入决策理由并扩展到更灵活的函数空间。