🤖 machine learning

SemanticOpt: Towards LLM-Based Semantic Black-Box Optimization

SemanticOpt は、構造化されたベイズ軌跡に自然言語コンテキストを付加してファインチューニングを行うことで大規模言語モデルをセマンティック・ブラックボックス最適化向けに強化する新規フレームワークであり、これによりドメイン知識を効果的に活用し、高価な実験シナリオにおいて古典的および既存の LLM ベースのオプティマイザを上回る性能を発揮します。

原著者： Jamison Meindl, Yunsheng Tian, Tony Cui, Veronika Thost, Zhang-Wei Hong, Jie Chen, Wojciech Matusik, Mina Konaković Luković

公開日 2026-05-18

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Jamison Meindl, Yunsheng Tian, Tony Cui, Veronika Thost, Zhang-Wei Hong, Jie Chen, Wojciech Matusik, Mina Konaković Luković

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

あなたが完璧な新しいクッキーのレシピを作ろうとするシェフだと想像してください。材料と時間には予算の制限があるため、数回しか焼くことができません。

従来の方法（従来のオプティマイザー）:
通常、あなたを助けるコンピュータプログラムは、盲目の味見係のようなものです。それは数字しか見ていません。「小麦粉 2 カップ、温度 100 度、30 分」。最初の焼き上がりが焦げたら、単に「焦げた」と記録し、次は少し異なる数字を試します。なぜ焦げたのかは知りません。「熱すぎるとクッキーは台無しになる」とか、「重曹」と「ベーキングパウダー」は反応が異なるということも知りません。これは実際の調理の物語を無視し、数学に基づいた純粋な推測に過ぎません。

新しい問題:
時には、その「数字」だけでは不十分です。新しい飛行機の翼を設計したり、絵の具を混ぜたり、化学反応を調整したりしているかもしれません。そこには膨大なテキストベースの知識が存在します。古い研究論文や、「高温は反応を加速させるが、有害な副生成物を作る」といった専門家の手記、あるいは過去の類似実験の説明などです。標準的なコンピュータプログラムはこれらの手記を読むことができません。彼らが理解できるのは数字だけです。

「賢い」方法（LLM）:
大規模言語モデル（LLM）は、スーパーリーダーのようなものです。それらはすべての専門家の手記、論文、説明を読むことができます。「ファスログリーン」が強力な緑色の絵の具であることを理解します。しかし、LLM に単に「最良の配合を見つけろ」と頼むのは、優れた料理評論家に料理をさせるようなものです。理論は知っていますが、クッキーを段階的に実際に焼くという試行錯誤のプロセスは得意ではありません。素晴らしい最初の焼き上がり案を提案するかもしれませんが、その後は立ち往生したり、体系的なオプティマイザーとして訓練されていないため、同じ過ちを繰り返したりします。

解決策：SemanticOpt
著者たちは、データサイエンティストでもあるマスターシェフのようなSemanticOptを作成しました。

その作り方は以下の通りです：

トレーニング: 彼らは賢い LLM（「スーパーリーダー」）を、体系的なオプティマイザーになるよう教えました。単に質問を投げかけるだけでなく、成功した実験の数千の例を見せました。これらの例には、数字（レシピ）、結果（美味しくできたか？）、そして文脈（専門家の手記や科学論文）が含まれていました。
学習: モデルは数字とテキストを同時に見ることを学びました。「高温はリスクがある」という論文があり、かつ高温での試みが失敗したという数字があれば、将来は高温を避けるべきだと学びました。「探索」（新しいアイデアを試すこと）と「活用」（すでに機能することが分かっているものを活用すること）のバランスを取ることも学びました。
結果: 新しい問題を与えられたとき、SemanticOpt は単に数字を推測するだけではありません。問題の説明を読み、何が成功し何が失敗したかの履歴を見、テキストから得た「常識」を用いて、次の最良の実験を選びます。

絵の具混ぜの比喩:
この論文は、絵の具を混ぜる素晴らしい例を挙げています。

目標: 5 種類の利用可能な絵の具を混ぜて、「ミントグリーン」と呼ばれる目標色に合わせること。
従来のオプティマイザー: 絵の具の比率をランダムに試します。90% の黒と 10% の白を試して暗い灰色になり、間違っていると気づくかもしれません。それは盲目的に数千の組み合わせを試さなければなりません。
SemanticOpt: 「目標はミントグリーンであり、それは『鮮やかで強い緑』である」と伝えます。絵の具の名前を読みます。「ファスログリーン」（強力な緑）、「チタンホワイト」など。すぐに、多くの緑色の絵の具と少しの白が必要だと理解します。ひどい推測を飛ばし、はるかに早く完璧な配合を見つけます。

彼らが発見したこと:

より良い開始: SemanticOpt は指示を読むため、標準的なコンピュータよりも良い推測から始めます。
より良い改善: 数回の試みの後に立ち往生する標準的な LLM とは異なり、SemanticOpt は実際の科学者が過ちから学ぶように、データを集めるにつれて常に改善し続けます。
勝者: 飛行機の翼の設計から化学反応の最適化まで、さまざまなテストにおいて、SemanticOpt は従来の数値計算を行うコンピュータも、訓練されていない生のスーパーリーダーも凌駕しました。

注意点:
この論文は、このシステムが提供されるテキストの品質に大きく依存していると指摘しています。誤解を招く手記を与えられた場合や、問題が論理的な物語を持たない単なるランダムなカテゴリ（ランダムな ID 番号を選ぶようなもの）である場合、その効果は限定的です。しかし、問題に「物語」や「文脈」がある場合、SemanticOpt はその物語を利用して、はるかに速く答えを見つけます。

要約すると、SemanticOptは、超賢明な AI にマニュアルを読むだけでなく、実際に実験を行わせ、数学と言葉の両方を用いて困難な問題を効率的に解決することを教えます。

技術的概要：SemanticOpt：LLM ベースのセマンティック・ブラックボックス最適化への道

問題定義

実験システムの最適化は、個々の評価を行う際の高コスト、時間的消費、または難易度によってしばしば阻害される。これらの「高価なブラックボックス」シナリオでは、設計パラメータと結果の間の関係は不明である。ベイズ最適化（BO）などの従来のオプティマイザは、数値観測（構成とスカラー結果）のみに依存する。それらは、専門家のヒューリスティック、科学文献、または過去の实验のセマンティック記述といった、より広範なドメイン知識を取り込む能力を欠いている。大規模言語モデル（LLM）は、そのようなセマンティック情報を解釈する能力を有するが、最先端の LLM は信頼性の高い反復的（iterative）最適化を実行することに苦慮している。それらはしばしばウォームスタート（初期候補の提案）においては優れているが、より長い軌道にわたって効果的な探索と活用のバランスを維持できず、性能のプラトーに陥る。

手法

著者らは、構造化された BO 軌道に自然言語コンテキストを付加してファインチューニングを行うことで、LLM に堅牢なブラックボックス最適化能力を付与するフレームワーク、SemanticOpt を導入する。

1. 問題の枠組み設定

最適化は、未知の目的関数 $f$ と LLM 方策 $\pi_\theta$ が相互作用する逐次意思決定問題として定式化される。各ステップ $t$ において、モデルは観測の履歴 $D_t = \{(x_i, y_i)\}$ とセマンティックコンテキスト $C$ （例えば、問題記述、履歴データ、または評価フィードバック）を受け取る。モデルは次の構成 $x_{t+1} \sim \pi_\theta(\cdot | C, D_t)$ を生成する。

2. データ生成とトレーニング

セマンティックデータを含む実世界のベンチマークの不足を克服するため、著者らは 10 万を超える最適化軌道からなる大規模なトレーニングデータセットを構築した。

関数空間: 彼らは 2 つの方法を用いて多様な合成目的関数を生成した。
- ガウス過程（GP）関数: 非線形座標変形、不連続性、制約、および失敗領域を付加して拡張された、柔軟でスケーラブルな生成器。これらは現実世界の不規則性を模倣する。
- LLM 生成関数: Qwen 3.5 35B-A3B を用いて、化学反応や物流など実世界のドメインに対するセマンティックコンテキストを生成し、100 個の評価点とペアリングして、代理モデルの適合を通じて真の値（ground truth）を定義した。
軌道生成: 最先端の BO フレームワーク HEBO を用いて、これらの関数空間上で高品質な最適化軌道を生成した。このプロセスには、5 ステップで初期化（GP 関数には Sobol サンプリング、セマンティック関数には LLM 生成の初期化を使用）し、3 つの異なる代理モデル（GP、ランダムフォレスト、SVIDKL）を実行することが含まれた。特定のステップ数（10、25、50、100）で最良のパフォーマンスを示した代理モデルを選択し、データセットを編成した。
プロンプト構造: トレーニングデータはマルチターン会話としてフォーマットされる。システム指示は、提案された構成、予測平均、標準偏差、および（該当する場合）失敗確率を含む厳格な JSON 出力を強制する。
ファインチューニング: 著者らは、低ランク適応（LoRA）を用いて Qwen 3.5 27B（および 9B）モデルをファインチューニングした。モデルは候補構成と代理モデル風の予測の両方を出力するようにトレーニングされ、数値フィードバックとセマンティック推論を統合するエンドツーエンドの逐次オプティマイザとして機能することを学習する。

3. 推論パイプライン

推論中、SemanticOpt は同じマルチターン構造に従う。提供されたコンテキストに基づき、まず 5 つの初期構成を提案する。その後、反復的に新しい構成を提案する。意思決定を強化するため、モデルは各ステップで 2 つの候補構成をサンプリングし、最終的な選択は、予測された成功確率で重み付けされた期待改善を最大化することで行われ、これにより実現可能性を考慮する。

主要な貢献

大規模トレーニングデータセット: BO 手法を用いて高品質な最適化データを確保し、多様な GP 生成および LLM 生成の関数空間にわたる 10 万を超える最適化軌道を含むデータセットの構築。
構造化されたファインチューニング手法: LLM を BO データ上でファインチューニングし、候補構成と較正された代理モデル風の予測の両方を出力させる新規手法。これにより SemanticOpt モデルが作成される。
包括的な評価: さまざまなレベルのセマンティックコンテキストを持つ実世界の代理ベンチマークでの評価。関連するセマンティック情報が提供された場合、SemanticOpt が古典的な BO 手法および既存の LLM ベースのアプローチの両方を上回ることを実証。

結果

著者らは、SemanticOpt を包括的なベースラインに対して評価した。これには、HEBO（GP、RF、SVIDKL 代理モデル付き）、トランスフォーマーベースのオプティマイザ（PFNs4BO）、および最先端の LLM（GPT-5.4、Qwen 3.5 27B）が含まれる。

性能: 多様なドメイン（例えば、翼型 CFD、MuJoCo 制御、塗料混合、PD1）において、SemanticOpt は平均正規化性能で最良の結果を達成した。反復最適化においてベース LLM（Qwen 3.5 27B）を大幅に上回り、プラトーに陥ることなく継続的な改善を示した。
セマンティックコンテキスト: セマンティックデータ（長文コンテキスト、履歴例、追加メトリクス）の取り込みは、一貫して性能を向上させた。例えば、塗料混合タスクにおいて、SemanticOpt は色の記述を利用して目標マッチ（スコア 0.91）を見出し、HEBO GP（スコア 6.5）を大幅に上回った。
最先端モデルとの比較: GPT-5.4 は公開データセットから派生したベンチマークで強力な初期化性能を示したが（潜在的な記憶を示唆）、より少ないオンラインデータでシミュレーションを通じて生成されたベンチマーク（例：翼型 CFD、MuJoCo 制御）では SemanticOpt がそれを上回った。GPT-5.4 から同じ初期化を与えられた場合でも、SemanticOpt は優れた反復最適化能力を示した。
代理モデルの品質: SemanticOpt の内部予測（平均と標準偏差）は、従来の BO 代理モデルと比較して、競争力のある、あるいは優れた精度と不確実性の較正を示した。
アブレーション研究:
- モデルサイズ: 27B モデルは、事前学習された事前分布の「容量依存性の忘却」に苦しんだ 9B モデルよりも初期化能力をよりよく維持した。
- 初期化対反復: SemanticOpt の利益は、改善されたウォームスタートと優れた反復最適化の両方に由来する。

意義と主張

本論文は、SemanticOpt が LLM のセマンティック推論の強みと、サンプル効率が高く不確実性を意識したベイズ最適化の探索との間のギャップを埋めると主張している。セマンティックコンテキストを付加した構造化された BO 軌道上で LLM を直接ファインチューニングすることで、著者らは LLM を効果的な逐次オプティマイザとしてトレーニングできることを実証した。

その意義は、外部の BO ループや単純なプロンプティングに依存しない エンドツーエンドのセマンティックオプティマイザ を創出することにある。これにより、最適化システムは、新しい実験を提案する際にドキュメント、過去の实验、および補助的な測定値を活用できるようになる。著者らは、純粋なカテゴリカル空間（そこでは BO 手法自体が苦戦する）や、BO の較正が失敗する可能性のある高度に不連続な目的関数を持つドメインにおける限界を指摘している。将来の作業としては、意思決定の正当化の組み込みや、より柔軟な関数空間への拡張が含まれる可能性がある。