技術要約：InsightEmb: エージェントによる洞察（インサイト）検索のためのアクション・インテント・エンベディング

1. 問題定義

本論文は、再利用可能な洞察を蓄積する自己改善型エージェントにとって極めて重要なコンポーネントである**エージェント的洞察検索（agentic insight retrieval）**を取り扱う。インタラクティブな環境（ウェブナビゲーション、身体化されたタスク、ツール利用など）において、エージェントは、最適な戦略が表面的なパターンマッチングではなく抽象的な推論に依存する広大なアクション空間からアクションを選択しなければならない。

核心となる課題は**抽象化のギャップ（abstraction gap）**である。エージェントの現在の状態（具体的な観測とアクション履歴）と、ターゲットとなる洞察（抽象的なヒューリスティック・ルール）は、異なる抽象度レベルに存在する。既存の検索手法は主に意味的な類似性をモデル化しており、トピックとしては関連しているものの、手順として時期尚早な（procedurally premature）洞察を返してしまうことが多い。例えば、物体を探しているエージェントに対して、「加熱する」というルールを返すといったケースである。本論文は、関連性とはトピックの重複によって定義されるのではなく、**アクション・インテント（行動意図：action-intent）**によって定義されるべきであると主張する。すなわち、検索された洞察がエージェントの現在の手順上のボトルネックを解消し、目標達成に向けた進展を可能にするかどうかである。

2. メソドロジー：InsightEmb

著者らは、「進捗指向の検索幾何学（progress-oriented retrieval geometry）」を学習するために設計されたコントラスティブ・エンベディング・フレームワークであるInsightEmbを提案する。主要な設計上の主張は、具体的な状況を抽象的なルールに適合させる構造的問題はドメインに依存しないということである。具体的には、数学的推論の構造（問題文とヒューリスティック戦略のマッチング）は、エージェントの実行（環境状態とアクション戦略のマッチング）と類似している。

InsightEmbは、公開されている数学的推論データ（MATHデータセット）を用いて、2段階のカリキュラムを通じて完全に学習される。

ステージ1：状況から洞察へのマッチング（Situation-to-Insight Matching）

このステージでは、数学の問題（および部分的または完全な思考の連鎖（CoT）の軌跡）を関連するヒューリスティック・ルールにマッピングすることで、抽象化のギャップを埋める方法をモデルに教える。

• データ構築: 各問題に対して、著者らは複数のロールアウトを実行し、候補となる洞察を蒸留する。洞察は、その問題をクエリに前置した際に、洞察なしのベースラインと比較して解決率が実証的に向上した場合にのみ、正例（$I^+$）としてラベル付けされる。性能を低下させる、あるいは悪化させる洞察は負例（$I^-$）とされる。
• 目的: モデルは、単なる表面的な意味のマッチングではなく、特定のボトルネックを解消する具体的な状況と抽象的なヒューリスティック・ルールを整合させる方法を学習する。

ステージ2：状況から経験へのマッチング（Situation-to-Experience Matching）

このステージでは、異なる推論の軌跡間の構造的な類似性を認識する能力を強化する。

• データ構築: モデルは、ある状況（問題または軌跡）を、構造的に類似した解決済み問題（$T^+$）と、類似していない問題（$T^-$）にマッチングさせる。
• 目的: これにより状況の表現を研ぎ澄まし、同じ基礎的な戦略を必要とする状態がエンベディング空間内で共にクラスタリングされるようにし、ステージ1で学習した抽象的なマッチングを安定させる。

推論

推論時、学習済みモデルは、ターゲット環境（ALFWorld、WebShop、ScienceWorld）におけるLLMエージェントのための洞察を、環境固有のファインチューニングなしで検索する。エージェントの状態はタスク固有のインストラクション・プレフィックスを用いてエンコードされ、事前エンコードされたコーパスから最も類似したトップ-$k$個の洞察が検索され、エージェントのプロンプトに前置される。

3. 主な貢献

1. 問題定式化: 本論文は、エージェント的洞察検索を目標条件付きのアクション・インテント・マッチングとして定式化し、関連性を単なる意味的類似性ではなく、洞察が現在のボトルネックを解消し進展を可能にするかどうかによって定義した。
2. InsightEmbフレームワーク: 数学的推論データのみを使用して、アクション指向の検索幾何学を学習するクロスドメイン・コントラスティブ学習フレームワークを導入した。
3. 実証的検証: 静的な評価および動的な評価の両方において、InsightEmbがエージェントの性能と検索再現率（recall）を向上させるという実証的な証拠を提示し、その利得が単なる優れた静的マッチングではなく、アクション・インテントによる検索に起因することを示した。

4. 実験結果

モデルは、3つの動的なエージェント環境と1つの静的なスキル検索ベンチマークで評価された。

• ALFWorld (身体化されたタスク): InsightEmbのバリアントは、ベースとなるエンベディングモデル（Qwen3-Embedding-4B）およびドメイン内リトリーバーを上回った。BUNDLE形式の洞察を用いた場合、InsightEmbは**54.29%**のBaseに対し、**60.71%**の成功率を達成した。モデルは、より優れた検索の多様性、より少ないゼロスコアのゲーム、そして探索から検証への状態依存的な遷移を示した。
• WebShop (Eコマース): 予期せぬ洞察が有害になり得るこのノイズの多い環境において、InsightEmbは堅牢性を示した。BaseモデルがBUNDLE形式の洞察を用いた場合に、洞察なしのベースラインよりも低い性能（18.42% vs 31.03%）を示したのに対し、InsightEmbは性能を**31.74%**に向上させ、手順として無関係な洞察を効果的に排除した。
• ScienceWorld (科学的手順): 環境の困難さ（洞察なしのベースラインは2.40%）にもかかわらず、InsightEmbは成功率を3倍以上に向上させ（BUNDLEで8.00%、ATOMICで10.20%）、Baseを上回った。
• SRA-Bench (静的スキル検索): 定理証明、ツール利用、コード生成にわたる静的ベンチマークにおいて、InsightEmbはBaseモデルに対してR@10で**+8.90%**の再現率向上を実現した。これは特に、語彙的な重複よりも構造的なマッチングを必要とするドメイン（定理証明、ツール利用など）において顕著であった。

また、本論文は、InsightEmbが、静的なクエリ・パッセージのマッチングのために訓練された強力な推論指向のリトリーバー（Llama-NV-Embed-Reasoning, ReasonIRなど）をも上回っていることを指摘しており、動的なアクション・インテント・マッチングのための訓練の必要性を強調している。

5. 意義と主張

本論文は、状態と洞察のマッチングの幾何学はドメイン間で転移可能であると主張している。数学的推論データを用いて訓練することで、モデルは潜在的なボトルネックを特定し、それを解消するために必要な抽象的なルールを検索するための汎用的な構造を学習する。

著者らが強調する主な含意は以下の通りである：

• クロスドメイン転移: 高価で環境固有の教師あり学習を用いなくても、公開されている推論データを用いて効果的な訓練が可能である。
• ノイズの多いプールにおける安全性: 進捗指向の検索は、洞察コーパスに多くの時期尚早な、あるいは無関係なルールが含まれている場合に、エージェントの性能が低下することを防ぐことができる。これは標準的なリトリーバーにおける一般的な失敗モードである。
• 構造的アナロジー: 数学のヒューリスティック検索とエージェント的洞察検索が、同じ「状況 $\to$ ボトルネック解消ルール」という問題をインスタンス化しているという仮説を、数学からエージェントへの転移の成功が検証している。

著者らは限界についても謙虚に述べており、動的な実験では主に特定の行動モデル（Qwen3-8B）と洞察生成器（DeepSeek-R1）を使用していること、また、現在の手法は、あらゆる状態における最適な洞察のゴールドラベルが利用できないため、ダウンストリームのタスク成功率を洞察の有用性の間接的な尺度として依存していることを指摘している。また、用語が密集したタスク（例：医療計算機）においては、InsightEmbの構造的焦点が語彙的な信号を軽視する可能性があるため、そのような特定のドメインではBM25を用いたハイブリッドなアプローチが示唆されることも認めている。