技術的概要：推論集約型検索のための LLM 指導階層探索によるエンドツーエンド推論

問題定義

現代の検索システムは、表面的な語彙やトピックの類似性ではなく、クエリとドキュメント間の複雑な関係、論証、または推論の連鎖に依存する推論集約型クエリの処理をますます求められるようになっている。標準的な検索パラダイム（安価な埋め込みベースのリトリーバーに LLM リランクを後続させるもの）は、この状況では機能しない。最近のベンチマーク（例：BRIGHT）は、最先端の埋め込みモデルでさえ、関連性が深い推論を必要とする場合、関連ドキュメントをトップ-$k$ に配置できないことを示している。その結果、リランクはリトリーバーが見落としたドキュメントを回復できない。

この問題を解決しようとする既存の試み（クエリ書き換えやエージェントループを通じて LLM を「上流」に押し上げるもの）は依然として脆い。これらのアプローチでは、LLM は同じノイズの多い埋め込みリトリーバーを介して間接的にコーパスと相互作用する。リトリーバーが真に新しい情報を表面化できない場合、LLM のエージェントループはしばしばそれ自身のパラメトリックな信念を修正するのではなく、強化してしまう。さらに、フラットな「取得してからのリランク」パイプラインは、多くのコーパス（例：Wikipedia のセクション、ドキュメントのパス）が持つ本来的な階層構造を破棄し、LLM に文脈から切り離されたパスにスコアを付けることを強いる。

手法：LATTICE

著者は、LLM が埋め込みモデルを検索ループから排除し、ナビゲーション可能な階層的検索インデックスを介してコーパスと直接相互作用するパラダイムであるLATTICE（LLM 指導階層探索）を提案する。このシステムは、主に 2 つのフェーズで構成される。

1. オフライン：トップダウン階層インデックス構築

埋め込みベースのクラスタリングを用いてボトムアップでインデックスを構築する先行研究（例：RAPTOR）とは異なり、LATTICE は LLM の判断を用いてトップダウンでインデックスを構築する。

• 階層的要約: 各ドキュメントは、特異性が増す $k$ レベルの要約（1〜2 語のトピックから完全な文まで）に前処理される。これにより、トークン効率が高く、深さに適応したインターフェースが作成される。
• 再帰的分割: 全ドキュメントを含むルートノードから開始し、アルゴリズムはクラスターを再帰的に分割する。あるノードに対して、LLM はリーフのマルチレベル要約を提示され、それらを $M$ の一貫したトピックに整理するよう求められる。
• 動的適応: システムはクラスターサイズと LLM のコンテキスト予算に基づいて適切な要約レベルを選択し、ルートでは粗い区別を、ツリーの深い部分では微細な区別を確保する。
• ハイブリッド構築: 非常に大規模なコーパスや自然な階層を持つコーパス（例：Wikipedia）の場合、ボトムアップパスで初期の粗いクラスターを生成し、それをトップダウンの LLM プロセスで洗練させることができる。

2. オンライン：較正済み、パス集約型トラバース

クエリ時、検索用 LLM は木に対してベストファーストフロンティア探索を実行する。LLM スコアのノイズとコンテキスト依存性に対処するため、LATTICE は 2 つの主要なメカニズムを導入する。

• クロスブランチ較正: 「スレート依存性」（ノードのスコアがその兄弟ノードに基づいて変化する現象）を軽減するため、検索プロンプトには木の他のブランチから抽出された参照ノードが含まれる。これにより、異なる探索パス間での比較のための安定した基準が提供される。
• パス集約型スコアリング: 生 LLM スコアはノイズが多く局所的である。LATTICE は、すべてのスコアの履歴に潜在スコアモデルを適合させ、スレート固有のバイアスを除去する。その後、これら潜在スコアをルートからリーフへのパスに沿って指数移動平均を用いて累積する。これにより、探索は単一の局所的意思決定ではなく、累積的な証拠によって導かれることを保証する。

主要な貢献

1. 新しい検索パラダイム: LATTICE は、LLM を検索後の検証者から能動的なトラバースエージェントへと転換し、推論集約型タスクにおける埋め込みのボトルネックを除去する。
2. トップダウンインデックス構築: 本論文は、マルチレベル要約を用いた LLM 判断によるトップダウン構築が、ボトムアップの埋め込みクラスタリングよりもナビゲーション可能なインデックスを生み出すことを示しており、特に概念的に異なりながら語彙的に類似したドキュメントを分離する際に有効である。
3. 堅牢なトラバースメカニズム: クロスブランチ較正とパス集約型スコアリングの導入により、市販の LLM が大規模な木を信頼性高くナビゲートすることを可能にし、リストワイズ LLM スコアリングに固有のノイズとスレート依存性を克服する。

実験結果

著者は、LATTICE を推論集約型検索のベンチマークであるBRIGHTと、従来の IR データセット（BEIR）で評価した。

• BRIGHT パフォーマンス:

  • ベース LATTICE: 単一のゼロショット LLM（Gemini-3-Flash）をアンサンブルなしで使用した場合、LATTICE は46.7 nDCG@10を達成する。これは、最良の微調整済みアンサンブルベースライン（例：BGE-Reasoner-0928 は 46.4、DIVER v3 は 46.8）と同等かそれ以上であり、アンサンブルなしのゼロショットベースラインを大幅に上回る。
  • LATTICE++: LATTICE と BM25 および密なリトリーバーを融合した軽量アンサンブルは、49.1 nDCG@10に達し、ベンチマークで新しい最先端を確立した。
  • スケーリング: LATTICE は、スライドウィンドウリランクと比較して優れたテスト時スケーリングを示す。リランクは低いトークン予算では優位だが、LATTICE はトークン予算が増加するにつれてより高い漸近値に収束し、より深い探索を通じて関連ドキュメントを発見する能力を示している。
  • コスト効率: LATTICE はオープンウェイトモデル（例：Qwen3.5-27B）で効果的に機能し、クエリあたりのコストを約 4 倍低く抑えながら、プロプライエタリモデルと同等のパフォーマンスを達成する。

• 従来の IR:

  • 標準的な BEIR データセット（SciFact, SciDocs, NQ）において、LATTICE は競争力のある結果を維持し、SciFact で 75.8 nDCG@10、NQ（268 万ドキュメント）で 66.8 を達成した。ただし、著者はこれらのタスクでは、LLM トラバースの高クエリコストが、標準的な「取得してからのリランク」パイプラインに対して正当化されていないと指摘している。

• アブレーション:

  • トップダウン構築は、ボトムアップの埋め込みクラスタリングを大幅に上回る（例：TheoremQA-T で +12 nDCG@10）。
  • クロスブランチ較正は不可欠であり、これを欠くとパフォーマンスは約 22 ポイント低下する。
  • 固定されたトークン予算の下では、幅（より大きなビームサイズ）よりも深さ（より多くの反復）の方が価値がある。

意義と主張

本論文は、LLM がナビゲーション可能な意味的階層を介してコーパスと直接相互作用し、推論集約型タスクにおける埋め込みベース検索の限界を回避する検索パラダイムの可能性を実証すると主張している。

• 限界: 著者は、各ステップでの LLM 呼び出しの計算コストにより、LATTICE は遅延よりも品質が優先されるアプリケーション（例：深層研究、法的 QA、技術的 QA）に最も適していると認めている。また、静的な階層インデックスは、ドキュメントがクエリごとに除外される動的コーパス（BRIGHT の一部のサブセットの機能）には苦労すると指摘している。これは、事前計算された要約が陳腐化するためである。
• 将来の課題: 本論文は、将来の方向性として、動的コーパス向けの効率的な局所インデックス更新と、トラバースポリシーをより小さなモデルへの蒸留を提案している。

要約すると、LATTICE は複雑な推論タスクに対する標準的な「取得してからのリランク」パイプラインの実用的な代替案を提供し、適切に構造化された意味ナビゲーションツールが提供されれば、LLM がインデクサーと検索者の両方として効果的に機能し得ることを証明している。