🤖 AI

CAMI: Cost-Aware Agent-Guided Multi-Indexing for Semantic Retrieval

CAMIは、情報の拡充（エンリッチメント）の選択を予算制約のあるポートフォリオ問題として扱うことで、エージェントによる探索と早期の枝刈りを用いて、網羅的な探索よりも大幅に低い計算コストで高リコールな構成を特定する、セマンティック検索インデックスの構築を最適化するコスト意識型のフレームワークである。

原著者： Adnan Qidwai, Anand Eswaran, Sonam Mishra, Jaydeep Sen, Sachindra Joshi

公開日 2026-06-30

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Adnan Qidwai, Anand Eswaran, Sonam Mishra, Jaydeep Sen, Sachindra Joshi

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

あなたは、膨大な食材のライブラリ（あなたの「ドキュメント・コーパス」）を使って、完璧な、大規模で複雑なスープ（あなたの「検索結果」）のレシピを見つけようとしていると想像してください。

以前なら、ただすべてを鍋に投げ込んで、うまくいくことを祈るしかなかったかもしれません。しかし、現代の検索システムはもっと賢くなろうとしています。彼らは単に生の食材を使うのではなく、調理を開始する前に、すべての食材に対して「味の強化剤」（要約、言い換えられた質問、マインドマップなど）を作成します。これにより、スープの味をより良くし、顧客（ユーザー）が実際に求めているものに一致させることができます。

しかし、大きな問題があります：これらの味の強化剤を作るには、莫大な費用がかかるのです。

もし、100万個の食材があり、それぞれに対して5人の異なるシェフ（AIモデル）を使って5種類の味の強化剤を作ろうとしたら、調理を始める前に資金が底をついてしまうでしょう。どの組み合わせが最も美味しいかを確かめるために、あらゆる可能性を試すことはできません。その請求額は天文学的なものになるからです。

ここでCAMIの登場です。CAMIは、一銭も無駄にすることなく最高のスープレシピを見つけ出す方法を知っている、賢く予算意識の高いヘッドシェフだと考えてください。

CAMIの仕組みを、シンプルなステップに分解して説明します：

1. 「味見」戦略（マルチフィデリティ評価）

新しいレシピをテストするために、いきなり100万ガロンのスープを調理することはありません。まず、代表的な小さな一口分だけを調理します。

比喩: 「スモークパプリカ」を加えるのが効果的かどうかをテストしたいとしましょう。その場合、全量を調理するのではなく、小さなカップ一杯分だけを調理します。もし味が悪ければ、すぐに捨てます。もし味が良ければ、それからもっと大きな鍋へと進みます。
論文の主張: CAMIは、これらの「味の強化剤」（エンリッチド・データ表現、またはEDRと呼ばれます）を、まずデータのサブセットに対してテストします。これにより、悪いアイデアがコストのかかる段階に進む前に食い止めることができるため、莫大な金額を節約できます。

2. 「レゴブロック」のアプローチ（アトミック・ユニット）

古い手法では、完成したスープのレシピ全体を、変更不可能な一つの塊としてテストしようとしていました。しかし、CAMIは食材をレゴブロックのように扱います。

比喩: 「レシピA」（パプリカ、塩、玉ねぎの固定されたミックス）をテストする代わりに、CAMIは「パプリカ・ブロック」と「塩のブロック」を別々にテストします。一度「パプリカ・ブロック」が良いと分かれば、後で「塩のブロック」にそれをカチッとはめ込むことができます。その際、パプリカを最初からテストし直す必要はありません。
論文の主張: CAMIは問題を「アトミック・ユニット」（特定の種類の味の強化剤＋特定のAIモデル）に分解します。これらを個別にテストし、勝者を再結合します。これにより、すでに機能すると分かっているレシピのパーツを再評価するために、お金を無駄にすることがなくなります。

3. 「クリエイティブな副シェフ」（エージェンティック・ディスカバリー）

通常、シェフは固定された材料リスト（「要約」や「パラフレーズ」など）に従います。しかし、特定のスープには、誰も思いつかなかったような奇妙でカスタムされた材料が必要なこともあります。

比喩: CAMIにはクリエイティブな助手（AIエージェント）がついています。その助手は、ライブラリにある特定の食材を見て、「ねえ、この特定のスープには、標準的な要約ではなく、『因果関係のリンク』による強化剤を試すべきではないでしょうか？」と提案します。
論文の主張: このシステムは、AIエージェントを使用して、扱っているデータに特化した新しい「カスタム味の強化剤」を考案します。単に汎用的な、あらかじめ設定されたリストを使用するのではなく、これを行います。

4. 「予算の番人」（コストを考慮した探索）

最も重要な点は、CAMIが決して予算を超えないことです。彼は「味見」に対して厳格な予算を持っています。

比喩: ヘッドシェフは財布を持っています。新しい組み合わせを試すたびに、お金が出ていきます。もし組み合わせがコストがかかりすぎたり、味が悪かったりすれば、即座にカットされます。シェフは、勝者になる可能性がある組み合わせにのみ、お金を使うのです。
論文の主張: システムは、次にどのアイデアをテストすべきかを決定するために、数学的な手法（MO-ASHAと呼ばれます）を使用します。成功する可能性が低いアイデアへの浪費を止め、「再現率（Recall）対コスト」の最適なバランスを確保します。

結果：彼らは何を見つけたのか？

論文では、このシステムをいくつかの困難な「スープレシピ」（科学論文、経済データ、技術的なQ&Aなどのデータセット）でテストしました。

より良い味: CAMIは、標準的な手法よりも最大9.4%優れた回答発見能力を持つスープレシピを見つけ出しました。
安価な買い物: ランダムに試したり、すべてをテストしようとしたりした場合と比較して、5倍少ない費用でこれらの優れたレシピを見つけ出しました。
スイートスポット: 彼は「パレート・フロンティア」を特定することに成功しました。簡単に言えば、これは、最小限の「お金（コスト）」で最大限の「味（検索品質）」を得られる、完璧なバランスを見つけたことを意味します。

まとめ

CAMIは、検索エンジンを完璧にするために、私たちがお金を無駄にするのを防ぐスマートなシステムです。AIモデルとテキスト要約のあらゆる組み合わせを盲目的に試す代わりに、以下のことを行います：

お金を節約するために小さくテストする。
最初からやり直すのではなく、ブロックで構築する（良いパーツを再利用する）。
特定の仕事のためにカスタムツールを発明する。
アイデアが悪そうだと判断した瞬間に支出を止める。

その結果、よりスマートで、かつ構築コストが大幅に低い検索システムを実現しています。

技術要約：CAMI – セマンティック検索のための実用的なコスト意識型エージェント主導型マルチインデックス化

1. 問題提起

現代の検索拡張生成（RAG）システムは、ユーザーのクエリとソースドキュメント間の語彙的・構造的な不一致を緩和するために、マルチインデックス検索（Multi-Index Retrieval）への依存度を高めています。このアプローチでは、インジェクション（取り込み）フェーズにおいて、大規模言語モデル（LLM）を用いて濃縮データ表現（EDR: Enriched Data Representations）（例：合成要約、パラフレーズ、質問など）を生成します。これらのEDRは、リコール（再現率）を向上させるためにベーステキストと共にインデックス化されます。

しかし、この戦略は組合せ爆発によるコストのボトルネックをもたらします：

探索空間の複雑性： EDRのタイプ（例：要約 vs マインドマップ）と生成モデル（例：Qwen-8B vs Llama-70B）の組み合わせによって、考え得るポートフォリオの空間は指数関数的に増大します。
評価コスト： 全コーパスに対してあらゆる可能なポートフォリオ（EDRとモデルの組み合わせ）を網羅的に評価することは、財務的および計算資源的に極めて困難です。探索コストはコーパスのサイズに比例して増大し、しばしば、最適ではないインデックスをそのままデプロイするコストを上回ってしまいます。
静的な限界： 既存のパイプラインは、固定された静的なエンリッチメント・テンプレート・カタログに依存することが多く、これがコーパス固有の特性と一致しない場合、リコール向上の保証がないまま構築コストが無駄になる可能性があります。

核心となる課題は、厳格な最適化予算内で、構造的なデプロイメントコストを最小限に抑えつつ、検索リコールを最大化する**パレート最適フロント（Pareto-optimal frontier）**となるマルチインデックス構成を特定することです。

2. 手法：CAMIフレームワーク

著者らは、マルチインデックス構築を予算管理された多目的ポートフォリオ選択問題として定式化したCAMI (Cost-Aware Multi-Indexing) フレームワークを提案しています。CAMIは主に2つのフェーズで動作します。

フェーズ1：エージェントによるEDR発見

静的なカタログに頼る代わりに、CAMIはエージェントによる発見フェーズを採用しています。LLMベースのエージェントが、シードとなるクエリと根拠（evidence）のペア、およびコーパスのコンテキストに基づき、コーパス固有のEDRプロンプト・テンプレートを提案します。

統制された提案： エージェントはテンプレート（例：技術マニュアル用の「手続き的抽出」）を生成し、これらは探索開始前に検証、スキーマチェック、および「凍結」されます。
予算会計： 発見エージェントによるトークン使用量は検索予算に計上され、動的な拡張が財務的制約を回避しないように制御されます。

フェージ2：AACA探索アルゴリズム

コアとなる最適化エンジンは、AACA (Atomic-unit Acquisition + Closure + MO-ASHA) です。これは、探索空間をモノリシックな構成としてではなく、構成可能な原子単位（atomic units）（特定のEDRタイプと特定の生成モデルのペア）として扱います。

原子単位の定義： 原子単位 $a = (e, m)$ は、特定のエンリッチメントタイプ $e$ とモデル $m$ のペアです。ポートフォリオは、アクティブな原子単位の集合です。
マルチフィデリティ評価： コストを抑えるため、CAMIは入れ子状のクエリ・サブセット（ $Q_0 \subset Q_1 \subset \dots \subset Q_L$ $Q_{0} \subset Q_{1} \subset \dots \subset Q_{L}$ ）上で構成を評価します。
- フィデリティ0： 初期スクリーニングに使用される、代表的な小規模サブセット。
- 高次フィデリティ： 確認のために使用される、より大規模なサブセット。
- 代表性： サブセットは、全クエリ分布を近似するようにトピック認識型の層化抽出によってサンプリングされます。
3つのアクション・ループ： アルゴリズムは、以下の3つのアクションを反復的に選択します。
1. 獲得（Acquisition）： LLMベースのセレクターが、新規性や相乗効果に基づき、プールを拡大するための新しい原子単位を提案します。
2. 閉鎖（Closure）： 現在のフィデリティ・プール内にある以前に検証された原子単位を再結合して、新しいポートフォリオを形成します。これは、「ユニットAとユニットBが個別に優れているならば、それらを最初から再評価することなく、その組み合わせもテストする価値がある」という事実を利用しています。
3. 昇格（Promotion）： **多目的非同期逐次減半（MO-ASHA）**スケジュールに基づき、構成をより高いフィデリティへと昇格させます。
信頼度を考慮した昇格： 昇格には、経験的なパフォーマンスと不確実性（標準誤差）のバランスを取るための**上側信頼限界（UCB）**ランキングが使用されます。これにより、小さなクエリ・サブセットにおけるノイズによって、有望な構成が時期尚早に排除されるのを防ぎます。
コスト・セマンティクス： CAMIは以下を区別します。
- 未キャッシュ実行時支出 ( $C_{uncached}$ ): 検索中に実際に発生するドルコスト（検索予算 $B_{search}$ によって制御される）。
- 構造的コスト ( $C_{struct}$ ): 最終的なインデックスをデプロイするための理論的なコスト。これは、キャッシュの再利用を許容した上で、各原子単位の公称コストを合算して算出されます。

3. 主な貢献

本論文は、主に4つの貢献を挙げています。

定式化： 検索エンリッチメントを、構築コストと検索最適化コストを明示的に分離した、予算管理されたパレート・フロント発見問題として定式化しました。
AACAオプティマイザ： MO-ASHAの予算制御と**フィデリティ局所的な閉鎖（fidelity-local closure）**を橋渡しし、検索プロセス中のEDR-モデルペアの計算的再利用を可能にするオプティマイザを導入しました。
エージェントによる発見： 予算制約を守りつつ、静的なカタログを超えてコーパス固有のEDRテンプレートを生成する、LLM誘導型のフェーズを統合しました。
実用化： 多様な公開データセットを用いたエンドツーエンドのRAGインジェクション・パイプラインの実証により、大幅なリコール向上を実現しました。

4. 実験結果

フレームワークは、BRIGHT-ES（地球科学）、BRIGHT-Econ（経済学）、BRIGHT-SO（Stack Overflow）、StatCanDialogueRetrieval、およびNQTablesの5つのデータセットで評価されました。

ランダム探索に対する性能： CAMI（特にAACAオプティマイザ）は、予算を一致させたランダム探索のベースラインを一貫して上回りました。すべてのデータセットにおいて、優れたRecall@10ポートフォリオを特定する割合で92%の勝率（92勝8敗）を達成しました。
リコールの向上： CAMIは、コンテンツのみのベースライン（例：StatCanデータセット）と比較して、Recall@10を最大**9.4%**向上させるポートフォリオを特定しました。
検索効率： CAMIは、ランダム探索ベースラインと比較して最大5倍少ない予算で、高リコールなポートフォリオを特定しました。特定のケース（例：StatCan）では、網羅的なグリッド探索に必要なコストの20%未満で、ほぼ最適な構成に到達しました。
アブレーション研究：
- 不確実性を考慮したランキング： 昇格にUCBを使用することで、平均値のみのランキングよりもスループットが大幅に改善され、ノイズの多い小さなサブセットにおいて高ポテンシャルの構成が早期に排除されるのを防ぎました。
  ло 閉鎖 vs 発見： LLM誘導型の「発見」が候補ライブラリを拡大させた一方で、フィデリティ局所的な「閉鎖」（証明された原子の再結合）が、長期的な検索効率の主要な推進力となりました。
- 動的 vs 静的： エージェントが発見したEDR（例：経済学用の causal_links、Stack Overflow用の function_names）は、最終的なパレート最適ポートフォリオに頻繁に登場し、静的なシード・カタログよりもコストと品質の両面で優れた結果を示しました。

5. 意義と主張

本論文は、CAMIがマルチインデックス検索のデザインを、静的でヒューリスティック主導のエンリッチメントから、エビデンスに基づいたコーパス適応型の最適化へと根本的に変えるものであると主張しています。

実用性： 検索予算を総コーパスサイズから切り離し、原子の再結合を活用することで、CAMIは、網羅的な評価が不可能な実際のプロダクション環境における複雑なRAGパイプラインの最適化を可能にします。
コストと品質のトレードオフ： 本フレームワークは、リコールとコストのパレート・フロントをナビゲートするための厳密な手法を提供し、実務者が特定のデプロイメント予算に対して最適な検索品質を提供する構成を選択できるようにします。
スケーラビリティ： マルチフィデリティ評価とキャッシュを考慮した予算追跡の使用により、構成検索フェーズにおけるトークンコストを抑えつつ、大規模なコーパスへのスケールが可能です。

著者らは、本手法が「原子単位は加法的である（複雑な非加法的相互作用を無視している）」という仮定に依存していること、および「プロキシ・サブセット（フィデリティ・サブセット）がフルコーパスの挙動を反映する正確性に依存する」ことを認め、限界事項として挙げています。今後の課題として、より強力な非加法的相互作用のモデリングや、昇格停止ルールの改善が示唆されています。