技術概要：LERA - 生成チャットボット向け広告オークションのための LLM 強化 RAG

問題定義

大規模言語モデル（LLM）ベースのチャットボットへの広告統合は、独自の商業化課題を提示します。従来のスポンサード検索では広告が事前に定義されたスロットを占有するのに対し、チャットボット広告では、生成された応答に広告を「いつ」「どのように」織り込むかを決定する必要があります。これには、以下の 3 つの競合する要因をバランスさせるメカニズムが求められます。

1. 関連性: 広告は、微妙なユーザー意図、商業的文脈、動的な対話フローと整合している必要があります。
2. 効率性: オークションと選定プロセスは、チャットインタラクションのリアルタイム性を維持するために、最小限の遅延を伴う必要があります。
3. 真実性: メカニズムはインセンティブ適合的な入札をサポートし、広告主がクリックあたりの真の価値に基づいて入札するよう動機付ける必要があります。

既存のアプローチは重大なトレードオフに直面しています。Retrieve-then-generate（検索後生成）手法（例：Hajiaghayi ら [9]）は効率的ですが、テキスト埋め込みの類似性のみを依存しており、複雑な商業意図を捉えきれないことが多く、結果として繰り返しの挿入や商業的な誤解を招きます。Generate-then-retrieve（生成後検索）手法は LLM の文脈理解を活用しますが、クエリごとの複数回の推論パスまたは全広告主のスコアリングを必要とし、許容できない遅延と推論コストをもたらします。さらに、SGLang などの高スループットエンジンで全候補を直接 LLM のロジットを用いてランキング付けすると、大規模な候補セットに対する並列プリフィリングの必要性により、重大なボトルネックが発生します。

手法：LERA フレームワーク

本論文は、効率性と意味的洗練を分離するように設計された、2 段階の検索後生成オークションフレームワークであるLERA（広告オークションのための LLM 強化 RAG）を提案します。

1. 2 段階割当プロセス

中核的な革新は、高コストな LLM 計算を小さく事前フィルタリングされた候補セットに限定するハイブリッドスコアリングメカニズムです。

• 第 1 段階：埋め込みベースの粗いフィルタリング

  • 生ユーザークエリを直接使用する代わりに、LLM がまずユーザーの潜在的なニーズを要約する意図キーワード（$w$）の簡潔なセットを生成します。
  • これらのキーワードは埋め込みされ、正規化されたコサイン類似度を用いて広告主の説明（$d_i$）と比較されます。
  • 関連性スコアは広告主の入札額（$b_i$）で重み付けされます：$Score^{(1)}_i = \text{Norm}(\text{Similarity}(\text{Emb}(w), \text{Emb}(d_i))) \cdot b_i$。
  • トップ-$K$ 広告主（$K \ll N$）が候補セット $S$ を形成します。この段階は、軽量な埋め込み操作を用いて大多数の無関係な広告主をフィルタリングすることで、高スループットを確保します。

• 第 2 段階：LLM ロジットによる微細なランキング

  • 元のクエリ $x$、候補セット $S$、および「挿入なし」オプション（$\phi$）が LLM に提示されます。
  • LLM は最も適切な広告を特定するようプロンプトされます。テキストを生成するのではなく、システムは候補ラベル（「挿入なし」オプションを含む）に対するロジットを抽出します。
  • これらのロジットは softmax によって正規化され、洗練されたオーガニック関連性スコア（$s^{(2)}_j$）を生成します。
  • 最終的なオークションスコアは $Score^{(2)}_j = s^{(2)}_j \cdot b_j$ です。勝者は最高スコアを持つ候補です。「挿入なし」オプションが勝った場合、広告は表示されません。

2. 支払いルールとインセンティブ適合性

真実性を確保するために、LERA はクリティカル・バリュー支払いルールを採用します。標準的な第二価格オークションとは異なり、勝者は 2 つの制約を満たす必要があります。第 1 段階のトップ-$K$ セットへの参加と、第 2 段階のランキングでの勝利です。

勝者である広告主 $i^*$ に対する支払い $p_{i^*}$ は以下のように定義されます：
$$p_{i^*} = \max \left( \frac{Score^{(1)}_{(K+1)}}{s^{(1)}_{i^*}}, \frac{Score^{(2)}_{(2)}}{s^{(2)}_{i^*}} \right)$$
ここで：

• $Score^{(1)}_{(K+1)}$ は候補セットへの参加に必要な閾値スコアです。
• $Score^{(2)}_{(2)}$ は最終ランキングにおける 2 番目に高いスコアです。
• 支払いは、両方の段階を通過するために必要なクリティカル・バリューの最大値です。

本論文は（命題 4.1）、クリック結果と実現価値の間の独立性および不偏な事前推定という仮定の下で、このメカニズムは効用最大化を行う広告主にとってインセンティブ適合的であることを証明しています。

3. 複数広告挿入への拡張

このフレームワークは、応答をセグメントに分割することで動的な対話フローに拡張されます。各セグメントにおいて、オークションはクエリと応答のプレフィックスを条件として行われます。システムは広告を挿入するかどうか、そしてどの広告を選択するかを再評価し、多様性を確保し、カテゴリの繰り返し挿入を回避します。

主要な貢献

1. LERA フレームワーク: チャットボット広告挿入の制約に特化し、埋め込みベースの検索の効率性と LLM ベースの微細ランキングの意味的深さを組み合わせた、新しい 2 段階オークションメカニズム。
2. クリティカル・バリュー支払いルール: 候補セットの参加閾値と最終段階の競争の両方を考慮し、真実性を確保するために 2 段階の選定プロセス用に明示的に設計された支払いメカニズム。
3. 実証的検証: 選択精度と挿入多様性において埋め込みのみのベースラインおよび LLM のみのベースラインを上回り、制御可能な遅延を維持することを示す包括的な実験。

実験結果

実験は、8 カテゴリにわたる 100 人の広告主の合成ベンチマークで行われ、高スループット推論のために Qwen モデル（4B、30B、235B）および SGLang が使用されました。

• 選択精度: 複雑な意図分析、自然な意図のシフト、ネガティブな製品精製を含む単一広告挿入タスクにおいて、LERA は一貫して埋め込みのみのベースラインを上回りました。例えば、30B モデルを使用した場合、LERA は全体で**98.73%の精度を達成したのに対し、埋め込みのみのベースラインは56.3%**でした。
• 複数広告の多様性: 動的な複数広告シナリオにおいて、LERA は「クエリ満足度」（要求されたカテゴリが満たされた割合）を大幅に改善しました。LERA は 235B モデルで**80.67%の満足度を達成した一方、埋め込みのみのベースラインは45.33%**で苦戦しました。
• 効率性と精度のトレードオフ:
  • 全広告主を LLM ロジットでスコアリングする**LERA（LLM のみ）**は高い精度を達成しましたが、並列プリフィリングの要件により深刻なスループットボトルネックに苦しみました。
  • LERAは、特に低い同時実行レベルにおいて、埋め込みのみのベースラインと比較して制御可能な遅延オーバーヘッドのみを伴いながら、高い精度を維持しました。
  • 除去実験（アブレーション研究）は、第 1 段階の粗いフィルタリング段階が速度だけでなく、LLM に対するノイズを削減することで微細なランキングタスクを改善するために重要であることを示しました。

意義と主張

本論文は、LLM 搭載チャットボットにおけるオークションベースの広告挿入の実用的な一歩として LERA を位置づけています。その意義は、意味的関連性とシステムスループットの間の緊張関係を解決することにあります。

• 実用性: LLM スコアリングをスループットを考慮した 2 段階メカニズムに埋め込むことで、LERA はリアルタイムアプリケーションにおける全候補のスコアリングの莫大なコストを回避し、ランキングのための LLM ロジットの使用を実行可能にします。
• 商業的実現性: このフレームワークは、埋め込みモデルがしばしば見逃す、繰り返しの挿入を回避することや（「X は不要です」などの）ネガティブな制約の処理など、生成広告の特定の課題に対処します。
• 理論的基盤: 提案された支払いルールは、外部性を考慮したオークション設計を生成設定に拡張し、広告の価値が生成された応答の動的な文脈に依存する場合でも、メカニズムが真実性を保つことを保証します。

著者は、結果が合成データセットと、クリック確率と実現価値の間の独立性に関する理論的仮定に依存していることを認め、限界を指摘しています。しかし、彼らは LERA が、生成 AI の新興の風景において商業目標とユーザー体験をバランスさせるための実行可能なアーキテクチャを表していると主張しています。