技術要約：レコメンダーシステムにおける鮮度（Staleness）の分解

1. 問題定義

Google Discoverのような大規模なレコメンダーシステムにおいて、コンテンツの鮮度の低さ（Staleness）はユーザーの不満の主要な原因となっている。本論文では、鮮度は単一の事象ではなく、以下の2つの異なるメカニズムから生じるものであると主張している。

• 上書き（Supersession）: 新しいアイテムが既存のアイテムを更新、矛盾、または基礎となるトピックのナラティブを変化させた場合（例：スポーツ選手の交渉に関する報道に対し、契約締結の発表が行われる場合など）、アイテムは突如として「古く」なる。これはペア比較を必要とする**関係的（Relational）**なシグナルである。
• 関連性の減衰（Relevance Decay）: アイテムがその固有のコンテンツ（例：特定の一日の天気を伝えるガイドや、速報ニュースなど）に起因して、そのライフサイクルの中で自然に情報の価値を失うこと。これはアイテムの意図された寿命に紐付いた**固有（Intrinsic）**なシグナルである。

年齢によるカットオフ（Age cutoffs）やエンゲージメントに基づくヒューリスティック（例：クリック率の閾値設定）といった従来の対策は、効果的ではない。年齢によるカットオフは粗雑であり、エバーグリーン（常設的）なコンテンツと時間依存性の高いコンテンツを区別できない。一方、エンゲージメントに基づくヒューリスティックは構造的なラグ（遅延）に苦しみ、システムが適応する前に劣化コンテンツをユーザーに露出させてしまう。

2. 手法：SDFフレームワーク

著者らは、重いダウンストリームの計算リソースを消費する前に、候補となるスタール（鮮度が落ちた）アイテムを排除するために、ランキングステージの上流にデプロイされる二重フィルタシステムである**SDF（Supersession-Decay Filtering）**を提案している。SDFは、2つの補完的なモデルの論理和（OR-fusion）によって動作する。

2.1 関係的鮮度フィルタ（Supersession）

このコンポーネントは、新しく到着したアイテム（$d'$）が既存のアイテム（$d$）を無効化するかどうかを判断することで、上書きの性質に対処する。

• データ生成: ペア比較のための手動アノテーションのコストが極めて高いため、著者らはLLM（大規模言語モデル）ティーチャーを利用してラベル付きデータセットを合成している。冗長性を避けるためにアイテムをクラスタリングし、最適な類似性を持つペア（重複すぎるものや無関係なものを避ける）をアップウェイトするサンプリング戦略を採用している。
• ラベリング: LLMティーチャーは、インコンテキスト学習とChain-of-Thought（CoT）プロンプティングを用いて、アイテムのペアに対してラベルと根拠（Rationale）を生成する。品質を確保するため、複数の独立したサンプルを多数決によって集計する。
• モデル訓練: コンパクトな生徒モデル（T5）が、合成されたラベルを用いて知識蒸留を通じて訓練される。訓練には以下が含まれる：
  • 根拠の監督（Rationale Supervision）: 生徒モデルは、CoTデコーディングを模倣して、根拠に続いてクラスラベルを生成するように訓練される。
  • NLI増強: テキスト入力間の関係を判断する能力を向上させるため、自然言語推論（NLI）データを補助タスクとして使用する。
• サービング: このフィルタは、時間依存性の高いアイテムに対するオンライン（ニアリアルタイム）モードと、ロングテールコンテンツをカバーするためのバッチモードの両方で実行される。

2.2 固有の鮮度フィルタ（Relevance Decay）

このコンポーネントは、コンテンツのみを用いてアイテムの時間の経過に伴う関連性を予測することで、固有の減衰に対処する。

• 予測トラフィック比（Predicted Traffic Ratio: PTR）: モデルは、公開後の特定の時間地平（$\tau$）内に蓄積されるアイテムのライフタイム・トラフィックの割合を予測する。ターゲットは、固定された30日間のウィンドウにおける、$[t, t+\tau]$ 内の訪問数と総訪問数の比率である。
• アーキテクチャ: アーリーフュージョンを用いたマルチモーダル・マルチタスク・ネットワークである。テキスト、画像、ビデオのトークンが共有エンコーダに統合され、その後、地平別の予測ヘッド（12時間、1日、3日、5日、7日、10日、14日の地平に対して訓練）へと続く。
• 訓練シグナル: ユーザーの明示的な意図と関連性を生のページビューログよりも正確に反映する、匿名化された検索クリックログを用いて訓練される。
• 決定ルール: 経過した最大の地平における予測トラフィック比が閾値（$\theta$）を超えた場合、アイテムは「多くの潜在的なトラフィックを既に獲得し終えた」と判断され、フラグが立てられる。

2.3 システム構成

これら2つのフィルタはOR演算によって結合される。関係的フィルタが上書きするアイテムを検出するか、あるいは固有フィルタがアイテムの有用な寿命を過ぎたと予測した場合、そのアイテムは候補セット $A$ から削除され、ダウンストリームのランカーに入る前に排除される。このアプローチは非パーソナライズ化されており、アイテムレベルのシグナルに依存しているため、サービング時の効率的なキャッシュとルックアップが可能である。

3. 主な貢献

• 鮮度の分解: 本論文は、関係的な鮮度（上書き）と固有の鮮度（減衰）を形式的に区別し、それらが異なる検出メカニズムを必要とすることを論じている。
• LLM蒸留によるペアワイズモデル: LLMを使用して関係的鮮度のラベルを生成し、それを軽量な生徒モデルに蒸留するスケーラブルなパイプラインを構築することで、手動アノテーションのボトルネックを克服した。
• コンテンツベースのトラフィック予測: エンゲージメントシグナルを待つことなく、マルチモーダルなコンテンツから直接関連性の減衰を予測するPTRモデルを導入した。
• 産業実装: Google Discoverにおいて、数百億人のデイリーユーザーに提供されるフルデプロイメントを実現した。

4. 実験結果

システムは、オフライン指標、オンラインA/Bテスト、および2年間のプロダクション環境での展開を通じて評価された。

• オフライン評価:
  • 関係的フィルタ（Gen + NLI構成）は、テストセットにおいて**84.79%**のF1スコアを達成した。
  • 固有フィルタ（アーリーフュージョン）は、時間依存性の高いアイテムの分類において**80%**の精度を達成し、レイトフュージョン（遅延結合）のベースラインを4ポイント上回った。
• オンラインA/Bテスト:
  • 継続的なプレバレンス・デルタ（顕在化差分）フレームワークを用いた結果、SDFは年齢によるカットオフおよびエンゲージメント・クリフを備えたベースラインと比較して、スタールなコンテンツの出現率を**−6.91%**減少させた。
  • 長期ホールドバック実験では、SDFはユーザーのディスミサル（拒絶）率を**−0.16%減少させ、フィードの多様性を+0.13%向上させ、ポジティブなエンゲージメントを+0.26%**改善した。
• プロダクションへの影響（2年間の展開）:
  • ユーザーによる鮮度に関する報告は、デプロイ前のベースラインと比較して**54.9%**減少した。
  • 減少の内訳：上書きに対して64.0%、減衰に対して34.4%。
  • 効率性の向上: 重いランキング計算の前に候補を排除することにより、関係的フィルタで4.76%、固有フィルタで**3.98%**のサービングCPU/TPU時間を節約した。

5. 意義と主張

本論文は、SDFが産業規模においてコンテンツの鮮度問題を解決するための、堅牢でスケーラブルなパラダイムを確立したと主張している。鮮度を、アイテムとその環境の結合特性（関係的）およびそのライフサイクル（固有）として再定義することで、システムは単純なヒューリスティックを超越している。著者らは、SDFがユーザーの不満を軽減してユーザー体験を向上させるだけでなく、ダウンストリームのランキング段階における計算負荷を軽減することで、システムの効率性も高めることを強調している。このフレームワークは、他の産業用レコメンダーシステムやコンテンツアプリケーションにも汎用可能であると提示されている。

著者らは、関係的な判断における政治的論評の曖昧さや、緩やかに減衰していくロングテールのアイテムを捉えることの難しさといった限界も認めている。しかし、2年間の展開データは、この二重フィルタのアプローチが既存の業界慣行に対する重要な改善であることを裏付けている。