技術要約: HiGR - 産業規模の階層的生成スレート推薦フレームワーク

1. 問題提起

ユーザーにランク付けされたアイテムのリスト（スレート）を一度に提示するスレート推薦は、動画フィードやニュースアグリゲーターのようなプラットフォームにおいて極めて重要である。Semantic ID（SID）を用いた最新の生成型推薦手法は有望視されているが、これらを産業規模のスレート推薦に直接適用する場合、以下の3つの根本的な乖離（ディスコネクト）に直面する：

1. 絡み合ったSID空間（Entangled SID Spaces）: 既存のセマンティックID手法は、接頭辞（prefix）が共有された意味を確実に捉えられないようなコード空間を生成することが多い。この「絡まり合い」は、高レベルなリストプランニングを阻害し、関連性と多様性の制御を困難にする。
2. 非効率な自己回帰デコーディング: $M$ 個のアイテムからなるスレートを生成するには、$M \times D$ 個のトークン（$D$ はアイテムあたりのSIDトークン数）をデコードする必要がある。フルシーケンスの自己回帰的なビームサーチは、大幅なレイテンシを導入するだけでなく、アイテム内の意味とアイテム間の遷移を絡め合い、グローバルなスレート構造を不明瞭にする。
3. 不一致な目的関数（Misaligned Objectives）: 標準的なトークンレベルの尤度学習は、ホリスティックなスレートの品質を直接最適化するものではない。現実世界のプラットフォームでは、ランキングの忠実度、純粋なユーザーの関心、およびリスト内の多様性という複数のリストレベルの目的を同時に最適化することが求められる。

2. メソドロジー: HiGR フレームワーク

HiGR（Hierarchical Generative Recommendation）は、密接に結合された3つのコンポーネントからなる設計済みのパイプラインを通じて、これらの課題に対処する。

A. プレフィックス対照的残差量子化 VAE (PCRQ-VAE)

制御可能な離散空間を構築するため、HiGRは修正された残差量子化VAEを用いて構造化されたSIDを学習する。

• グローバル量子化: 各レイヤーを独立して最適化する標準的なRQ-VAEとは異なり、PCRQ-VAEはグローバルな量子化目的関数を導入する。これにより、集約された量子化表現を元の潜在埋め込みに整合させ、コードブックのレイヤー間で情報的な残差を保持し、残差の消失を防ぐ。
• プレフィックスレベルの対照的整合: セマンティックおよび協調的な信号を注入するために、モデルは最初の $D-1$ 個のコードブックレイヤー（プレフィックス）に対して対照学習（InfoNCE損失）を適用する。これにより、意味的または協調的に類似したアイテムが共通の高レベルなSIDプレフィックスを共有するように強制し、最終的なコードブックレイヤーを微細なアイテム識別用に確保する。

B. 階層的スレートデコーダー (HSD)

HSDは、生成プロセスをトークンレベルのデコーディングから、粗いものから細かいものへと向かう階層的なアプローチへと移行させることで、レイテンシを削減し、グローバルなプランニングを可能にする。

• 粗粒度スレートプランナー: $M \times D$ 個のトークンを逐次的にデコードする代わりに、プランナーはまず $M$ 個の「嗜好埋め込み（preference embeddings）」を生成する。各埋め込みは、スレート内の特定のポジションにおける意図されたセマンティクスを表す。この段階で、リストのグローバルな構造をモデル化する。
• 細粒度アイテムジェネレーター: 軽量なジェネレーターが、対応する嗜好埋め込みを条件として、各アイテムの具体的な $D$ トークンのSIDシーケンスをデコードする。
• 効率性: 高価なビームサーチを、フルスレートシーケンスではなく、短くアイテムレベルのデコーディング（事前計画された埋め込みを条件とする）に限定することで、HSDはグローバルな構造を維持しながら推論レイテンシを大幅に削減する。
• 多様性正則化: プランナーには、ペアワイズの類似性を最小化するためのリスト内多様性（ILD）項が含まれており、事後的な推定を行うことなく多様なスレートを促進する。

C. リストワイズ嗜好アライメント (ORPO)

トークン生成とユーザー体験の間の溝を埋めるため、HiGRはOdds Ratio Preference Optimization (ORPO) を用いたリストワイズなマルチオブジェクティブ・アライメントメカニズムを採用する。

• トリプル目的最適化: モデルは以下の3つの補完的な目的関数に対して最適化される：
  1. ランキングの忠実度 (O1): 順序がユーザーのエンゲージメントと一致することを確認する。
  2. 純粋なユーザーの関心 (O2): ポジティブなフィードバックを受けたアイテムに焦点を当てることで、露出ノイズをフィルタリングする。
  3. スレートの多様性 (O3): 反復的な推薦や「情報の繭（information cocoons）」を防ぐ。
• 嗜好ペアの構築: ポジティブなスレートは、リランクされたユーザーエンゲージメントシーケンスから構築される。ネガティブなスレートは、順序の入れ替え、ネガティブなフィードバックを受けたアイテムへの置換、または多様性の制約をテストするための意味的に類似したアイテムの追加によって生成される。
• リファレンスフリー: 計算コストを削減し、目的のドリフトを軽減するために、ORPOはリファレンスフリーの手法として使用され、モデルを主要なビジネス指標に直接アライメントさせる。

3. 主な貢献

1. HiGR フレームワーク: 構造化されたトークナイゼーション、効率的な階層的生成、およびリストワイズな嗜好アライメントを統合した、エンドツーエンドの生成型スレート推薦フレームワーク。
2. PCRQ-VAE: プレフィックスレベルの対照的整合を強制する新しいトークナイゼーション手法。これにより、高レベルのプレフィックスが意味を確実にエンコードする構造化されたSID空間を実現し、制御可能なプランニングを容易にする。
3. 階層的スレートデコーダー (HSD): グローバルなスレートプランニングとアイテム生成を分離する2段階のデコーディングアーキテクチャ。これにより、品質を維持しながら、ベースラインと比較して5倍の推論高速化を実現する。
4. トリプル目的 ORPO: 補助的なリファレンスモデルを必要とせずに、ランキング、関心、および多様性を共同で最適化するリストワイズなアライメントメカニズム。

4. 実験結果

オフライン性能

• 品質: 大規模な産業用Tencentデータセットおよび公開されているKuRecデータセットの両方において、HiGRは主要なSOTAベースライン（ListCVAE, SASRec, TIGER, HSTU, OneRecを含む）を、推薦品質指標（NDCG@5, Hit Rate, Recall）において10%以上上回った。
• アブレーション研究:
  • PCRQ-VAEにおけるプレフィックスレベルの対照的制約を取り除くと、SIDの衝突率が大幅に増加した（約2.4%から8.7%へ）。これは、構造化されたプレフィックスの必要性を裏付けている。
  • リスト内多様性（ILD）正則化を取り除くと多様性指標が低下し、コンテキスト埋め込みを取り除くと顕著な性能低下が見られた。
  • 3つの目的（ランキング、関心、多様性）を共同で最適化することで、全体として最高のパフォーマンスが得られ、精度と多様性が補完的であることを示した。
• スケーリング則: モデルサイズ（0.05Bから2Bパラメータ）にわたる実験により、モデル容量と性能の間に明確なパワーローの関係があることが明らかになり、スケーリングによる予測可能な利得が示唆された。

効率性

• レイテンシ: HiGRは、OneRec（強力な生成型ベースライン）と比較して、高い精度を維持しながら5倍の推論高速化を達成した。
• リソース使用量: オンライン展開において、HiGRはP99レイテンシを50ms未満に抑えつつ、OneRecと比較してGPU需要を約60%削減した。

オンラインA/Bテスト

数百万人規模のユーザーにサービスを提供する複数のTencentプラットフォーム（ニュース、動画、ウェブ小説）に展開されたHiGRは、実世界での顕著な改善を示した：

• 視聴時間 (Watch Time): +1.22%
• 動画再生数 (Video Plays): +1.73%
• 滞在時間 (Stay Time): +1.03%
• リクエスト数 (Request Count): +1.57%

5. 意義と主張

本論文は、HiGRが産業環境におけるアイテムレベルの生成とホリスティックなスレート最適化の間の乖離を、どのように克服したかを主張している。構造化されたSID空間と階層的デコーディングメカニズムを導入することで、既存の生成型レコメンダーの効率性と制御性のボトルネックを解決している。このフレームワークは、生成モデリングが産業レベルにスケール可能であり、優れた推薦品質と計算効率の両方を提供できることを証明している。Tencentのプラットフォームへの展開成功は、複雑なマルチオブジェクティブな推薦ニーズを持つ数億人のユーザーにサービスを提供するための、その適用可能性を検証している。