🤖 machine learning

Heterogeneous Ranking in Industrial-Scale Recommender Systems: A Case Study

本論文は、Google Discoverにおけるヘテロジニアスなコンテンツフィードのランキングに関するエンドツーエンドの産業事例研究を提示するものであり、適応的なマルチタスク学習のためのHA-MoEアーキテクチャと、オフライン指標およびオンラインのユーザーエンゲージメントの両方を向上させながらコンテンツの多様性を効果的に管理するためのLENSオブザーバビリティフレームワークを導入している。

原著者： Di Bai, Jintao Liu, Zhenwei Tang, Peifan Wu, Nada Al-Thawr, Luoshu Wang

公開日 2026-07-31

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Di Bai, Jintao Liu, Zhenwei Tang, Peifan Wu, Nada Al-Thawr, Luoshu Wang

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

あなたは、棚が絶えず組み変わっている巨大で混沌とした図書館に足を踏み入れたところだと想像してみてください。ある棚には真面目な歴史の本があり、別の棚にはおかしな猫の動画があり、3番目の棚にはレシピがあり、4番目の棚には最新ニュースがあります。理想的な世界であれば、司書は、あなたが次に何を読みたいのか、例えばちょっとしたジョークを求めているのか、それとも歴史への深い探求を求めているのかを正確に把握していることでしょう。しかし、インターネットの現実世界において、この「図書館」はGoogle Discoverのフィードであり、この「司書」はレコメンダーシステムと呼ばれるコンピュータプログラムです。

これらのコンピュータ司書が直面している課題は、かつては音楽専門、あるいは短い動画専門といった、非常に整理された単一トピックの図書館で働いていたことです。そのような場所では、すべてが同じように見え、同じように機能していました。しかし、Google Discoverは異なります。これはウェブ全体からコンテンツを引き出してくるからです。つまり、コンピュータは、長い記事、10秒の動画、ユーザーの個人的な投稿、そしてAIによる要約のすべてを同時に判断しなければなりません。それはまるで、一人のシェフに、同じ材料と道具を使いながら、完璧なステーキ、繊細なスフレ、そしてスパイシーなタコスを同時に作るよう求めるようなものです。もしシェフがステーキに集中しすぎれば、タコスは台無しになってしまうかもしれません。この論文は、一つのコンピュータの脳が、混乱したり、最も声の大きい（人気のある）ものばかりを優遇したりすることなく、これらすべての異なる「味わい」のコンテンツを扱う方法を教えるという、非常にトリッキーな問題に取り組んでいます。

この論文の著者であるGoogleのチームは、特定の課題に直面しました。彼らの現在のシステムは、「誰にでも当てはまる」シェフのようなものでした。あらゆるものをランク付けするために単一のルールを使おうとしていたため、ミスを招いていました。時には、クリック数を稼ぐだけで低品質なクリックベイト（釣り記事）を押し上げる一方で、人々が実際に見たいと思っている高品質な動画を埋もれさせてしまうこともありました。これを解決するために、彼らはHA-MoE（Heterogeneity-Adaptive Mixture-of-Experts：不均一性適応型混合エキスパート）と呼ばれる新しいシステムを構築しました。

HA-MoEを、単一のシェフではなく、賢いマネージャーと専門家チームがいる賑やかなキッチンだと考えてみてください。旧システムでは、一人の料理人がすべてをやろうとしていました。新システムでは、「マネージャー」（ゲートネットワーク）が注文と食べ物の種類（コンテンツ）を見て、どの専門家がそれを担当すべきかを決定します。もし注文が動画であれば、マネージャーはそれを「動画スペシャリスト」に送ります。もしテキスト記事であれば、「ライター」に送られます。重要なのは、マネージャーはただ推測するのではなく、特別な「不均一性シグナル」を使用することです。これは、「おい、これは動画だ、扱いを変えろ！」と伝える小さなメモのようなものです。これにより、動画スペシャリストが記事スペシャリストに飲み込まれることなく、その実力を発揮できるようになります。

しかし、キッチンが実際にうまく機能しているかどうかをどうやって知るのでしょうか？チームは、単に「満足した顧客の総数」を見るだけでは不十分であることに気づきました。全体としては素晴らしい一日だったとしても、もし動画スペシャリストが失敗していれば、機会を逃していることになります。そこで、彼らはDL-AUC（Dual-Level AUC）と呼ばれる新しい成功指標を考案しました。キッチンを採点する際、提供された食事の総数だけでなく、記事スペシャリストと比較して動画スペシャリストがどれほど上手くいったかをも評価するイメージです。この新しいスコアは、ある種類のコンテンツが不当に無視されているという問題を検知するのに役立ちます。

システムが長期的に健全であり続けるために、彼らはLENSと呼ばれるツールも構築しました。これはキッチンの内部を覗き見るためのX線メガネのようなものです。これにより、エンジニアはコンピュータの脳の中を覗き込み、どの「スペシャリスト」が何をしているのかを確認できます。もしシステムが怠慢になり、すべてのスペシャリストが同じような動きをし始めた場合、LENSは即座にそれを察知します。これにより、チームはユーザー体験を損なう前に問題を修正することができます。

結果は有望でした。彼らが膨大な実際のユーザーインタラクションのデータセットを用いてこの新システムをテストしたところ、旧システムと比較して、ポジティブなアクション（クリックや「いいね」など）とネガティブなアクション（投稿の非表示化など）の両方をより適切にランク付けできました。システムは、人気のあるコンテンツタイプがよりマイナーなタイプを押しつぶしてしまうという「多数派バイアス」を克服することに成功しました。実際のユーザーを用いたオンラインテストでは、新システムによって、アプリを開く人数が増え、スクロールが深まり、より幅広い種類のコンテンツを探索する人が増えました。この論文は、コンテンツの違いを無理に同一視させるのではなく、その違いを尊重するようにコンピュータを明示的に教えることで、よりスマートで公平、かつ楽しいフィードを構築できることを示唆しています。

技術サマリー：産業規模のリコメンダーシステムにおけるヘテロジニアス（不均一）なランキング

1. 問題提起

本論文は、Google Discoverにおける統合ランキングの課題に取り組んでいる。Google Discoverは、分散型のオープンウェブから集められた極めてヘテロジニアス（不均一）なコンテンツ（例：ウェブ記事、長尺/短尺動画、ユーザー生成コンテンツ、スポーツカード、AIによる要約など）を、単一のパーソナライズされたフィードに集約するシステムである。音楽や動画専用のクローズドなエコシステム（例：特定のアプリ内）とは異なり、Google Discoverは主に以下の2つの次元におけるヘテロジニアス性に直面している。

データのヘテロジニアス性（Data Heterogeneity）: コンテンツが均一な特徴量を持たないため、特徴量の密度、メタデータ構造、および利用可能なシグナルの非対称性に差異が生じる。
インタラクションのヘテロジニアス性（Interaction Heterogeneity）: ユーザーのエンゲージメントパターンと意図は、コンテンツタイプによって大きく異なる。例えば、「いいね」や「非表示（dismissal）」は共通の指標であるが、記事は主にクリックを誘発するのに対し、UGCやスポーツカードは長い滞在時間を誘発する。

主な課題:

分布のミスマッチ（Distribution Mismatch）: グローバルな指標（例：全体のCTR）に最適化されたモデルは、支配的な低品質コンテンツ（例：クリックベイト記事）を、価値の高いマイノリティコンテンツ（例：動画）よりも過度に優先してしまう可能性があり、ユーザー体験を低下させる。
負の転移（Negative Transfer / シーソー現象）: 共有された表現の中で相反する目的関数（例：クリックの最大化 vs 非表示の最小化）を共同で最適化すると、一つのタスクにおける改善が他のタスクに悪影響を与える（シーソー現象）ことがよくある。
マイノリティタイプの崩壊（Minority-Type Collapse）: 共有アーキテクチャは、特徴量が豊富であったりトラフィックが多い支配的なコンテンツタイプを優先する傾向があり、その結果、過小評価されているコンテンツタイプが「かき消されて」しまう。

既存のプロダクション・ベースラインは、11個のタスク固有のヘッドを持つ共有MLP（多層パーセプトロン）バックボーンを使用しており、これは単一の潜在表現にすべてのコンテンツタイプを対応させることを強いているため、上述のヘテロジニアス性に適切に対処できていない。

2. 手法

著者らは、新しいモデルアーキテクチャ（HA-MoE）、観測可能性フレームワーク（LENS）、および専門化された評価指標（DL-AUC）からなるエンドツーエンドのワークフローを提案している。

2.1 HA-MoE: ヘテロジニアス適応型マルチゲート混合エキスパート（Heterogeneity-Adaptive Multi-gated Mixture-of-Experts）

厳格な産業上の制約（モデルサイズ、学習速度、サービングレイテンシ）を遵守しつつ、これらの課題に対処するため、著者らはHA-MoEを導入した。このアーキテクチャは、明示的なヘテロジニアス・シグナル（ $h$ ）を、ゲーティングネットワークとエキスパート表現の両方に統合するものである。

アーキテクチャ: $N$ 個の共有エキスパート（フィードフォワードネットワーク）を用いた、高密度なエキスパートベースのマルチタスク学習フレームワークを利用する。
ヘテロジニアス認識ゲーティング（HA-Gating）: ゲーティング機構は、各タスクに対するエキスパートの利用を決定するために、密な特徴量（ $x$ ）と共に、ヘテロジニアス・シグナル（ $h$ ）を明示的に組み込む。これにより、モデルは特定のコンテンツセグメントに向けて特定のエキスパートを誘導することができ、マイノリティセグメントが圧倒されるのを防ぐことができる。
$g_t(x, h) = \text{Softmax}(W_t \Phi(x, h) + b_t)$
ヘテロジニアス駆動型線形変調（HDLM）: エキスパートの容量を分布固有のバイアスから切り離すために、各エキスパートの出力は、 $h$ から導出されたスケール（ $\gamma$ ）およびシフト（ $\beta$ ）ベクトルを用いて動的に適応される。これにより、ネットワークは（例：動画のための視覚的パターンへの集中から、フォローしているクリエイターへの親和性へのシフトといった）「コンテキストの切り替え」を、大規模なパラメータ拡張なしに行うことができる。
$\tilde{E}_n(x, h) = \gamma_n(h) \odot E_n(x) + \beta_n(h)$
最適化: ポイントワイズなバイナリクロスエントロピー（BCE）損失とペアワイズなRankNet損失を組み合わせた損失関数を使用し、絶対的な確率の較正と相対的な順序の保持を両立させる。

2.2 LENS: 潜在エキスパートネットワークの専門化（Latent Expert Network Specialization）

統合モデルの「ブラックボックス」的な性質を緩和するため、著者らは軽量な観測可能性フレームワークであるLENSを導入した。

アクティベーション・スライシング（Activation Slicing）: ゲーティングのアクティベーションを「コンテンツ×エキスパート」のマトリックスにスライスすることで、モデルの内部的な分業を可視化し、異なるコンテンツタイプに対してどのようにエキスパートが特化しているかを明らかにする。
置換不変エキスパートマッチング（Permutation-Invariant Expert Matching: PIEM）: MoEのエキスパートは置換不変であるため、直接的なパラメータ比較は困難である。PIEMは、各エキスパートを行動プロファイルベクトル（タスク間の相対的な寄与度）によって特徴付け、ハンガリアン法を用いてモデルのスナップショット間での最適な1対1のマッチングを見つける。これにより、Jensen-Shannonダイバージェンス（JSD）に基づくスコアを算出し、機能的な安定性を追跡し、継続的な再学習中の「機能的崩壊（専門化の喪失）」を検出する。

2.3 DL-AUC: デュアルレベルAUC（Dual-Level AUC）

標準的なグローバルAUCは、多数派セグメントのスコアを膨らませる一方で少数派セグメントを抑制してしまうような、構造的な失敗を隠蔽してしまう可能性がある。著者らは、グローバルの有用性とクロスセグメントの正確性を両立させるためにDL-AUCを提案している。
$\text{DL-AUC} = \lambda \cdot \text{Micro-AUC} + (1 - \lambda) \cdot \text{Macro-xAUC}$

Micro-AUC: 経験的なトラフィック分布下でのグローバルなランキング品質を測定する。
Macro-xAUC: すべてのコンテンツセグメントのペアにわたるxAUCの非加重平均である。これにより、マイノリティセグメントからのポジティブなアイテム（例：動画）が、マジョリティセグメントからのネガティブなアイテム（例：ウェブ記事）よりも正しく上位にランク付けされることが保証され、マジョリティクラスによる支配を防ぐ。

3. 主な貢献

HA-MoE アーキテクチャ: コンテンツのコンテキストをゲーティング層とエキスパート層の両方に明示的に注入することで、運用上のオーバーヘッドを大幅に増やすことなく（モデルサイズ増加 <5%、レイテンシ増加 <0.5%）、効果的な専門化を可能にする、プロダクション対応のヘテロジニアス適応型MoE設計。
LENS フレームワーク: モデル内部のダイナミクスを「アンボックス（解明）」する新しい観測ツール。エキスパートの専門化を解釈することを可能にし、PIEMを用いて継続的な学習サイクルにおける機能的なヘテロジニアスの推移を定量的に追跡する。
DL-AUC 指標: グローバルな利得がエコシステムの健全性を犠牲にして達成されることを防ぐ、ヘテロジニアス性を考慮した評価指標。

4. 結果

オフライン評価

パフォーマンス: 大規模な産業用データセット（1,000万サンプル）において、HA-MoEは最も高い集約DL-AUC（pInterestで0.691、pDisinterestで0.949）を達成し、Shared MLPベースラインおよび標準的なMMoEを上回った。
アブレーション解析: HA-GatingとHDLMの両方のコンポーネントが、この利得に寄与した。フルモデルは、ベースラインで見られた負の転移を効果的に逆転させ、ネガティブなエンゲージメント予測（pDisinterest）を改善しながら、ポジティブな利得を維持した。
クロスタイプ補正: HA-MoEは、ウェブ記事と動画の間のランキングギャップを大幅に縮小させた。クロスタイプxAUC（Vid+ vs Web−）のギャップは、Shared MLPの0.141からHA-MoEの0.060へと改善し、低品質な記事が高品質な動画を抑制することを防ぐ能力を示した。

オンラインA/Bテスト

数百万人規模のDAUを持つGoogle Discoverのライブトラフィックの1%にデプロイされた結果、HA-MoEモデルは統計的に有意な上昇を示した。

フィードのアクティビティ: DAU +0.22%、閲覧インプレッション数 +0.48%。
探索（Exploration）: スクロール深さ +0.34%、多様なフィード率 +0.36%、多様なエンゲージメント率 +0.54%。
安定性: コアとなる運用指標において、レグレッション（退行）は観察されなかった。これらの結果は、ヘテロジニアスなランキングの改善が、具体的なエコシステムの健全性の向上につながることを検証した。

5. 重要性と主張

本論文は、統一されたランキングシステムにおいてヘテロジニアス性を明示的にモデル化することの有効性を検証するプロダクションのケーススタディを提示していると主張している。その重要性は以下の点にある。

産業的スケーラビリティ: 複雑なヘテロジニアス適応が、厳格なプロダクション制約（レイテンシ、ストレージ、学習速度）の中で実現可能であることを示し、理論的な提案を超えて、デプロイされた現実の解決策へと昇華させている。
エコシステムの健全性: DL-AUCとHA-MoEを通じて、グローバルの有用性とクロスセグメントの正確性のバランスを取ることが、オープンウェブのフィードにおいて典型的な「マジョリティ・バイアス」を防ぐことを証明している。
運用の透明性: 継続的な学習パイプラインにおける構造的な安定性を維持するための重要なツールとしてLENSを確立し、モデルの更新が意図せず機能的な専門化を崩壊させないようにしている。

著者らは、大規模なヘテロジニアス性の管理は依然として進化し続ける課題であるが、彼らのアプローチは、統一モデリングとオープンウェブの多様な現実との間の溝を埋める、産業向けリコメンダーシステムのための堅牢なデザインパターンを提供するものであると結論づけている。今後の展望として、より表現力豊かなゲーティング、スパースなルーティング、およびユーザーレベルのコンテキストやリストワイズ最適化へのヘテロジニアス・モデリングの拡張に焦点を当てるとしている。