🤖 machine learning

MMRM: A Multiplex Multimodal Representation Model for Product Ranking in E-commerce Search

本論文は、多様な協調信号を用いてマルチモーダル大規模言語モデルを整列させ、多重的なアイテムおよびユーザー表現を生成することで、JD検索エンジンにおける電子商取引検索のランキング性能と効率を大幅に向上させる統一フレームワークであるMMRMを提案している。

原著者： Zhen-Lin Chen, Maosen Sheng, Peng Lin, Jianmin Chen, Zhuojian Xiao, Dongyue Wang, Xiwei Zhao

公開日 2026-07-14

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Zhen-Lin Chen, Maosen Sheng, Peng Lin, Jianmin Chen, Zhuojian Xiao, Dongyue Wang, Xiwei Zhao

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

あなたが、何百万人もの人々が理想のジーンズを探し求めている巨大で超高速なデジタルモール（JD.comのような）を運営していると想像してください。彼らが求めるものを見つける手助けをするために、単に製品タグのテキストを読み取るだけでなく、画像を「見て」、スタイルを理解し、買い物客が正確に何を求めているのかを知っているスマートなアシスタントが必要です。

長い間、こうしたアシスタントには厄介な問題がありました。それは、一度に一つの特定のテストだけを勉強する学生のようなものでした。「検索」のために勉強すれば、テキストのクエリと製品を一致させることには長けていました。もし「カート」のために勉強すれば、人々がショッピングカートに何を入れたかを知ることに長けていました。しかし、一つの「スーパー学生」（汎用マルチモーダル大規模言語モデル）にこれらすべての異なるテストを同時に学ぼうとすると、通常は混乱した惨状を招きました。従来の手法は、単一の信号から一つの「スーパー学生」を学習させようとしたり、あるいは学生のノートを、特定のユーザーが次に何を欲しがるかを予測するのには役に立たない一般的な事実のリストとして扱ったりしていました。

この論文では、MMRM（Multiplex Multimodal Representation Model）と呼ばれる新しいシステムを紹介しています。これは、一つのハイテクなキッチンと、四つの専門的なレシピ本を持つマスターシェフのように振る舞うことで、この問題を解決します。

大きなアイデア：一つのキッチン、四人の専門シェフ
あらゆるタスクに対して四つの別々のキッチン（モデル）を構築する代わりに、MMRMは一つの共有された「バックボーン」（キッチンそのもの）を使用しますが、そこに四つの特別な「帽子」またはトークン、すなわち [SEARCH]、[CLICK]、[CART]、[ORDER] を与えます。

これは、多才な俳優のようなものです。彼らが [SEARCH] の帽子を被ると、テキストのヒントと製品を一致させる探偵として振る舞います。[CLICK] の帽子に切り替えると、人々がどのアイテムを一緒に購入するかを知っているスタイリストとして振る舞います。魔法は、彼がステージを離れることなく、瞬時に帽子を切り替えられることです。一つのキッチンを通る単一の行程の中で、モデルは四つの異なる種類のヒント（信号）から同時に学びます。

検索クリック： 誰かが「ジーンズ」と入力して結果をクリックしたとき。
クリックセッション： 誰かが次々とアイテムをクリックしていくとき。
カートセッション： 誰かが一連のアイテムをカートに追加するとき。
注文セッション： 誰かが実際に一連のアイテムを購入したとき。

著者らは、これらの信号が非常に異なっていることを発見しました。検索クリックは広範な「興味がある」というサインであるのに対し、注文セッションは「この特定の組み合わせが本当に欲しい」というサインです。これらの違いを無視してすべてを同じものとして扱うと、従来のモデルは重要な要素を見逃してしまいます。しかし、MMRＭはこれら四つすべてを同時に学習し、それぞれが異なる仕事に適した、四つの異なる「表現」（あるいはメンタルマップ）を作成します。

「マルチプレックス・ユーザー戦略」
これら四つの異なる製品マップを手に入れた後、モデルはそれが「あなた」が何を求めているのかを判断する必要があります。論文では、全員に対して一つの汎用的なマップを使うことはできないと主張しています。代わりに、MMRMは「マルチプレックス・ユーザー表現」戦略を使用します。

あなたがブラウジングしていると想像してください。システムはあなたの履歴を確認します。もしあなたが検索している最中なら、システムは [SEARCH] マップを使用して、あなたがクリックしたアイテムに似たものを探します。もしあなたがカートを作っている最中なら、システムは [CART] マップに切り替えて、どのようなものが通常一緒に購入されるかを確認します。それは、まるでウィンドウショッピングをしているのか、それとも購入の準備ができているのかによって、戦略を変えるパーソナルショッパーがいるようなものです。彼らはあなたの特定の行動シーケンスを取り込み、それを製品の正しい「帽子」と照合することで、高度にパーソナライズされたレコメンデーションを作成します。

彼らが否定したもの
この論文は、二つの一般的なアプローチに対して明確に反対しています。

単一の信号のみを使用すること： 彼らは、検索データ（あるいはカートデータ）のみでモデルを訓練すると、他の重要な関係性に盲目になることを示しています。一つを選んで他を無視することはできません。
「ワンサイズ・フィット・オール」の埋め込み： 単一の汎用的な製品説明を取り、それをランキングモデルにそのまま詰め込むことは、マルチタスクのシナリオではうまくいかないことを彼らは発見しました。それは「埋め込みの絡まり（embedding entanglement）」を引き起こし、検索クエリとカートの予測に対して同時に同じメモを使おうとするため、モデルを混乱させます。MMRMは、各タスクに対して表現を分離（デタングル）しておくことで、これを拒絶します。

証明：現実の数字、現実の結果
著者らは単に推測したのではなく、大規模なスケールでテストを行いました。

学習データ： 彼らは、検索用に6か月間で収集された 0.3 億 のトリプレット（関連する3つのアイテムのグループ）を含む巨大なデータセットを使用し、カートや注文の行動についてはさらに大きなデータセット（注文については最大 3 年 分のデータ）を使用しました。
モデル： 彼らは、8 台の NVIDIA H800 GPU を使用して、40 億パラメータ のモデル（非常に大規模な AI）を訓練しました。
結果： テストにおいて、MMRM はすべての従来の「シングルタスク」モデルおよび、この特別な帽子システムを使用していない「マルチタスク」モデルを上回りました。
現実世界への影響： 彼らはコンピュータ上のシミュレーションに留まりませんでした。彼らはこのシステムを実際の JD.com の検索エンジンに導入しました。数百万人のデイリーユーザーがいる中で行われた一週間のテストにおいて、新しいシステムは以下の項目を改善しました。
- クリック率（CTR）を 0.42% 向上
- カート追加率（ACR）を 0.37% 向上
- コンバージョン率（CVR）を 0.35% 向上

著者らは、これらのパーセンテージは小さく見えるかもしれないが、数百万人規模のプラットフォームにおいて、わずか 0.10% のリフトアップであっても莫大な収益増につながることを指摘しています。これらの実証された成果により、このシステムは現在完全に稼働しており、何百万人もの人々が製品を見つける手助けをしています。

要約すると、MMRMは、AIがいかにしてショッピングを理解するかを教えるための、よりスマートで柔軟な方法です。それは、「器用貧乏（多くのことをこなすが、どれも中途半端）」になろうとするのではなく、一つの効率的な脳に四つの専門的なモードを持たせることで、「多才な達人」になるのです。

技術要約: eコマース製品ランキングのためのMMRM

1. 問題提起

eコマースの検索ランキングには、複数の目的（例：クリック率、カート追加率、コンバージョン率）にわたるきめ細かなユーザーの好みを捉えることが求められます。最近のアプローチでは、汎用的なマルチモーダル大規模言語モデル（MLLM）をファインチューニングしてアイテム表現を生成していますが、著者らは既存の手法における2つの決定的な限界を指摘しています。

単一の協調信号への依存: 現在の手法は通常、単一のタイプの信号（例：検索ベースのクエリからアイテムへのクリック、または行動ベースのアイテム間クリック）のみを使用してMLLMをファインチューニングします。著者らは、eコマースの信号は本質的にヘテロジニアス（異種混在的）であると主張しています。検索信号は広範な関連性を捉えますが、シーケンシャルな行動（カート、注文）は、より詳細な類似性と補完的な関係性を反映します。この多様性を無視することは、マルチタスク・ランキングに必要な包括的な表現の学習を妨げます。
ダウンストリーム・ランキングにおける活用不足: 既存のランキングモデルは、マルチモーダル表現を通常のアイテム特徴量として扱い、特徴量相互作用のために単一のエンベディングテーブルを使用したり、単純な行動グルーピングを行ったりすることがよくあります。このアプローチは「マルチプレックスなユーザー意図」を捉えることができず、マルチタスクのシナリオにおいて情報の損失やエンベディングの絡まり（entanglement）を引き起こします。

2. 手法

提案されるソリューションである**Multiplex Multimodal Representation Model (MMRM)**は、MLLMを多様な協調信号と整合させ、それらをマルチタスク・ランキングシステムに統合するように設計された統一フレームワークです。

2.1 データセット構築

著者らは、ヘテロジニアスな信号を捉えるために、4つの異なるトリプレット・データセットを構築しました。

Q2I データセット (検索): クエリとアイテムのクリック（ $q2i\_click$ ）から構築され、最も普及していますが粗い粒度の信号を表します。ハードネガティブは、同じ親カテゴリ内だが異なるサブカテゴリからサンプリングされます。
I2I データセット (行動): グラフベースのアプローチを用いて、3つのデータセット（ $i2i\_click$ $i 2 i_c l i c k$ , $i2i\_cart$ $i 2 i_c a r t$ , $i2i\_order$ $i 2 i_or d er$ ）を構築しています。
- アイテムは、特定の時間窓（例：クリックは10分間、カート追加は30分間）内でのシーケンシャルなユーザー行動に基づいて接続されます。
- ホットアイテムによる支配を軽減するため、anchorアイテムはword2vecに似た確率関数を用いてサブサンプリングされます。
- ハードネガティブは、コントラスト学習を強化するために、ポジティブアイテムと同じサブカテゴリからサンプリングされます。

2.2 MMRM アーキテクチャ

MMRMは、共有のMLLMバックボーン（Qwen3-VL-4B-Instructから初期化）を採用し、マルチタスク学習を処理するための特定のアーキテクチャ変更を加えています。

タスク固有のトークン: タスクを分離するために、4つの特殊トークン（[SEARCH], [CLICK], [CART], [ORDER]）が入力に付加されます。
プロジェクション層: 特定のタスク・トークンの隠れ状態は、タスク固有の多層パーセプトロン（MLP）を介して投影され、最終的なタスク固有のアイテム表現（ $r^t_i$ ）を生成します。
学習目的: モデルは4つのデータセットの均一な混合物に対して学習されます。各タスク $t$ について、コントラスト学習損失は、そのタスクのポジティブペアを使用して計算されます。一方、他のタスクのアイテムはインバッチ・ネガティブとして機能します。これにより、モデルは性能を低下させることなく、多様な信号から同時に学習することができます。

2.3 マルチタスク・ランキングへの適用

著者らは、ダウンストリームのランキングモデルに対してマルチプレックス・ユーザー表現戦略を導入しています。

ソフト検索 (Soft Search): 与えられたクエリとターゲットアイテムに対し、システムは現在のタスクに特化したマルチモーダル・エンベディングテーブル（例：ACR予測のために [CART] エンベディングを使用）を用いて、上位 $K$ 個の関連する行動サブシーケンスを抽出します。
ユーザー表現: フィルタリングされた行動シーケンスに対して、マルチヘッド・ターゲット・アテンション（MHTA）モジュールを用いて、タスク固有のユーザー表現（ $U_t$ ）を導出します。
MMoE の統合: すべてのタスク固有のユーザー表現およびその他の特徴量は、Multi-gate Mixture-of-Experts (MMoE) モジュールによって処理され、タスク固有の隠れ状態を生成します。
予測: これらの状態は、タスク固有のタワー（CTR, ACR, CVR）に送られ、最終的な予測を生成します。

3. 主な貢献

統一フレームワーク: MMRMは、共有バックボーンとタスク固有のトークンを使用して、4つの多様な協調信号（検索、クリック、カート、注文）を効果的に整列させ、単一の推論パスで効率的なマルチプレックス・アイテム表現の生成を可能にします。
マルチプレックス・ユーザー戦略: 本論文は、マルチプレックス・アイテム表現からタスク固有のユーザー表現を導出する新しい戦略を提案しており、マルチタスク・ランキングにおけるエンベディングの絡まりの問題に対処しています。
スケーラビリティ: 著者らは、現代的なMLLM上で大きなバッチサイズを扱うためにGradCacheのような技術を使用することで、大規模なデータ（0.3 億のトリプレット）に対してMMRMを効率的に学習できることを示しています。

4. 実験結果

4.1 表現モデルの評価

パフォーマンス: MMRMは、単一タスクのベースラインおよび「Vanilla-Multi」（タスクプロンプトを用いた共有エンベディングを使用するもの）を一貫して上回りました。
効率性: MMRMは4つのタスク・エンベディングを単一のフォワードパスで生成しますが、ベースラインは4回の別々のパスを必要としました。
アブレーション: 実験により、GradCacheを通じて達成された大きなバッチサイズがパフォーマンスを大幅に向上させることが確認され、多様なインバッチ・ネガティブの重要性が検証されました。

4.2 ランキングモデルの評価

オフライン: マルチプレックス・フィルタリング（ $SIM_{soft}(item_{MMRM[ALL]})$ ）を用いた提案のランキングモデルは、単一のエンベディングテーブルまたはカテゴリベースのフィルタリングを使用するベースラインと比較して、CTR、ACR、CVRの全タスクにおいて最高のGAUCスコアを達成しました。
オンライン A/B テスト: JDのeコマース検索エンジンにデプロイされた結果、システムはオンライン・ベースラインに対して顕著な改善を示しました。
- ユーザークリック率 (UCTR): +0.42%
- ユーザーカート追加率 (UACR): +0.37%
- ユーザーコンバージョン率 (UCVR): +0.35%
- 著者らは、プラットフォームの膨大なトラフィックを考慮すると、これらのリフトは実質的な収益成長につながると述べています。

5. 意義と主張

本論文は、eコマース・シグナルのヘテロジニアス性を活用することで、MMRMが現行のマルチモーダル・ランキングシステムの限界をうまく解決していると主張しています。単一のシグナルによるファインチューニングや、単一のエンベディングによるダウンストリーム・モデリングから脱却することで、MMRMはより包括的なユーザー意図の理解を提供します。毎日数百万人ものユーザーに提供されているJD.comへのデプロイ成功は、提案されたフレームワークの現実世界における実用的な有効性とスケーラビリティを証明しています。本研究は、複雑なマルチオブジェクティブなユーザー行動を分離する上で、「マルチプレックス」な表現の価値を強調しています。