技術要約：堅牢なランキングとアロケーションのための表現カリキュラム（Representation Curriculum）

1. 問題提起

現代のデジタルマーケットプレイスにおけるランキングシステムは、動的な露出アロケーション・メカニズムとして機能している。これらのシステムは、ログに記録された結果に対して高い予測力を持ち、かつ定常的な需要の下で大きな分散を説明できるため、内生的かつ露出に起因する交絡信号（例：推定人気度、履歴に基づくCTR/CVR、IDベースの表現）に大きく依存している。

しかし、この予測力の高さが学習上の病理を生み出す：

• ショートカット学習（Shortcut Learning）: 学習の初期段階において、露出に依存した信念信号（belief signals）へのアクセスが容易であるため、最適化のダイナミクスがこれらの信号への過度な依存へと誘導されてしまう。
• 勾配消失（Gradient Starvation）: ペアワイズまたはリストワイズの学習（LTR）において、強力な予測因子（過去の信念）は学習初期に大きなスコア差を生じさせ、損失関数を飽和させる。これにより、より弱いが不可欠な手がかり、すなわち露出に依存しない実力信号（例：コンテンツベースの競争力、セマンティックな意図との親和性）に対する勾配が抑制される。
• 結果: 学習されたポリシーは既存のインカンベント（既得権益者）を定着させ、コールドスタート時の汎化性能を低下させ、分布シフトに対する堅牢性を損なう。これは、発見、公平性、および長期的なプラットフォームの健全性を阻害する自己強化的な露出ループにつながる。

既存の緩和策（反事実学習、教師あり信号の整形、シュリンケージ、アーキテクチャ制約、および確率的マスキング）は、多くの場合セマンティクス（意味論）を考慮しておらず、時間の経過に伴う学習容量の割り当てを制御できていない。

2. 手法：表現カリキュラム（Representation Curriculum, RC）

著者らは、歴史的信号へのショートカット依存を防ぐために、特徴量の利用を時間的に段階付けするセマンティクスを考慮した学習時介入策として、**表現カリキュラム（RC）**を提案する。

コアメカニズム

RCは特徴量を以下の2つのセマンティック・グループに分割する：

1. コンテンツベースの実力信号 ($x_C$): 過去の露出に関わらず利用可能（例：アイテム属性、クエリとアイテムの親和性）。
2. 露出に依存する履歴の信念信号 ($x_H$): 過去のインタラクションから派生（例：安定化したCTR、過去のトランザクション）。

RCは2段階の学習カリキュラムを実装する：

• ステージ1（コンテンツのみ）: モデルはコンテンツベースの信号 ($x_C$) のみを用いて学習され、履歴信号はマスクされる ($x_H = 0$)。これにより、学習者は履歴によるショートカットに頼ることなく、ラベルの変動を説明できる堅牢な「コンテンツ・パスウェイ」を構築することを強制される。
• ステージ নির্ণ2（フル＋アンカリング）: 履歴信号 ($x_H$) が導入される。ただし、学習されたコンテンツ表現を保持するために、最適化はステージ1の解に対して**アンカリング（固定）**される。これは、以下の2つの補完的なアンカリング戦略によって実現される：
  1. 予測アンカリング（マスク整合性）: マスクされた入力（$x_H=0$ の場合）に対するステージ2モデルの予測が、ステージ1のモデルと一貫性を保つように強制する。
  2. パラメータ・アンカリング（コンテンツ・パスの保護）: コンテンツ・パスウェイのパラメータ ($\theta_C$) が、ステージ1の値 ($\theta_C^{(1)}$) の近くに留まるよう明示的に正則化を行う。

ステージ2の目的関数は、主要なタスク損失、標準的な正則化、およびアンカリング項を組み合わせたものである：
$$\mathcal{L}_{total} = \mathbb{E}[\mathcal{L}(f_\theta(x_C, x_H); y)] + \lambda \Omega(\theta) + \mu_1 \mathcal{L}_{pred}(\theta) + \mu_2 \mathcal{L}_{par}(\theta)$$

モデル非依存性

RCは以下の異なる仮説クラスに適用可能である：

• ニューラルネットワーク: アイテム・コンテンツ・タワーがアンカリングされている2タワー構成において実装。
• 勾配ブースティング決定木 (GBDT): コンテンツ特徴量のみを用いて初期の決定木集合 ($M$) を適合させた後、全特徴量を用いて残りの決定木 ($T-M$) を継続的にブースティングし、ステージ1の出力を固定されたベース・マージンとして扱うことで実装。

3. 理論的保証

著者らは、閉形式の解と検証可能な十分条件を導出するために、RCをガウス線形リッジ回帰の設定において定式化している。

• パレート・トレードオフ: 分析により、RCを用いることで、ログに記録されたソース分布 ($P$) に対する性能と、コールドスタートや露出が少ないセグメントを強調する戦略的なターゲット分布 ($Q$) との間の定量化されたトレードオフが可能になることが示されている。
• リスク境界:
  • ソース性能: RCは、ログに記録された分布 $P$ において、標準的なフルモデル（全特徴量を使用）と比較して有界なリグレットを維持する。
  • ターゲットの堅牢性: RCは、ターゲット分布 $Q$（特に $x_H$ が存在しない、あるいは信頼できない「フローズン・スタート」のシナリオ）における集団リスクを大幅に低減する。
• 改善のための条件: 本論文では、RCがソースにおいて競争力を維持しながら、ターゲット分布におけるリスクを厳密に減少させるための十分条件を提示している。これらの条件は、共分散行列のシューア補行列のコンディショニングと、フルモデルとコンテンツのみのモデルとの間のマージンに依存する。

4. 実験結果

RCの有効性は、公開ベンチマークおよび大規模なオンライン展開を通じて検証されている：

• MSLR-WEB (Learning-to-Rank): RCは、非常に予測力の高い履歴の信念信号の重要度を減少させることに成功した。このシフトにより、全体的な性能の低下を最小限に抑えつつ、コールドアイテムに対するランキング品質を向上させた。
• MovieLens (Recommendation): ニューラル2タワー設定において、RCはモデルをコンテンツ特徴への強い依存へと形成した。これにより、「フローズン・スタート」（履歴信号が利用不可能なシナリオをシミュレート）における性能が大幅に向上した。
• eBay Sponsored Search (オンラインA/Bテスト): 大規模なeコマースシステムにおけるランダム化実験により、RCを用いて訓練されたポリシーが以下を示した：
  • 新規出品物（コールドアイテム）の露出および販売速度の向上。
  • 集計KPIが中立的な状態を維持したこと。これは、コンテンツベースの実力へのシフトが、マーケットプレイス全体の効率性を損なわなかったことを示している。

5. 意義と主張

本論文は、表現カリキュラム（RC）が、単に最終的な目的関数やデータ分布を制御するのではなく、学習の時系列的な軌跡を明示的に制御するという点で、既存の手法に対して明確な優位性を持つと主張している。

• メカニズムデザイン: RCは、履歴データの予測力を犠牲にすることなく、学習プロセスをウェルフェア（福祉）に合致した目標（例：新規サプライヤーの支援）に整合させるためのメカニズムデザイン・ツールとして機能する。
• 堅牢性: 内生的な信号への過度な依存という「ショートカット」を防ぐことで、RCは分布シフトに対してより堅牢であり、戦略的なサブポピュレーション（コールドスタート）に対して優れた汎化性能を持つポリシーを生み出す。
• 実用性: RCはモデル非依存であり、最小限のアーキテクチャ変更（段階的な学習スケジュールとアンカリング制約のみ）で、既存のニューラルおよびツリーベースの学習パイプラインにシームレスに統合できる。

著者らは、RCが履歴の信念信号からコンテンツベースの実力信号へと依存を効果的にシフトさせ、ヘッド（主要層）の性能との制御されたトレードオフの中で、コールドな集団に対する一貫した利得をもたらすと結論付けている。