技術要約: PIT-SUN

問題提起

価値駆動型のレコメンデーションシステムにおいて、滞在時間（dwell time）、総商品流通額（GMV）、顧客生涯価値（LTV）といった連続的なビジネス指標を予測することは、ランキングやアロケーション（配分）の中核となる。これらのターゲットは、本質的にスパース（疎）であり、ヘビーテイル（厚い裾）特性、マルチモーダル性、およびゼロ過剰（zero-inflated）な性質を持つ。

本論文で特定された核心的なジレンマは、「最適化の安定性」と「期待値の一致性」の間のトレードオフである：

1. オリジナル空間におけるMSE: オリジナル空間での平均二乗誤差（MSE）を最小化することは、理論的には条件付き期待値 $m(x) = E[Y|X=x]$ を標的とするが、極端な値やゼロのプラトー（停滞）により、有限サンプルの勾配は不安定になる。これは「平均の崩壊（mean collapse）」や「テイルの縮小（tail shrinkage）」を引き起こす。
2. 変換空間: モノトニック（単調）な変換（例：log, sqrt, Box-Cox）を適用すると、学習の座標系は安定化するが、「再変換バイアス（retransformation bias）」が生じる。変換後の予測値を直接逆変換した $T^{-1}(E[T(Y)|x])$ は、$T^{-1}$ がアフィン変換でない限り、元の期待値 $E[Y|x]$ とは一致しない。しかし、アフィン変換では、ヘビーテイルなデータに必要な有界なテイル圧縮を提供することができない。

既存のリカバリー手法（例：TranSUN/GTS）は、条件付き線形リカバリーを通じて期待値の一致性を回復させるが、これらは変換の選択やリカバリーの基底（basis）の選択をマニュアル（手動）に依存している。本論文は、単にマニュアルな変換を経験的な確率積分変換（PIT）に置き換えるだけでは、座標、逆引き、リカバリー基底、およびドリフト監視のための統一されたフレームワークなしには不十分であると主張している。

手法: PIT-SUN

著者らは、デプロイ可能な経験的周辺リカバリーフレームワークである PIT-SUN（Probability-Integral-TranSformed Unbiased recovery）を提案する。これは、経験的な周辺分布テーブルを単なる変換としてではなく、座標、逆引き、リカバリー基底、および監視メカニズムを同時に定義する統一された「クロージャ（closure）」として扱うものである。

1. 理論的基礎

論文では、以下の2つの重要な「不可能（impossibility）」の結果を確立している：

• 非線形直接逆変換の限界: 非線形かつテイルを圧縮する変換は、直接的な逆変換において普遍的に期待値を保持することはできない。
• PITのみによるバイアス: 完璧なPIT座標を用いたとしても、直接的な逆変換 $C^{-1}(E[C(Y)|x])$ は、逆分位関数の曲率に起因する系統的なテイラー・バイアスを示す。

2. PIT-SUN クロージャ

このフレームワークは、単一の経験的累積分布関数（CDF）テーブルから導出される3つの結合されたコンポーネントで構成されている：

• 経験的PIT座標（スケール限定学習）:
  手動の変換の代わりに、モデルは有界な正規スコア空間で学習を行う。ターゲットは、$[\delta, 1-\delta]$ にクリップされた経験的CDF $\hat{F}_Y$ を通じて変換され、標準正規分位量へとマッピングされる：
  $$C(y) = \Phi^{-1}(\text{clip}(\hat{F}_Y(y), \delta, 1-\delta))$$
  これにより、ヘビーテイルな振幅が有界な座標へと変換され、勾配が安定化する。

• 逆分位量基底（安定化されたリカバリー）:
  予測されたPIT座標は、元のスケールにマップされてリカバリー基底 $b(x)$ を形成する：
  $$b(x) = \max(C^{-1}(\bar{f}(x)), b_{min}) + \epsilon$$
  ここで、$C^{-1}$ は経験的な逆分位量ルックアップである。極めて重要な点は、$b_{min}$（正のターゲットの分位量に基づく下限）が、ゼロ過剰領域における分母の崩壊を防ぎ、リカバリーラベルの分散を制御することである。

• SUNリカバリー（条件付き線形）:
  第2のブランチは、ベース $b(x)$ に対する ストップグラディエント（勾配停止） オペレータを用いて、比例ターゲット $z(x) \approx E[Y/b(x) | x]$ を学習する。損失関数は以下の通りである：
  $$L_{SUN} = E\left[ \left( z_\psi(x) - \frac{y}{\text{sg}[b(x)]} \right)^2 \right]$$
  これにより、リカバリーパスが固定されたベースに対して条件付き線形であることが保証され、高分散な残差によってPITの幾何学的構造を損なうことなく、期待値の一致性が回復される。

• 最終予測:
  $$\hat{y}(x) = z_\psi(x) \cdot b(x)$$

3. スパースおよびゼロ過剰なターゲットへの対応

極端なゼロ過剰（例：GMV）を持つターゲットに対して、論文では問題を因数分解する PIT-SUN-ZI を導入している：

1. ハードル・ブランチが $P(Y > 0 | x)$ を推定する。
2. PIT-SUNが正のサンプルに対して $E[Y | x, Y > 0]$ を推定する。
3. 最終的な予測は、発生確率と正の値の積となる。

主な貢献

1. 不可能性をガイドとした定式化: 非線形な安定座標は、直接逆変換において期待値を保持できないことを形式的に証明し、単なる優れたスカラー変換ではなく、独立したリカバリーパスが必要であることを示した。
2. PIT-SUN クロージャ: 単一の経験的CDFテーブルが、安定した座標、逆引き、分散制御されたリカバリー基底、およびドリフトモニターを定義するという、統一されたフレームワークを導入した。これにより、マニュアルなヒューリスティックの選択を、データ駆動型のデプロイ可能なクロージャへと置き換えた。
3. 経験的検証: 本手法は、合成分布、公開ベンチマーク（CIKM16, DTMart）、大規模な産業用データセット（滞在時間、GMV）、およびオンラインA/Bテストを通じて検証されている。

実験結果

• 合成および公開ベンチマーク: PIT-SUNは、様々な周辺形状（ヘビーテイル、ゼロ過剰、マルチモーダル）において、堅牢なキャリブレーション（SRE, TRE, MREで測定）とランキング品質（xAUC, Gini）を示した。これは、分布モデル（ZILN, EGMN）、離散化モデル（TPM, CREAD）、およびマニュアルなリカバリー・ベースライン（TranSUN）を凌駕している。
• 産業用オフライン結果: 大規模な滞在時間およびゼロ過剰GMVデータセットにおいて、PIT-SUNは最小の点誤差（NMAE, NRMSE）と最高の集計キャリブレーションを達成した。診断バリアント（例：PIT-SUN-w/o SUN, PIT-TranSUN）により、完全なクロージャ（有界座標 + 安定化された基底 + 勾配の分離）が必要であることが確認された。単に既存のフレームワークに経験的PITを組み込むだけでは、劣った結果になる。
• オンラインA/Bテスト: インセンティブ配分システムにデプロイされたPIT-SUNは、滞在時間、動画視聴数、および高エンゲージメントユーザーにおいて統計的に有意な改善を示した。DAU（日間アクティブユーザー数）および広告収益は安定しており、他のビジネス指標を損なうことなくエンゲージメントを向上させられることが示された。
• 効率性: PIT-SUNは、2段階のベースラインと比較して、トレーニング時間と推論レイテンシ（P50/P99）を削減し、高QPS（秒間クエリ数）のプロダクション環境に適している。

意義と主張

本論文は、ターゲット変換をヒューリスティックな前処理ステップから、デプロイ可能な経験的周辺クロージャへと再定義したと主張している。その意義は、複雑な分布仮定や変換のためのマニュアルなハイパーパラメータ調整に頼ることなく、「安定性 vs 期待値」のジレンマを解決した点にある。

著者らは、このフレームワークがモデルに依存せず（model-agnostic）、かつ解釈可能であり、ヘテロジニアス（異種混合）な連続ターゲット（滞在時間、GMV、LTV）のための実用的なスケール・アライナーとして機能することを強調している。本研究は、複雑な実世界の回帰タスクにおいて、点推定の精度と期待値の一致性の両方を達成するためには、座標、基底、およびリカバリーを統合した完全なデータ駆動型クロージャが不可欠であることを示している。