Learning the Distribution Map in Reverse Causal Performative Prediction

技術要約：逆因果的パフォーマティブ予測における分布マップの学習

1. 問題設定

多くの予測シナリオ、特にソーシャルコンピューティングや戦略的環境においては、予測モデル $\theta$ のデプロイが基礎となるデータ分布を変化させます。エージェントは、有利な結果を得るために（例：履歴書を調整する求職者、プロフィールを操作する借り手）、モデルに応じて自身の属性や行動を適応させます。この現象は**パフォーマティブ予測（performative prediction）**として知られており、デプロイ前の分布とデプロイ後の分布 $D(\theta)$ が異なる分布シフトを引き起こします。

パフォーマティブ・リスクを最適化する上での決定的な障壁は、実務家が、モデルパラメータの関数として分布がどのように変化するかを示す分布マップ（distribution map） $D(\theta)$ に関する知識を持たないことが多い点にあります。既存のアプローチは、微分フリー最適化（収束が遅く、次元の呪いに苦しむ）として扱うか、あるいは誤設定の可能性があるパラメトリックなミクロ的基礎付けモデルに依存しています。本論文は、モデルが有限の数のエージェントの行動を通じてのみ分布に影響を与えるという、**逆因果的（reverse causal）**な設定において、分布マップ $D(\theta)$ を学習するという課題に取り組んでいます。

2. 手法

逆因果的フレームワーク
著者らは、Somerstepら（2024）の研究に基づき、パフォーマティブな設定を再定式化しています。彼らは、事後的な属性 $(X, Y)$ と行動 $A$ の分布は以下のように分解できると仮定しています：
$$D(\theta) = D_A(\theta) \times D(X, Y | A)$$
ここで、$D(X, Y | A)$ は行動 $A$ が与えられたときの共変量と応答の条件付き分布であり、モデル $\theta$ に対して**不変（invariant）**であると仮定されています。分布シフトの全体は、エージェントの行動の周辺分布 $D_A(\theta)$ のみによって駆動されます。

ランダムなコストを伴うミクロ的基礎付け
$D_A(\theta)$ を学習するために、本論文ではCoate-Louryの労働市場モデルに着想を得たミクロ的基礎付けフレームワークを導入しています。エージェントは、以下のコスト調整済み効用を最大化するように行動 $a \in \mathcal{A}$ を選択します：
$$A \triangleq \arg \max_{a \in \mathcal{A}} B_a(\theta) - C_a$$
ここで、$B_a(\theta)$ はモデル $\theta$ の下での既知の行動 $a$ の便益であり、$C_a$ は、その行動をとることに対するエージェントの個別の嗜好や障壁を表すランダムなコストです。

• 汎用性: 純粋に戦略的な行動に限定される決定論的なコストを仮定する標準的な戦略的予測モデルとは異なり、ランダムなコストを組み込むことで、便益関数が特定の単調性の条件（補題2.5）を満たす限り、非戦略的なエージェントおよび任意の分布シフト $D_A(\theta)$ を表現することが可能になります。
• 学習目標: $B_a(\theta)$ は既知であるため、問題はランダムなコスト $\{C_a\}$ の分布を学習することに帰着します。

非パラメトリック推定（アルゴリズム1）
著者らは、分布マップを推定するための非パラメトリックな手法を提案しています：

1. データ収集: 学習者は一連のモデル $\theta_1, \dots, \theta_M$ をデプロイし、その結果として得られるエージェントの行動の割合 $\hat{\pi}(\theta_m)$ を観測します。
2. 定式化: 行動 $a$ を選択する確率を、既知の便益によって制約されたコスト差の多変量累積分布関数（CDF）として表現します。
3. 最適化: 分布の推定は、**座標ごとの単調形状制約（等張回帰）**を用いた最小二乗問題として解かれます。これにより、推定された関数が有効なCDFであることが保証されます。
4. 行動の推定: 行動が直接観測できない場合、論文ではモーメント一致法（Lipton et al., 2018）を用いて、観測された共変量から行動の割合を推定することを提案しています。

最適実験計画（アルゴリズム2および3）
分布マップを効率的に学習し、パフォーマティブ・リスクを最小化するために、著者らは**ダブル・トリック（doubling trick）**を用いた逐次的設計アルゴリズムを提案しています：

• 設計密度: アルゴリズムは、推定誤差（ノイズ）が最も高い領域に焦点を当てるように、デプロイされるモデルの分布（設計密度）を反復的に更新します。
• 探索と活用: プロセスはエピソードに分割されます。各エピソード内では、一部が探索（分布マップの推定を精緻化するためにモデルをサンプリングする）に充てられ、残りは活用（推定されたパフォーマティブ・リスクを最小化するモデルをデプロイする）に充てられます。
• リグレット最小化: アルゴリズムは、総リグレット（デプロイされたモデルのリスクと最適なパフォーマティブ・リスクとの累積差）を最小化するために、探索フェーズと活用フェーズの長さを調整します。

3. 主な貢献

1. ミクロ的基礎付けフレームワーク: 本論文は、ランダムなコストを伴うミクロ的基礎付けモデルを導入しており、これは逆因果的設定において、戦略的なエージェントと非戦略的なエージェントの両方を受け入れる、あらゆる分布シフトを復元できるほど汎用的です。
2. 非パラメトリック推定: エージェントの振る舞いの特定のパラメトリックな形式を仮定することなく、分布マップ $D_A(\theta)$ を学習するための、統計的に正当化された非パラメトリックな手法（単調回帰による）を提供します。
3. 逐次的最適設計: ダブル・トリックに基づき、デプロイするモデルを適応的に選択する逐次的アルゴリズムを開発しました。このアルゴリズムは、設計密度の相対的な効率損失を最小化し、特定のリグレット境界を達成します。
4. 収束保証: 論文は、推定された分布マップおよびパフォーマティブ・リスクの理論的な収束率を確立しています。具体的には、リグレット境界は $\tilde{O}(M^{\frac{2\beta+1}{3\beta+1}})$ と示されており、ここで $\beta$ は分布マップの滑らかさのパラメータです。この境界は、モデルパラメータ $\theta$ の次元に依存しないため、次元と共にスケールする手法に対して優位性があります。

4. 結果

• 理論的結果:

  • 一様収束: ヘルダー連続性と規則的な設計点の下で、推定されたCDFは $O((\log n / n)^{\alpha/(2\alpha+1)})$ の速度で真のCDFに一様に収束します。
  • リグレット境界: 逐次的アルゴリズムは $\tilde{O}(M^{1/(1+\eta)})$ の総リグレットを達成します。ここで $\eta$ は分布マップの収束率に依存します。等張回帰（$\eta=1/3$）の場合、リグレットは $O(M^{3/4})$ です。
  • 比較: 分布シフトが $\theta$ を通じて一次元の便益関数にのみ依存するため、提案されたリグレット境界は、$\theta$ の次元が高い場合、既存の境界（例：Jagadeesan et al., 2022）よりも低次のオーダーとなります。

• 数値実験:

  • 著者らは、ベースラインとしてCoate-Louryの労働市場モデルを用いてアプローチを検証しています。
  • シミュレーションにより、推定された分布マップ（等張回帰または単調二次スプラインを使用）が真の分布に収束することが示されました。
  • 逐次的設計アルゴリズムは、設計密度の相対的な効率をゼロ（最適）へと効果的に導き、非適応的な戦略と比較してパフォーマティブ・リスクを最小化することに成功しました。

5. 意義と主張

本論文の主な意義は、パフォーマティブ・リスクの最小化を実務家にとってより身近なものにすることにあると主張しています。エージェントの応答データから非パラメトリックに分布マップを学習するフレームワークを提供することで、本手法は、分布シフトが未知である実用的なアプリケーションと、理論的なパフォーマティブ予測との間の溝を埋めます。

著者らは、現在の逆因果的フレームワークは有限の行動空間に焦点を当てているものの、将来的な作業（生成モデルなどを通じて）により任意の行動空間へ拡張可能な柔軟な構造を持っていることを強調しています。彼らは、自身のアプローチを既存の文献への補完的なものとして位置付けています。すなわち、微分フリー最適化の遅い収束を回避しつつ、厳格なパラメトリック・ミクロ基礎付けモデルに固有の誤設定のリスクを軽減するものです。本研究は、「分布マップ」を理解し学習することが、戦略的環境における堅牢な意思決定に向けた重要なステップであることを示唆しています。