Auxiliary-Enhanced Survey Calibration: A Novel Framework for Reject Inference under Sample Selection Bias

技術要約：リジェクト推論のための補助変数を用いたサーベイ・キャリブレーション

問題提起
クレジットスコアリングモデルは通常、承認された申請者に基づいて学習されるため、学習分布 $P(Y|X, Z=1)$ がターゲット集団の分布 $P(Y|X)$ と異なるというサンプル選択バイアスが生じる。この現象は**リジェクト推論（Reject Inference）問題として知られており、貸し手がリスクが高いと判断した申請者を体系的に拒絶することで、学習セットが「優良な支払者」に偏ってしまうことに起因する。その結果、承認データのみで学習されたモデルは、全申請プールにおけるデフォルト率を過小評価する傾向がある。既存のリジェクト推論手法は、一般に、拒絶された申請者に対して欠損したアウトカムを補完（Impute）する手法（拡張法、再分類法、生成モデルなど）と、承認されたサンプルを再重み付け（Reweight）**する手法（逆確率重み付け法/IPSなど）の2つのカテゴリーに分類される。著者らは、補完ベースの手法は、すでに選択バイアスによって歪められたモデルを用いてラベルを捏造しているため、根本的に欠陥があり、歪みを伝播させ増幅させてしまうと主張している。逆に、標準的な再重み付け手法は、ポジティビティ（正値性）の仮定が満たされない場合に極端な重みが発生し、不安定になることが多い。

手法
本論文では、アウトカムの補完を一切行わない、サーベイ・キャリブレーション理論（Deville and Sarndal, 1993）に基づく新しいフレームワークを提案している。核となるメカニズムは、承認された申請者の観測レベルの重みを計算することで、加重されたサンプルの共変量分布を、既知の補助変数の集団合計値に一致させることである。

1. フレームワークの設定:

   • $U$ を全申請者の集団、$A$ を承認セット、$R$ を拒絶セットとする。
   • 特徴量は、共通変数 $X^{(c)}$（全申請者に対して観測され、重み付けに使用される）と、非共通／アンダーライティング変数 $X^{(u)}$（承認された申請者にのみ観測され、最終的なアウトカムモデルに使用される）に分割される。
   • 目標は、承認セット $A$ 上の加重対数尤度を最大化することによって、集団パラメータ $\theta^*$ を推定することである。

2. キャリブレーション重み:

   • 重み $w_i$ は、設計重み $d_i$（通常は1）との距離関数 $D(w_i, d_i)$ を最小化する制約付き最適化問題を解くことで導出される。ただし、加重された共通変数の総和が既知の集団合計 $T^{(c)}$ に等しくなるという制約 $\sum_{i \in A} w_i X^{(c)}_i = T^{(c)}$ を課す。
   • 著者らは、不整合な（unboundedな）距離関数（ラキングや指数関数的なもの）ではなく、有界な距離関数（具体的には有界ロジットおよび切断線形距離）を利用している。これにより、重みがユーザー指定の区間 $[L, U]$ 内に収まることが保証され、有効サンプルサイズの崩壊を防ぎ、逆確率重み付け（IPS）に伴う不安定性を回避できる。

3. 推定:

   • ラグランジュ乗数を解くためにニュートン・ラフソン法を用いて重みを計算する。
   • 最終的なロジスティック回帰モデルは、以下のキャリブレーション加重対数尤度を最大化することで適合される：$\tilde{\ell}(\theta; w) = \sum_{i \in A} w_i [Y_i(\beta_0 + \beta^\top X_i) - \log(1 + \exp(\beta_0 + \beta^\top X_i))]$。
   • 決定的なのは、重み付けのステップでは $X^{(c)}$ のみを使用する一方で、アウトカムモデルには完全な特徴ベクトル $X = (X^{(c)}, X^{(u)})$ を使用することである。これにより、補完手法では不可能な、承認された申請者にのみ存在するより豊かなアンダーライティング・データの活用が可能となる。

主な貢献

1. 補完フリーのフレームワーク: 著者らは、ラベルを捏造しないリジェクト推論推定量を導入している。再重み付けのみに依存することで、拡張法や再分類法に固有の欠陥である、初期の承認限定モデルからバイアスを継承することを回避している。
2. 理論的保証: 著者らは、Missing At Random (MAR) 仮定の下で、キャリブレーション加重推定量が一貫性を持ち、$\sqrt{n}$-漸近正規性を持つことを証明している。また、閉形式の漸近分散と、重み推定によって導入される不確実性を考慮するためのサンドイッチ分散推定量を導出している。
3. 集団投影の特性化: モデルの誤設定（misspecification）下において、承認限定推定量は真の「選択サンプル投影」に収束するのに対し、キャリブレーション推定量は「集団投影」をターゲットとする。この違いこそが、本手法がベースラインに対して価値を提供する点である。
4. 重みの安定性: 有界な距離関数を採用することで、IPSやラキングのような、極端な重みや有効サンプルサイズの崩壊を招く手法の問題を解決している。

実験結果
本研究では、3つのデータセット（Lending Clubデータセット、地上真値のラベルを持つ半合成のTaiwan Creditベンチマーク、および制御されたシミュレーション）を用いて、9つの戦略（ファジー拡張、再分類、IPS、ヘックマン2ステップ、生成モデルを含む）と比較評価を行っている。

• 識別能 (AUC): Lending Clubデータセットにおいて、キャリブレーション手法は識別能をベースラインの水準に維持した（フル特徴量を用いたベースラインのAUC $\approx$ 0.706に対し、本手法は $\approx$ 0.703）。対照的に、補完ベースの手法は性能を低下させ、Taiwanベンチマークでは最大11ポイント、Lending Clubでは3.6ポイントのAUC低下を招いた。著者らは、このわずかな差は、補完手法がアクセスできないアンダーライティング変数（$X^{(u)}$）を使用できる能力によるものとしている。
• 較正 (リスク推定): キャリブレーションの主な利点は、集団リスクの推定にある。Lending Clubにおいて、キャリブレーションはベースラインと比較して期待較正誤差 (ECE) を約3分の1に減少させた（0.0112 から 0.0042 へ）。Taiwanの誤設定レジームでは、その減少幅は6倍であった。補完手法は、較正誤差を大幅に増大させた（最大16倍）。
• 誤設定: 相互作用項を省略したモデル誤設定が行われたシミュレーション研究において、キャリブレーション推定量はオラクル（集団の真値）に近い値を維持したが、承認限定ベースラインは選択の強さが増すにつれて大きく乖離した。
• MNARの限界: 予想通り、本手法はMissing Not At Random (MNAR)（拒絶が観測されないアウトカムに依存する場合）の選択条件下では集団パラメータを回復できず、このアプローチの理論的な境界を確認した。

意義と主張
本論文は、キャリブレーションがリジェクト推論における安全なデフォルト（標準的な選択肢）を提供すると主張している。すべての重みを1に設定すればベースラインと完全に一致するため、本手法はベースラインよりも悪化することはない。その意義は以下の通りである：

• 集団リスクの補正: 価格設定や資本準備において極めて重要な、集団レベルのデフォルト率および較正指標を推定するための統計的に妥当な方法を提供する。これは、補完に伴うバイアス伝播のリスクを伴わない。
• 誤設定への堅牢性: 作業モデルが誤設定されている場合でも、ベースラインを上回る性能を示し、バイアスのかかった選択サンプル・パラメータではなく、集団パラメータを効果的に推定する。
• 実用的な安定性: 有界な距離関数の使用により、他の再重み付け手法に共通する数値的不安定性を解消している。

著者らは、本手法はMNARによる選択を解決したり、承認者と拒絶者の間の共通サポートの必要性を排除したりするものではないが、特にクレジットスコアリングにおける集団レベルのリスク推定の信頼性を確保するという点において、補完ベースの戦略よりも優れた代替案であると結論付けている。