論文「Prediction Sets and Conformal Inference with Interval Outcomes」の技術的サマリー

この論文は、観測値が区間（Interval）として記録される、あるいは検閲（Censoring）されている場合における、条件付き予測集合（Prediction Sets）の推定と、その有限サンプルでの妥当性（Validity）を確保するための新しい手法を提案しています。著者らは、部分識別（Partial Identification）の理論と、近年注目されているコンフォーマル推論（Conformal Inference）を組み合わせることで、従来の点推定や分位点回帰では扱えなかった課題を解決しています。

以下に、問題設定、手法、主要な貢献、結果、および意義について詳細にまとめます。

1. 問題設定 (Problem)

経済データや社会調査において、所得、貯蓄、賃金などのアウトカム変数 $Y$ が正確な値として観測されず、区間 $[Y_L, Y_U]$ として観測されるケース（例：「10 万〜20 万ドル」「20 万〜50 万ドル」など）は頻繁に存在します。また、右検閲（$Y \ge Y_L$）や左検閲（$Y \le Y_U$）も同様の問題を引き起こします。

従来の予測手法（平均値や分位点の推定）は、以下の点で限界がありました：

• 部分識別の問題: 区間データでは、真の分布 $P_{Y|X}$ は一点識別されず、識別可能集合（Identified Set）内にある複数の分布が考えられます。このため、従来の「オラクル予測集合（最小体積の予測集合）」の定義や推定が直接適用できません。
• 不確実性の扱い: 従来の分位点回帰に基づく予測区間は、パラメータ推定の不確実性（サンプリング誤差）を考慮しておらず、有限サンプルにおいて所定の被覆率（Coverage Rate）を保証できない場合があります。
• 多峰性の対応: 予測分布が多峰性（Multimodal）を持つ場合、最適な予測集合は複数の disjoint な区間の和集合となる可能性がありますが、単一の区間を仮定する手法ではこれを捉えられません。

本研究は、区間アウトカム $Y \in [Y_L, Y_U]$ が観測される条件下で、所定の誤被覆率 $\alpha$ を満たしつつ、体積が最小となる「オラクル予測集合」を推定し、有限サンプルで妥当なコンフォーマル予測集合を構築することを目的としています。

2. 手法 (Methodology)

著者らは以下の 3 つのステップで構成される手法を提案しています。

A. 部分識別下でのオラクル予測集合の定義と特徴付け

• 妥当性（Validity）の再定義: 部分識別モデルにおいて、予測集合 $C$ が「妥当」であるとは、識別可能集合 $\mathcal{P}_I$ に属するいかなる分布 $P$ に対しても、真の値が $C$ に含まれる確率が $1-\alpha$ 以上であることを意味します（条件付き妥当性および周辺妥当性）。
• 最適化問題の定式化: 従来の密度のレベルセット（Level Set）に基づくアプローチは区間データでは適用不可能です。代わりに、観測された区間 $[Y_L, Y_U]$ が予測集合 $C(x)$ に完全に含まれる確率を最大化する（あるいは最小体積を達成する）最適化問題を定式化しました。
  $$C^*(x) = \arg \min_{C \in \mathcal{C}} \mu(C(x)) \quad \text{s.t.} \quad P([Y_L, Y_U] \subset C(x) | X=x) \ge 1-\alpha$$
  ここで、$\mu$ はルベーグ測度（体積）です。この定式化により、真の $Y$ の分布が不明でも、観測可能な $(Y_L, Y_U)$ の条件付き分布から推定可能な「実行可能（Feasible）」なオラクル予測集合が得られます。

B. 一貫性を持つ推定量の構築（非パラメトリック推定）

• カーネル平滑化: 条件付き分布 $P([Y_L, Y_U] \subset C(x) | X=x)$ をカーネル平滑化推定量を用いて推定します。
• 一貫性の証明: 区間検閲がランダム（連続分布）か固定（離散的なブラケット）かに関わらず、推定された予測集合 $\hat{C}$ が、サンプルサイズ $n \to \infty$ でオラクル予測集合 $C^*$ に対して一貫性（Consistency）を持つことを示しました。
  • 特に固定検閲（離散的なブラケット）の場合、厳密な制約を満たす解が不安定になるため、制約を $1-\alpha - \psi_n$ に緩和する近似解法を採用し、一貫性を保証しています。
• 多区間の許容: 予測集合が複数の disjoint な区間の和集合（多峰性分布に対応）となる場合でも、この枠組みは適用可能です。

C. コンフォーマル推論による有限サンプル妥当性の確保

• スプリット・コンフォーマル法: 学習セット（Training set）で $\hat{C}$ を推定し、校正セット（Calibration set）で「適合スコア（Conformity Score）」を計算します。
• 区間データ専用の適合スコア: 区間データに対応するため、以下のスコア関数を提案しました。
  $$s(y_L, y_U, x; \hat{C}) = \inf \{ \theta : [y_L, y_U] \subset \hat{C}^\theta(x) \}$$
  ここで $\hat{C}^\theta$ は $\hat{C}$ の端点を $\theta$ だけ拡張した集合です。このスコアは、観測区間が予測集合に含まれる場合（オーバーカバレッジ）には負の値、含まれない場合（アンダーカバレッジ）には正の値をとります。
• 予測集合の調整: 校正セットのスコアの $(1-\alpha)(1+1/n)$ 分位点 $\hat{q}$ を求め、最終的な予測集合を $\tilde{C}(x) = \hat{C}^{\hat{q}}(x)$ として定義します。これにより、有限サンプルにおいて分布フリーで、所定の被覆率を保証する予測集合が得られます。
• 局所妥当性: 条件付き妥当性をより強く保証するため、共変量空間を分割した「局所コンフォーマル予測集合」の構成も提案しています。

3. 主要な貢献 (Key Contributions)

1. 部分識別下でのオラクル予測集合の理論的定式化: 区間検閲データにおいて、最小体積の予測集合を定義し、それが観測可能な $(Y_L, Y_U)$ の分布に基づいて実行可能であることを証明しました。
2. 区間データ対応のコンフォーマル推論: 従来のコンフォーマル推論を区間アウトカムに拡張し、オーバーカバレッジとアンダーカバレッジの両方を考慮した新しい適合スコア関数を設計しました。
3. 多峰性分布への対応: 予測集合が単一の区間ではなく、複数の disjoint な区間の和集合となり得ることを許容する一般化された手法を提供しました。
4. 不確実性の包括的扱い: 予測の不確実性（アウトカムの確率的性質）、部分識別によるモデル不確実性、サンプリング不確実性のすべてを考慮した予測枠組みを構築しました。

4. 結果 (Results)

シミュレーション研究

• モデル: 異分散性を持つ混合分布（多峰性）、固定検閲、歪んだ分布など、様々なシナリオを想定しました。
• 比較: 提案手法（CP, Local CP）と、分位点回帰に基づくコンフォーマル予測区間（CQR）を比較しました。
• 知見:
  • 提案手法は、多峰性分布において分位点回帰法が捉えきれない「分岐（Bifurcation）」構造を正確に予測し、より小さな体積（精度が高い）を実現しました。
  • 単峰性の場合でも、提案手法は分位点回帰法よりも小さな体積を維持しつつ、名目上の被覆率（90% など）を達成しました。
  • 局所コンフォーマル法（Local CP）は、共変量空間の境界付近での被覆率の改善に寄与しました。

実証分析

1. UK 求人広告データ（Adzuna）:
   • 賃金が区間で報告されている IT 業界の求人情報（約 19,000 件）を用いて、地理的位置（緯度・経度）と職種に基づいた賃金の予測集合を構築しました。
   • 結果: ロンドンやマンチェスターなどの大都市圏では、賃金の上限が非常に高く、予測区間が広くなる（賃金格差が大きい）ことを発見しました。点推定（中央値など）では見逃される「賃金分布の右側の厚み」を捉えることができました。
2. 米国 CPS データ（Current Population Survey）:
   • 所得が区間で報告されているデータ（約 39,000 人）を用いて、学歴と経験年数に基づく所得予測を行いました。
   • 結果: 区間データを含むモデル（Censored）と、区間データを補完（Imputation）して点値化したモデル（Imputed）を比較しました。
   • 補完モデルでは、特に分布の尾部（高所得層）において被覆率が名目値より大幅に低下する傾向があり、バイアスが生じていることが示されました。一方、提案手法（Censored）は名目被覆率に近い妥当性を示しました。

5. 意義と結論 (Significance)

• 実用的な価値: 経済調査や市場データにおいて「区間回答」は一般的ですが、従来の手法ではこれを無視するか、強い仮定（欠測メカニズムの特定など）の下で補完する必要があります。本研究は、そのような仮定を必要とせず、区間データそのものを活用して頑健な予測を行う方法を提供します。
• 統計的厳密性: 有限サンプルでの被覆率保証（Conformal Inference）と、漸近的な最適性（Oracle Prediction Set）の両立を実現しました。
• 将来の展望: 本研究は、区間検閲以外の部分識別問題（例：不確実な因果推論など）への拡張や、より効率的な適合スコアの設計など、今後の研究の基盤となるものです。

総じて、この論文は、不完全なデータ（区間データ）から、統計的に厳密かつ実用的に「最も情報量の多い予測範囲」を導き出すための強力な枠組みを提示しており、計量経済学および機械学習の分野において重要な進展と言えます。