技術要約：条件付き妥当性を備えた柔軟な勝者への推論

問題提起

多くの実証的なワークフローにおいて、研究者はデータ駆動型の基準（最大の推定治療効果、最高のモデル性能、あるいは最も高い特徴量の重要度など）に基づき、トップパフォーマンスを示す一連の選択肢（勝者）を選択し、その後、選択されたユニットの推定効果を報告する。選択と推定の両方に同じデータが使用されるため、ナイーブなポストセレクション推定は「勝者の呪い（winner's curse）」に陥り、系統的に楽観的な結果を生み出し、信頼区間の被覆率が公称値を下回ることになる。

既存の文献も解決策を提示しているが、それらは重大なトレードオフに直面している：

• 同時的／周辺的推論（Simultaneous/Marginal Inference）： あらゆる可能な選択結果に対して平均的に妥当性を保証する手法は、与えられたデータセットから観察された特定の勝者に対する妥当な推論を提供できないことが多い。
• 条件付き推論（Conditional Inference）： 既存の条件付きアプローチ（ポリヘドロン法やデータ分割など）は、特定のパラメトリックモデルや特定の選択ルールに限定されることが多く、また、競合他社が僅差である場合には、極端に広い、あるいは不安定な区間を生成することが多い。

中心となる課題は、選択の質を損なったり、不合理に広い区間を生み出したりすることなく、かつ非パラメトリックな設定にも適用可能でありながら、条件付き被覆保証（観察されたデータから選択された特定の勝者に対する妥当性）を提供する手法を開発することである。

手法

著者らは、データ適応型の指数型ランダム化スキームに基づく柔軟な条件付き推論手法を提案している。核心となるアイデアは、決定論的な「ハード」な選択ルール（スコアが最も高い上位$k$個のアイテムを選択する）を、スコアに比例した確率分布に従って勝者をサンプリングするランダム化された選択ルールに置き換えることである。

1. ランダム化選択スキーム

スコア $s_E(T)$ を最大化する決定論的な集合 $E^*$ を選択する代わりに、全 $k$ 個のサブセットの集合 $\mathcal{E}_k$ から、以下の離散確率分布を用いて勝者の集合 $\hat{E}$ をサンプリングする：
$$P[\hat{E} = E \mid T = t] = \frac{\exp\left(\frac{s_E(t)}{\tau \cdot \sigma_s(t)}\right)}{\sum_{E' \in \mathcal{E}_k} \exp\left(\frac{s_{E'}(t)}{\tau \cdot \sigma_s(t)}\right)}$$
ここで：

• $s_E(t)$ は、データ $t$ が与えられたときの加法的なサブセットのスコアである。
• $\sigma_s(t)$ は、全サブセットにわたるスコアの分散であり、スケール不変性を保証する。
• $\tau$ は、ランダム化のレベルを制御する温度パラメータである。

チューニングフリーの較正： 本論文では、手動でのチューニングなしに $\tau$ を較正するために、「後悔（regret）」という概念を導入している。ユーザーが指定した後悔予算 $q$（標準的なトップ$k$ルールに対する選択の質の許容可能な損失）を設定することで、温度は $\tau \leq q / \log |\mathcal{E}_k|$ として自動的に決定される。これにより、ランダム化された選択が標準的なトップ$k$ルールに密接に一致しながら、妥当な推論を可能にする。

2. 推論ワークフロー

観察された勝者の集合 $E_o$ が得られた後、本手法は効果 $\mu_{E_o}$ に対する妥当な条件付き信頼区間を構築する。ワークフローは以下の3つのステップで構成される：

1. 妨げとなるパラメータ（Nuisance Parameters）を除去するための条件付け： 著者らは、ターゲットとなるパラメータ $\mu_{j_o}$ に対して直交する十分統計量 $T^\perp_{j_o}$ を特定し、選択イベント $\{\hat{E} = E_o\}$ および $T^\perp_{j_o}$ を条件としたターゲット統計量 $T_{j_o}$ の条件付き密度が、妨げとなるパラメータに依存しないようにする。
2. 閉形式の条件付き密度： 指数メカニズムの特定の設計により、条件付き選択確率 $P[\hat{E} = E_o \mid T = t]$ が**閉形式（closed form）**で利用可能であることは、主要な理論的貢献である。ポリヘドロン法は選択イベントを多面体として特徴付ける必要があるが、このアプローチは選択イベントの解析的な記述を必要としない。条件付き密度は以下のように導出される：
   $$f(t \mid \hat{E}=E_o, T^\perp_{j_o}=t^\perp) \propto \phi(t; \mu_{j_o}, \sigma^2_{j_o}) \times \Lambda_{E_o}(t, t^\perp)$$
   ここで、$\Lambda_{E_o}$ は指数メカニズムから導出された選択重みである。
3. ピボットの構築： この条件付き密度に確率積分変換を適用することで、ピボットを構築する。このピボットは、選択イベントを条件として $Uniform(0,1)$分布に従うため、反転を通じて正確な$p$ 値および信頼区間を構築できる。

3. 漸近理論

本手法は、選択統計量が漸近線形（asymptotically linear）である非パラメトリックな設定へと拡張される。緩やかな正則性条件（有界なスコア微分および統計量の漸近線形表現）の下で、ピボットは漸近的に妥当であることが示されている。これにより、基礎となるデータがガウス分布に従わない場合でも、二値出力（A/B/n テスト）、ランキングモデル（Bradley–Terry–Davidson）、および非パラメトリックな特徴量の重要度などに本手法を適用することが可能となる。

4. 効率的な実装

指数メカニズムの正規化定数の計算には、指数関数的に多くのサブセットの総和が含まれる。著者らは、スコアの加法的な構造を利用して、この総和を初等対称多項式として表現し、動的計画法を用いて $O(pk)$ 時間で評価できることを利用している。これにより、効率的なサンプリングと推論のための選択重みの計算が可能となる。

主な結果

本論文では、提案された「Randomized PSI」手法を、3つのベースライン（補正なしの標準的なトップ$k$ルール、「Polyhedral PSI」（条件付きだがしばしば広い）、「Data Splitting」（条件付きだが選択の質が低下する））と比較評価している。

1. 選択の質： 提案手法はゼロに近い後悔を達成し、標準的なトップ$k$ルールとほぼ同等の勝者を選択する。対照的に、データ分割は、選択のためにデータの一部のみを使用するため、大幅に高い後悔を伴う。
2. 被覆率： 本手法は、選択された勝者に対して公称条件付き被覆率（例：95%）を達成する。これは、条件付き妥当性を提供できない周辺的なベースライン（「Zoom Correction」など）よりも優れている。
3. 区間長： 提案手法は、ポリヘドロン的アプローチよりも大幅に短い信頼区間を生成する。ガウス分布のシミュレーションにおいて、ポリヘドロン的な区間は、一部の設定で496%も長くなることが確認された。データ分割は同様に短い区間を生成するが、それは選択の質を犠牲にすることで実現されている。
4. 非パラメトリックな適用可能性： 本手法は、漸近的な保証に依拠することで、非ガウスデータ（二値出力、ペア比較、ブラックボックスの特徴量の重要度）を正常に扱うことができる。これは、既存の多くの条件付き手法がガウス分布または特定のパラメトリックモデルに制限されているのと対照的である。

意義と主張

著者らは、自らの研究がポストセレクション推論における重要なギャップを埋めるものであると主張している：

• 柔軟性： 本手法は、臨床試験、リーダーボードのモデル評価、特徴量の重要度など、多様なアプリケーションをカバーする、漸近線形統計量を伴う広範な非パラメトリック設定に適用可能である。
• 解析的な扱いやすさを伴わない条件付き妥当性： 選択イベントの解析的な特徴付けを必要とせずに、正確な（または漸近的に正確な）条件付き推論を提供する。これは、従来の条件付き手法における大きな制限であった。
• バランスの取れたトレードオフ： 選択の質と推論能力の間の緊張関係を解消する。後悔によって導かれるチューニングフリーのランダム化スキームを用いることで、推論能力の向上（より短い区間）が、劣った勝者を選択するというコストを伴わないことを保証する。
• 実用的な有用性： 本手法は、競合他社が僅差である場合に既存の条件付きアプローチが生成するしばしば無限または不安定な区間とは異なり、数値的に安定し、かつ短い区間を生成する。

本論文は、このランダム化アプローチが、単に「勝者の呪い」に対処するためだけでなく、勝者と準優勝者の比較を含む、より広範なポストセレクション推論の問題に対しても、将来の研究に向けた有望なフレームワークを提供することを結論付けている。