技術要約: RECAST

問題提起

本論文は、データアクセスが極めて限定的であり、かつクエリ予算が制限されている状況下でのモデル再構成（ブラックボックス分類器を模倣する代理モデルの作成）という課題に取り組んでいる。このシナリオは、MLaaS（Machine Learning-as-a-Service）プラットフォームを監査する第三者が、再構成中にターゲットモデルと対話的にクエリを投げることができず、固定されたオフラインデータセットに依存しなければならない場合に、実社会で頻繁に発生する。

具体的には、著者らは**片方向の反事実的説明（Counterfactual Explanations; CFs）**のみが利用可能な設定に焦点を当てている。多くの現実世界のアプリケーション（例：ローンの拒絶）では、ユーザーは否定的な結果を肯定的なものに変える方法についての説明は受け取るが、その逆については受け取れない。既存のCFベースの再構成手法は、このレジームにおいて3つの決定的な限界に直面している：

1. 決定境界のシフト: CFをターゲットクラスのハードラベル付きサンプルとして扱うと、境界付近の領域で代理モデルが過剰に自信を持ち、決定曲面を誤ってシフトさせてしまう（図1に示される通り）。
2. 過学習: ニューラルネットワークベースのアプローチは、訓練データが乏しくクエリ予算が厳しい場合、過学習に苦しむ。
3. 非識別性: 片方向のCFアクセスと限定的なクエリの下では、真の決定境界は統計的に非識別である。すなわち、同一の入出力挙動を生み出す異なる分類器が複数存在し得る。したがって、一意の幾何学的境界を復元しようとすることは、問題設定として不適切（ill-posed）である。

手法: RECAST

著者らは、明示的な決定境界ではなく、クラスレベルの分布を再構成する挙動中心のアプローチであるRECAST（REconstruction via Counterfactual-Aware waSserstein opTimization）を提案する。

1. CF整合的な不確実性集合

CFが決定境界上に正確に存在すると仮定する代わりに、RECASTはこれらをソフトな交差クラス制約として扱う。各クラス $c \in \{0, 1\}$ に対して、CF整合的な実行可能集合 $\mathcal{C}_c$ を定義する。これは、以下の2つのワッサースタイン・ボールの積集合である：

• 経験的なクラス条件付き分布 $P_c$ を中心とするもの。
• 片方向の反事実的分布 $P_{cf}$ を中心とするもの。

これにより、ワッサースタイン空間における「レンズ型」の曖昧性集合が作成され、サンプリングの不確実性と、反事実的説明によって課される幾何学的制約の両方がエンコードされる。

2. ロバスト・ワッサースタイン・バリセンター

この不確実性集合内で各クラスの安定した代表値を見つけるために、RECASTは**ワッサースタイン・バリセンター（Wasserstein barycenters）**を計算する。定理3.2は、実行可能集合における最悪ケースの分布再構成リスクを最小化することは、以下の加重二乗ワッサースタイン距離の総和を最小化するプロトタイプ $Q_c^*$ を見つけることと等価であることを確立している：
$$Q_c^* = \arg\min_{\mu} \left( (1-\lambda_c)W_2^2(\mu, P_c) + \lambda_c W_2^2(\mu, P_{cf}) \right)$$
ここで、$Q_c^*$ は元のクラスデータと反事実データの2-ワッサースタイン・バリセンターである。混合重み $\lambda_c$ は、分布（$P_c, P_{cf}$, および反対のクラス $P_{1-c}$）の相対的な幾何学から標準的に導出され、不確実性の半径を明示的にチューニングする必要がないことを保証する。

3. バリセントリック・プロトタイプ分類器

最終的な代理モデル $\hat{m}$ は、入力 $x$ のワッサースタイン距離を学習されたクラス・プロトタイプと比較することで分類を行う：
$$\hat{m}(x) := \arg\min_{c \in \{0, 1\}} W_2(\delta_x, Q_c^*)$$
ここで $\delta_x$ は $x$ におけるディラック測度である。この分類器は**CF識別可能（CF-identifiable）**であり、つまりその決定挙動は、不確実性集合内における基礎となる分布の特定の実現状態に対して不変である。

4. 公平性診断

本フレームワークは、**閾値不変デモグラフィック・パリティ（TIDP）および閾値不変等価オッズ（TIEO）**をワッサースタイン幾何学に適応させている。ワッサースタインに基づくスコアの感応グループ間の分布を比較することで、本手法は、特定のカットオフに依存せず、あらゆる決定閾値にわたって持続する公平性の格差に関する体系的な診断を提供する。

主な貢献

• RECASTフレームワーク: 片方向のオフラインCFアクセス用に特別に設計された、反事実的注意型ワッサースタイン・バリセントリック・プロトタイプを用いた挙動的モデル再構成のための新しいソリューション。
• 理論的根拠: CF整合的な不確実性の下でのロバスト・リスク境界の最小化がワッサースタイン・バリセンターを導くという証明を提供し、境界が非識別であっても、クラス分布の安定した幾何学的表現を実現する。
• 公平性監査ツール: 再構成された決定幾何学に対する感応グループ間の分布的格差を定量化する、幾何学ベースの診断手法。
• 実証的検証: 4つの実世界のデータセット（Adult, COMPAS, HELOC, California Housing）を用いた広範な実験により、RECASTが特に低クエリ・レジームやノイズ条件下において、ベースライン（SAMPLES, CCA, TRA）よりも高い忠実度（fidelity）とクエリ効率を達成することを実証した。

実験結果

• 忠実度（Fidelity）: RECASTは、様々なターゲットモデル（MLP, Logistic Regression, Decision Trees）およびデータセットにおいて、忠実度（ターゲットモデルの予測との一致度）に関して一貫してベースラインを上回る。特に、他の手法が過学習や境界シフトに陥る低クエリ・レジーム（例：100サンプル）において顕著な優位性を示す。
• 堅牢性（Robustness）: 本手法は、加法的ノイズや分布シフト（例：カリフォルニアからミシガンへのクロスドメイン評価）に対して優れた安定性を示す。ベースラインが決定閾値付近で著しく劣化する一方で、RECASTは緩やかに劣化する。
• CF生成器: RECASTは、CF生成手法（MCCF, DiCE, ROARなど）に関わらず高い忠実度を維持する。これに対し、ベースラインはCFの特定の特性や「オーバーシュート」挙動に対して非常に敏感である。
• 公平性: 提案された診断手法は、摂動下であっても、ターゲットモデルの公平性の特性を競合手法よりも忠実に保持することを示す。

意義と主張

本論文は、データアクセスが制限され、クエリ予算が限られている高リスク領域（金融、刑事司法、ヘルスケア）において、RECASTを不透明な意思決定システムを監査するための実用的なツールとして位置づけている。

• 挙動への焦点: 著者らは、片方向のCFアクセス下では、一意の真の決定境界を復元することは不可能であると強調している。代わりに、RECASTは挙動の等価性、すなわち統計的に識別可能な入出力関係の再構成に焦点を当てている。
• 規制上の関連性: 本研究は、モデルの内部パラメータや訓練データへのアクセスを必要とせずに、モデルの挙動、透明性、および公平性の独立した調査を可能にすることで、EU AI法などの規制の目標を支援するものである。
• 限界: 著者らは、現在の手法が二値分類に限定されていること、および受動的な観察（プラットフォームとの戦略的な敵対的相互作用を行わないこと）の仮定に基づいていることを控えめに述べている。また、ワッサースタイン距離は計算負荷が高いものの、本手法が対象とする低データ・レジームにおいては計算可能であることを認めている。

要約すると、RECASTは、限られた片方向の反事実的フィードバックのみが利用可能な場合に、ブラックボックスモデルを再構成するための、数学的に厳密で実証的に検証されたアプローチを提供しており、境界の復元という不可能なタスクよりも、安定性と挙動の忠実度を優先している。