技術要約：tSeTlinマシンを用いたターゲット・コンフィデンス・リコース（TRUST）

問題提起

反事実的説明（Counterfactual Explanations, CEs）は、高リスクな意思決定システム（例：クレジット承認、臨床リスク層別化）において、アルゴリズムによるリコース（救済策）を提供するための標準的なメカニズムです。従来の定式化におけるリコースは、入力 $x$ からモデルの判定をネガティブからポジティブへと反転させるために必要な最小限の変化 $x'$ を求める最適化問題です。形式的には、予測確率 $M(x') \geq 0.5$ という制約条件下で、距離 $d(x, x')$ を最小化する問題となります。

本論文は、このバイナリ（二値）的な枠組みにおける2つの決定的な限界を指摘しています。

1. 脆弱性（Fragility）： 決定境界付近（$M(x') \approx 0.5$）で生成された反事実的説明は、ノイズ、モデルの更新、または摂動に対して不安定になることがよくあります。これらは技術的にはラベル反転の条件を満たしていても、信頼度のマージンが低いために、実用上の運用に失敗する可能性があります。
2. 意思決定との不整合： 現実世界の意思決定システムでは、明示的な信頼度閾値（例：承認には80%の信頼度が必要など）が頻繁に使用されます。既存の手法は、「少なくとも80%の信頼度で承認を得るためには、最小限のどのような変化が必要か？」という問いに直接答えることができません。これらは、信頼度を事後的な属性として扱っており、ユーザーが指定可能な最適化ターゲットとして扱っていません。

先行研究では、マージン制約や近傍の妥当性を通じて間接的に堅牢性（Robustness）に対処したり、不確実性を考慮した手法（CLUEや確率的証明など）が存在したりしますが、リコースの生成プロセスにおいて、ユーザーが望ましい信頼度レベルを直接的な制約として指定できる手法は存在しません。

手法：TRUSTフレームワーク

著者らは、リコースを「ターゲット・コンフィデンス問題」として再定式化するフレームワークである TRUST（Target-confidence Recourse Using tSeTlin machines）を提案しています。

1. 問題の定式化

標準的なCE（$\tau = 0.5$ のときに回収されるもの）は、距離 $d(x, x')$ を最小化しつつ、ユーザー定義のターゲット・コンフィデンス $\tau \in (0.5, 1)$ と許容誤差 $\epsilon$ を満たすという制約の下で、以下を求めます：
$$\min_{x'} d(x, x') \quad \text{subject to} \quad |M(x') - \tau| \leq \epsilon$$
この定式化は標準的なCEを一般化しており、コストと堅牢性の間の原理的なトレードオフ分析を可能にするため、様々な信頼度レベルでのリコース・オプションの生成を可能にします。

2. モデルの実装：確率的Tsetlinマシン（PTM）

このフレームワークを実装するために、著者らは 確率的Tsetlinマシン（PTM） と ベイズ最適化（BO） を組み合わせて使用しています。

• なぜPTMなのか？ 予測の信頼度スコアが直接的な解釈性を欠くブラックボックス型の確率的分類器（較正されたニューラルネットワークなど）とは異なり、PTMは予測を、確率的な活性化を伴う人間が解釈可能な論理節（Logical Clauses）へと分解します。この構造により、モデルは特徴量の変化を予測の信頼度の変化に直接結びつけることができます。
• なぜベイズ最適化なのか？ 反事実的説明の探索空間は非凸であり、特に確率的なモデルを扱う場合は評価コストが高くなる可能性があります。BOは、ターゲットとなる信頼度 $\tau$ に一致する候補を見つけつつ距離を最小化するために、探索と利用のバランスを取りながら入力空間を効率的に探索するために採用されています。正則性の条件下での理論的保証により、漸近的な最適性が確保されます。

3. 節レベルの反事実的属性付け（Clause-Level Counterfactual Attribution）

TRUSTフレームワークの明確な貢献は、節レベルの属性付け（Clause-level attribution） が可能である点です。同じターゲット・コンフィデンスを達成しながらも、コストや安定性が異なる複数の反事実的説明が存在する場合、PTMの構造を利用することで、実務者はこれらの違いを特定の論理規則に遡って特定することができます。

• フレームワークは、個々の節の「発火確率（Firing Probabilities）」を分析します。
• ある反事実的説明が、ルールを堅牢に満たしているのか（ルールの確率的境界の深い位置にある）、あるいは脆弱に満たしているのか（ルールの条件の端に近い）を識別します。
• これにより、なぜあるリコース・オプションが他方よりも信頼できるのかについて、メカニズムに基づいた説明を提供します。これは、ブラックボックスモデルによる特徴量レベルの説明にはない能力です。

主な貢献

1. ターゲット・コンフィデンス定式化： 本論文は、予測の信頼度が事後的な特性ではなく、ユーザー指定の制約となる最初のCE目的関数として、式(2)を導入しました。これにより、パラダイムを「最小限のラベル反転」から「特定の不確実性閾値を満たすための最小限の変化」へとシフトさせました。
2. 節レベルの属性付け： PTMを活用することで、特徴量レベルの変化を解釈可能な論理節を介して信頼度の変化へと結びつける、新しい説明レイヤーを可能にしました。これにより、基礎となる意思決定ルールの安定性に基づいて、競合するリコース・オプションを比較することが可能になります。
3. 設計による堅牢性（Robustness by Design）： 本フレームワークは、信頼度を考慮した反事実的説明と堅牢性の間の実用的な関連性を確立しています。高い信頼度レベルを直接ターゲットにすることで、事後的なフィルタリングを通じてではなく、構成によって堅牢性が達成されます（ポジティブクラスの領域のより深くへ移動することによる）。

実験結果

著者らは、2つの合成データセット（2Dおよび5D）と、2つの実世界のデータセット（Irisの二値分類およびHaberman生存解析）を用いてTRUSTを評価しました。TRUST（PTM + BO）を、CARLAライブラリに含まれる標準的な勾配ベース（Wachter）およびサンプリングベース（GrowingSpheres）のベースラインと比較しました。

主な知見：

• 堅牢性とコストのトレードオフ： TRUSTは明示的な制御を可能にします。低いターゲット・コンフィデンス（$\tau=0.50$）では、TRUSTは最小限の距離を持つ反事実的説明を生成します（ベースラインと同等またはそれ以上）。高いターゲット・コンフィデッション（$\tau=0.85$）では、TRUSTは、リコース・コストを低く維持しつつ、ノイズに対して著しく堅牢な（いくつかのベンチマークで100%の堅牢性を達成する）反事実的説明を生成します。
• パフォーマンス指標： Habermanデータセットにおいて、TRUSTは0.92の信頼度で0.10のL2距離を達成し、完全な堅牢性を示しました。これは、高い信頼度を維持しようとすると堅牢性を損なってしまうベースラインを上回る結果でした。
• 解釈性： Habermanデータセットにおける定性的分析では、同じ論理ルール（例：「陽性リンパ節 $\leq 4$」）を満たす2つの反事実的説明が、全く異なる信頼性を持ち得ることが示されました。TRUSTの節レベルの分析は、リンパ節が4である反事実的説明は脆弱（ルールの境界付近）であるのに対し、リンパ節が2であるものは堅牢であることを明らかにし、信頼度の安定性の違いをメカニズム的に説明しました。

意義と主張

本論文は、TRUSTが、高リスクな設定における**「信頼度を考慮した、解釈可能なアルゴリズムによるリコースの基盤」**を提供すると主張しています。その意義は以下の点にあります：

• 最適化目的の転換： バイナリなラベル反転から、ユーザー定義のリスク閾値を満たすことへと移行することは、規制や実務的な意思決定（EU AI法やGDPRなど）のニーズにより適合します。
• メカニズムに基づく説明： 特徴量レベルの変化のみを提供する従来のメソッドとは異なり、TRUSTは基礎となる論理的節（Clause）の安定性を露出させることで、なぜあるリコース・オプションが堅牢、あるいは脆弱であるのかを説明します。
• 実用的有用性： 意思決定者が、単に「最も安価な」オプションを受け入れることを強制されるのではなく、透明性のあるコスト・信頼度・堅牢性のスペクトラムに基づいて、リコース・オプションを選択できるようにします。

著者らは、本フレームワークが適切に較正された確率的予測に依存していること、現在の実装（PTM）が勾配ベースの手法と比較して計算オーバーヘッドがあること、およびより大規模なベンチマークでの広範な検証が今後の課題であることを述べ、限界についても謙虚に言及しています。しかし、提案されたフレームワークが、理論的なリコースと、安定して実行可能な意思決定支援との間のギャップを正常に解消していると主張しています。