技術要約：ニューラルネットワークの決定から学習ケースへ

問題提起

ニューラルネットワークは、医療診断、クレジット承認、エネルギー入札などの高リスクな領域でますます導入が進んでいますが、そこでの決定には特徴量レベルの説明以上のものが必要です。監査人やステークホルダーには、ケースレベルのエビデンス（事例レベルの証拠）、すなわち、決定を支持する特定の学習インスタンス、それらのインスタンスがもたらした結果、およびそれらが現在の行動の選好をどのように形成しているかという情報が必要です。特徴量属性手法（Shapley値など）は影響力のある入力変数を特定しますが、決定を学習データへと明示的に遡及させることはできません。

標準的なニューラルネットワークは、学習経験を学習パラメータへと吸収するため、展開された決定と関連する学習ケースとの接続は間接的なものになります。事例ベース意思決定理論（CBDT）は、記憶されたケースからの結果の集計によって推論を定式化していますが、固定された表現を持つ標準的なニューラルネットワークにこのフレームワークを適用することは、依然として未解決の課題です。核心となる問題は、固定されたニューラル表現に対する線形リードアウトの係数を、いつ、どのようにしてCBDTスタイルの類似度重みとして解釈すべきか、あるいは符号付きのグラム幾何学的影響項として解釈すべきかを判断すること、そして、再学習なしで事後的な監査を行うためにこの分解をどのように活用するかという点にあります。

手法

1. 理論的枠組み：厳密なケース分解

本論文は、固定された表現に対するOLS（最小二乗法）リードアウトと事例ベース推論との間の、厳密な数学的関連性を確立しています。

• 設定: 学習済みネットワークを、固定された表現マップ $\phi(x) \in \mathbb{R}^H$ を持つものとします。離散的なアクション $a$ について、リードアウトは線形です：$Q(x, a) = v_a^\top \phi(x)$。
• OLSリードアウト: 重みベクトル $v_a$ は、学習ケースから導出されたアクション条件付きリターンベクトル $r_a$ に対する二乗誤差を最小化するように、OLSを通じて適合されます。
• 厳密な分解: 著者らは、任意の入力 $x$ におけるアクション $a$ のリードアウト・スコアは、学習ケースのリターンの加重和として正確に表されることを導出しました：
  $$Q(x, a) = \sum_{i=1}^n \alpha_i(x) r_{i,a}$$
  ここで、係数 $\alpha_i(x) = \phi(x)^\top G^{-1} \phi(x_i)$ は、学習表現の経験的グラム行列 $G = \Phi^\top \Phi$ によって決定されます。
• 意味論:
  • CBDT 類似度レジーム: 表現が白化（whitened）されており（$G = nI_H$）、かつ係数が非負である場合、$\alpha_i(x)$ は標準的なCBDT類似度重み（スケーリングされた内積）として振る舞います。
  • 符号付きグラム幾何学的影響: このレジーム以外では、係数は符号付きであり、正規化されていません。これらは符号付きグラム幾何学的影響を表しており、正の係数は表現空間において近傍にあるケースがスコアを上昇させることを示し、負の係数は遠方の補正としてスコアを下げたり相殺したりする役割を果たします。

2. 監査シグナル

この分解に基づき、著者らは3つの監査シグナルを提案しています。

1. ケース監査スコア: アクション・スコアを寄与分 $\psi_i(a, x) = \alpha_i(x)r_{i,a}$ に分解します。絶対的な寄与度でソートすることで影響力のあるケースを特定し、符号でソートすることで、支持的なケースと相殺的なケースを区別します。
2. 影響エントロピー: 上位-$k$の影響力のあるケース間における、アクションのエビデンスのコヒーレンス（一貫性）を測定します。低いエントロピーは単一のアクションに対する一貫した支持を示し、高いエントロピーは相反するエビデンスを示唆します。
3. ケース影響リスク診断: 影響エントロピーと、上位10件のケース間のジニ不一致項を組み合わせることで、特に共変量シフトを検出する際に有用な、サポートが弱い、あるいは分散したクエリをフラグ立てします。

3. 実験設定

本手法は以下の環境で評価されています。

• 合成CBDTジェネレータ: 既知のケース選好構造の回収を検証するため。
• PJMエネルギー入札: 3アクションの入札問題に対する、合成価格リターンを用いた実負荷データ。
• UCIデータセット: 成人所得（承認タスク）およびデフォルトクレジット（リスクエクスポージャータスク）を、プロキシ・リターンを用いて使用。
• ベースライン: 影響関数（Influence Functions）、代表点選択（Representer Point Selection）、TracIn、および内積ベースライン。

主な貢献

1. 厳密なCBDTスタイルの説明: 本論文は、固定表現のOLSリードアウトに対しては、あらゆるアクション・スコアが学習ケースのリターンの厳密な集計になることを証明しています。これにより、ニューラルな決定から特定の学習ケースへと直接的かつ近似のない経路を提供します。
2. 意味論の明確化: 著者らは、ケースの重みがCBDT類似度重みとして機能する条件（白化・非負レジーム）と、符号付きグラム幾何学的影響として解釈しなければならない条件を特徴付けています。この区別により、監査の文脈における「類似性」と「影響力」の混同を防ぎます。
3. 再学習不要の監査フレームワーク: 提案手法は、固定された表現に対するトップレイヤーのOLSプローブを適合するだけで済みます。これは、元の最適化軌跡へのアクセスや、モデルの再学習、あるいは摂動ベースの近似を必要としません。

結果

• ケース構造の回収: 合成CBDT設定において、OLSリードアウトは最適なCBDTアクションに対して**96.0%**のテスト一致率を達成し、再構成されたサポート・スコアは、すべてのアクションにおいて真のCBDTサポートと強い相関を示しました。
• 属性の質: ベースライン（影響関数、代表点、TracIn）と比較して、提案手法は最高のTop-30アクション一致性（0.941 対 影響関数の0.909）を達成し、真のケース寄与度との競争力のあるピアソン相関係数を示しました。
• 実世界でのパフォーマンス:
  • PJM: ニューラル・ポリシーとCBDT意思決定者は、3358件のテスト決定のうち3221件で一致しました。不一致は低マージンの負荷遷移領域に集中していました。監査は、「積極的」なアクションが弱いサポートの整合性を持っていることを特定し、詳細な調査のためにフラグを立てることに成功しました。
  • UCIタスク: 高いネットワーク-CBDT一致が観察されました（Adult Incomeで0.9408、Default Creditで0.875）。監査は、Default Creditにおける「標準的な承認」アクションが最も忠実に再構成されにくいことを特定し、曖昧さを浮き彫りにしました。
• 診断的有用性: ケース影響リスク・スコアは、標準的なネットワーク・マージン・ベースラインと比較して、共変量シフト下での誤った予測を検出する際のAUCを向上させ、弱くサポートされたクエリを特定する有用性を実証しました。

意義と主張

本論文は、学習ケースの基底を代数的に明示的にすることで、ニューラルな決定に対する実践的な事後監査の視点を提供することを主張しています。

• 範囲に関する謙虚さ: 著者らは、この厳密な分解が固定表現のOLSリードアウトに適用されることを明示しています。任意のエンドツーエンドの非線形学習が、この削減なしに同様の分解を許容すると主張しているわけではありません。
• 解釈性の境界: 本フレームワークは、取得されたケースが一様に「支持的」ではないことを明らかにしています。負の係数は幾何学的な補正として重要な役割を果たします。監査の妥当性は、プローブの忠実度（スコア再構成によって測定）に依存します。
• 実用性: 本手法はトレードオフを提供します。サブミリ秒単位のベースラインと比較して、クエリあたりのレイテンシは高くなりますが（約58.6 ms）、再学習や学習軌跡へのアクセスなしに、より強力な決定関連のケース検索を提供します。

本研究は、ケースベース意思決定理論の理論的厳密さと、ニューラルネットワークの実装を橋渡しし、学習履歴の観点から高リスクなAIの決定を追跡、検査、および異議を申し立てるためのツールを提供します。