🤖 machine learning

Explaining a probabilistic prediction on the simplex with Shapley compositions

本論文は、Aitchison幾何学に基づいた新たなフレームワークである「シャプレイ組成（Shapley compositions）」を導入するものであり、これは、従来のone-vs-rest型のシャプレイ値アプローチの限界を克服し、多クラス確率予測の組成的な性質を適切に考慮することで、それらを説明するための数学的に厳密かつ一意な手法を提供するものである。

原著者： Paul-Gauthier Noé, Miquel Perelló-Nieto, Jean-François Bonastre, Peter Flach

公開日 2026-06-04

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Paul-Gauthier Noé, Miquel Perelló-Nieto, Jean-François Bonastre, Peter Flach

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

機械学習モデルがなぜ特定の予測を行ったのか、その理由を解明しようとしている場面を想像してください。例えば、あるモデルが「晴れ」「雨」「雪」の3つの事象が起こる確率を予測する、天気予報モデルだとしましょう。

問題点：「One-vs-Rest（一対他）」の罠

従来、これらの予測を説明するために使われてきたツール（シャプレー値と呼ばれます）は、一本道の道路のようなものです。これらは二値選択（Yes/Noや、晴れ/雨など）には優れています。しかし、選択肢が3つ以上ある場合、古いツールは各選択肢を個別に説明しようとしてしまいます。

それらは次のように出力します：

「特徴量Aは、『晴れ』の確率を10%高めた。」
「特徴量Aは、『雨』の確率を5%下げた。」
「特徴量Aは、『雪』の確率を2%下げた。」

論文によれば、これは個々のダンサーの動きだけを見て、ダンス全体を理解しようとするようなものです。これでは大きな全体像を見落としてしまいます。なぜなら、確率は互いに関連しているからです。もし「晴れ」の確率が上がれば、「雨」と「雪」の確率は必ず下がります。なぜなら、合計確率は常に100%にならなければならないからです。古い手法は、この「綱引き」のような関係性を無視してしまっています。

解決策：シャプレー組成（Shapley Compositions）

著者らは、**シャプレー組成（Shapley Compositions）**という新しい手法を導入しています。彼らは予測を別々の数字の集まりとしてではなく、単一の統一された「レシピ」または「混合物」として扱います。

これを実現するために、彼らは**アチソン幾何学（Aitchison geometry）**という特別な数学的ツールキットを使用します。これは、混合物のルールを尊重する、新しい空間の測定方法だと考えてください。

比喩：フレーバー・ブレンダー（味のミキサー）
モデルの予測を、ストロベリー、ブルーベリー、バナナの3つのフレーバーで作られたスムージーだと想像してください。

ベースとなる予測は、マシンが全員に対して作る平均的なスムージーです（例えば、それぞれ33%ずつ）。
実際の予測は、あなたへの注文に対する特定のスムージーです（例えば、ストロベリー80%、ブルーベリー10%、バナナ10%）。

この新しい手法では、すべての特徴量（例えば「砂糖の量」や「氷の量」）は、**ブレンダーの押しボタン（操作）**となります。

「砂糖がストロベリーを増やした」と言う代わりに、新しい手法はこう言います。「『砂糖』という特徴量が、スムージーの混合物を、平均的な地点からストロベリーの角へと押し進めた。」
フレーバーは互いに結びついているため、ストロベリーの方へ押し進めることは、自動的にブルーベリーやバナナから遠ざけることを意味します。新しい手法は、この動きを、3つの別々の数字としてではなく、単一の統一されたベクトル（矢印）として捉えます。

仕組み（「幾何学」の部分）

この論文は、この新しい手法が、以下の3つの黄金律を遵守しながら、特徴量間で公平に貢献度を分割する唯一の方法であることを証明しています。

線形性（Linearity）: 2つのモデルを組み合わせると、その説明はそれらの説明の組み合わせになります。
対称性（Symmetry）: 2つの特徴量が全く同じ働きをする場合、それらは全く同じ貢献度を得ます。
効率性（Efficiency）: すべての「押し（特徴量）」の合計は、平均的な地点からあなたの特定の注文へと、スムージーを完璧に移動させなければなりません。貢献度が失われることも、余分な貢献が捏造されることもありません。

結果の可視化

論文では、これらの説明を描画する方法を示しています。

三角形のマップ: 彼らは3つのフレーバーを一つの三角形上にマッピングしています。中心は平均であり、角は純粋なフレーバーを表します。特徴量による「押し」は、中心から特定の角に向かってスムージーを動かす矢印として描かれます。
ヒストグラム: 彼らはまた、「押し」を棒グラフとしても示しています。もしある特徴量が強く「晴れ」へと押し進めるなら、晴れの棒は高くなり、他の要素の棒は低下します。

なぜこれが重要なのか

論文では、アヤメ（Iris）データセットや手書き数字の認識などの例を用いて、これを実証しています。

古い方法: 花の種類ごとに紛らわしい数字のリストが得られ、それらがどのように組み合わさっているのかを推測しなければなりません。
新しい方法: 特徴量（例えば花びらの長さ）が、どのようにして平均的な花から、目の前にある特定の種類の花へと予測を物理的に「動かした」のかという、明確なイメージが得られます。

要約すると： この論文は、複雑で多肢選択的な予測を、個別の数字のリストとしてではなく、単一の、変化する混合物として扱うことで、それらを説明するための、数学的に健全な新しい方法を提示しています。これにより、ある選択肢の確率を高めることは、他の選択肢を下げなければならないという事実を、説明が尊重することを保証しています。

技術要約：単体（Simplex）上の確率的予測に関するシャプレー組成の説明

問題提起
マルチクラス分類を行う機械学習モデルは、スカラー値ではなく離散的な確率分布を出力することが多い。これらの出力は多次元単体（Simplex）上に存在している。シャプレー値は、特徴量の貢献度を定量化することでスカラー予測を説明するための標準的なツールであるが、マルチクラス設定への直接的な適用には問題がある。従来のアプローチは、各クラスに対して個別にシャプレー値を計算する（one-vs-rest または one-vs-one）。この手法は、出力の組成的な性質（相対的な値の重要性）を無視しており、確率単体の幾何学的構造を尊重できていない。さらに、各クラスに対して個別に値を計算することは、ベースとなる予測から最終的な予測への累積的な経路が確率単体の空間を逸脱してしまうという、不整合な説明を招く可能性がある。

手法
著者らは、組成データ解析における**アイチソン幾何学（Aitchison geometry）を用いて、離散確率分布の空間へとシャプレー値を拡張するフレームワークであるシャプレー組成（Shapley compositions）**を提案している。

アイチソン幾何学: 本論文では、確率単体（ $S_D$ ）を標準的なユークリッド空間としてではなく、特定の演算を持つ空間として扱う：
- 摂動（Perturbation, $\oplus$ ）: 組成間の加算として機能する。
- 累乗（Powering, $\odot$ ）: スカラー倍として機能する。
- 内積: 部分間の対数比として定義される。
- 等長対数比（ILR）変換: 単体を $(D-1)$ 次元のユークリッド空間（ $\mathbb{R}^{D-1}$ ）に写像し、メトリックを保持したまま、標準的なベクトル演算（加算、減算）が摂動や累乗を表現できるようにする。
シャプレー組成の定義:
- 特性関数は、特徴量の部分集合をアイチソン減算（ $\ominus$ ）を用いて単体に写像するように再定義される。これは、特徴量が観測された際の期待予測の変化を表す。
- ある特徴量のシャプレー組成は、すべての可能な連合（coalition）におけるこれら摂動の平均として定義される。この際、標準的な和とスケーリングではなく、アイチソン演算（摂動と累乗）を用いて計算される。
- 数学的に、シャプレー組成 $\phi_i$ は、アイチソン単体上で線形性（Linearity）、対称性（Symmetry）、および**効率性（Efficiency）**を満たす一意の量である。
- ここでの効率性は、ベースとなる分布（期待予測）に対するすべてのシャプレー組成の総和による摂動が、最終的な予測分布に等しくなることを保証する： $\bigoplus_{i=1}^d \phi_i = f(x) \ominus E_A[f(X)]$ 。
可視化と分析:
- ILR空間: シャプレー組成は、 $(D-1)$ 次元のILR空間内のベクトルとして可視化される。これにより、角度（直交性／冗長性）、ノルム（貢献の強さ）、およびクラス組成への投影（影響の方向）の分析が可能になる。
- 代替的な可視化: 高次元の場合、論文では組成をヒストグラム（特徴量ごとの分布シフトを示す）として可視化するか、あるいはベースから予測へと確率分布を逐次的に摂動させていく過程を追跡するためにパラレルコーディネート（平行座標）を使用することを提案している。

主な貢献

形式的な定義: 本論文は、マルチクラスの確率的予測を説明するために、シャプレー値を多次元単体へと拡張する原理的な手法として、シャプレー組成を定義している。
公理的証明: 著者らは、シャプレー組成がアイチソン単体上で線形性、対称性、および効率性を満たす唯一の量であることを証明し、マルチクラス設定へのシャプレー値の理論的基礎を拡張した。
幾何学的フレームワーク: 本研究は、特徴量の貢献を単体上の加法的な摂動として扱う一貫した幾何学的解釈を確立しており、one-vs-rest アプローチが確率空間を逸脱してしまう問題を回避している。
可視化ツール: 多次元的な貢献を解釈するために特化した可視化技術（ILRプロット、ヒストグラム、パラレルコーディネート）を導入している。

結果とデモンストレーション
本論文は、大規模な経験的ベンチマークではなく、概念実証のデモンストレーションを提供している：

Irisデータセット（3クラス）: 2DのILR空間で可視化されており、花弁の長さや幅といった特徴量が、ベースとなる分布をどのように「versicolor」領域へと摂動させるかを示している。この分析は、シャプレー組成がいかに個別のSHAP値よりもクラス間のトレードオフ（例：あるクラスの確率を増加させると必然的に他のクラスの確率が減少すること）を整合的に捉えているかを強調している。
数字認識（4クラスおよび10クラス）:
- 4クラスのタスク（数字0–3）は、単体の四面体構造を示すように3D ILR空間で可視化されている。
- 10クラスのタスクは、バランス（balances）（クラス群の対数比）の使用を実証している。これにより、高次元空間全体を可視化することなく、特定のクラス群（例：奇数 vs 偶数、または特定の数字のペア）を比較する部分空間に焦ニ集中して解釈することが可能になる。
推定: 著者らは、既存のサンプリングアルゴリズム（SHAPツールキットから）をシャプレー組成の推定に適応させており、近似において効率性の特性が保持されるために調整が必要であると述べている。

意義と主張
本論文は、マルチクラスの確率的予測を説明するために、多次元単体へのシャプレー値フレームワークの正式な拡張を提案した最初の研究であると主張している。

理論的基礎: 主な貢献は理論的および手法的なものであり、マルチクラス出力の組成的な性質を扱うための「根拠のある」方法を提供している。
整合性: one-vs-rest による説明の問題を解決し、説明の経路が確率単体内に留まり、分布を単一のエンティティとして扱うことを保証している。
今後の課題: 著者らは、実験結果が例示的なものに限定されていることを謙虚に認めている。彼らは、計算量（特徴量の数に伴うスケーリング）および特徴量の独立性の仮定を現在の限界として特定しており、依存関係のある特徴量のための推定アルゴリズムや大規模なアプリケーションの開発を今後の研究課題としている。