Axiomatic Foundations of Counterfactual Explanations

あなたは、謎めいたハイテクな自動販売機の前に立っているところだと想像してください。お金を入れ、ボタンを押すと、ソーダが出てきました。しかし、あなたはこう問いかけます。「なぜジュースではなかったのか？」

現在のほとんどのAI説明手法は、この問いに対して「あなた」の特定の取引に注目することで答えようとします。彼らはこう言います。「ええと、あなたは1ドル入れましたが、ジュースは1.50ドルです。」これは**ローカルな説明（局所的な説明）**です。それは役に立ちますが、この特定の瞬間についてしか教えてくれません。

提供された論文「Axiomatic Foundations of Counterfactual Explanations（反事実的説明の公理的基礎）」において、AmgoudとCooperは、私たちがこの問題をあまりにも狭い視野で捉えていると主張しています。彼らは、AIがその決定をどのように説明するかという、あらゆる可能性を分類するための新しい「ルールブック（公理的枠組み）」を構築しました。

以下に、彼らの発見を分かりやすく解説します。

1. 二つの大きな説明の系譜

著者たちは、すべての反事実的説明（「なぜ〜ではないのか？」という問いへの答え）は、パズルを解く二つの異なる方法のように、二つの主要な陣営に分かれることを発見しました。

• 「必要性」の陣営（欠けているピース）:

  • 論理: 「もしこの特定の要素を取り除けば、結果が変わる。」
  • 比喩: ケーキが膨らまなかった場面を想像してください。「必要性」の説明はこう言います。「ベーキングパウダーを忘れたから、ケーキは膨らまなかったのです。」もしベーキングパウダーを忘れていなければ、ケーキは膨らんでいたかもしれない、と。これは、現在の結果を引き起こした原因となった、存在するはずの重要な成分を特定するものです。
  • 落とし穴: 時には、単一の「欠けているピース」が存在しないこともあります。例えば、ローンが拒否された理由が、低所得と不良クレジットの複雑な組み合わせであった場合、そのうちの一つを取り除くだけでは、「承認」を保証するには不十分かもしれません。このような場合、必要性の説明は全く存在しない可能性があります。

• 「十分性」の陣営（魔法のスイッチ）:

  • 論理: 「もしこの特定の要素を追加、または変更すれば、結果は確実に変わる。」
  • 比喩: 明かりのスイッチを想像してください。「十分性」の説明はこう言います。「もしこのスイッチを入れれば、明かりがつきます。」部屋で他に何が起きていようとも関係ありません。スイッチを入れることが変化を保証します。
  • 落とし穴: 切り替えられるスイッチは、多くの場合いくつもあります。スイッチを切り替えることもできますし、電球を交換することも、懐中電灯を持ってくることもできます。このタイプの説明は結果を保証しますが、選択肢があまりにも多いため、圧倒されてしまうことがあります。

2. 五つの説明タイプ

著者たちは単に「必要性」対「十分性」で止まりませんでした。彼らは、ルールがいかに厳格か、あるいは広範かによって、これらを5つの明確なタイプに分類しました。これらは、説明手法の異なる「性格」のようなものです。

1. グローバルな必要性（ルールブックの番人）:

   • すること: あなたの特定の注文だけでなく、機械全体を説明します。「このボタンが赤ければ、この機械は常にソーダを出します。」
   • 対象: システム全体の論理を理解したい人に役立ちます。
   • 限界: 機械が複雑すぎる場合（例：赤ければソーダが出ることもあれば、ジュースが出ることもある場合）、これは存在しない可能性があります。

2. ローカルな必要性（特定の探偵）:

   • すること: あなたの注文に注目し、「あなたの場合、帽子を被っていることがソーダを手に入れた理由です」と言います。
   • 対象: 自分自身の何が結果を引き起こしたのかを正確に知りたい人に役立ちます。
   • 限界: グローバル版と同様、状況が特殊すぎる場合は存在しない可能性があります。

3. グローバルな十分性（「もしも」のシミュレーター）:

   • すること: 機械全体を見渡し、「もし誰かが青いボタンを押せば、ジュースが得られます」と言います。
   • 対象: 誰にとっても異なる結果を保証するために、どのような変化が必要かを知りたい人に役立ちます。
   • 限界: 現在のあなたの状況とは無関係な変化を提案することがあります（例：「もしあなたがロボットだったら……」）。

4. ローカルな懐疑主義（厳格な懐疑論者）:

   • すること: あなたの注文を見て、「もしあなたの帽子を（あなたが現在持っていない）全く新しいアイテムに変更すれば、ジュースが得られます」と言います。
   • 対象: 何か新しいことをすればどうなるかを知りたい人に役立ちます。
   • 限界: 保証する新しいアイテムが存在しない場合、これは存在しない可能性があります。

5. ローカルな信奉主義（楽観主義者）:

   • すること: あなたの注文を見て、「もしあなたの帽子を（見た目が似ているとしても）別の帽子に変えれば、ジュースが得られるかもしれません」と言います。
   • 対象: これが現在のほとんどのAIツールが使用しているタイプです。最も柔軟であり、何らかの答えを出すことを保証します。
   • 限界: 「識別力」に欠けます。あなたには効果的な変化であっても、他の人には当てはまらないかもしれません。

3. 「不可能な」ルール

この論文は、非常に興味深い数学的事実を証明しています。それは、**「すべてを手に入れることはできない」**ということです。

著者たちは、特定の「優れた性質」（例：必ず存在すること、最も短い答えであること、そして全員に対して厳密に真実であること）の組み合わせは、数学的に両立しないことを示しました。

• 比喩: それは、同時に「最速」で「最も安全」で、かつ「最も安い」車を作ろうとするようなものです。物理法則（あるいはこの場合は論理学）は、そのうちの二つを選ばなければならないと言っています。
• 結果: もし、常に存在する（保証された）説明を求めるなら、それは「最短」または「最も具体的」であることを諦めなければなりません。もし「最短」の説明を求めるなら、一部の人には存在しない答えになってしまうかもしれません。

4. なぜこれが重要なのか

この論文以前、ほとんどのAIツールは、単なる「ローカルな信奉主義（タイプ5）」でした。彼らは楽観主義者のように、常に「何らかの」答えを出してくれますが、それが唯一の方法なのか、あるいは最善の方法なのかについては教えてくれませんでした。

この論文は「地図」を提供しています。それは私たちにこう教えてくれます。

• もしシステムのルールを理解したいなら、グローバルな必要性の理由を探してください。
• もし何があなたの結果を変えたのかを正確に知りたいなら、ローカルな必要性の理由を探してください。
• もし異なる結果を得るための、あらゆる方法を知りたいだけなら、ローカルな信奉主義の理由を探してください。

まとめ

著者たちは新しいAIツールを発明したのではなく、**タクソノミー（分類体系）**を発明しました。彼らは、「なぜ〜ではないのか？」を説明する方法には根本的に異なる5つのタイプがあること、そして単一のツールがそのすべてにおいて最高であることはあり得ないことを証明しました。また、現在のほとんどのツールは、単に一つの特定のタイプ（「楽観主義者」や「信奉主義」のタイプ）に過ぎず、ルールさえ分かれば構築できるはずの、より有用な可能性のある他の説明タイプを見逃していることも示しました。