💬 NLP

How Causal Abstraction Underpins Computational Explanation

本論文は、因果的抽象化の理論が、認知における古典的な哲学的主題と、汎化および予測という観点を通じた現代のディープラーニングとを結びつけることによって、システムがいかにして表現上で計算を実装するかを理解するための強固な枠組みを提供すると論じるものである。

原著者： Atticus Geiger, Jacqueline Harding, Thomas Icard

公開日 2026-07-10

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Atticus Geiger, Jacqueline Harding, Thomas Icard

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

想像してみてください。あなたは、何十億もの小さなスイッチで構成された、巨大でブンブンと音を立てる脳のような、超複雑な機械を持っているとします。そして、その機械がどのように「考える」のかを説明したいと考えているとしましょう。すべてのスイッチがどう切り替わるかを一つずつ記述しようとすることもできますが、それはあまりに煩雑すぎます。代わりに、「ああ、この部分は数学の問題を解いているんだ！」とか、「あの部分は、二つのものが同じかどうかを判定しているんだ！」と言いたいわけです。

しかし、ここが難しいところです。機械が「本当に」その数学の問題を解いているのか、それとも単に数学のように「見える」ようにスイッチが偶然切り替わっているだけなのか、どうすれば判断できるのでしょうか？

アティカス・ガイガー、ジャクリーン・ハーディング、トーマス・アイカードによるこの論文は、この謎を解くための探偵のガイドブックのようなものです。彼らは、システム（脳やAIなど）がどのように計算を実装しているかを真に理解するためには、因果関係（Causality）、具体的には「ある部分を変えることが結果にどう影響するか」を見る必要があると主張しています。

「もしも」テスト

著者たちは、**因果的抽象化（Causal Abstraction）**と呼ばれる特別なテストを使うことを提案しています。これは「もしも」ゲームのようなものです。

低レベルのシステム（煩雑な機械）と、高レベルの概念（整然とした数学の問題）があると想像してください。機械が本当にその数学を行っているのかを確認するには、「もし私が機械のこの特定の部分を、ある特定の動きをするように強制したら、システム全体は数学のルールが予測する通りに正確に振る舞うだろうか？」と問いかける必要があります。

もし、煩雑な機械のひとかたまりを単純なスイッチに入れ替えても、残りの機械が数学のルールに従って完璧に機能し続けるなら、あなたは因果的抽象化を見つけたことになります。それは、複雑なビデオゲームのキャラクターが、その派手なグラフィックスの下で、実は単純なスクリプトを実行していることを証明するようなものです。

「翻訳」というひねり

ここからが非常に面白いところです。著者たちは、時として、煩雑な機械が整然とした数学の問題とは全く似ていないことがある、ということを発見しました。パーツはバラバラだったり、奇妙な方法で混ざり合っていたりするかもしれません。

彼らは、機械を数学に一致させる前に、まずそれを**翻訳（Translate）**する必要があるかもしれない、と主張しています。文字がバラバラになった秘密の暗号を想像してみてください。ただメッセージを読むことはできず、まず暗号を解かなければなりません。彼らの見解では、隠れた構造を明らかにするために、機械の内部信号を回転させたり並べ替えたり（ダイヤルを回すように）する必要があるかもしれません。一度その「翻訳」を行えば、その後にパーツをグループ化して、中に隠れている単純な数学の問題を見ることができるのです。

彼らは、このプロセス全体を**「翻訳の下での抽象化としての実装（Implementation as Abstraction-Under-Translation）」**と呼んでいます。これは、「もし、私たちが機械の内部言語を翻訳した後に、その数学が機械の振る舞いの単純化されたバージョンであると見えるのであれば、その機械はその数学を実装している」ということを意味します。

「簡単すぎる」罠

ここで大きな警告があります。もしルールを緩くしすぎると、自分自身を欺いてしまう可能性があると著者たちは指摘しています。もし、どんなに突拍子もない複雑な翻訳でも許容してしまうなら、あらゆる機械があらゆる数学を行っていると証明できてしまう可能性があると彼らは述べています。

それは、「もし文章の文字を十分に並べ替えれば、『私はピザが大好きです』という文章にできる」と言うようなものです。確かに、技術的には可能かもしれませんが、その文章が「本当に」ピザについて述べていることにはなりません。著者たちは、この「些細な（trivial）」一致は数学的には可能であっても、機械が実際にどのように機能しているかを理解する上ではあまり役に立たないと主張しています。彼らは、その説明が本当に意味のあるものになるよう、より厳格なルールが必要であると考えています。

なぜこれが重要なのか？

この論文は、優れた説明の真のテストは、単に既に見えているデータに適合するかどうかではないことを示唆しています。真のテストは、**汎化（Generalization）**です。

例えば、子供が「二つの顔が同じかどうか」を判断することを学んだとします。もし子供が本当にその概念を理解しているなら、二つの「矢印」が同じ方向を向いているか、あるいは二つの「音」が同じ音程であるかを判断できるはずです。もしあなたの「脳の仕組みに関する説明」が、「顔」のテストには適合するものの、「矢印」に切り替えた時に失敗するなら、その説明はおそらく間違っています。

著者たちは、優れた計算論的説明とは、未知の新しい状況においてシステムがどのように振る舞うかを予測する助けとなるものであるべきだと主張しています。もし、機械を数学に一致させるために使う「翻訳」があまりに奇妙だったり、特殊すぎたりする場合、それは将来を予測する助けにはなりません。しかし、もしその翻訳が自然なもの（単純な回転や線形なシフトなど）であれば、それはシステムが基礎となるルールを真に学習したことを示唆しています。

彼らが言っていないこと

この論文は、私たちが脳の謎を解いたとか、AIの心を読み取る完璧な方法を見つけたとは言っていません。彼らは、すべてのニューラルネットワークが完璧な計算機であると主張しているわけではありません。実際、ある種のネットワークにおいては、数学を見つけ出すために必要な「翻訳」があまりに複雑で奇妙であり、それが有用な説明として成立しない可能性があることも示しています。

また、彼らは脳のどの部分が「同一性（sameness）」を表しているのかを正確に知っているとも言っていません。代わりに、それらの部分を変えることが結果を予測可能な形で変えるかどうかをテストすることで、どのようにしてそれを突き止めることができるかという「枠組み」を提供しているのです。

結論

要するに、この論文は、機械や脳がどのように計算しているかを見るための、新しい「眼鏡」を与えてくれます。それはこう言っています。「表面だけを見るな。『もしこれを変えたらどうなるか？』と問いかけよ。たとえパーツを最初に並べ替える必要があったとしても、その答えが単純で整然とした数学のルールと一致するならば、あなたは真の説明を見つけたのかもしれない。しかし、数学を無理に当てはめるためにパーツを強引に合わせようとしてはいけない。それでは、もっともらしく聞こえるが、機械が実際にどのように考えているかについては何も語っていない物語を作ることになってしまうのだ」と。

これは、厳格さを求め、因果的なつながりを探し、私たちの説明が現実世界の驚きにも対応できるものであるようにするための、切実な呼びかけなのです。

技術的要約：因果的抽象化がいかに計算論的説明を支えるか

1. 問題提起

本論文は、**計算論的実装（computational implementation）**という根本的な問題に取り組んでいる。すなわち、ある物理的システム（脳やニューラルネットワークなど）が、内部表現にわたって特定の計算モデルを「実装している」と言えるためには、どのような条件を満たす必要があるのか、という問題である。

認知科学では、知的な振る舞いは内部表現上の計算から生じると仮定されることが多いが、物理的システムがそのような計算をインスタンス化するための基準については、依然として議論の余地がある。単純な状態マッピングによる実装の定義は、「自明性の議論」（例：パトナム、サール）を招き、制約が緩すぎる場合には、ほぼあらゆる物理的システムがいかなる計算をも実装できてしまうことを示唆した。チャルマーズの組合せ状態オートマトン（CSA）のようなより厳格な提案は、物理的システムの因果構造と計算モデルとの間の同型性を要求する。しかし、これらの説明は、情報が分散しており表現が即座に透明ではないディープニューラルネットワークのような現代の複雑なシステムを扱う際に、困難に直面することが多い。著者らは、既存の枠組みは、低レベルの物理的ダイナミクスと高レベルのアルゴリズム記述との関係、特に**表現（representation）と汎化（generalization）**の役割に関して、精密さを欠いていると主張している。

2. 方法論

著者らは、**介入主義的因果モデル（interventionist causal modeling）と因果的抽象化理論（causal abstraction theory）**に基づいた枠組みを用いている。

因果モデルの基礎: 著者らは、物理的システム（ $L$ ）と計算モデル（ $H$ ）の両方を因果モデルとして扱う。因果モデル $M$ は、変数の集合 $V$ と、親変数に基づいて変数の値を決定するメカニズムの集合 $F$ のペア $\langle V, F \rangle$ として定義される。
介入主義的枠組み: ウードワード（2003）に従い、因果関係は介入を通じて理解される。著者らは、**介入的操作（interventionals）をモデルに対する操作（例：変数を特定の値に固定する、あるいはメカニズムを置き換えるといったハードな介入）として定義する。一連の介入的操作が介入代数（intervention algebra）**を形成するのは、それらがモジュール性の特性（例：介入の順序が結果に影響を与えないこと）を満たす場合である。
厳密な変換（Exact Transformation）: 中核となる技術的ツールは、**厳密な変換（exact transformation）**という概念である。これは、低レベルの変数値を高レベルの値へと写像する $\tau$ と、低レベルの介入操作を高レベルの介入操作へと写像する $\omega$ のペア $(\tau, \omega)$ である。厳密な変換が成立するのは、低レベルのシステムに対して介入を行い、その結果を翻訳したものが、低レベルの状態を翻訳してから高レベルのモデルに対して介入を行った結果と一致する場合である： $\tau(\text{Run}(L_i)) = \text{Run}(H_{\omega(i)})$ 。
抽象化のタイプ:
- 構成的抽象化（Constructive Abstraction）: 低レベルの変数を集合に分割し、それらを高レベルの変数へと写像することで得られるモデル。これは、因果的一貫性を保持しつつ、特定の低レベルの区別を無視する。
- 翻訳（Translation）: 変数空間の双射的な再構成（例：ベクトル空間の回転）であり、因果構造を保持しながら変数の定義を変更するものである。
- 翻訳下での抽象化（Abstraction-Under-Translation）: 著者らは、システム $L$ が計算 $H$ を実装しているとは、 $H$ が $L$ の翻訳の構成的抽象化である場合を指すと提案している。これにより、低レベルのシステムを、高レベルのアルゴリズムへと抽象化する前に、低レベルの変数を非自明に再解釈（翻訳）することが可能になる。

3. 主な貢献

A. 実装に関する形式的な説明

本論文は、**「翻訳下での抽象化としての実装」**を提案している。この枠組みは、あるシステムが計算を実装するためには、その計算モデルが、システムの因果モデルの「翻訳」の構成的抽象化でなければならないと仮定する。この定式化は以下の特徴を持つ：

許容される低レベル変数の非自明な再マッピング（翻訳）を認めることで、従来の同型性に基づく説明（チャルマーズのCSAなど）を一般化している。
ニューラルネットワークに見られる分散的で重複した符号化を許容する、「因果構造を鏡写しにする」ことの厳密な数学的定義を提供している。

B. 表現と因果性の統合

著者らは、計算論的説明における表現的内容は、抽象化されたモデル内における変数の因果的役割に結びついていると主張する。

彼らは、高レベルの因果モデルにおける変数に対して、表現の標準的な基準（情報、使用、誤表現）を適用する。
著者らは、「翻訳下での抽象化」において、低レベルシステムの表現の「媒体（vehicles）」は、個々のニューロンや単純なクラスターではなく、状態空間における複雑な点の集合や、特定の介入操作（例：特定の関数置換）である可能性があることを示している。
これにより、表現を、物理的基質そのものの固有の性質としてではなく、システムとアルゴリズムの間のマッピングの特性として再定義している。

C. 自明性と汎化への対処

本論文は、最近の「自明性」に関する結果（例：Sutter et al., 2025）に応答している。これらは、許容される翻訳のクラス（ $C$ ）に制約がない限り、あらゆるニューラルネットワークがいかなるアルゴリズムをも実装できることを示唆している。

著者らは、もし翻訳のクラス $C$ が制約なしに設定されるならば、自明性が成立することを認めている。
しかし、著者らは、計算論的な主張の説明的価値は、その汎化と予測をサポートする能力に依存すると主張する。
したがって、「ゲリマンダー（恣意的に操作された）」された翻訳は、技術的には実装の定義を満たすかもしれないが、分布外（out-of-distribution）の入力や新しいタスクのバリエーションに対して行動を予測できないのであれば、それは優れた説明とは言えない。
ゆえに、許容される翻訳の選択は、単に特定の入出力マッピングに適合することではなく、エージェントの**有能さ（competence/汎化能力）**を説明するという目的に基づいて制約されるべきである。

4. 結果と例示

論文では、以下の例を通じてこれらの概念を説明している：

XNOR回路: 単純な論理回路（高レベル）が、小さなフィードフォワードニューラルネットワーク（低レベル）の構成的抽象化であることが示されている。
翻訳の必要性: 多くのニューラルネットワークにおいて、直接的な構成的抽象化は、分散表現のために不可能であることを著者らは示している。しかし、線形翻訳（例：隠れユニットのベクトル空間の回転）を適用することで、潜在的な因果構造が明らかになり、高レベルのアルゴリズムを回収することが可能になる。これは、線形な読み出し（linear readout）がしばしば因果的変数を特定するのに十分であるという、メカニスティック・インタープリタビリティ（機械論的解釈可能性）における仮説を支持している。
階層的等価性タスク: 二つのオブジェクトのペアが同じ関係（例：「同じ」対「異なる」）を共有しているかを判定するタスクについて議論している。ニューラルネットワークがこれを解決できることは示されているが、記号的なアルゴリズムの実装を特定するには、抽象化の前に翻訳を許容する必要があることを示している。
誤表現（Misrepresentation）: この枠組みは、誤表現の分析を可能にする。もし低レベルのシステムが高レベルモデルを近似しているものの、特定の入力に対して失敗する場合、その抽象化がシステムの汎化行動を説明するために「適切」であるとみなされる限り、そのシステムは入力に対して誤表現を行っていると言える。

5. 意義と主張

著者らは、自らの枠組みが、認知科学と機械学習の両方において、計算論的説明を理解するための実りあるレンズを提供すると主張している。

実装の明確化: 本論文は、「実装」とは二元的な絶対的事実ではなく、選択された翻訳のクラスや説明の目的によって依存する関係であると論じている。これは、心の哲学における古典的な「同型性」の要求と、現代のディープラーニングの解釈可能性における分散的・線形構造の知見との間の溝を埋めるものである。
汎化の役割: 中心的な主張は、計算論的説明の妥当性は、汎化と不可分に結びついているということである。実装の主張が最も「有益」となるのは、それが未知のタスクや新しい条件下でのエージェントの振る舞いを予測することを可能にする場合である。もしシステムからアルゴリズムへのマッピングが、予測をサポートするにはあまりに複雑すぎるか、あるいは恣意的に操作された（gerrymandered）ものであるならば、それは最小限の定義としての実装を満たしているかもしれないが、深い説明としては失敗している。
表現としての因果的役割: 著者らは、表現的内容は、高レベルの抽象化における変数の因果的役割を通じて理解されるのが最善であると示唆している。しかし、その役割は、抽象化が単なる固定されたデータセットへのパフォーマンスだけでなく、システムの汎化能力を捉えている場合にのみ意味を持つ。

著者らは、因果的抽象化が実装を定義するための厳密な基礎を提供する一方で、どの抽象化が説明的であるかを選択するには、さらなる制約（おそらく調査対象となるシステムの具体的な学習メカニズムや汎化能力に関連するもの）が必要であると結論づけている。彼らは、表現の問題を完全に解決したと主張しているのではなく、これらの議論を生産的に継続できる精密な因果的枠組みを提示しているのである。