Interventional Score Geometry for Causal Inference

地図 vs. 映画

あなたは、混雑した部屋の中で誰が誰を突き飛ばしたのかを突き止めようとしている探偵だと想像してください。あなたの手元には、その場面の高解像度写真があります。写真では、人物Aが人物Bのすぐ隣に立っており、両者とも前方に傾いているように見えます。この単一のスナップショットに基づけば、「AとBは近くにいる」と言うことはできますが、「どちらがどちらを突いたのか」を判断することはできません。AがBを突いたのかもしれませんし、BがAを突いたのかもしれませんし、あるいは第三者が二人同時に突いたのかもしれません。データサイエンスの世界では、このスナップショットは**観測分布（observational distribution）**と呼ばれます。それは、物事がどのように一緒に起こりやすいかを示す、単なる「現象の写し」に過ぎません。

何十年もの間、科学者たちは、その静止した写真を「映画」に変え、アクションの展開を観察して因果関係を突き止めようと、高度な数学を用いてきました。彼らは、データを丘や谷のある風景として扱う**情報幾何学（information geometry）**という美しい数学的地図を構築しました。その考え方は、もし風景の形状を十分に注意深く研究すれば、「突き（原因）」が自らを明らかにするというものでした。しかし、落とし穴があります。川の写真を見ても、水がどちらの方向に流れているかは分かりません。写真はただ、水がどこにあるかを示しているだけなのです。流れを知るためには、石を投げ入れる必要があります。この論文は、水をじっと見つめているだけでは流れを理解することはできず、実際に石を投げなければならないという事実を認識するためのものです。

論文の核心的なアイデア：なぜ写真だけでは不十分なのか

『Interventional Score Geometry for Causal Inference』と題されたこの論文は、データだけを見ることは、楽器に誰も触れていない時に鳴っている音を聞いて、その楽器を理解しようとするようなものだと主張しています。著者の一人であるMojtaba Eslami氏らが率いるチームは、データの「形状（観測幾何学）」は、その音楽がバイオリンによって引き起こされたのか、それともチェロによって引き起こされたのかに関わらず、全く同じであることを示しています。もし二つの異なる物語（因果モデル）が全く同じパターンのデータを作り出すのであれば、そのデータから構築されたどのような地図の上でも、それらは同一に見えるのです。

この論文は、同じ古い数字に対してどれほど複雑な数学を適用したとしても、魔法のように「原因」を「結果」から抽出することはできないと証明しています。それは、静止した水の写真だけを見て、川が北に流れているのか南に流れているのかを判断しようとするようなものです。写真の結果はどちらの場合も同じです。方向を知るためには、介入しなければなりません。手を差し込み、何かを変えなければならないのです。

「ハード」な介入：弦を固定する

著者らは、世界を変える新しい方法を紹介しており、それを**ハードな介入（hard intervention）**と呼んでいます。ギターの6本の弦を想像してください。弦を弾くと、それらは振動して和音を奏でます。これが観測データです。次に、クランプ（固定具）を使って、「A」の弦を特定の音で完全に静止させると想像してください。あなたは単にその弦の音量を変えたのではなく、その弦をゲームから完全に排除したのです。弦はもはや振動できず、他の弦は、もはや相互作用しなくなったその弦の影響を受けて、音が変わるかもしれません。

論文内の数学において、この「固定（clみ込み）」は do($X_k = \xi$) と呼ばれます。これは、変数（薬の投与量や温度など）が、以前はどうあろうと、特定の数値 $\xi$ になるよう強制することを意味します。論文は、これを行うと数学が完全に変化することを示しています。もはや古い地図を使うことはできません。なぜなら、風景が平坦化されてしまったからです。「スコア（データが最も尤もらしい場所を指し示す数学的な矢印）」は、もはや低次元の空間、例えば3Dオブジェクトの2D図面のような空間に存在することになります。

新しいツール：「変化」のスコア

論文は、これらの変化を理解するための新しい辞書を構築しています。単に静止した写真を見るのではなく、介入のつまみを回したときに「スコア（データの方向）」がどのように変化するかを見ます。

彼らは**因果的影響（causal influence）**をシンプルに定義しています：もし $X$ の設定を変えたときに $Y$ の振る舞いが変わるならば、$X$ は $Y$ の原因である、と。しかし、彼らはさらに深く踏み込みます。彼らは、新しい「固定された」データの特定の微分（変化率）を見ることで、この原因を検出できることを示しています。もしこの「介入スコア（interventional score）」がゼロであれば、因果関係はありません。ゼロでなければ、因果関係が存在します。

これが機能することを証明するために、彼らは二つの変数 $X$ と $Y$ を用いた単純な例を用います。これらは標準的なベルカーブ（ガウス分布）に従います。彼らは二つの異なる物語を作成しました：

1. 物語A： $X$ が $Y$ を引き起こす。
2. 物語B： $Y$ が $X$ を引き起こす。

両方の物語は、全く同じ写真（同じデータ分布）を生み出します。写真だけを見ている限り、これらを見分けることはできません。しかし、著者らがこの新しい「固定」の数学を適用すると、結果は全く異なります。物語Aでは、$X$ を固定すると $Y$ のスコアが変化します。物語Bでは、$X$ を固定しても $Y$ のスコアには全く影響を与えません。数学は、彼らが「変化を強制した」からこそ、二つの物語を正常に分離することに成功したのです。写真だけでは、決してこれらを区別することはできませんでした。

これが否定するもの

この論文は、自身が「何をしないか」についても非常に明確に述べています。彼らは、利用可能な変更のリスト（例えば「製品の価格を変更できる」など）を用意し、そのリストに対して古いデータを投影することで答えを見つけ出せるという考えを、明確に否定しています。彼らは、たとえどのレバーを引くことができるかを正確に知っていたとしても、古いデータには、そのレバーを引いたときに何が起こるかという答えは含まれていないことを証明しました。そのギャップを埋めるためには、追加の情報――構造的な知識や実験データ――が必要なのです。

また、彼らは機械学習の分野における一般的な混乱に対しても警告を発しています。データの形状を学習しようとする「スコアベース」モデル（偽の画像を生成するために使われるものなど）が存在します。論文は、これらのモデルは「写真」を学習することには長けているが、写真がより完璧になったとしても、それだけで「映画（因果構造）」を学ぶことはできないと述べています。画像生成器がいかに完璧であったとしても、ボタンを押したときに何が起こるかを教えてくれることはありません。実際にボタンが押された時のデータを与えない限りは。

「因果的メトリック」：押しによる測定

最後に、著者らはシステムが「押し」に対してどれほど敏感であるかを測定する新しい方法を作成しました。これを**因果的メトリック（causal metric）**と呼びます。これは、バネを引いたときにどれくらい伸びるかを測定するようなものです。少し引いただけで大きく伸びるなら、そのバネは非常に敏感です。ほとんど動かないなら、それは硬いのです。

論文は、標準的な統計ツールである**フィッシャー情報量（Fisher information）**を用いて、この感度を測定できることを示していますが、注意点として、正しい「スライス（固定されなかった部分）」のデータに対して測定する必要があります。彼らは、単純なケース（分布を線に沿ってスライドさせる場合など）において、このメトリックがデータの「鋭さ」を伝える定数であることを示しています。これにより、研究者は実質的な効果を見るためにどれだけのデータを集める必要があるかを知ることができます。メトリックが小さい場合は、変化を見るために膨大なデータが必要です。メトリックが大きい場合は、小さな実験でも結果が明確に示されます。

結論

この論文は、あらゆるデータセットから原因を見つけ出す魔法の杖を与えるものではありません。その代わりに、私たちが何を知ることができ、何を知ることができないのかを理解するための、精密な語彙と一連のルールを提供しています。因果関係は、「何であるか（観測）」のシナリオではなく、「もし～したらどうなるか（介入）」のシナリオの中に存在することを、彼らは確認したのです。

著者らは、自分たちがすべてを解決したわけではないことも慎重に述べています。彼らは、特定の人が異なる道を選んでいたらどうなっていたか（「反事実」という梯子の上の段）を予測する方法を解明したわけではありません。彼らは単に、「今あるもの」と「それを変えたらどうなるか」の間の強固な架け橋を築いたのです。川の流れを理解するためには、水をじっと見つめるのをやめて、石を投げ始めなければならないということを、彼らは示したのです。