名探偵ゲーム：見ることは必ずしも信じることではない

あなたは、巨大で見えない時計仕掛けのおもちゃのような、複雑な機械がどのように動いているのかを解明しようとしていると想像してください。歯車が回転し、針が動く様子を観察し、何もせずに放置したときに何が起こるかを正確に記録することができます。これは観測データと呼ばれます。しかし、ここに厄介な問題があります。全く異なる2つの機械が、静止している間は全く同じように見える可能性があるのです。片方はバネが歯車を押し、もう片方は磁石がそれを引いているかもしれません。遠くから見れば、両者は同じようにカチカチと動きます。科学において、これは大きな問題です。なぜなら、単に何かが起きているのを観察するだけでは、「なぜ」それが起きるのか、あるいは「何かをしたとき」に何が起きるのかを知ることはできないからです。

これを解決するために、科学者は因果モデルを使用します。これは、その機械がどのように作られているかを示す設計図のようなものです。しかし、どの設計図が本物であるかをどうやって知ればよいのでしょうか？そこで、**介入（インターベンション）**を行う必要があります。これは、中に入って何かを変えること、例えばバネを取り除いたり、歯車の回転を強制的に速めたりして、機械の他の部分がどのように反応するかを見ることを意味します。ただ観察しているだけでは、騙されるかもしれません。しかし、突っついて調べれば、真実が姿を現します。ただし、機械を突っつくことはコストがかかったり、リスクがあったり、時には不可能であったりします。あらゆることを試すわけにはいかないため、最小限の試行で最大限に学ぶために、どのボタンを押すべきかを賢く判断しなければなりません。これが、カルガリー大学による新しい論文が解決しようとしているパズルです。

論文：AIのための「いたちごっこ」ゲーム

この論文は、敵対的因果介入偽造（略してACIF）と呼ばれる巧妙な新しいゲームを紹介しています。これは、**ジェネレーター（生成器）とアドバーサリ（敵対者）**という2つのコンピュータプログラムによる、高額な賞金がかかった「いたちごっこ」ゲームのようなものです。

ジェネレーターは、世界の偽の設計図を作ろうとするトリッキーなAIです。その目標は、データをただ観察しているときに完璧に見えるモデルを作ることです。それは、「わあ、このモデルは世界がどのように機能しているかを正確に理解している！」と皆に思わせたいのです。しかし、ジェネレーターは狡猾です。数値は完璧に一致させつつ、因果関係を間違える可能性があるのです。

アドバーサリは、非常に賢く、懐疑的な探偵です。その仕事は、ジェネレーターの偽の世界が本物のように見えるかどうかをチェックすることではありません。その仕事は、それを壊すことです。アドバーサリは、ジェネレーターをテストするための特定の実験、つまり特定の「突っつき」を選択することができます。もしジェネレーターの設計図が「このボタンを押せばライトは緑になる」と言っているのに、現実の世界では「いいえ、赤になります」となった場合、アドバーサリの勝ちとなります。ジェネレーターが生き残れるのは、アドバーサリが投げかけるあらゆる実験の結果を予測できる場合のみです。

この論文は、このゲームが真実を見つけるための最良の方法であることを証明しています。単にAIを観測データに適合させるよう訓練するだけでは、決して正しいとは言えないことを示しています。しかし、無慈悲な相手によって設計された一連の厳選された「突っつき」を生き延びるように強制すれば、可能性を絞り込み、唯一の真実の設計図にたどり着くことができます。

ゲームのルール

著者は、その仕組みを証明するために、いくつかの高度な数学を用いてゲームを3つの主要な部分に分解しています。

1. 「偽造（ファルシフィケーション）」の目標： 論文は、単に「このモデルはデータのように見えるか？」と問うべきではないと主張しています。代わりに、「このモデルは最悪の実験に耐えられるか？」と問うべきなのです。アドバーサリは、ジェネレーターが失敗する可能性が最も高い単一の実験を見つけ出すようにプログラムされています。もしジェネレーターがそのワーストケースのシナリオを生き延びることができれば、それは真実である強力な候補となります。
2. 「等価性（エクイバレンス）」の罠： 論文は非常に重要な点を指摘しています。いくら突っついたとしても、たった一つの完璧な答えが見つからない場合があるということです。実行可能な実験の下では、すべてが全く同じように振る舞う設計図の小さなグループが見つかるかもしれません。著者はこれを介入的等価性と呼んでいます。彼らは、これは手法の失敗ではなく、実験の限界であることを明確にしています。もし特定の部品をテストするための適切な道具を持っていなければ、その部品がどのように機能しているかを確実に知ることはできません。しかし、適切な道具があれば、このゲームは唯一の真実を見つけ出すことを保証します。
3. 「スマートな突っつき」戦略： 実験にはお金と時間がかかるため、あらゆることをランダムに試すことはできません。論文は、アドバーサリが現在候補に残っているすべての設計図を検討し、それらを最も引き離す（区別できる）実験を選ぶ戦略を導入しています。例えば、8つの異なる鍵が入った袋があり、どれがドアを開けるのかわからないとします。一つずつ試す代わりに、4つの鍵だけが開けられるような鍵穴を見つけます。もしドアが開けば、それはその4つのうちのどれかだと分かります。もし開かなければ、残りの4つのうちのどれかだと分かります。あなたは探索範囲を半分に減らしたのです。論文は、もしこの方法――常に残りの可能性を半分に分割する実験を選ぶこと――を継続すれば、驚くほど速く正解を見つけられることを証明しています。実際、8つの可能性がある場合、ランダムに推測する人が多くの回数を必要とする一方で、この方法ならわずか2、3回の試行で済むかもしれません。

論文が発見したこと（および発見できなかったこと）

著者は理論をテストするためにシミュレーションを行いました。彼らは4つの変数（ドミノの列のようなもの）を持つ単純な世界を作り、AIに8通りの異なるドミノの倒れ方を提示しました。

• 結果： アドバーサリが「スマートな分割」戦略を用いたとき、平均1.5ラウンド（1回で済むこともあれば、2回かかることもある）で正しい設計図を見つけ出しました。
• 比較： 「ランダム」な戦略（何も考えずに実験を選ぶこと）を用いた場合は、平均2.24ラウンドかかりました。
• 証明： また、実験が適切に選ばれれば、必要なラウンド数は可能性の数が増えても非常に緩やか（対数的）にしか増えないことを数学的に証明しました。これは、この手法が複雑な問題に対してもスケールアップできることを意味します。

しかし、論文は自らの主張について非常に慎重です。

• 除外事項： この手法は、あらゆる謎を魔法のように解決できるとは述べていません。観測データ（ただ見ているだけ）のみに基づいている場合、因果関係を確定させることは決してできないと明言しています。
• 除外事項： 実行できる実験が弱すぎる、あるいは少なすぎる場合、単一の真の答えに到達できない可能性があることを認めています。その場合、いくつかの「等しく優れた」答えのグループに落ち着くかもしれません。論文はこれを、コードのバグではなく、数学的な限界であるとしています。
• 信頼レベル： 主な結果は、数学的証明（特定の条件下で確実に機能すること）とシミュレーション（実際に機能することを示すコンピュータテスト）です。著者は、この手法をまだ現実世界の医学や生物学のデータでテストしたとは主張しておらず、それを次のステップとして提案しています。

なぜこれが重要なのか

この論文は、コンピュータに因果関係を理解させる方法についての考え方を変えます。AIに単に何百万枚もの画像を食べさせて、ルールを学習することを期待するのではなく、AIを「テストを受ける学生」として扱うべきなのです。教師（アドバーサリ）は、簡単な質問をするだけでなく、最も難しく、最も本質を見抜く質問をするべきです。AIに対して、世界の「外見」だけでなく、世界の「構造」を理解していることを証明させることで、重大な決定を下す際に本当に信頼できるモデルを構築できるようになります。

論文は、私たちは常にすべてを知ることができるわけではないものの、知っていることについてはより賢くなれると結論づけています。この敵対的ゲームをプレイすることで、間違った答えを迅速かつ効率的に削ぎ落とし、世界が実際にどのように機能しているかという、より鮮明な姿を残すことができるのです。これは、ディープラーニングの世界（AIがデータから学ぶ世界）と、科学的実験の世界（行うことによって学ぶ世界）の架け橋であり、両者が真実を探求する上でパートナーであることを示しています。