From Intermediate States to Novel Outcomes: Intervention-Sensitive Visual Process Grounding in an Artificial Cognitive System

探偵のジレンマ：「何を」よりも「どのように」が重要な理由

あなたは手品を見ていると想像してください。マジシャンは赤いボールから始め、いくつかの不思議な動きを加え、テーブルの上に青いボールを置きます。もしあなたが最初と最後しか見ていなければ、「なるほど、赤が青に変わったんだな」と思うでしょう。しかし、もしマジシャンが動作の順番を変えていたらどうでしょうか？もしかしたら、ボールをテーブルの上で転がす前に青く塗ったのかもしれませんし、あるいは赤いボールを先に転がしてから、その後に青く塗ったのかもしれません。もしあなたが新しいステージで新しいボールを使ってこの手品を再現しようとしたら、その順番が変わるだけですべてが変わってしまいます。もし先に塗ることを選べば、転がした時とは異なる動きになるはずだからです。

これは人工知能（AI）における非常に興味深い問題の核心です。長い間、コンピュータは「何（what）」を認識すること、つまり、写真に猫や車が含まれていることを特定することには長けてきました。しかし、それらの物体がそこに到達するまでの「どのように（how）」、つまり一連の手順を理解することにはしばしば苦戦してきました。この論文は、**視覚的プロセス制御（visual process control）**と呼ばれるAIの特定の領域を掘り下げています。そして、シンプルな、しかしトリッキーな問いを投げかけます。「もしAIが始点と終点を見たとき、その変化がどのように起きたのかを説明する『隠された中間ステップ』を導き出すことができるか？」そしてより重要なのは、「もしその隠された中間ステップを入れ替えた場合、AIはその次の行動についての判断を変えるだろうか？」という問いです。研究者たちは、単に答えを暗記するのではなく、レシピ（手順）を理解することで、材料が変わっても新しい料理を作り出せるようなシステムを構築しようとしました。

「中間ステップ」という手品

この研究では、東京電機大学の坂上智樹氏が、このアイデアをテストするためのデジタル・プレイグラウンド（遊び場）を作成しました。それは、色とりどりの図形が並んだグリッドがあるビデオゲームのレベルのようなものです。このゲームには、物を動かすための2つのルールがあります。

1. カラー・ファースト・ルール（色を先に）： 特定の図形の色を変え、次にその新しい色のすべてのオブジェクトを移動させる。
2. ムーブ・ファースト・ルール（移動を先に）： 特定の色のすべてのオブジェクトを移動させ、次にターゲットとなる図形の色を変える。

ここでのひねりは、研究者が「同じ開始図形と終了図形から始まる設定にしても、両方のルールが理論上成立するようにした」という点です。開始と終了の外観は全く同一です。唯一の違いは、どちらのルールが実際に使われたかを示す単一の「中間フレーム（D1と呼びます）」にあります。

目標は、AIにその中間フレームを見せ、どのルールが使われたかを判断させ、そのルールを新しいパズルに適用させるように教えることです。これは、数学の問題を見て、答えは見えているものの、解法への唯一の手がかりがページの中間に書かれた小さな走り書きだけである状況に似ています。もし学生がその走り書きを読み取ることができれば、新しい問題を解くことができます。もし読み取れなければ、ただの推測になってしまいます。

大きな発見：ショートカットを使うよう教えられずに学習する

この論文で最もエキサイティングな部分は、研究者がAIを「ノー・ショートカット（近道なし）」モードでテストした時に起きたことです。彼らは、AIが通常通りルールを学習するように、何千もの例を用いてトレーニングを行いました。中間フレームが入れ替えられた場合の特別な対処法については、一切教えていません。ただ自然なパターンを学習させただけです。

そして、テスト中に仕掛けをしました。AIが一度も見ることのなかったパズルを取り出し、中間フレームを反対のルールによるものと入れ替えたのです。例えば、見た目は「カラー・ファースト」に従っているように見えるパズルに対し、密かに「ムーブ・ファースト」の例から持ってきた中間フレームを差し込みました。

結果は驚くべきものでした。 AIは、この入れ替えに対して明示的に反応するように教えられていなかったにもかかわらず、即座に判断を変えました。新しい中間フレームを見たAIは、「おや、これは実際にはムーブ・ファーストのパズルだ！」と気づき、正しい新しい結果を出力したのです。

数値も驚異的な精度でこれを裏付けています。AIが中間の手がかりなしで推測を強いられた場合（エンドポイント制御）、的中率はほぼコイン投げと同じで、約50%しか正解できませんでした。しかし、中間フレームを見ることができた場合、IoU（Intersection over Union）という指標で98.1%という精度で画像を正しく再現しました。さらに印象的なのは、研究者が中間フレームを入れ替えた際、AIは正しい代替の結果へと切り替わる確率が0.99988であったことです。これはほぼ100%です。AIは単に推測していたのではなく、プロセスの「レシピ」を真に読み取ることを学んでいたのです。

「不確実性」のサプライズ

研究者たちは別のテストも行いました。「もし中間フレームを完全に隠してしまったらどうなるか？」ということです。現実世界では、すべての手がかりが揃っているとは限りません。賢いシステムは、間違ったことを自信満々に推測するのではなく、「わからない」と言うべきです。

彼らは、AIが自然に「わからない」と言うことを学習しないという事実を発見しました。中間フレームが空白であっても、AIは依然として非常に高い確信を持って、どちらかの答えを一方的に選択していました。AIが「確信がない（わからない）」と学習したのは、トレーニング中に研究者が明示的に「不確実性」を教えた時だけでした。これは極めて重要な発見です。「ステップを理解すること」は、「ステップが欠けていることを知ること」を自動的には意味しないのです。 AIが欠落した情報を扱う方法を学ぶには、専用のレッスンが必要でした。

「秘密のコード」対「開かれた本」

最後に、チームはAIが自分自身と対話するための2つの方法を比較しました。

1. 開かれた本（明示的なインターフェース）： AIは「ルールA」または「ルールB」という単純なメモを書きます。これは人間にとって読みやすく、理解しやすいものです。
2. 秘密のコード（潜在的なインターフェース）： AIは、コンピュータにしか理解できない複雑で目に見えない数字のストリームを使用します。

「秘密のコード」バージョンの方が、正解率においてわずかに（約0.008ポイント）優れていました。しかし、「開かれた本」バージョンも非常に高い精度（98.1%）を維持しており、かつ「理解可能である」という大きな利点がありました。研究者たちは、秘密のコードには微小な優位性があるものの、シンプルで読み取り可能なメモがあれば、問題をほぼ完璧に解決できると結論付けました。

これが未来に意味すること

この論文は、人間の感情や現実世界の物理法則を理解するロボットを作ったと主張しているわけではありません。図形と色を用いた、非常に単純な架空の世界を用いたものです。しかし、強力な一点を証明しました。AIは、プロセスの「何（what）」だけでなく、「どのように（how）」に対して敏感になるように設計できる、ということです。

もしシステムが中間ステップを見るように設計されていれば、たとえステップを入れ替えて騙したとしても、その知識を新しい状況へと汎用化できることを示しました。また、注意すべき点も示しました。AIがプロセスを学習したからといって、情報が欠けているときにそれを認識できるとは限らない、ということです。

要するに、この研究は、ゲームの最終スコアを単に暗記するのではなく、勝利するために使われた戦略を実際に理解するAIを構築するための、一歩となるものです。そして、それは機械が学ぶべき、実に素晴らしい「手品」なのです。