あなたは、とても賢くておしゃべりなロボットの友人に話しかけていると想像してください。あなたは「フランスの首都は何ですか？」といった単純な質問をします。あなたは「パリ」という、素早く直接的な答えを期待しています。しかし時々、このロボットの友人は、単に「パリ」と言う代わりに、長い独白を始めてしまいます。「うーん、考えてみよう。パリかな？待てよ、再確認したほうがいいかもしれない。ああ、思い出した、間違いなくパリだ。」これは「推論（reasoning）」と呼ばれ、難しいパズルには素晴らしいものですが、単純な事実に対しては、煩わしく、時間がかかります。

AIの世界では、研究者たちが、難しい問題を解くための「考える（Think）」モードと、素早く直接的な答えを出すための「考えない（No-Think）」モードを切り替えることができる「ハイブリッド思考」モデルを構築しています。そのアイデアは、「ねえ、考えるのはやめて、答えだけを教えて！」とロボットに伝えれば、ロボットがそれに従うはずだというものです。しかし、問題があります。これらのロボットに「考えるな」と言っても、彼らは自分を抑えられず、しばしば内部の独白を漏らしたり、長いループに陥ったり、意図せず「思考」のプロセスを露呈させてしまったりするのです。これは「推論の漏洩（reasoning leakage）」と呼ばれます。それは、誰かに静かにしてほしいと頼んでいるのに、その人が結局ずっと鼻歌を歌い続けているようなものです。これがなぜ重要かというと、ロボットが考えるべきでない時に考えることを止められないと、時間を浪費し、コンピュータの電力を使い込み、効率的であると信頼できなくなるからです。

あなたがこれから読む論文「Path-Lock Expert」は、この鼻歌の問題に取り組んでいます。ケース・ウェスタン・リザーブ大学や京都大学などの大学の研究チームである著者たちは、ロボットが考えるのを止められない理由は、単にトレーニングやデータが足りないからではないと主張しています。彼らは、問題はロボットの脳の構造、具体的には、情報を処理する部分がどのように組み合わされているかという点にあると考えています。

問題点：一つの脳で二人になろうとする人

シェフが、全く異なる二つの料理を、全く同じナイフとパンを使って同時に作ろうとしている場面を想像してみてください。一つの料理は、複雑で多皿構成のグルメディナー（「考える」モード）であり、もう一つは、シンプルで即席のサンドイッチ（「考えない」モード）です。もしシェフが、豪華なディナーのために野菜を刻むのと、サンドイッチのためにパンをスライスするのに同じナイフを使ったら、サンドイッチの中に豪華なディナーのパン屑が混じってしまうかもしれません。これが、これらのAIモデルで起きていることです。彼らは、長い内省的な回答と短い直接的な回答の両方を生成するために、同じ内部の「ナイフ」（MLPと呼ばれる数学的レイヤー）を使用しています。たとえモデルに「考えるのをやめて」と言っても、それらの共有された部分が、単純な回答の中に「思考」の習慣を漏らし続けてしまうのです。

これまでの解決策は、シェフに対して「もっと静かにするように努めてください」とか「もっと高級な材料を控えてください」と言うようなものでした。こうしたトレーニングのテクニックは多少の助けにはなりましたが、シェフは依然として鼻歌を完全に止めることはできませんでした。モデルは、直接的に答えるように明示的に指示されていても、回答が長すぎたり、「待てよ、確認させて……」といった瞬間が含まれていたりしました。

解決策：Path-Lock Expert

研究者たちは、Path-Lock Expert (PLE) と呼ばれる巧妙なアーキテクチャによる修正を提案しています。同じ脳に異なる振る舞いをさせるよう訓練する代わりに、彼らはロボットに二つの異なる「思考エンジン（またはエキスパート）」を与えますが、残りの脳は共有されたままにします。

その仕組みを、鮮やかな比喩を使って説明します。
ロボットの脳が巨大な図書館だと想像してください。この図書館の中には、誰もが使うメインの廊下（共有されたアテンションやメモリなど）があります。しかし、廊下の突き当たりには、二つの異なる部屋へと続く二つの異なるドアがあります。

• 部屋A は「考える部屋」で、ホワイトボードや複雑なチャート、難しいパズルを解くための道具で満たされています。
• 部屋B は「考えない部屋」で、小さくて静かで、素早く直接的な回答をするために設計されています。

古い設計では、ロボットは同じドアを通って、正しい部屋にいるように振る舞おうとしなければならず、それが混乱を招いていました。Path-Lock Expert では、ロボットには入り口に特別なスイッチがあります。/think と入力すると、スイッチによってロボットは会話の間中、その「考える部屋」にロックされます。/no think と入力すると、スイッチによって「考えない部屋」にロックされます。決定的なのは、ロボットは文章の途中で部屋を切り替えることはないということです。一度ドアがロックされたら、それはロックされたままになります。

この設計により、ロボットは「考えるのをやめよう」と「努力」する必要はありません。なぜなら、「考えない部屋」にいるときは、物理的に「思考の道具」にアクセスすることができないからです。二つの部屋はそれぞれ独自の道具（MLPエキスパート）を持っているため、複雑な思考者の習慣が、単純な回答へと漏れ出すことはありません。

研究結果

研究者たちは、AIME24（非常に難しい数学コンテスト）やGPQA（難しい科学ベンチマーク）のような、最も困難な数学や科学のパズルを用いて、この新しい設計をテストしました。彼らは、この新しい「Path-Lock」ロボットを、従来の「ハイブリッド」ロボットや、単に優れたデータで訓練されたモデルと比較しました。

結果は驚くべきものでした。

• 漏洩の大幅な減少: AIME24の数学テストにおいて、従来のハイブリッドモデルは、考えるように指示されても、回答につき約 6.01 個の「内省的」なトークン（「待て」「うーん」「考えさせて」といった言葉）を生成していました。新しいPath-Lockモデルは、これをわずか 0.35 トークンに減少させました。これは、ロボットが内部の独白を歌ってしまう回数が 17倍 も減少したことを意味します！
• 回答の短縮: 旧モデルは、短くすべき場面でも 8,600 トークンを超える長い回答を出していましたが、Path-Lockモデルは約 4,100 トークンに抑え、回答をより簡潔にしました。
• よりスマートな直接回答: 回答は短くなっただけでなく、より正確になりました。Path-Lockモデルは、「考えない」モードにおいて、従来のトレーニングのみの手法による 35.33% に対し、44.67% の難解な数学問題を正解しました。
• 思考力の損失なし: 重要なことに、新しい設計はロボットの「考える力」を損なうことはありませんでした。ロボットが「考える部屋」を使用することを許可されているとき、以前と同様の性能（約 61.33% の正解率）を発揮し、部屋を分けることが複雑な推論スキルを壊さないことを証明しました。

これが意味すること

この論文は、「推論の漏洩」という問題は単なるトレーニングの問題ではなく、構造的な問題であることを示唆しています。思考と非思考の経路を物理的に分離することで、研究者たちは二つのモード間のよりクリーンな切り替えを実現しました。

また、彼らは「材料」が重要であることも発見しました。もし、すでに指示に従う能力が高いロボットからスタートすれば、Path-Lockシステムは最もよく機能します。もし、未訓練の生のロボットからこれを構築しようとすると、違いを学ぶのに苦労します。さらに、トレードオフがあることも分かりました。非常に難解で複雑なトレーニングデータを使用すると、「考える」モードはさらに向上しますが、時として「考えない」モードに、わずかな思考の漏洩を引き起こすことがあります。しかし、全体的なバランスは以前よりもはるかに優れていました。

要約すると、著者は、もしあなたが「頼んだら脳を完全にオフにできる」ロボットを求めているのであれば、単に静かにするように伝えるだけでは不十分であると示唆しています。あなたは、思考の道具がそもそも存在しない、別の部屋を与える必要があるのです。このシンプルなアーキテクチャの変更は、AIをより効率的で、予測可能で、制御可能なものにするための強力な方法であるようです。