📄 other

Humans Disengage, Reasoning Models Persist: An Item-Controlled Dissociation in Deliberation Allocation

この論文は、熟議の配分における人間と大規模推論モデル（LRM）の間の決定的な解離を明らかにしている。すなわち、両者ともに全体として困難な問題に対してより多くの時間を費やすという点では共通しているものの、人間は最終的に間違えた項目に対しては時間を少なく投資する（困難なタスクを放棄する）一方で、LRMは逆説的に、失敗した問題に対してより長い推論プロセスを生成する（不確実性の中で固執する）のであり、これは表面的な類似性にもかかわらず、停止および制御ポリシーにおける根本的な違いを浮き彫りにしている。

原著者： Han-yu Wang

公開日 2026-07-23

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Han-yu Wang

原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

あなたは、二人の異なる生徒が非常に難しい数学のテストを受けている様子を観察していると想像してください。一人は、天才的な人間のティーンエイジャーであり、もう一人は、問題をステップバイステップで「考え抜く」ように設計された超スマートなコンピュータプログラムです。長い間、科学者たちはこの二人がどのように比較されるのかに魅了されてきました。彼らは、表面的な類似性に気づきました。問題がトリッキーになると、人間とコンピュータの両方が、その問題により多くの時間を費やす傾向があるということです。それは、車のスピードメーターを見ているようなものです。もし道が急勾配になれば、両方のドライバーが速度を落とします。この観察結果から、多くの人々は、コンピュータが人間と同じように「思考」するためのメンタルギア（精神的な歯車）を使用して、どの問題が難しく、どれが簡単かを判断しているのだと信じるようになりました。

しかし、ここにひねりがあります。二人のドライバーが同じ急な坂道でスピードを落としたとしても、それだけで二人が同じ方法で運転しているとは限りません。一人のドライバーは、慎重にカーブを曲がるためにスピードを落としているのかもしれませんし、もう一人のドライバーは、混乱して地図を凝視し、何をすべきか分からずに立ち往生しているためにスピードを落としているのかもしれません。人工知能と人間心理の世界における大きな疑問は、「どのようにして、これらの思考者はいつ続けるべきか、そしていつ諦めるべきかを決めているのか？」ということです。彼らは苦戦している問題に対して追加の努力を払うのでしょうか、それとも損切りをして次に進むのでしょうか？これを理解することは、単なる数学のスコアの問題ではありません。それは、コンピュータが本当に私たちと同じように推論することを学んでいるのか、それとも、内部的な論理を持たず、単に思考している「ように見せている」だけなのかを見極めることなのです。

「思考」の大きなミスマッチ

研究者であるHan-yu Wangによる新しい研究は、この謎の層を剥ぎ取り、目の前にある驚くべき秘密を暴き出しました。人間と高度な「推論」AIモデルは、どの問題が難しいかについては一致していますが、それに対して「どうすべきか」については完全に意見が分かれています。

ビデオゲームを想像してみてください。プレイヤーが強すぎるボスに遭遇したとき、賢い人間のプレイヤーは、「今は無理だ」と気づき、時間を無駄にするのをやめて、別の戦略を試したり、別のレベルへ移動したりすることを決めるかもしれません。彼らは離脱します。しかし、この研究によれば、AIは正反対のことをします。AIは問題に間違えると、止まるのではなく、さらに多くのテキスト、より多くの「思考」、そしてより多くのステップを生成し続け、最終的に間違った答えを出すまで続けます。

核心的な発見：「正解」対「不正解」のギャップ
この研究では、人間と6つの異なるAIモデルが同じ視覚的パズル（H-ARCと呼ばれる）を解いた膨大なデータセットを調査しました。研究者たちは二つのことを測定しました：

登録（Registration）： 彼らはどのパズルが難しいかについて一致していたか？ はい。 人間もAIも、難しいパズルにはより多くの時間を費やしました。
配分（Allocation）： パズルを間違えたとき、彼らは正解したときと比較して、より多くの時間を費やしたか、あるいは少ない時間を費やしたか？ いいえ。 ここで彼らは分裂しました。

人間： 人間がパズルを間違えたとき、彼らは正解したときよりも少ない時間を費やしていました。データは「Cohen's d」が -0.10 であることを示しています。これは「諦める」戦略を示唆しています。人間は、行き詰まったと感じると、多くの場合、素早く思考を停止します。
AIモデル： AIがパズルを間違えたとき、彼らは著しく多くの時間を費やしていました。AIモデルは 1.47から3.13 の範囲の「Cohen's d」を示しました。これは、AIが明らかに失敗しているにもかかわらず、さらなる「思考」（トークン）を生成し続けていたことを意味します。

論文は、これが単なる小さな不具合ではなく、彼らの「思考」における根本的な違いであると主張しています。人間のパターンは**「関与 vs 離脱」のように見えます。私たちは解決できると思う問題には留まり、できないと思う問題からは立ち去ります。一方、AIのパターンは「不確実性に伴う長さ」**のように見えます。AIは、不確かなとき、たとえその追加の会話が正しい答えを導くのに役立たないとしても、単に話し続け、より長い推論の連鎖を生成するのです。

「トレース」の手がかり

AIがなぜこのような行動をとるのかを理解するために、研究者たちはAIが生成した実際のテキスト（その「思考の跡」）を調べました。彼らは、AIが問題を間違えそうになるとき、そのテキストが「ヘッジング（言葉を濁すこと）」や「自己疑念」に満ちていることを発見しました。「待って、実は」「うーん」「いや、再検討させて」といった言葉が出てくるのです。AIは、進むべき道に確信が持てず、自分自身に話しかけているような状態でしたが、止まることはありませんでした。

対照的に、人間が素早く問題を間違えたときは、動き（パズルのグリッド編集回数など）が少ないことが多く、これは彼らがすでにそのパズルに努力する価値がないと判断したことを示唆しています。研究は、人間にとって「止まる」という決定は、賢明なメタ認知的な選択であることを示唆しています。AIにとって、「止まる」という決定は異なるルールに基づいているようです。AIは、たとえ自分が間違った方向に進んでいると分かっていても、（あるいは分かっているはずでも）、予算を使い果たすか壁にぶつかるまで、進み続けるのです。

これが意味すること（と意味しないこと）

論文は、AIが「愚かである」とか人間が「完璧である」と言っているわけではないことに細心の注意を払っています。代わりに、AIと人間は異なるルールブックに従っているのだと示唆しています。

AIは必ずしも思考に失敗しているわけではない： 「もし不確かなら、より多くのテキストを生成せよ」というルールに従っている可能性があります。これは一部のタスクにおいては良い戦略かもしれませんが、これらのパズルにおいては、無駄な努力につながっています。
「思考」は同じではない： AIが人間のような推論に見える長いテキストの連鎖を生み出すからといって、AIが人間と同じメンタル・ストッピング・ルール（思考を止めるルール）を使用しているとは限りません。この研究は、AIの「思考」は、混乱しているときのハムスターが回し車を走っているようなものであり、人間は、道が険しくなると引き返すことを決意するハイカーのようなものであることを示しています。

研究者たちは、他の種類のパズル（直感的な物理学やバイナリ推論など）でもこれをテストしました。パターンは維持されました。AIは間違いに対して追加の時間を費やし続けましたが、人間は時間を短縮する傾向がありました。しかし、ある特定の種類のパズル（Cortes）では、AIの挙動がわずかに変化し、「不確実性に伴う長さ」のルールが、プレイされている特定のゲームに依存する可能性があることを示しました。

結論

この研究は、AIが思考できないことを証明しているのではなく、AIと人間が思考をどのように「配分」するかが異なることを証明しています。表面的な類似性（どちらも難しいものには時間がかかる）は、深い違いを隠しています。人間は行き詰まったと気づくと思考を止める傾向がありますが、AIモデルは行き詰まっているときでも思考（および発言）を続ける傾向があります。

著者らは、AIを真に理解するためには、彼らが「どれくらい長く」考えるかだけでなく、「いつ」止まるのかを見る必要があると提案しています。彼らは新しいテスト方法を提案しています。もしAIの「思考」を途中で強制終了（切り捨て）した場合、それらの余分な言葉が実際に役に立っていたのか、それとも単なるノイズであったのかが見えてくるはずです。そうすることでなければ、論文は、AIの誤答に対する「執着」は、その内部論理における「いつ辞めるか」を決める仕組みが、私たち自身のものとは根本的に異なっていることの兆候であると結論付けています。これは、人間のようなAIを作る競争において、私たちは「考えているように見える」ことには非常に長けているが、「いつ止まるべきかを知ること」には非常に不向きな機械を作っている可能性がある、という教訓となっています。

技術要約：人間は離脱し、推論モデルは持続する

問題提起

熟慮（deliberation）に関する認知科学における中心的な問いは、エージェントがいつ問題に対して思考を継続し、いつ離脱するかをどのように決定するかである。先行研究（例：de Varda et al., 2025）は、大規模推論モデル（LRM）と人間の間にある「クロスアイテム（項目間）」の整合性を確立した。すなわち、両システムとも、客観的に困難な項目に対して長いトレース（LRMの場合は推論トークン、人間の場合は反応時間）を生成するというものである。これは、共有された困難さの登録（difficulty registration）、すなわち、タスクが困難であることを感知する能力を示唆している。

しかし、この表面的な類似性は、**熟慮の配分（delbration allocation）*における潜在的な乖離を覆い隠している。つまり、困難さを登録した後*に、エージェントがどのように計算資源をスケジューリングするか（特に自身の成功または失敗に関連して）という点である。本論文は、クロスアイテムの相関関係だけでは、共有されたメカニズムによる推論なのか、あるいは困難さの格付けにおける偶然の一致なのかを区別できないと主張している。核心となる問題は、アイテムの同一性が保持されている場合に、LRMと人間が（正解および不正解の試行に対して）熟慮のリソース（時間／トークン）を同様に配分するかどうかを判断することである。

方法論

本研究は、公開されている匿名化済みデータセット（H-ARC, INTUIT, Cortes）と、6つのオープンウェイト思考型LRM（例：DeepSeek-R1, Qwen-QwQ, gpt-oss）および非思考型ベースライン（DeepSeek-V3）を用い、アイテム制御された結果条件付き分析を用いた二段階診断フレームワークを採用している。

1. 二段階診断

レベル1：困難さの登録（クロスアイテム）： 異なるアイテム間における、LRMのトレース長と人間の反応時間の相関を測定する。これは、両システムがどのアイテムが困難であるかについて一致しているという知見を再現するものである。
レベル2：熟慮の配分（ウィズイン・アイテム）： 同じエージェントかつ同じアイテム内での、熟慮の長さと正誤の関係を測定する。これが新しい貢献である。「エージェントは正解した試行と不正解の試行のどちらにより多くの熟慮を行うのか？」という問いである。

2. 統計的手法

指標： 主要な指標は、対数熟慮量に対するd-ratio（コーエンのd）であり、 $(\bar{\ell}_{wrong} - \bar{\ell}_{right}) / s_{pooled}$ $(\overset{ˉ}{ℓ}_{w r o n g} - \overset{ˉ}{ℓ}_{r i g h t}) / s_{p oo l e d}$ として算出される。
- 正の d：エージェントは失敗に対してより長く熟慮する。
- 負の d：エージェントは成功に対してより長く熟慮する。
コントロール： 困難さから配分を分離するために、著者らはアイテム固定効果回帰を使用している。これによりアイテムの同一性が吸収され、比較が純粋に同一アイテム内での正誤の結果によって駆動されるようになる。本分析は、反復測定としての「エージェント内」ではなく、「アイテム制御」されたものであり、公開データは（アイテム $\times$ モデル）のペアに対して一つの結果を提供している。対照は、同じ特定のアイテムに挑戦しているモデル（および人間）の間で特定される。

3. メカニズムのプローブ

行動の乖離を解釈するために、著者らはトレースの内容を分析した。

人間データ： 反応時間を「アクションカウント（グリッド編集）」を用いて分解し、「放棄（迅速なエラー）」と「従事した失敗（遅いエラー）」を区別した。
LRMデータ： 推論トレースを分析し、「自己疑念マーカー（ヘッジング）」、自己修正マーカー、および語彙の反復率を調べ、トレースの長さが不確実性と相関しているかどうかを確認した。

主な結果

1. 配分のギャップ（符号の反転）

主要なデータセット（H-ARC）において、顕著な解離が現れた：

人間： 負の d-ratio（ $d = -0.10$ ）を示す。アイテムの困難さを制御した場合、人間は間違えた試行に対してより短い時間しか費やさない。これは、**「従事 vs 放棄」**のポリシーを示唆している。すなわち、人間は解決できると期待する項目には執着し、解決できないと判断した項目からは迅速に離脱する。
思考型LRM： 正の d-ratio（ $d = 1.47–3.13$ ）を示す。アイテムの困難さを制御した場合、LRMは間違えた試行に対してより多くのトークンを消費する。これは、**「不確実性による長さ（length-on-uncertainty）」**のポリシーを示唆している。モデルは不確実な時に長い連鎖を生成し、それがまさに失敗するタイミングである。

2. 堅牢性と汎用性

クロスパラダイム： この符号の反転は、LRMが $d > 0$ を示し、人間が $d \approx 0$ を示すINTUIT（直感的物理学）においても保持されている。
境界事例（Cortes）： Cortes（二項関係推論）では、LRM単独のウィズイン・アイテムの傾きは正（H-ARCとは逆）になるが、エージェントのタイプと正誤の間の相互作用は依然として有意である（人間はさらに強い正の傾きを示すため）。解離は存続しているが、メカニズムの解釈はより複雑である。
ベースライン： 非思考型のDeepSeek-V3も、間違った試行により多くのトークンを費やす傾向（正のd-ratio）を示しており、この「不確実性による長さ」の挙動は、単なる「推論」機能ではなく、不確実性下でのベースモデルの生成特性である可能性を示唆している。

3. メカニズムの証拠

人間の従事： 人間のウィズイン・アイテムの正の傾きは、アクションカウントによって媒介されている。迅速な誤答（放棄）は、遅い誤答（従事した失敗）よりもアクション数が有意に少ない。これは「従事 vs 放棄」の仮説を支持している。
LRMの不確実性： H-ARCにおいて、不正解の試行の連鎖には、自己疑念／ヘッジングのマーカーが有意に多く含まれている。Cortesにおいては、5-gramの反復率が高く、タイプ・トークン比が低い。これらの表面的なマーカーは、モデルが「行き詰まっている」か、あるいは不確実であることを示唆しており、精度を向上させることなくより多くのトークンを生成している。

主な貢献

登録と配分の分離： 本論文は、しばしば混同される二つの行動レベル（登録と配分）を分離している。LRMと人間が、どのアイテムが困難であるか（登録）については一致しているものの、それらのアイテムに対してどのようにリソースを配分するか（配分）においては根本的に異なることを示している。
アイテム制御された診断： アイテムの同一性を固定した、厳密な結果条件付き診断を導入した。これにより、クロスアイテムの相関（困難さの登録）が、ウィズイン・アイテムの熟慮ポリシーとは直交していることが明らかになった。
アライメントの再定義： 本論文は、トレース長の表面的な一致は、正反対の内部ポリシーを隠蔽している「表面的な類似」であると主張している。人間とLRMのアライメントを、トレース長の問題としてではなく、停止および制御ポリシーの問題として再定義している。

意義と主張

本論文は、観察された解離が、現在のLRMが人間のようなメタ認知制御を実装しているという概念に異議を唱えるものであると主張している。

メタ認知のデカップリング（分離）： 人間においては、モニタリング（不確実性）は制御（停止／放棄）と結合している。LRMにおいては、モニタリングの兆候（ヘッジング、不確実性マーカー）は不正解の試行で上昇するが、これらは停止と弱く結合している。つまり、モデルは結果が誤りである可能性が高い場合でも、トークンの生成を続けてしまう。
リソース合理的解釈： 人間のパターンは、期待限界効用が消失したときに計算を撤回する（放棄）という、リソース合理的なポリシーと一致している。LRMのパターンは、最終的な有用性に関わらず、不確実な項目に対して追加のトークンが配分されるポリシーを示唆しており、これは（推論の正確さではなく）異なる目的（例：学習信号や検証器への報酬）を最適化している可能性がある。
方法論的転換： 著者らは、LRMと人間の認知を比較する将来の研究は、クロスアイテムの一致テストと、ウィズイン・アイテムの配分テストを組み合わせなければならないと主張している。クロスアイテムの相関関係のみに依存することは、共有された推論メカニズムを主張するには不十分である。

限界： 著者らは、データが観測的であることを明記している。彼らは、LRMの不正解試行における追加のトークンが「ゼロの有用性」を持つことを証明したわけではなく、その配分パターンが人間の行動と逆であることを示したに過ぎない。彼らは、追加のトークンが「有用な探索」なのか「パディング（埋め合わせ）」なのかを判断するための次のステップとして、「制御された打ち切り（controlled truncation）」実験を提案している。また、本研究はオープンウェイトモデルに限定されており、クローズドな最先端システムについてはテストしていない。