🤖 AI

Humans Disengage, Reasoning Models Persist: Separating Difficulty Registration from Deliberation Allocation

この論文は、大規模推論モデルと人間は、どちらも困難な問題に対して全体としてより多くの時間を割り当てるものの、その内部戦略においては対照的であることを明らかにしており、すなわち、人間は最終的に失敗した問題に対しては時間を短縮する（戦略的な離脱を示唆する）一方で、モデルは失敗した問題に対してより多くのトークンを消費する（不確実性に起因する熟考を示唆する）という、標準的な難易度相関指標によって隠蔽された決定的な相違が存在することを明らかにしている。

原著者： Han-yu Wang

公開日 2026-06-26

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Han-yu Wang

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

この論文の解説を、簡単な言葉と日常的な例えを用いて説明します。

大きなアイデア：2つの思考スタイル

あなたが難しいテストを受けているところを想像してみてください。問題に詰まったとき、あなたには2通りの反応があります。

「諦める」戦略： 「これは今の自分には難しすぎる」と気づき、次の問題のためにエネルギーを温存しようと、すぐに考えるのをやめる。
「やり続ける」戦略： 「これは難しい」と気づいた上で、「難しい」からといって、たとえ最終的に間違えるとしても、さらにメモを書き込み、より一生懸命に考え続けようとする。

この論文は、人間は主に最初の戦略を使い、AI推論モデル（最新の賢いAI）は2番目の戦略を使うということを明らかにしています。

設定：表面的な類似性

長い間、研究者たちはAIと人間は同じように考えていると考えてきました。彼らはあるパターンに気づきました。

人間が難しいパズルに直面すると、解決するのに長い時間がかかる。
AIが難しいパズルに直面すると、答えを出す前に長い「思考」のテキスト（トークン）を生成する。

これは、両者が「難しい問題＝もっと努力が必要」と言っているように見えました。論文ではこれを**「困難さの登録（Difficulty Registration）」**と呼んでいます。人間もAIも、「どの問題が難しいか」という点では一致しているのです。

ひねり：失敗したときに何が起きるのか？

著者たちはさらに深く掘り下げました。彼らは単に問題を解くのにどれくらいの時間がかかったかを見たのではなく、答えが間違っていたときに何が起きたのかを見たのです。

人間： 人間が問題を間違えたとき、通常、その問題に費やした時間は短くなっていました。彼らは早い段階で「これは無理だ」と気づき、次の問題へ移ったのです。
- 例え： あなたが壊れたトースターを直そうとしている場面を想像してください。もしプラグが抜けていることに気づいたら、すぐにいじるのをやめるはずです。プラグが抜けているトースターを直そうとして、20分間も手を加え続けることはありません。
AIモデル： これらのAIモデルが問題を間違えたとき、正解したときよりも長い時間（より多くのテキスト）を費やしていました。彼らは失敗している最中であっても「思考」を続けていたのです。
- 例え： トースターのプラグが抜けている状況を想像してください。AIはボタンを押し続け、ドアを開け、コイルをチェックし続け、最後に「あ、プラグが抜けています」と認めるまで、20分間も格闘しながら膨大なレポートを生成し続けます。

思考の2つのレベル

論文では、思考を2つの明確なステップに分けています。

登録（気づく）： 「この問題は難しいか？」（人間もAIも、同じ難しい問題に対して「イエス」と答えます）。
割り当て（決める）： 「難しいと分かった今、どうすべきか？」
- 人間： 「難しいし、行き詰まった？じゃあ、やめて別のことをしよう」（離脱／Disengagement）。
- AI： 「難しいし、行き詰まった？じゃあ、もっと一生懸命考えて、もっと書こう」（執着／Persistence）。

なぜAIはこのような行動をとるのか？

著者らは、AIが人間のように「頑固」なのではなく、不確実性によって動いているのだと示唆しています。

AIが確信を持てないとき、その内部プログラムは、答えを見つけるためにテキストを生成し続けるよう指示します。
残念ながら、AIが最も確信を持てない問題において、AIは失敗することが多いのです。そのため、AIは間違えるときほど、最も長く詳細な「思考」の連鎖を書き連ねてしまうのです。
これは、混乱しているときに、ケースを放棄して立ち去るのではなく、メモを書き続ける探偵のようなものです。

「人間側」のストーリー

また、論文はなぜ人間が異なる行動をとるのかについても説明しています。人間には**「関与（Engagement）か放棄（Abandonment）か」**という概念があります。

もし人間が問題に取り組んで、すぐに手詰まりを感じたら、多くの場合「これは解けない」と判断してやめてしまいます。これが「放棄」です。
もし彼らが粘り強く取り組み、最終的に解決できたなら、その問題に多くの時間を費やしたことになります。
データによれば、人間は「解ける」と予想する問題に時間を使い、解けないと思うものは切り捨てているのです。

結論：同じ地図、異なるコンパス

論文は、AIと人間は表面上は似ている（どちらも難しい問題には時間がかかる）ものの、時間の使い方に関するルールは全く異なっていると結論づけています。

指標の罠： 以前の研究は「地図」（どの問題が難しいか）だけを見ていました。その結果、AIと人間が一致しているように見えました。
現実： しかし、「コンパス」（失敗をどう扱うか）を見たとき、彼らは正反対の方向を向いています。

要約すると： 人間は、エネルギーを節約するために悪い問題から立ち去る方法を知っています。現在のAIモデルは、諦めるのが苦手です。彼らは、空回りしているときでも「思考（テキスト生成）」を続けてしまい、間違える可能性が最も高いときに、思考のプロセスを最も長くしてしまうのです。

これが将来に意味すること（論文による）

この論文は、これがAIにおける臨床的な問題であるとか、特定の修正策であると主張しているわけではありません。代わりに、AIをテストするための新しい方法を提案しています。

テスト： もしAIの「思考」を途中で強制終了（切り詰め）した場合、それでも正解にたどり着けるでしょうか？
予測： もしAIが混乱して「中身のない文章」を付け足しているだけなら、途中で切っても精度はあまり下がらないはずです（単に時間を無駄にしているだけだからです）。もしAIが本当に有用な作業を行っているなら、途中で切ると失敗するはずです。著者らは、AIの余分な思考が「本当に役に立っているのか」、それとも単に「混乱のサインなのか」を見極めるために、このテストが必要であると示唆しています。

技術的要約：人間は離脱し、推論モデルは持続する

問題提起
近年の研究（de Varda et al., 2025）は、大規模推論モデル（LRM）と人間の表面的なアライメント（整合性）を確立した。すなわち、両システムとも困難な項目に対してより長い推論トレースを生成する（あるいはより多くの時間を要する）。この「項目間アライメント」は、LRMが人間と同様に困難さを認識していることを示唆している。しかし、この相関関係は二つの異なる認知プロセスを混同している。それは、困難さの登録（項目を難易度によって格付けすること）と、熟考の割り当て（難易度が判明した後に、特定の項目に対してどれだけの計算量を費やすかを決定すること）である。

本論文は、項目間の相関関係だけではメカニズム的な類似性を主張するには不十分であると論じている。なぜなら、エージェントが自身の成功と失敗に対してどのように計算をスケジューリングするかという点は明らかにならないからである。具体的には、LRMが人間のように「解けると期待される項目」に対してより多くの労力を割くのか（エンゲージメント）、あるいは、たとえその努力が失敗に終わるとしても、不確実性などの異なる信号に基づいて労力を割り当てているのかは不明である。

手法
本研究は、登録と割り当てを分離するために、H-ARC（視覚的抽象化）、INTUIT（直感的物理学）、Cortes（二値の関係推論）の3つの推論パラダイムにわたる、公開された一致した人間・LRMコーパスを利用した二段階診断を導入している。

困難さの登録（プローブ1）： 著者らは、項目間のクロスアイテム分析を再現し、LRMの推論トレースの長さと人間の反応時間（RT）を項目間で相関させた。
熟考の割り当て（プローブ2）： 本研究の核心的な革新は、結果条件付きかつ項目制御された診断である。著者らは次のように問いかけている。固定された項目において、エージェントは正解した試行と不正解の試行で、熟考の時間を変えるか？
- 指標： エージェント内 $d$ -比率。これは、正解と不正解の試行間における対数熟考時間（人間は秒、LRMはトークン）のコーエンの $d$ として定義される： $d = (\bar{\ell}_{wrong} - \bar{\ell}_{right}) / s_{pooled}$ 。
- 制御： 割り当てを困難さと分離するため、分析には項目固定効果（項目のアイデンティティを吸収する）と困難度制御回帰を用いている。これにより、比較が厳密に同一項目内で行われることを保証し、項目間の困難度の勾配による混同を防いでいる。
- 正規化： 熟考は、各エージェントのネイティブなスケール（秒 vs トークン）内で測定される。絶対的な大きさは直接比較されない。
- モデル： 6つのオープンウェイト思考型LRM（例：DeepSeek-R1, Qwen-QwQ, gpt-oss）と、1つの非思考型ベースライン（DeepSeek-V3）を、一致した人間サンプルと比較する。

主な結果
本研究は、登録と割り当ての間の解離を見出した：

登録（アライメント）： 思考型LRMと人間は、どの項目が難しいかについて一致している。LRMのトレース長は、項目間で人間のRTと正の相関を示した（Spearman $\rho = 0.16–0.30$ ）。これは de Varda et al. (2025) の結果を再現している。
割り当て（乖離）： 項目が固定されている場合、両システムは相反する割り当てポリシーを示す：
- 人間： 負またはゼロに近い $d$ -比率を示す（H-ARCにおいて $d = -0.10$ ）。人間は、不正解の試行において、より少ない時間を費やす。これは、**エンゲージメント対放棄（engagement-vs-abandonment）**の戦略と一致している。つまり、人間は解けると期待する項目には執着し、解けないと判断した項目からは離脱（放棄）する。
- 思考型LRM： 大きな正の $d$ -比率を示す（H-ARCにおいて $d = 1.47–3.13$ ）。LRMは、不正解の試行においてより多くのトークンを消費する。これは、**不確実性による長さ（length-on-uncertainty）**のポリシーを示唆している。つまり、モデルが不確実なときに連鎖（chain）が長くなり、それがまさに失敗につながる局面である。
- 非思考型ベースライン： 非思考型のDeepSeek-V3も一部のタスクで正の $d$ -比率を示しており、不確実性下での長さの拡大は、特定の「推論」割り当てポリシーではなく、ベースの生成特性である可能性を示唆している。ただし、思考型モデルの方がより強い効果を示している。
トレースの内容： LRMのトレース内部では、誤った試行において、H-ARCでは自己疑念のマーカー（例：「wait」「hmm」）の密度が高く、Cortesでは語彙の反復が高い。これは、長さが生産的な探索ではなく、不確実性によって駆動されているという解釈を支持している。

貢献

概念的分離： 本論文は、困難さの登録と熟考の割り当てを形式的に分離し、項目間の相関が必ずしも共有された停止ポリシーを意味しないことを示した。
新しい診断法： メタ認知制御における人間とLRMのアライメントを検証するための必須テストとして、結果条件付きかつ項目制御された $d$ -比率を導入した。
実証的発見： LRMは「何が」難しいかについては合意しているものの、「その困難さにどう対処するか」については根本的に異なっていることを明らかにした。先行研究で見られたアライメントは、正反対の割り当てポリシーを覆い隠していたのである。

意義と主張
本論文は、観察された解離が、LRMが人間のようなメタ認知制御を実装しているという見解に異議を唱えるものであると主張している。

メタ認知的デカップリング（切り離し）： 結果は、現在の思考型LRMにおいて、不確実性のモニタリング（ヘッジングや長さによって示される）が、停止制御から切り離されていることを示唆している。人間はモニタリングを用いて労力を制御する（価値の低い試行を放棄する）が、LRMは精度への収益が減少している場合でも、不確実なときにトークン生成を継続する傾向がある。
リソース合理的解釈： リソース合理的な枠組みの下では、人間のパターンは、期待限界が消失したときに労力を撤回するという停止ルールと一致している。LRMのパターンは、期待される利得を項目固有の特徴に基づいて条件付けることに失敗しているか、あるいは（タスクの正確性とは異なる）異なる最適化目的（例：長さに条件付けられた嗜好）を持っていることを示唆している。
方法論的転換： 著者らは、将来のLRMの認知モデリングにおいては、項目間の登録テストと、項目内の割り当てテストを組み合わせる必要があると主張している。項目間の相関のみに頼ることは、メカニズム的な類似性を主張するには不十分である。

限界と今後の方向性
著者らは、自らの知見は観察的なものであり、追加のトークンの因果的な価値を証明するものではないことを明示している。彼らはLRMが「不合理」であると主張しているのではなく、人間とは異なるリソース合理的ポリシーを実装していると述べている。論文では、次に進むべきステップとして、**制御された推論時切り詰め（controlled inference-time truncation）**を提案している。これにより、「不確実性による長さ（truncationを行っても精度が損なわれない）」と「有用な探索（truncationによって性能が低下する）」を識別できるはずであるが、本研究ではこのテストは行われていない。対象範囲はオープンウェイトモデルと特定のデータセットに限定されており、「エンゲージメント対放棄」という読み解きは行動シグネチャーの解釈であり、内部アーキテクチャの直接的な観察ではない。