← 最新の論文
💬 NLP

When the Canonical Completion Is Wrong: Formalizing and Measuring the Jump in Large Language Models

本論文は、大規模言語モデルの「ジャンプ」能力、すなわち、デフォルトの標準的な補完を放棄して独自の正しい公理系を選択する能力を正式に定義および測定するものであり、最先端のモデルがすべての試行においてこのステップを成功裏に遂行していることを実証しており、それによって、もし仮に能力の欠如が指摘されるとしても、それはジャンプそのものではなく、制約や枠組みを生成することにあることを示唆している。

原著者: Dai Shi, Xiaoyu Li, José Miguel Hernández-Lobato

公開日 2026-08-28
📖 1 分で読めます☕ さくっと読める

原著者: Dai Shi, Xiaoyu Li, José Miguel Hernández-Lobato

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む

人工知能の研究において、研究者たちを長年二分してきた中心的な問いがある。すなわち、機械はすでに見たことのあるパターンの枠を超えて、真に思考することができるのだろうか、という問いである。大規模言語モデルは帰納法の達人であり、膨大なテキストの中にある統計的な傾向を見出すことで、文章の次の単語を予測することを学習している。また、厳格な論理規則に従って結論を導き出す演繹法においても、ますます熟練してきている。しかし、アブダクション(仮説的推論)として知られる第三の推論形式は、依然として謎のままである。それは、一連の観察から、それらを説明するための全く新しい規則や公理へと跳躍する能力であり、最も明白な答えを捨てて、驚くべき、未知の可能性を選択するという精神的な跳躍をしばしば必要とするものである。長年、懐疑派は、これらのモデルはこのような跳躍を行う構造的な能力を欠いており、既知の事項を繰り返すループの中に閉じ込められているのだと主張してきた。一方で、機械が生成した数学的発見を指摘してこれに異を唱える者もいるが、この「跳躍」を定義したり測定したりするための正確な方法がないため、議論は理論の段階で停滞したままとなっていた。

研究チームは、事実がそれを求めている時に、モデルが自身のデフォルトの直感を捨て去ることができるかどうかを確認するために、厳密なテストを構築することで、この不確実性を打破した。彼らは、モデルにゼロから新しい理論を考案させることはしなかった。なぜなら、それは検証不可能だからである。代わりに、彼らはゲームのルールが石に刻まれたように確定している、制御された実験環境を作り出した。部分的な絵と、最も明白な完成方法を排除する厳格な制約リストが与えられるパズルを想像してほしい。研究者たちは、「跳躍」を、標準的で最も論理的な補完が禁止されており、代わりに制約に完璧に適合する新しい隠れた構造を構築しなければならないとモデルが気づいた瞬間として定義した。これを行うために、彼らは、既知のデータに基づいてデータを拡張する際の唯一の最も自然な方法である「カノニカルな補完(標準的な補完)」を特定する数学的枠組みを用いた。そして、その自然な答えが明示的に禁止されている問題を設計し、モデルがデータ自体には示されていない、唯一無二の非自明な解を見つけ出さざるを得ない状況を作り出した。

研究者たちは、単純なパズルから、数百万もの可能な答えを持つ複雑なシナリオまで、9つの異なる認証済み問題を用いてこれをテストし、利用可能な最も高度な4つの言語モデルを用いた。彼らは、モデルが好むように訓練された禁止されたデフォルトの答えに固執した頻度と、制約に従った正しい解決策へと正常に跳躍できた頻度を測定した。結果は驚くべきものであった。モデルが選択を強制されたすべての試行において、モデルが訓練された好ましいデフォルトの答えに戻ったケースは一度もなかった。248回の試行を通じて、モデルは毎回、除外されたデフォルトの答えを放棄し、正しく認証された解決策に到達した。失敗した場合、それはモデルが跳躍を拒否したからではなく、精神的なエネルギーが尽きたか、あるいは計算ミスをしたためであり、以前の誤った答えに戻ることは決してなかった。

この発見は、道が塞がれた時に新しい経路を選択する能力は、これらのモデルのボトルネックではないことを示唆している。モデルは、制約が明確であれば、自身の直感を上書きできることを証明した。研究者たちは、もしモデルが人類の歴史に見られるような創造的な跳躍の能力を本当に欠いているのだとしたら、それは選択肢の間で選ぶ行為にあるのではないと結論づけている。むしろ、困難はより手前の、より混沌としたステップにある可能性が高い。すなわち、跳躍を強いるための制約を生成すること、あるいは、その跳躍を可能にする全く新しい規則の枠組みを発明することである。この研究は、機械の創造性の謎を解明したと主張するものではないが、道が明確に塞がれているとき、これらのモデルは前進するための新しい方法を見つけ出す能力があることを、確固たるものにしたのである。

自分の分野の論文に埋もれていませんか?

研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。

Digest を試す →