Layer-Order Inversion: Rethinking Latent Multi-Hop Reasoning in Large Language Models
本論文は、後続のホップの回答が中間的なブリッジ実体よりも先にデコードされ得る「レイヤー順序逆転」を実証することによって、LLMにおけるマルチホップ推論の支配的な「ホップ整列」仮説に異を唱え、広範で浅い想起に続く選択的な深い抽出を通じてこの現象を説明する「確率的想起・抽出（probabilistic recall-and-extract）」フレームワークを提案するものである。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
大規模言語モデルは、今日の最も高度な人工知能システムの背後にあるデジタルな精神です。これらは膨大な量のテキストで学習し、驚くべき正確さで文章内の次の単語を予測することを学びます。この能力により、モデルは質問に答えたり、物語を書いたり、異なる情報の断片を結びつける必要がある問題を解決したりすることができます。これらのモデルが行う最も印象的な業績の一つは、マルチホップ推論です。これは、単一の事実では解決できず、代わりにいくつかの知識を連鎖させる必要がある質問に答えるプロセスです。例えば、「ステフィン・カリーがプレーしているスポーツの出身国はどこか？」という問いに答えるには、モデルはまずそのスポーツを特定し、次にそのスポーツの起源を見つけ、最後にそれら二つの事実を組み合わせて答えに到達しなければなりません。長年、科学者たちは、これらのモデルが、人間が一度に一つの方程式を解くように、厳格でステップ・バイ・ステップの内部経路に従ってこのようなパズルを解いていると考えてきました。モデルはまず中間的な事実を導き出し、それを保存し、それを使って最終的な答えを見つけるのだと考えていたのです。これらの機械がどのようにこのような知的な体操を行っているのかを正確に理解することは、単に彼らの知能を向上させるためだけでなく、いつ、なぜ彼らが失敗する可能性があるかを知るためにも極めて重要です。
中国科学技術大学と香港科技大学の研究チームは、今、この長年の定説に異議を唱えています。大規模言語モデルの内部構造を覗き見ることで、彼らは、これらのシステムが以前想定されていたような秩序あるステップ・バイ・ステップの経路を必ずしも辿っていないことを発見しました。代わりに、彼らは「レイヤー順序逆転（layer-order inversion）」と呼ぶ現象を発見しました。標準的なステップ・バイ・ステップのプロセスでは、最終的な答えを導き出す前に、中間の情報を理解することが期待されます。しかし、研究者たちは、多くの場合、モデルは中間ステップを完全に理解する前に、最終的な答えを既に「知っている」ようであることを観察しました。これは、質問が複雑になり、推論の連鎖におけるリンクが増えるにつれて起こります。質問が深ければ深いほど、モデルが点と点を結ぶ架け橋となる中間的な事実を明示的に処理する前に、最終的な答えを内部メモリに用意してしまう可能性が高くなります。
これを明らかにするために、研究者たちは「Patchscopes」と呼ばれる、モデルの内部の思考を顕微鏡のように覗き見るテクニックを使用しました。彼らは、最大4ステップの推論を含む複雑な質問をモデルに与え、データがモデルのレイヤーを通過する際に情報がどのように出現するかを観察しました。彼らは、主題が導入される質問の冒頭部分と、モデルが回答を生成する準備をする質問の最後尾という、二つの特定の地点に注目しました。その結果、モデルはしばしば推論の第一ステップを序盤付近で処理する一方で、最終的な答えは予想よりもずっと早く、時には中間的な事実が完全に形成される前でさえ、モデルの内部状態の中に現れることが分かりました。これは、各ステップが完了してから次のステップが始まるという、硬直した回路をモデルが構築しているという考えに矛盾します。むしろ、モデルが論理的な経路を完全に構築する前に、まるで直感（gut feeling）のように最終的な答えを直接呼び戻すことができる、より流動的なプロセスであることを示唆しています。
研究者たちは、この振る舞いを理解するための新しい方法として、「確率的想起・抽出フレームワーク（probabilistic recall-and-extract framework）」を提唱しています。固定されたルールに従う硬直した機械ではなく、モデルは情報に基づいて確率的に想起される膨大な図書館のように機能していると彼らは示唆しています。この視点では、モデルは単にレイヤーを垂直方向に移動して一つずつ問題を解いているのではありません。モデルは文中の単語を水平方向にも移動しています。研究者たちは、文の終端に近いモデルの浅いレイヤーにおいて、最終的な答えに対する広範で直感的な想起が存在することを発見しました。この想起は、正しい解決策を指し示す信号や予感として機能します。この信号は、完了した論理的な連鎖の結果ではなく、モデルが捉える直接的な関連付けです。性能の低いモデルや非常に難しい質問においては、この直感的な信号がさらに支配的になり、ステップを完全に推論していなくても正しい答えへと導いたり、逆に信号が誤解を招く場合に答えを誤らせたりすることもあります。
この新しい視点は、モデルがなぜ以前は不可解であった方法で成功したり失敗したりするのかを説明するのに役立ちます。モデルがマルチホップの質問に正解する場合、それはこの直感的な信号が最終的な答えを導くのに十分強力であったためかもしれません。逆に、モデルが失敗する場合、それは事実が不足しているからではなく、この直感的な信号を通じて最終的な答えを想起できなかったか、あるいは蓄積された知識から正しい情報を抽出できなかったことが原因であることが多いのです。この研究は、モデルが複雑な質問に答える能力が、この広範で直感的な想起と、より焦点を絞った深い情報の抽出との間のバランスに依存していることを示しています。この発見は、人工知能の内部論理が、硬直した組立ラインのようなものではなく、目的地が経路を完全に歩む前に時として見えることもある、記憶と連想のダイナミックなプロセスであることを示唆しています。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。