Discovering Cross-Language Reasoning Invariance in LLMs with Geometry-Invariant Sparse Autoencoders

大規模言語モデルは、今日における最も高度な人工知能ツールの背後にあるエンジンであり、数十の言語で読み、書き、問題を解決する能力を備えています。長年、研究者たちは、これらのシステムがいかにして多言語性の複雑さを処理しているのかという疑問を抱いてきました。あるモデルが英語で数学の問題を解き、次に全く同じ問題を中国語で解くとき、そのモデルは両方に対して同じ内部的な思考メカニズムを使用しているのでしょうか、それとも言語ごとに全く異なる一連のルールに切り替えているのでしょうか。この問いが重要である理由は、もしモデルが推論のための共有された内部言語を使用しているならば、私たちは一度その論理を理解すれば、それが話すあらゆる言語にその理解を適用できるからです。しかし、もしモデルが言語固有の個別の経路に依存しているならば、あるバージョンのモデルを理解したとしても、他のバージョンについてはほとんど何も分からないことになります。メカニスティック・インタープリタビリティ（機械論的解釈可能性）という分野は、これらのモデルの内部を覗き込み、その内部状態を、マッピングして理解できる複雑な回路基板のように扱うことで、それらがどのように機能しているかを見ようとする試みです。

ある研究チームは、5つの異なる大規模言語モデルの内部構造を精査することで、この問いに答えるべく着手しました。彼らは特定のタスク、すなわち小学校レベルの算数の問題に焦点を当てました。彼らは250問の数学問題のデータセットを用意し、各モデルに英語、ドイツ語、フランス語、スペイン語、ロシア語、中国語の6つの異なる言語で問題を解かせました。リンゴとリンゴを比較するように、公平な比較を行うため、彼らはモデルがすべての言語において正解を導き出し、かつ明確なステップ・バイ・ステップの推論過程を生成した問題のみを抽出しました。その後、研究者たちはプロセスのさまざまな段階におけるモデルの内部活動を記録し、コンピュータが解法を考え抜く際に発生した、電気信号のような特定のパターンを捉えました。

これらの複雑な信号を理解するために、研究者たちは「スパース・オートエンコーダ」と呼ばれるツールを使用しました。これは、モデルの混沌とした内部ノイズを、明確で理解可能な概念のリストへと翻訳する方法だと考えることができます。人間が風景を説明する際に、「空、木、犬、車」といった主要な要素を列挙するように、オートエンコーダはモデルの活動を、活性化された一連の特徴へと分解します。研究者たちは、各層のモデルに対して2つのバージョンのこのツールを訓練しました。最初のバージョンは、単に目に見えるものを一つの言語で記述することを学習するものです。二番目のバージョンは、特別な指示を与えられて訓練されました。それは、問題が英語で提示されていようと中国語で提示されていようと、同じ一連の特徴を用いて、同じ数学の問題を記述することを学習しなければならないというものです。この二番目のバージョンは、モデルに共通の基盤、すなわち推論のための共有された内部言語を見つけさせるように設計されました。

結果は、これらのモデルがどのように考えているかについて、驚くべき現実を明らかにしました。研究者たちは、内部的な記述を幾何学的に単純に似せるだけでは、モデルが実際に同じ論理を使用していることを保証しないことを発見しました。あるモデルでは、内部的な特徴を言語間で一致させるように強制すると、モデルの推論がより堅牢になり、相互運用が可能になりました。しかし、他のモデルでは全く効果がなく、あるケースでは、推論の一部をある言語から別の言語へと入れ替えようとした際に、モデルの性能を悪化させることさえありました。これは、モデルがすでに非常に異なる習慣を定着させていたために起こりました。ある系統のモデルは、問題が進むにつれて自然に共有された思考方法を構築するため、新しい訓練がその共有された経路を洗練させるのに役立ちました。別の系統は、すでに強力で共有された構造を構築していたため、新しい訓練が付け加えるものは何もありませんでした。そして第三の系統は、言語を厳格に分離して保持していたため、それらを強制的に結合しようとする試みが、明晰さをもたらすどころか混乱を生み出しました。

この研究では、17億から40億のパラメータを持つ、4つの異なるファミリーに属する5つの特定のモデルを調査しました。彼らは、共有された推論言語を作成することの成否は、モデルの既存のアーキテクチャに完全に依存していることを発見しました。「収束型」のパターンを示すモデル（共有された特徴が問題の処理が進むにつれて強まっていくモデル）においては、新しい訓練手法は完璧に機能し、テストされたすべての層において、言語を越えたモデルの推論能力を向上させました。「飽和型」のモデル（共有された特徴ですでに満たされているモデル）では、新しい訓練は恩恵をもたらさず、時にはモデルの自然な流れを乱しました。そして「低共有型」のモデル（言語がほとんど分離されたままのモデル）では、内部信号が紙の上ではより類似して見えるようになっても、機能的な架け橋を作ることはできませんでした。

この研究は、分野における一般的な仮定、すなわち「二つのものがグラフ上で似ていれば、それらは同じように機能するはずだ」という考えに異を唱えるものです。研究者たちは、モデルが言語間で幾何学的に整列しているように見えても、実際には相互運用できない可能性があることを証明しました。彼らは、多言語モデルを理解するための道筋は、万人に共通する解決策ではないことを示しました。むしろ、モデルの内部論理は、その特定の設計に深く結びついているのです。一部のモデルは自然に普遍的な推論エンジンを構築しますが、他のモデルは言語を別々の部屋に閉じ込めています。研究者たちは、人工知能が言語を越えてどのように考えるかを真に理解するためには、すべてのモデルが同じ隠れたルールに従っていると想定するのではなく、各モデルの特定のアーキテクチャを見なければならないと結論付けました。