🤖 AI

Functional Subspace, where language models can use vector algebra to solve problems

本論文は、大規模言語モデルがその活性化空間内で機能的な部分空間を利用しており、そこではコンテキスト内学習タスクが証拠を蓄積する単純なベクトル代数演算によって解決されると仮説を立て、その証拠を提示する。

原著者： Jung H. Lee, Sujith Vijayan

公開日 2026-05-12

📖 1 分で読めます☕ さくっと読める

原著者： Jung H. Lee, Sujith Vijayan

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

大規模言語モデル（LLM）を、人間の言葉で「思考」する巨大で魔法のような脳ではなく、すべての情報が一冊の本として収められた、巨大な多階建ての図書館として想像してみてください。長い間、この図書館がどのように本を整理し、質問をされたときに正しい答えをどのように見つけていたのか、私たちは知りませんでした。

この論文は、その図書館を見るための魅力的な新しい方法を提案しています。LLM が問題を解決する際、図書館全体を単に「読み取る」のではなく、その特定のタスクのために記憶の中に特別で仮設的な部屋（「部分空間」）を構築し、その部屋の中で単純な数学（ベクトル代数）を用いて問題を解決すると示唆しています。

以下は、日常の比喩を用いた彼らの発見の概要です。

1. 「文脈」の部屋（イン・コンテキスト・ラーニング）

チャットでいくつかの例を与えるだけで、コンピュータに新しいトリックを教えることができることを知っていますか？例えば、以下のように入力するとします。

「熱い：冷たい」
「速い：遅い」
「大きい：？」

コンピュータは「小さい」と推測します。これをイン・コンテキスト・ラーニング（ICL）と呼びます。この論文は問いかけます：コンピュータは再学習なしに、これをどのように理解するのでしょうか？

著者たちは、コンピュータがこの特定の会話のために専用の作業スペース（部分空間）を作成すると提案しています。まるで、シェフがサラダを注文されたのを見て、すぐに特定のまな板を片付け、ステーキやスープを無視してサラダの材料だけを集めるようなものです。コンピュータは、その膨大な知識の残りの部分から「サラダ」の論理を分離します。

2. 「ベクトル代数」のレシピ

コンピュータがこの特別なお部屋に入ると、人間の意味で言葉の「意味」を理解する必要はありません。代わりに、言葉を特定の方向を指す矢印（ベクトル）として扱います。

比喩：「幸せ」を北を指す矢印、「悲しみ」を南を指す矢印だと想像してください。
数学：コンピュータが「幸せ：悲しみ」というパターンを見ると、「答えを得るには、矢印を 180 度反転させる」というルールを学びます。
結果：「速い：？」と尋ねると、コンピュータは「速い」の矢印を取り、それを反転させます（それが対義語のルールだからです）。そして「遅い」に到達します。

この論文は、これらのタスクにおいて、コンピュータは本質的にこれらの矢印に対して加算と減算を行っていると主張しています。深く「思考」しているのではなく、単純な幾何学的計算を実行しているのです。

3. 図書館が部屋を構築する方法

この論文は、コンピュータがそのアーキテクチャ内の 2 つの主要なツールを使用して、この部屋をどのように構築するかを説明しています。

「記憶のスタック」（フィードフォワード・ネットワーク）：これらはファイルキャビネットのように機能します。コンピュータが単語を見ると、その単語に関連する可能性のある答えのリストを引き出します。「ロンドン」と言えば、キャビネットは「イギリスの首都」「金融ハブ」「雨の多い都市」などを引き出します。
「スポットライト」（セルフアテンション）：これはどのファイルを使用するかを決定する部分です。プロンプトが地理に関するものであれば、スポットライトは「首都」のファイルに当たります。金融に関するものであれば、「ハブ」のファイルに当たります。

著者たちは、コンピュータが例（「熱い：冷たい」のペア）を処理するにつれて、この特別なお部屋に証拠を蓄積していくことを発見しました。ブロックを積み重ねるようなものです：すべての例が「対義語」の山にブロックを一つずつ加えます。最終的な質問に到達する頃には、その山は答えを予測するのに十分な高さになっています。

4. 部分空間の「魔法」

研究者たちは、モデルの層を流れるデータである内部の「残差ストリーム」を調べることでこれをテストしました。彼らは、データが移動している「主な方向」を見つけるために、PCA（主成分分析）と呼ばれる統計ツールを使用しました。

彼らが発見したもの：

コンピュータは自然にこれらの低次元の部屋（部分空間）を作成します。
これらの部屋では、質問と答えの関係はほぼ完全に線形（直線のよう）です。
コンピュータが正解すれば、この部屋の数学は一つの様相を呈し、誤れば異なる様相を呈します。これは、コンピュータが実際にこの特定の「部屋」と「数学」を使用して意思決定を行っていることを証明しています。

まとめ

この論文は、大規模言語モデルが単にパターンに基づいて推測しているだけではないと主張しています。代わりに、いくつかの例を与えられると、彼らは以下のことを行います。

記憶の中に仮設的で専門的な部屋を構築します。
言葉を矢印（ベクトル）に変換します。
その部屋の中で単純な数学（矢印の加算や減算など）を用いて答えを見つけます。

これは、AI の「創発的機能」、つまり新しいスキルを瞬時に習得しているように見える現象が、実際にはモデルが既存の知識をこれらの整然とした数学的部分空間に整理し、手元の謎を解いているに過ぎないことを示唆しています。

技術的サマリー：大規模言語モデルにおける機能的部分空間

問題定義

大規模言語モデル（LLM）は、文脈内学習（ICL）のような顕著な「創発的機能」を示してきましたが、これらの能力を可能にする基盤メカニズムは依然として十分に理解されていません。先行研究では、高レベルの概念が活性化空間内の線形方向として符号化されており、単語埋め込みの幾何学構造が意味を担っていることが示されています。しかし、LLM が微調整なしに新しいタスクにどのように汎化するか、あるいは文脈内の例から証拠を蓄積して正しい回答を生成するかについては明確ではありません。これらの動作メカニズムに関する理解の欠如は、特に安全上の重要領域への展開前に、LLM を適切に診断・修復する能力を阻害しています。本論文では、LLM が ICL タスクを解決するために特定の部分空間とベクトル代数を利用するかどうかを調査します。

手法

著者らは、LLM が入力トークンを機能的部分空間に射影し、単純なベクトル代数によってタスクを解決するという仮説を提案しました。これを検証するため、6 つの公開済み事前学習済み LLM（GPT-J-6B、Meta-Llama-3.1-8B、OLMo-2-0325-32B、Pythia-12B、Gemma-3-27b-it、GPT-NEOX-20B）の残差ストリームと機能モジュール（自己注意機構とフィードフォワードネットワーク）を分析しました。

実験デザインは以下の手順で行われました：

タスク生成：著者らは、6 つの異なるタスク（対義語、同義語、国と首都のペア、英語 - フランス語翻訳、企業と製品のペア、人物とスポーツのペア）に対して 200 の ICL プロンプトを生成しました。各プロンプトには 5 つの例のペアと 1 つのテストクエリが含まれていました。
データ収集：モデルがこれらのプロンプトを処理する際、すべてのトランスフォーマー層のすべてのトークンから残差ストリームを収集しました。
次元削減：潜在的低次元部分空間を特定するために、残差ストリームに主成分分析（PCA）を適用しました。著者らは、上位 30 個の主成分の累積説明分散を評価しました。
線形回帰分析：ICL タスクをベクトル操作としてモデル化できるかどうかを判断するため、著者らは主成分に対して線形回帰を行いました。回答トークン（ $\vec{a}$ ）が、クエリトークン（ $\vec{q}$ ）とセパレータトークン（ $\vec{s}$ ）の線形関数として記述できるか、すなわち $\vec{a} = \alpha\vec{q} + \beta\vec{s} + \gamma$ の式に従うかを検証しました。この適合の質は決定係数（ $R^2$ ）を用いて測定されました。
意思決定との相関：これらの部分空間の機能的関連性を評価するため、LLM が正しい予測を行った場合と誤った予測を行った場合の、上位性能を示す主成分におけるトークンの射影を比較し、t 検定を用いて統計的有意性を評価しました。

主要な貢献と結果

1. 機能的部分空間の存在

残差ストリームの分析により、モデルの活性化の変動の 40% から 90% が、モデルの高い次元性（例： $d \approx 5000$ ）にもかかわらず、わずか 30 個の主成分によって説明できることが明らかになりました。これは、LLM が ICL タスク中に低次元部分空間内で動作していることを示唆しています。

2. 線形代数としての ICL

本研究では、回答トークンが特定部分空間内でのクエリトークンとセパレータトークンの線形結合によってよく近似されることが発見されました。

高い $R^2$ 値：6 つのモデルとタスクのすべてにおいて、特定の主成分は高い $R^2$ 値（1 に近い値）を示しました。これは、これらの部分空間における入力と出力の関係が主に線形であることを示しています。
層の進行：線形適合の質（ $R^2$ ）は初期層では低く、後続の層で増加する傾向がありました。これは、初期層が活性化を、単純なベクトル操作によって ICL を解決できる部分空間へと徐々に変換していることを示唆しています。
一貫性：高い $R^2$ を示す主成分は層間で一貫しており、特定の方向がタスク固有の概念（例：「対義語」または「首都」）を符号化していることを意味します。

3. 証拠の蓄積とクラスタリング

理論的分析により、フィードフォワードネットワーク（FFN）が潜在的な回答を格納する連想記憶として機能し、自己注意（SA）層が文脈に基づいて正しい予測を選択することが示唆されました。著者らは、潜在的な回答の交差が、特定の部分空間基底に沿って証拠を蓄積することを可能にすると仮説を立てました。

トークンのクラスタリング：上位 3 つの主成分で張られる 3 次元部分空間におけるトークンの可視化により、クエリ、セパレータ、回答トークンがトークンタイプに基づいて明確に分離されたクラスタを形成していることが示されました。
精度との相関：重要なことに、モデルが正解か誤答を生成したかによって、上位性能を示す成分におけるトークンの射影は統計的に有意に異なっていました（ $p < 0.05$ ）。この相関は複数の中間層および後期層で維持されており、これらの部分空間がモデルの意思決定プロセスに直接関与していることを示唆しています。

意義と主張

本論文は、LLM がネイティブに部分空間を生成して文脈内の例から証拠を蓄積し、これらの部分空間内でベクトル代数を用いてタスクを解決すると主張しています。著者らは以下のように述べています：

汎化のメカニズム：ICL を実行する能力は、入力トークンをデータ幾何学が直接望ましいタスクに対応する（例えば、対義語の場合は方向を反転させる）部分空間に射影することにかかっています。
創発的機能：ICL タスクは一般的なコーディングや推論タスクよりも単純ですが、タスク情報を抽出し、ベクトル操作を通じて適用するメカニズムは、LLM がより複雑なタスクで成功する仕組みの基礎となっています。
診断の可能性：もし LLM が意思決定のためにこれらの機能的部分空間に依存しているならば、これらの部分空間はモデルの動作を診断し、特に安全上の重要アプリケーションにおいてモデル出力に介入したり修復したりするためのステアリングベクトルを設計する基盤となり得ます。

著者らは謙虚なトーンを維持しており、理論的分析は理想化された条件に依存しており、より複雑で一般的な言語タスクにおいてそのような部分空間を特定することは、複雑なトークン相互作用のために困難である可能性を認めています。しかし、彼らはこれらの発見が、線形表現仮説と文脈内学習の動作メカニズムとの間の具体的なリンクを提供すると主張しています。