🤖 machine learning

Bilinear autoencoders find interpretable manifolds

本論文は、二次潜在変数を利用する双線形オートエンコーダーを導入し、ニューラルネットワークの活性化において解釈可能な多次多様体を解明するものであり、非線形幾何学的事前分布が再構成を体系的に改善し、線形手法では見逃される複合概念を明らかにすることを示している。

原著者： Thomas Dooms, Ward Gauderis, Geraint Wiggins, Jose Oramas

公開日 2026-05-12

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Thomas Dooms, Ward Gauderis, Geraint Wiggins, Jose Oramas

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

巨大で複雑な機械（現代の AI 言語モデルなど）がどのように思考しているかを理解しようとしていると想像してください。長らく、研究者たちは**「直線」**を探し求めることでこれを試みてきました。もし AI の内部に何らかの概念が存在するならば、それは特定の方向を指す単一の矢印のようなものだと仮定していたのです。AI が「猫」について考えているとき、その脳内の特定の線が点灯すると考えられていたのです。

この論文は、この「直線」という見方が単純すぎると主張しています。代わりに、この論文は AI における多くの概念は、「形状」「気泡」、あるいは「曲面」のようなものであると提案しています。これらの形状を見つけるために、著者たちは双線形オートエンコーダという新しいツールを構築しました。

以下に、彼らのアイデアを簡単なアナロジーを用いて解説します。

1. 問題：「直線」の地図では見落としがある

AI の脳を、目に見えない家具（概念）で満たされた巨大な多次元の部屋だと考えてください。

旧来の方法（線形オートエンコーダ）： この部屋を定規だけでマッピングしようとしていると想像してください。直線や平坦な壁は測定できます。もし概念が「直線」であれば、簡単に見つけられます。しかし、概念が円や球、あるいは曲がった丘である場合、定規ではうまく記述できません。円を近似するために数百もの小さな破れた定規の断片が必要になり、それは散漫で混乱を招くものです。
現実： 著者たちは、多くの AI の概念が曲がっていることを発見しました。例えば、「年」（1990 年、2000 年、2010 年など）という概念は単なる直線ではなく、特定の幾何学的形状です。「米国の場所」という概念は単一の点ではなく、特定のクラスターを形成する散らばった点の集まりです。

2. 解決策：「形状変化」するレンズ

著者たちは、単に直線を探すだけでなく、曲がった形状（数学的には楕円体や双曲線などの「二次曲面」と呼ばれるもの）を探す新しいツールを作成しました。

アナロジー： 旧来のツールが直線的な光しか放たない懐中電灯だとしたら、新しいツールは曲がった形状を彫り出すレーザーカッターです。
仕組み： 新しいツールは、「この入力はこの直線上にあるか？」と問うのではなく、「この入力はこの曲がった気泡の内部にあるか？」あるいは「この入力はこの特定の曲面の上にあるか？」と問います。
「双線形」の部分： これは単に、ツールが 2 つのものの相互作用を見ているという、少し難しいうえの表現です。それは「猫」だけを見るのではなく、「猫」と「ニャー」との関係性を同時に見て、概念の形状を定義します。

3. 発見：曲がった形状は至る所に存在する

彼らがこの新しいツールを言語モデル（Qwen 3.5）に適用したとき、旧来のツールが見逃していた 3 つの主要な「形状」を発見しました。

「スラブ」（単純な曲線）： 厚いサンドイッチを想像してください。概念は、パンのどちら側にあるかに関わらず、2 つの平行なパンの間にあれば活性化します。
- 例：「年」の概念（19xx 年、20xx 年）。このツールは、数学的な意味で数が正か負かに関係なく、すべての年を捉える形状を見つけました。
「クラスター」（気泡）： ぶどうの房を想像してください。概念は 1 つの大きな形状ではなく、クラスターを形成する一連の明確な点のグループです。
- 例：「米国の場所」という概念。このツールは、「U.S.」「United」「America」をグループ化する形状を見つけ、それらがすべて場所であるにもかかわらず、「ロンドン」や「パリ」は除外しました。
「鞍」（複雑な曲線）： 馬の鞍を想像してください。ある方向には上がり、別の方向には下がります。
- 例：フレーズ「for instance（例えば）」。このツールは「for instance」や「e.g.」を見たときに活性化することを学びましたが、「for the love of（愛のために）」のような他の文脈で「for」という単語を見たときには、非活性化（オフ）しました。それは単語そのものではなく、文脈のニュアンスを捉えています。

4. なぜこれが重要なのか（「辞書」のアナロジー）

著者たちは、彼らの方法を概念の辞書を作成することに例えています。

古い辞書： 数千の単語がありますが、それらはすべて直線に過ぎません。円を記述するには、わずかに中心から外れた 50 個の異なる単語を使う必要があります。非効率的で理解しにくいです。
新しい辞書： 単語は少ないですが、それぞれの単語は完璧な形状です。1 つの単語が「円」を記述し、別の単語が「球」を記述します。
結果： 彼らの新しいツールは、旧来のツールよりもはるかに正確に（誤差少なく）AI の思考を再構成しました。AI の脳は単なる単純な直線ではなく、これらの複雑な多次元の形状で満たされていることがわかりました。

5. 機械の中の「ゴースト」（安定性）

興味深い発見の一つは、ツールを 2 回訓練しても、異なる特定の「形状」（異なる辞書）を見つける可能性がありますが、それらが記述する部屋全体は同じであるという点です。

アナロジー： 2 人の異なる芸術家が同じ風景を描くと想像してください。芸術家 A は青と緑を使用し、芸術家 B は紫とオレンジを使用します。彼らは異なる色（異なる辞書の項目）を使用しますが、どちらも同じ山と川（同じ基盤構造）を描きます。著者たちは、特定の「色」は変わっても、「風景」は安定して保たれることを証明しました。

まとめ

この論文は、AI モデルが単なる直線の集まりではないと主張しています。それらは曲がった多次元の形状で満たされています。これらの曲線を見ることができる新しいツール（双線形オートエンコーダ）を使用することで、研究者たちは以下が可能になります。

より明確に見える： 以前は見えなかったり散漫だったりした概念を発見できます。
より効率的になる： 同じ量の情報を記述するために必要な「特徴」の数が少なくて済みます。
より深く理解できる： 「年」や「場所」といった概念が、単なる単純なスイッチではなく、幾何学的な形状として実際に構造化されていることを理解できます。

著者たちはさらに、これらの 3 次元形状を自分で見ることができるインタラクティブなウェブサイト（可視化ツール）も構築しており、これらの曲がった「多様体」が、AI が思考する際に実際に普遍的に存在することを証明しています。

技術的サマリー：双線形オートエンコーダは解釈可能な多様体を見つける

問題定義

現在の機械的解釈可能性は、ニューラルネットワーク内で解釈可能な潜在表現を明らかにするために、疎性オートエンコーダ（SAE） に大きく依存しています。これらの手法は、概念が線形方向に沿って符号化されていると仮定する線形表現仮説の下で動作します。しかし、最近の研究では、顕著な概念はしばしば楕円体や双曲面など、線形手法が事後分析なしには捉えられない複雑な多次元多様体にまたがっていることが示されています。さらに、孤立した線形潜在変数の研究は、潜在変数の意味が共活性特徴に基づいて変化する文脈依存性を考慮できないことが多いです。モデル容量を増大させることでより多くの構造を捉えることは可能ですが、無制限の表現力は解釈可能性を損なう自明な解決策につながることがよくあります。核心的な課題は、これらの多様体を捉えるのに十分な非線形性を持ちながら、閉形式の幾何学的分析と構成的理解を可能にするのに十分な代数的扱いやすさを持つ表現クラスを見つけることです。

手法

本論文は、標準的な疎性オートエンコーダのアーキテクチャを拡張して二次潜在変数を学習する双線形オートエンコーダを解決策として提案します。

アーキテクチャ

双線形オートエンコーダは、入力ベクトル $x$ を直接再構成するのではなく、持ち上げられた積空間 $X = xx^\top$ を再構成します。

エンコーダ: モデルは、2 次多項式を計算するように適応されたゲート付き線形ユニット（GLU）を使用します。 $i$ 番目の潜在変数の活性化は $z_i = x^\top W_i x$ と定義され、ここで $W_i$ は二次形式を表す対称行列です。
デコーダ: 再構成は持ち上げられた空間内で線形に行われます： $\hat{X} = W^\top W X$ 。
トレーニング効率: 大規模モデルにおいて $d \times d$ 行列 $X$ を直接実体化することは計算上非現実的です。著者は、 $X$ を明示的に構築することなく再構成損失と勾配を計算するためにカーネルトリックを採用します。カーネル行列 $K = WW^\top$ は、 $K = C^\top (LL^\top \odot RR^\top) C$ という分解を通じて効率的に計算されます。ここで、 $L$ と $R$ はエンコーダの因数行列、 $C$ は合成行列です。
疎性: 著者は、スケール不変な疎性ペナルティとしてHoyer 密度を導入します。自明な収縮を引き起こす可能性のある標準的な $L_1$ ペナルティとは異なり、Hoyer 密度はバッチ全体での相対的な顕著性を促進し、潜在変数が特定の構造に対して選択的に発火し、ゼロに崩壊しないようにします。

構造的仮説

本論文は、辞書原子の幾何学的事前分布を定義する 3 つの入れ子になった表現仮説を形式化します。

二次表現仮説: 辞書は対称行列 $W_i$ で構成されます。モデルは $xx^\top$ をこれらの行列の疎な和に分解します。これにより、二次曲面幾何学（楕円体、双曲面、放物面）の検出が可能になります。
原子表現仮説: 各辞書原子がランク 1 行列（ $W_i = w_i w_i^\top$ ）であるという制約です。受容野は対称な「スラブ」（2 つの平行な超平面）となり、符号に関係なくある方向に沿ったエネルギーを検出します。
複合表現仮説: 辞書原子はランク 1 行列の疎な混合（ $W_i = \sum C_{ij} w_j w_j^\top$ ）です。これにより、モデルは自動的に低ランク部分空間を学習できます。複合原子は、半正定値であれば楕円体を、不定であれば双曲面を形成でき、複数の線形方向の定義を必要とする概念を効果的に捉えます。

主要な貢献

アーキテクチャ: 著者は辞書学習のために双線形オートエンコーダを適応させ、カーネルトリックによる効率的なトレーニングを可能にしました。これは、重み空間で動作し、前方伝搬なしで幾何学的分析を可能にする、線形 SAE の自然で扱いやすい拡張を提供します。
フレームワーク: 辞書の制約を特定の受容野幾何学（スラブ、楕円体/双曲面、任意の二次曲面）にマッピングする構造的事前分布（原子、複合、二次）の形式フレームワークを提案しました。これは、概念が線形半空間ではなく二次曲面への近接性を通じて検出され得ることを実証することで、標準的な線形仮説に挑戦します。
実証的検証:
- 再構成: Qwen 3.5 (0.8B)、Gemma-3 (1B)、Llama-3.2 (1B) における実験により、複合および二次潜在変数が、原子（ランク 1）潜在変数および線形ベースラインよりも一貫して低い再構成誤差（NMSE）を達成することが示されました。
- 幾何学の普遍性: スペクトル分析により、多くの概念が低ランクである一方で、正確に捉えるためには高次元幾何学（ランク > 1）を必要とする顕著な「ロングテール」の概念が存在することが明らかになりました。
- 安定性: 個々の辞書原子（分解）はトレーニング実行やハイパーパラメータによって大きく変動しますが、オートエンコーダによって回復されたグローバル入力部分空間は非常に安定しています（90% 以上の類似性）。これは、特定の分解よりも、基礎となる多様体構造の方が重要であることを示唆しています。
- 定性的分析: 対話型可視化ツールは、双線形オートエンコーダが円錐（年）、クラスター（場所）、補間（意味的架け橋）、部分集合（「for」対「for instance」のような文脈的区別など）を含む多様な幾何学的パターンを捉えていることを示しています。

意義と主張

本論文は、双線形オートエンコーダが非線形でありながら数学的に扱いやすい潜在表現への重要な一歩を表すと主張しています。

線形性を超えて: この研究は、線形表現仮説の支配性に挑戦し、顕著な概念がしばしば線形手法が見逃す多次元多様体に存在することを示しています。
構成的解釈可能性: 多項式を使用することで、モデルは合成を重み空間で行うことを保証します。これにより、特徴間の明示的かつ計算可能な相互作用が可能となり、解釈可能性を孤立した基底から理解可能な構成的構造へと移行させます。
多様体の発見: 著者は、これらのモデルを多様体発見のための教師なしツールとして位置づけています。幾何学が重みテンソル（ $W_i$ の固有値と固有ベクトル）から直接読み取れるため、これらのモデルは設計上解釈可能な表現幾何学への「レンズ」を提供します。
限定的な範囲: 著者は明示的に、提示された構造的事前分布は概念実証であると述べています。最適なトレードオフを見つけるために考えられるすべての事前分布を網羅したわけでも、因果的アブレーションを解決したわけでもありません。むしろ、これを将来の因果的ステアリングの研究や、特定のモデルがどの幾何学的事前分布を好むかを特徴づける研究の基盤として位置づけています。

本論文は、線形手法は有用であるものの、真の構成的理解を達成するためには、ニューラルネットワークの活性化に内在する曲がった高次元幾何学を明示的にモデル化できる表現へと分野が進む必要があると結論付けています。