技術的概要：意味誘導のための概念子

問題定義

活性化ベースの誘導手法は、再学習なしで推論時に大規模言語モデル（LLM）の振る舞いを制御することを目指している。支配的なパラダイムは、活性化加法や対照的活性化加法などを通じて、意味概念を単一のベクトルとして表現し、隠れ状態に平均差の方向を注入する。このアプローチには、2 つの根本的な限界が存在する：

1. 幾何学的還元主義：意味概念（例：感情、政治的傾き）は、モデルの活性化空間内で多次元部分空間を占めることが多い。これらを単一のベクトルに還元することは、残差構造と文脈を破棄することになり、流暢性の喪失や劣化出力につながる可能性がある。
2. 監督オーバーヘッド：介入に最適な層を選択するには、通常、各層でプロービング分類器を学習させる必要があり、モデルの深さと概念の数に比例してスケールする高コストな監督プロセスである。

手法

著者らは、再帰型ニューラルネットワーク用に開発されたソフト投影行列である概念子（Jaeger, 2024）を提案し、これをトランスフォーマーベースの LLM 向けに適応させた。

中核メカニズム

概念に関連する活性化ベクトルの集合 $\{x_1, \dots, x_N\}$ が与えられたとき、概念子行列 $C$ は正則化再構成問題の解として定義される：
$$C = R(R + \alpha^{-2}I)^{-1}$$
ここで、$R$ は活性化のサンプル相関行列であり、$\alpha$ はアパーチャパラメータである。$R$ の固有基底において、$C$ は信号エネルギーに基づいて方向を減衰させるソフトゲーティング機構として機能する。高エネルギーの方向は保持され、低エネルギーのノイズは抑制される。

主要な設計選択

• 双極性トレーニング：単一の極（例：「肯定的」感情）へ誘導する従来の単極性手法とは異なり、このアプローチは双極性概念（例：肯定的および否定的感情）の両極からの活性化を単一の相関行列にプールする。これにより、単なる差ベクトルではなく、極間部分空間全体を捉えることができる。
• 概念子クォータによる層選択：監督的プロービングを回避するため、著者らは概念部分空間のソフト有効次元性を表すパラメータフリー指標である概念子クォータ $q(C) = \frac{1}{d}\text{tr}(C)$ を利用する。高いクォータ値は、概念が良く分離されている層と相関する。
• ブール合成性：概念子は行列上で直接閉形式のブール代数（AND、OR、NOT）をサポートし、元の活性化データへのアクセスなしに誘導の合成を可能にする。
  • NOT：$\neg C = I - C$（概念を抑制する）。
  • AND：$C_A \land C_B = (C_A^{-1} + C_B^{-1} - I)^{-1}$（共有部分空間の方向のみを保持する）。

主要な貢献

1. 幾何学的特徴付け：著者らは、双極性部分空間が単一ベクトルベースラインを厳密に包含し、先行手法で使用される平均差方向の $\ge 95\%$ を捉えつつ、追加の多次元構造を保持することを示した。
2. パラメータフリー診断：概念子クォータは、Gemma-2-2B-IT、Gemma-2-9B-IT、Qwen-2.5-3B-Instruct の 3 つの指示調整モデルと 3 つの意味次元において、プローブ AUC で測定された概念の分離性を予測し、ピアソン相関が $r=0.96$ に達することが示された。これは従来の分散ベース指標を上回る性能である。
3. 合成性分析：ブール合成は部分空間の重なりによって支配されることが確立された。
   • NOTは、低い重なり（例：政治的傾きと感情の分離）でも有効である。
   • ANDは、意味的な関連性と顕著な部分空間の重なり（例：中絶の立場と LGBTQ 権利）を必要とし、意味のある共同誘導を生み出す。
4. 堅牢性と安全性：配置、トークン範囲、結合規則、トレーニングソース、自己回帰モードという 5 つの軸による設計空間評価により、概念子誘導は加法ベースライン（58%）に比べて劣化出力（13%）を大幅に減少させ、勝率において加法手法と同等かそれ以上の性能を示すことが明らかになった。

実験結果

評価は 3 つのモデルと 3 つの概念（感情、政治的傾き、うつ病）にわたって行われた。

• 性能：概念子は感情タスクで 0.70–0.82 の勝率を達成し、加法ベースライン（0.50–0.62）を大幅に上回った。この利点は、概念部分空間が多次元である層で最も顕著であった。
• 劣化：加法手法は頻繁に反復的または不整合なテキスト（劣化出力）を生成する。概念子補間はこの率を 13% にまで低下させ、概念子が分布外の状態を押し出すのではなく、モデルの自然な活性化多様体内で誘導を行っていることを示唆している。
• 合成性：
  • 低重なりシナリオ（政治 $\times$ 感情、重なり $\approx 0.19$）では、AND-NOT演算が一方の概念（例：感情）を分離し他方を抑制することに成功し、選択性を鋭くした。
  • 高重なりシナリオ（中絶 $\times$ LGBTQ、重なり $\approx 0.50$）では、AND演算が両方の概念を同時に活性化することに成功し、これは単一ベクトル手法では達成不可能であった。
• 一般化：この手法は、より大きな保持テストセット（500 プロンプト）に一般化し、敵対的プロンプト（例：明示的な右傾きシステム指示）に対する堅牢性を維持した。

意義と主張

本論文は、概念子誘導が、単一方向誘導に対する幾何学的に原理的、合成的、かつ実用的に安全な代替手段であると主張している。概念の完全な多次元部分空間を保持することで、概念子はベクトル減法に内在する情報損失を回避する。再学習や元のデータへのアクセスなしにブール演算を実行する能力は、以前は達成が困難だった複雑な多概念制御（例：「政治的だが党派色は出さない」）を可能にする。

著者らは、この研究を推論時アライメントへの一歩として位置づけており、有害な概念を（NOT 経由で）抑制しつつターゲット能力を保持することで、合成的安全性をプロンプトエンジニアリングから日常的な代数演算へと移行させることを目指している。彼らは明示的に、この手法が 90 億パラメータまでの小規模モデルで評価されており、デプロイサイズモデルへのスケーリングは将来の課題であるが、基礎となる幾何学はアーキテクチャに依存しないと主張している。

認められた限界：

• 評価は 3 つのモデルと 3 つの意味概念に限定されている。
• 高い誘導強度は、依然として残存する不整合をもたらす可能性がある。
• 合成性の実験は現在、2 つの概念ペアに限定されている。
• この手法はスコアリングに自動分類器に依存しており、バイアスを導入する可能性がある。
• バイアスの増幅や枠組み操作の潜在的な可能性に関する倫理的考慮事項が明示的に提起されており、この研究は説得ツールではなく、制御可能性分析として位置づけられている。