技術要約：AIエングラム：人工知能における記憶痕跡の探索

1. 問題提起

深層ニューラルネットワークは、個々のパラメータが複数の振る舞いに同時に関与する、高度に絡み合った（entangled）形で知識を蓄積している。この分散し、絡み合った表現の性質により、特定の概念の削除（マシン・アンラーニング）や、モデル全体を再学習させることなく特定の記憶を隔離するといった「外科的」な知識操作を行うことが困難になっている。神経科学では、記憶は「エングラム」と呼ばれる特定可能な物理的基質に保存されるとされているが、人工ニューラルネットワーク内に同様の特定可能な記憶痕跡が存在するかどうかは、依然として未解決の問いである。現在の知識編集やアンラーニングの手法は、反復的な勾配ベースの最適化やヒューリスティックなアトリビューションに依存することが多く、これらは計算コストが高かったり、特異性の理論的保証を欠いたり、大規模モデルへのスケーラビリティに失敗したりすることがある。

2. 手法

本論文は、神経科学的な基準を制約付き逆問題として定式化することにより、「AIエングラム（人工知能における因果的記憶痕跡）」を特定するための幾何学的フレームワークを導入する。

2.1. 制約としての神経科学的基準

著者らは、ターゲットとなる概念 $c$ に対するエングラム $\mu^+_c$ の特定を、4つの標準的な基準（Josselyn & Tonegawa, 2020; Tomé et al., 2024）に基づいて定義している：

1. 特異性 (Specificity): エングラムは、ターゲットとなる経験 ($X^+$) を選択的に符号化し、参照となる経験 ($X^-$) に対しては不活性でなければならない。
2. 再活性化 (Reactivation): エングラムは、ターゲットに関連する内部表現 ($Z^+$) を一貫して再現しなければならない。
3. 十分性 (Sufficiency): ナイーブ（無の状態）な状態にエングラムを注入した際、学習された振る舞いを誘発しなければならない。
4. 必要性 (Necessity): 学習済み状態からエングラムをアブレーション（除去）した際、無関係な知識を保持したまま、ターゲットの振る舞いを消失させなければならない。

2.2. 代数的な定式化

著者らは、シナプス・エングラム $W^+$ の探索を最適化問題として定式化する。彼らは、観測された状態（自然な学習）と介入された状態（代数的な操作）を対比させることで、線形制約を導出する。

• 目的関数: ターゲットおよび参照セットにわたる、介入状態と観測状態の間の不一致を最小化する。
• 制約: 特異性を確保するため、参照部分空間に対して直交すること ($W^+ X^- = 0$) を強制する。
• 解: 著者らは、閉形式の推定器 (closed-form estimator) を導出する。ムーア・ペンローズ擬似逆行列と、中心化されていない共分散行列 ($\Sigma^+ = X^+ X^{+\top}$ および $\Sigma^- = X^- X^{-\top}$) を利用することで、以下を得る：
  $$W^+ = \Delta W \Sigma^+ (\Sigma^+ + \Sigma^-)^\dagger$$
  実際には、訓練済みモデルの重み $W$ に対して、更新は事後的に $W^+ = W \Sigma^+ (\Sigma^+ + \Sigma^-)^\dagger$ と近似される。これにより、バックプロパゲーションを行うことなく、単一のフォワードパスでエングラムを抽出することが可能になる。

2.3. 幾何学的解釈

本論文は、これらの生物学的制約と情報幾何学との間の関連性を確立している。Kronecker-Factored Approximate Curvature (K-FAC) の仮定と最大エントロピー原理の下で、導出された閉形式の解は、フィッシャー情報量計量における制約多様体への最小ノルム射影に対応する。これは、エングラムの方向がパラメータ多様体上の自然勾配の方向と一致していることを明らかにしている。

2.4. 組合せ的アンラーニング

特定されたエングラムは線形加法的であるため、本フレームワークは組合せ的アンラーニング (combinatorial unlearning) を可能にする。サブセットの概念を削除する場合、線形算術を用いて対応するエングラムをモデルの重みから単純に減算することができる：
$$\text{Engram}(\alpha) := W - \alpha \sum_{k \in U} W^+_k$$
これにより、反復的なアンラーニング手法の指数関数的な複雑さを回避できる。

3. 主な貢献

1. AIエングラムのフレームワーク: 著者らは、生物学的な記憶の基準を代数的な制約へと翻訳し、グローバルに絡み合ったパラメータから記憶痕跡を分離する、スケーラブルで閉形式の推定器を実現した。
2. 償却されたメモリ隔離 (Amortized Memory Isolation): この手法は記憶痕跡をデカップリングし、単純な線形算術による知識の構成または消去を可能にする。これにより、アンラーニングの組合せ的複雑さを解決し、単純なMLPから数十億パラメータのLLMに至るまでのアーキテクチャにおける堅牢性を実証した。
3. 情報幾何学への連結: 生物学的な閉形式の推定器がフィッシャー曲率を回収し、それが自然勾配の方向と一致することを示し、生物学的な記憶理論と人工的な表現学習との架け橋となった。

4. 実験結果

著者らは、多様なアーキテクチャとデータセットにわたってフレームワークを検証した：

• スケーラビリティと汎用性: 本手法は、MLP、CNN (ResNet-18/50)、Vision Transformer (ViT)、および生成モデル (ConvAE, WAE) において、概念の特定と消去に成功した。CIFAR-10およびCIFAR-100の実験において、特定のエングラムをアブレーションすることで、参照クラスの性能を維持したまま、ターゲットクラスの精度を選択的に除去できた（外科的精度）。
• 定量的パフォーマンス: クラスごとのアンラーニングベンチマーク（CIFAR-10/100）において、Engram法は、最先端のベースライン（例：NegGrad, SalUn, Fine-tuning）と比較して優れた Tug-of-War (ToW) スコアを達成しており、ゼロから再学習されたモデルに近い行動的一致性を示している。また、潜在空間における構造的痕跡の散逸（DAおよびNMI指標）についても効果を示した。
• 大規模言語モデル (LLMs): Llama-3.2-1B に対する TOFU ベンチマークへの適用において、高い効率性が示された。
  • 効率性: 勾配ベースの反復的手法と比較して、約30倍少ないFLOPsおよび2.3倍少ないピークメモリを必要とし、数十分ではなく約2分で完了する。
  • パフォーマンス: 全体的な指標では一部の専用の反復的手法（AltPO, NPOなど）に及ばないものの、他の閉形式の編集ベースライン（UCE, Task Arithmetic）を大幅に上回り、勾配フリー手法の中で最も低い Exact Memorization (EM) スコアを達成した。
  • 局在化: エングラムの重みの分析により、記憶痕跡はランダムに分布しているのではなく、特定の層、すなわち自己注意機構の Query (Q) および Key (K) プロジェクション、およびMLPの Gate プロジェクションに集中していることが明らかになった。アブレーション研究により、これらの特定の層を標的にすることが、効果的なアンラーニングに十分であることが確認された。

5. 意義と主張

本論文は、決定論的なスペクトル分解を通じて、知識の因果的基質を隔離し操作できることを実証することで、生物学的な記憶理論と人工知能の間の溝を埋めることを主張している。

• パラダイムシフト: 本研究は、機械アンラーニングのパラダイムを、確率的な勾配探索から構造的特定 (structural identification) へと移行することを提案している。
• 直交領域 (Orthogonal Regime): 著者らは、Engramを反復的なアンラーニングの代替としてではなく、以下の条件下で特に価値を持つ直交領域（$O(1)$-パス、勾配フリー）として位置づけている：
  1. アンラーニングすべき概念の数が膨大である場合（組合せ的な構成性を活用できる）。
  2. 計算リソースや重みへのアクセスが制限されている場合。
  3. 分布の不可識別性よりも、構造的な特定を目的とする場合。
• 解釈可能性: LLMにおける凝縮された局在化パターンの発見は、ニューラル解釈可能性に新たな視点を提供し、特定の機能的トポロジーが重み空間の線形化可能な部分空間に存在することを示唆している。

著者らは、彼らのフレームワークが、外科的な記憶隔離において前例のない効率性を提供し、より安全なモデルの振る舞いと明確な解釈可能性を可能にするとともに、継続学習におけるエングラムの時間的ダイナミクスに関する将来の研究への道を開くと結論づけている。