技術的概要：活性化の整合性を超えて：神経感度の幾何学

問題定義

表現類似性解析（RSA）、正準相関分析（CCA）、中心化カーネル整合（CKA）などの活性化整合測定は、生物学的および人工的な神経表現を比較するための標準的なツールである。これらの手法は主に、刺激誘発活動パターンの幾何学的類似性を定量化する。しかし、重要な限界が存在する：グローバルな読み出しレベルでの一致は、システムが局所的な刺激証拠をどのように利用するかを決定しない。表現は活性化空間において整合していても、小さな摂動に対する感度において著しく異なる可能性がある。さらに、活性化ベースの類似性測定は、単純な事後変換（例えば、固定部分集合の移動 followed by グローバル平均中心化）に対して不変ではない。これらは基礎的な符号化プロセスを変更することなく類似性スコアを変化させうる。この問題に対処するために、デコーダーベースの視点や局所幾何学アプローチが提案されてきたが、これらはしばしば、刺激間で情報をどのように集約すべきか、あるいは識別タスクを特徴づけるのに十分なデータセットレベルの要約が何かを特定することに失敗している。

手法

著者は、局所的に復元可能な情報に基づく枠組みを提案する。これは、ノイズ下で指定された刺激座標部分空間内での小さな摂動を識別する表現の能力に焦点を当てる。

1. 局所摂動タスクとフィッシャー幾何学

この枠組みは、神経表現を微分可能な写像 $f: \mathbb{R}^d \to \mathbb{R}^m$ として扱う。局所感度は、$J_f$ をヤコビアンとしたとき、引き戻し計量 $M_f(x) = J_f(x)^\top J_f(x)$ によって特徴づけられる。

• タスク定義: 局所識別タスクとは、ノイズのある集団活動が与えられたとき、刺激 $s$ と摂動された刺激 $s + \eta$ とを区別することである。二乗識別力 $d'^2$ は、ノイズ共分散を $\Sigma$ として、フィッシャー計量 $I_{f,\psi}(s) = J_{hf}(s)^\top \Sigma^{-1} J_{hf}(s)$ によって支配される。
• データセットレベルの要約: 点ごとの感度から表現レベルの比較へ移行するため、著者は射影された第二モーメント局所タスクファミリーを定義する。座標ファミリー（$\psi$ でパラメータ化）と摂動部分空間（直交行列 $P$ によって定義）を固定し、局所フィッシャー計量を刺激分布上で平均化する。
• 演算子: このファミリーに対する最小かつ完全なデータセットレベルの要約は、射影された期待フィッシャー演算子である：
  $$F_{f,\psi,P,\Sigma} := \mathbb{E}_{s \sim \nu} [P^\top J_{hf}(s)^\top \Sigma^{-1} J_{hf}(s) P]$$
  等方性ノイズの場合、これは射影された期待引き戻し計量 $G_{f,\psi,P}$ に帰着する。この演算子は、$P$ によって定義される任意の第二モーメント摂動ファミリーに対する期待識別力を完全に特徴づける。

2. 分解：ゲインと形状

著者は、要約演算子を以下のように分解する：

• ゲイン（$\gamma$）: 総期待感度（演算子のトレース）。
• 形状（$\hat{G}$）: 感度の方向的配分（トレース正規化された演算子）。
  これにより、表現を総感度に基づいて比較することと、刺激空間内でどの特定の方向を増幅または抑制するかに基づいて比較することを可能にする。

3. 比較指標：S-RAS

これらの正定値（SPD）要約を比較するため、著者は SPD 行列の多様体上の**アフィン不変リーマン計量（AIRM）**を採用する。**スペクトルリーマン整合スコア（S-RAS）**を以下のように定義する：
$$S\text{-}RAS_P(f, g) = \exp\left[ -\frac{1}{\sqrt{k}} d_{AIRM}(\tilde{G}_{f,P}, \tilde{G}_{g,P}) \right]$$
ここで、$\tilde{G}$ は正則化に用いられるトレーススケーリングされた SPD リフトである。理論的解析により、S-RAS はリフトされたタスク値のファミリー全体にわたって一様な乗法的証明を提供し、2 つの表現間の期待識別力の不一致を境界づけることが示されている。

主要な貢献

1. 局所識別の形式化: 本論文は、第二モーメント局所摂動識別タスクを定義し、これらのタスクに対する最小かつ完全なデータセットレベルの要約として、射影された期待フィッシャー/引き戻し演算子を特定する。
2. S-RAS 指標: SPD 行列上の対数スペクトル距離を用いた幾何学を考慮した比較手法（S-RAS）を導入し、タスク値の境界に関する理論的保証を備えた次元正規化された類似性スコアを提供する。
3. 実証的検証: この枠組みは人工および生物学的システム全体で検証され、層の対応付け、転移可能なプローブ、ロバストな訓練分析、および生物学的データにおける有用性が示された。

実験結果

1. 層のマッチング（人工ネットワーク）

独立して訓練された Tiny10 CNN を用いて、著者は S-RAS が期待される層の対応付けを回復できるかどうかをテストした。

• 結果: S-RAS は有意義な対応付けを達成した（ランダム摂動で $K=768$ の場合 85.3% の精度；ホワイトニング PCA で 93.8%）。これは線形 CKA（94.4%）などの強力な活性化ベースラインの性能に近づいている。
• 比較: S-RAS は、点ごとの局所幾何学コントロール（点ごとの AIRM および MSA 風ベースライン）を上回った。これは、点ごとの計量不一致を平均化するよりも、期待タスクファミリー演算子を集約する方が優れていることを示している。

2. 転移可能なクラス条件付きプローブ

著者は、感度の対比が、保持された画像やモデルに一般化する有限の摂動として外部化できるかどうかをテストした。

• 結果: クラス条件付き感度の対比（ResNet-18 と Small ViT の比較）から導出されたプローブは、ランダム対比（0.43）、プール感度（0.31）、ラベル置換（0.03）のコントロールと比較して、保持された画像の分離（1.10）を有意に大きくした。これは、この手法がモデル間で転移する共有された局所証拠構造を捉えていることを示唆する。

3. ロバストな訓練の分離

ERM、PGD、TRADES、MART で訓練された ResNet-18 バンクを用いて、著者はこの枠組みが訓練レジームを区別できるかどうかを検討した。

• 結果: 対比由来のプローブは、保持された画像上で標準モデルとロバストモデル（PGD、TRADES、MART）を成功裡に分離した。また、この手法はロバストな訓練目的間の微妙な違い（例：PGD と TRADES の分離）を明らかにし、プローブが単なるレジームの違いではなく、局所証拠の使用における具体的な変化に敏感であることを示した。

4. 生物学的応用（Allen Brain Observatory）

この枠組みは、$(\theta, \rho, \phi)$ 座標を持つ静的格子を用いてマウスの視覚皮質データに適用された。

• 結果: クロスエリア同一性マッチングにおいて、ノイズを考慮した Full Fisher 要約は 0.458 のトップ 1 精度を達成し、CKA（0.288）や単純な幾何学を大幅に上回った。より困難な VISp-depth ベンチマークでは、Full Fisher（0.466）は CKA（0.483）と競合する性能を維持した。
• 洞察: 結果は、生物学的感度構造が、総ノイズ考慮感度と方向的配分の両方に依存することを示している。刺激座標ファミリーの選択（例：$\rho + \phi$ 対完全セット）はマッチング性能に大きく影響し、指標の「ファミリー相対的」な性質を浮き彫りにしている。

意義と主張

本論文は、活性化ベースの比較は刺激誘発の組織化や下流の読み出し構造にとって最も有益であるが、表現が同じ局所刺激証拠に依存しているかどうかを決定するには不十分であると主張する。提案された枠組みは、2 つの表現が平均的に同じ小さな刺激方向を識別可能にするかどうかを問うことで、補完的な視点を提供する。

主な主張は以下の通りである：

• ファミリー相対的類似性: 一致は特定の摂動ファミリーに対して相対的に定義される。表現はあるファミリー下では整合しても、別のファミリー下では整合しない可能性がある。
• 変換に対するロバスト性: この手法は刺激点雲ではなくヤコビアンに依存するため、刺激に対して一定の事後シフト（例：グローバル平均中心化）に対して不感であり、CKA の既知の限界に対処する。
• 実証的有用性: この枠組みは、層の対応付けを回復し、転移可能な診断プローブを生成し、ロバストな訓練における分離を明らかにし、生物学的データにおけるファミリー依存の感度を解明することに成功している。

著者は謙虚であり、この枠組みは局所的、データセットレベル、第二モーメントベースであることを指摘している。これは画像条件付き最適値、高次効果、または強く非線形な有限摂動の挙動を捉えるものではない。彼らは、データセットレベルの感度幾何学が既存の手法と比較してどのような独自科学的洞察を提供するかを決定するには、より広範なベンチマークが必要であると結論づけている。