技術的概要：普遍的微分同胚 SPD 表現学習のためのスプライン・プルバック計量

1. 問題定義

対称正定値（SPD）行列の深層学習への統合は、歴史的に固定された手動設計のリーマン計量（例：アフィン不変、対数ユークリッド、対数コレスキー）に依存してきた。これらの静的な定式化は、ネットワークの表現力と適応性を制限する硬直的な幾何学的事前分布を課す。これらの幾何学をパラメータ化しようとする最近の試みは表現力の向上を目指したが、しばしば根本的な数学的欠陥に悩まされている：

• トポロジカルな失敗： ランク依存性の写像（例：ALEM）は、主行列関数の定義に違反し、スペクトル特異点（重複固有値）において 1 対多の写像を引き起こし、勾配の不安定化を招く。
• 全射性の欠如： 多項式べき乗写像（例：PCM）は、SPD 多様体を非拘束ユークリッド空間へ大域的に写像することに失敗する。未定義の負の原像を防ぐため、これらは非単射的な計算クリッピング（例：max(x, ϵ)）に依存しており、測地線完備なリーマン計量に必要とされる双射性を破綻させる。
• 勾配の不安定性： 既存の手法はしばしば $C^1$ 滑らかさを欠くか、微分同胚を近似するために計算コストの高い層の連鎖を必要とし、スペクトル特異点において勾配の崩壊を引き起こす。

中心的な課題は、微分幾何学の基本的な公理を保持しつつ、静的な数学的事前分布から、動的で計算効率的かつ完全に学習可能なトポロジカル表現への移行である。

2. 手法：スプライン・プルバック計量（SPM）

著者らは、SPD 多様体と平坦なユークリッド空間間の大域的微分同胚をB スプラインを用いてパラメータ化するフレームワークである**スプライン・プルバック計量（SPM）**を導入する。以前の手法とは異なり、SPM はリーマン計量テンソル自体をエンドツーエンドで学習可能な表現として扱う。

中核メカニズム

SPM は、パラメータ化された厳密単調なスカラー写像 $f_\theta: \mathbb{R}_{>0} \to \mathbb{R}$ に依存する。

• 対数領域： 大域的な全射性を保証し、勾配の不安定性を回避するため、写像は対数領域で動作する。
• B スプラインの構築： 写像の中核は、学習可能な制御係数 $c_i$ を持つ次数 $k$ の B スプライン $S(x)$ である。
• 単調性制約： 写像が微分同胚（双射かつ滑らか）であることを保証するため、制御係数は厳密に増加するように制約される（$c_i > c_{i-1}$）。これは累積ソフトプラス再パラメータ化によって達成される：$c_i = c_{i-1} + \text{softplus}(w_i) + \epsilon$。
• 境界処理： ノットベクトルの外側では、境界微分を用いた有界線形外挿によって写像が拡張され、関数が実数全体をカバーすることを保証する。

具体化

本論文は、SPM の 2 つの具体的な具体化を提案する：

1. スペクトル SPM（S-SPM）： 固有値分解を介して、スカラー微分同胚 $f_\theta$ を SPD 行列の固有値に直接適用する（$S = U\Sigma U^\top \to U \text{diag}(f_\theta(\lambda_i)) U^\top$）。これにより、計量がノイズ帯域を動的に圧縮し信号帯域を拡張する局所スペクトルモデリングが可能となる。
2. コレスキー SPM（C-SPM）： スカラー微分同胚をコレスキー因子（$L$）の厳密に正の対角要素のみに適用し、下三角要素は恒等写像のままにする。これにより、固有値分解の $O(n^3)$ コストと関連する Daleckĭ-Kreĭn 構造勾配を回避し、階層的に順序付けられたデータに対して優れた数値的安定性と速度を提供する。

理論的保証

著者らは、以下のことを確立する厳密な証明を提供する：

• 大域的微分同胚： SPM は、大域的な双射であり、$C^1$ 滑らかな微分同胚である。
• 普遍近似性： SPM は、任意のコンパクトなスペクトル区間における厳密増加 $C^1$ 微分同胚のための稠密な普遍近似子である。理論的には、既存のプルバック計量（対数ユークリッドやパワーコレスキーなど）を特殊ケースとして包含する。
• 幾何学的性質： 誘導される多様体は零断面曲率（大域的に平坦）を持ち、閉形式のフレシェ平均を許容し、経路に依存しない平行移動を可能にする。
• 勾配の安定性： Daleckĭ-Kreĭn 勾配行列におけるスペクトル特異点（$\lambda_i = \lambda_j$）を処理するため、著者らは非対称スペクトル摂動（Float64 精度で固有値に小さな増加ベクトルを追加）を導入し、バックワードパスのリプシッツ定数を厳密に有界化する。

3. 主要な貢献

1. 数学的定式化： 本論文は、SPM（およびその具体化である S-SPM と C-SPM）が、完全に学習可能で測地線完備な大域的リーマン微分同胚および普遍近似子であることを数学的に定式化し、証明する。
2. トポロジカルな解決： ランク交換の不連続性、全射性の欠如、勾配の崩壊といった既存計量のトポロジカルな限界を特定し、ランク不変で単調制約された B スプラインアプローチを導入することで解決する。
3. 数値的安定性プロトコル： 著者らは、Daleckĭ-Kreĭn 構造勾配のリプシッツ定数を有界化するための非対称 Float64 行列摂動プロトコルを導入し、スペクトル特異点におけるリーマン逆伝播の数値的不安定性を解決する。
4. 実証的パフォーマンス： 厳密な評価プロトコルのもと、SPM は 7 つの異なる計量を用いて、9 つのデータセットとアーキテクチャの組み合わせ（線形プローブ、SPDNet、深層リーマン ResNet）において最先端の精度を達成した。

4. 実験結果

著者らは、SPM を 3 つのデータセットで評価した：HDM05（運動学的動作認識）、FPHA（一人称視点の手動作）、Radar（信号処理）。

• 合成検証： 1 次元合成関数近似タスクにおいて、SPM は硬直的な古典的計量が不可能だった複雑な非線形写像（ノイズと信号を分離するための「階段状」関数を含む）を成功裡に学習した。交互の固有値バンドを持つ敵対的分類タスクでは、S-SPM は100% の精度を達成したのに対し、硬直的なベースライン（対数ユークリッド、対数コレスキー）は深刻な未学習（63-66%）に陥った。
• 実世界データセット：
  • HDM05： S-SPM はすべてのアーキテクチャで最良の結果を達成し、特に RResNet において0.6801を記録し、最良のベースライン（0.6777 の ALEM）を上回った。
  • FPHA： S-SPM は、SPDNet アーキテクチャにおいて最良のベースライン（PCM）に対して大幅な改善を達成し（0.9043対0.7357）、線形プローブにおいても同様だった（0.8574対0.6817）。
  • Radar： C-SPM は最高の線形プローブ精度（0.9687）を達成し、深層ネットワークにおいても競争力のあるスコアを維持し、階層的データに対する優れた効率性と安定性を示した。

5. 意義と主張

本論文は、計量学習における「手動設計の特性選択」から「普遍幾何近似」へのパラダイムシフトとして SPM を位置づける。

• パラダイムシフト： 著者らは、B スプラインを介してパラメータ化された普遍リーマン微分同胚計量学習というパラダイムを導入する最初のフレームワークであると主張する。これにより、微分幾何学の基本的な公理を犠牲にすることなく局所スペクトルモデリングが可能となる。
• 説明可能性： 学習された B スプライン係数は、データセットのスペクトル構造（例：どの固有値範囲がノイズに対応し、どの範囲が信号に対応するか）に対する直接的な洞察を提供し、リーマン計量における説明可能な AI（RMXAI）という新たなフロンティアを開く。
• 将来の方向性： 本論文は控えめに、SPM が硬直的な事前分布を排除する一方で、将来の研究としてリーマン計量初期化（RMI）（SPM 多様体に合わせた初期化分布の調整）とリーマン計量正則化（RMR）（スプラインの 2 階微分を正則化することでデータ不足環境での過学習を防ぐ）が必要であると示唆している。

著者らは、計量テンソルを学習可能でパラメータ効率の高い普遍近似子として扱うことで、SPM が深層学習の高い表現力を継承し、数学的に健全で安定かつ解釈可能な SPD 多様体学習のフレームワークを提供しながら、最先端のパフォーマンスを達成すると結論づけている。