技術的概要：チャートベースの生成モデルにおける半径補正

1. 問題定義

リーマン多様体上の生成モデル（変分オートエンコーダ、正規化フロー、連続正規化フローなど）は、しばしば「チャートベース」のアプローチに依存しています。これは、接空間 $T_pM$ におけるユークリッド基底分布からサンプリングし、チャート（例えば指数写像）を介してサンプルを多様体 $M$ へ写像するプロセスを含みます。

本論文は、この標準的なパイプラインに根本的な意味的歪みがあることを特定しています：

1. 半径歪み： 標準的な等方性ユークリッド基底（ガウス分布など）は、多様体上の測地線半径 $R = d(p, q)$ の意図された分布を保存しません。例えば、接空間内の等方性ガウス分布は、多様体上の半径の $\chi_n$ 分布に写像されますが、これは実務者が意図する事前分布（HalfNormal や Gamma など）と一致することは稀です。
2. チャート依存性： 測地線ではないチャート（ラムベルト等積図法など）は、接空間のスケールが同じであっても、チャートの選択と多様体の曲率に応じて異なる測地線半径に対応する追加の歪みを導入します。
3. 隠れたモデリング決定： したがって、チャートと基底分布の選択は、多様体上の半径法則を静かに固定します。この隠れた歪みを補償するために、モデルはスケールや曲率パラメータを調整することを学習せざるを得なくなり、不安定な学習、大きなヤコビアン項、解釈が困難な学習された曲率へとつながります。

2. 手法：半径補正（RC）

著者は、モデルの統計的意味をチャートの数値的特性から分離する手法として、半径補正（Radial Compensation: RC） を提案します。

中核概念

ユークリッド基底から始めてチャートがそれを歪ませる代わりに、RC は多様体上の測地線半径 $R \sim p_{R,\theta}$ に対するユーザー指定の目標法則から開始します。その後、任意のスカラーヤコビアン方位角チャートを介して写像した後に、生成される多様体密度がサンプルを測地線半径 $R$ を通じてのみ依存するように、接空間内の特定の等方性基底分布を構築します。

数学的定式化

スカラーヤコビアン方位角チャート $T$ に対して、半径ヤコビアン $J_T(r)$ と半径写像 $R_T(r) = d(p, T(ru))$ を持つとき、接空間 $T_pM \cong \mathbb{R}^n$ 上の RC 基底密度 $f_\theta(x)$ は以下のように定義されます：
$$f_\theta(x) = \phi_\theta(R_T(\|x\|)) J_T(\|x\|)$$
ここで、$\phi_\theta(R)$ はユーザー指定の半径法則 $p_{R,\theta}$ と多様体の体積要素から導出される目標多様体密度です（具体的には $\phi_\theta(R) = p_{R,\theta}(R) / S_\kappa(R)$ であり、$S_\kappa$ は測地線球の面積です）。

この構成により以下のことが保証されます：

• 測地線半径尤度： 多様体上のプッシュフォワード密度は $\rho_\theta(q) = \phi_\theta(d(p, q))$ となります。
• チャート不変性： 実現された多様体密度と半径フィッシャー情報は、スカラーヤコビアンチャートの選択に依存しません。
• 一意性： 等方性基底とスカラーヤコビアン方位角チャートのクラス内において、RC は測地線半径尤度、チャート不変なフィッシャー情報、接空間の等方性を同時に保存する唯一の構成です。

バランス型指数チャート（bExp）

統計的意味を変更することなく数値的条件付けに対処するため、著者はバランス型指数族（$bExp_\alpha$）を導入します。この族は以下の間で補間します：

• $\alpha = 0$： 等積ラムベルトチャート（体積保存、$|\det| \equiv 1$）。
• $\alpha = 1$： 標準的な指数写像（測地線正確な半径）。

RC 下では、$\alpha$ を変化させることは純粋に数値的前処理として機能します。これは尤度最適化の条件付けを調整し（勾配におけるチャート項の分散を減少させ）、実現された多様体密度を変更することなく行われます。理論的には、チャート項の分散は $O(\alpha^2)$ としてスケーリングします。

3. 主要な貢献

1. 半径補正（RC）： 多様体上の測地線半径がユーザー指定の法則に従うように、接空間基底分布を事前に歪ませるための理論的枠組みと実践的なレシピ。これは使用されるチャートに関係なく機能します。
2. 理論的保証：
   • 定理 1： RC 下では、多様体上のフィッシャー情報と KL 発散が、チャートに依存せず、正確に 1 次元の半径対応物に還元されることを証明します。
   • 定理 2 & 3： 等方性スカラーヤコビアンクラス内で測地線半径尤度とチャート不変なフィッシャー情報を達成する RC が唯一の解であることを確立します。
   • 定理 4 & 12： $bExp_\alpha$ 族を特徴付け、チャート項の分散が $\alpha$ と二次的にスケーリングすることを証明し、統計的コストなしに数値調整を可能にします。
3. バランス型指数チャート： 数値的安定性のために、体積歪みと測地線忠実度の間でトレードオフを可能にする新しいチャート族。

4. 実験結果

著者は、合成多様体（$S^2, H^2$）および標準的な画像ベンチマーク（MNIST, Fashion-MNIST, Omniglot, CIFAR-10）において、Manifold VAE と連続正規化フロー（CNF）を使用して RC を評価しました。

• 意味的較正： RC は意図された測地線半径法則を正常に回復します。$S^2$ と $H^2$ において、RC は実現された半径分布と目標半径分布間の KL 発散を、生の指数巻き付け（raw exponential wrapping）の場合の $\approx 1.48$ と $0.28$から$\approx 10^{-3}$ に減少させます。
• 数値的安定性：
  • 高次元潜在空間 CNF（$d_z \in \{32, 64, 128\}$）において、生の指数巻き付けは不安定な学習（半径の暴発、目的関数の逸脱）をもたらします。RC 変種は同じソルバー設定下で安定したままです。
  • $bExp_\alpha$ における $\alpha$ の変化は、チャート項の分散を大幅に減少させます（例：CIFAR-10 で 1.016 から 0.167）。また、ODE ソルバーの関数評価回数（NFEs）の平均値を減少させ、剛性の低下を示しています。
• 曲率の解釈可能性： 混合曲率 VAE において、RC はチャート歪みを補償するためにモデルが誤った曲率を学習する「曲率吸収」を防ぎます。RC は、チャート補償的な学習曲率を減少させ、KL 項の低下を主として、ELBO を約 7 ナット改善します。
• 応用チェック： RC は、双曲 WordNet フローや $S^3$ 上のタンパク質配向モデルにおいて性能を維持または向上させ、この手法が潜在空間モデリングを超えて、内在的な多様体構造を持つデータにも一般化することを確認しました。

5. 意義と主張

本論文は、RC がチャートベースの生成モデルの構築方法に根本的な変化をもたらすと主張しています：

• 意味と数値の分離： RC はモデルの統計的意味（測地線半径の法則）をその数値的条件付け（チャートの選択）から分離します。チャートは隠れたモデリング決定ではなく、「数値的前処理」となります。
• 安定性と解釈可能性： チャート誘発歪みを補償する必要性をモデルから取り除くことで、RC はより安定した学習、クリーンな曲率推定、学習されたパラメータが直接的で解釈可能な幾何学的意味を持つモデルをもたらします。
• ドロップイン代替： RC はアーキテクチャ、デコーダ、ソルバー、または生成目的に変更を必要としません。基底分布のみの修正であり、既存の多様体フローおよび VAE ツールに対する実用的な「ドロップイン」改善です。

著者は限界を認めています：正確な不変性理論は、扱い可能な極座標体積因子とスカラーヤコビアン方位角チャートを必要とします。また、例ごとの解析的ガウス分布（非等方性）の場合、標準的な巻き付け指数写像が適切なツールであり、閉形式の極座標体積を持たない多様体への RC の拡張は将来の課題であると指摘しています。