Sharp Concentration Bounds for Bundle-Valued Statistics on Manifolds

技術要約：多様体上の束値統計量における鋭い集中不等式

1. 問題設定

多くの幾何学的機械学習や統計的パイプラインは、単一の共有ベクトル空間ではなく、自然に**ベクトル束（vector bundles）**内に存在するデータを取り扱います。例えば、接ベクトル、局所フレーム、ゲージ場などが挙げられ、これらでは各観測値 $s(X_i)$ は、基本リーマン多様体 $M$ 上の特定の点 $X_i$ に付随するファイバー $E_{X_i}$ に属しています。

これらのデータの経験平均（平均値）を計算するには、**平行移動（parallel transport）**を用いて、各々のファイバーからの観測値を共通の参照ファイバー $E_{x_0}$ へと輸送し、その後に平均化する必要があります。しかし、このプロセスは、古典的なユークリッド空間の統計学には存在しない2つの明確な課題を導入します：

1. 経路依存性（Path Dependence）: もしサンプル点 $X_i$ と参照点 $x_0$ の間の最短経路（測地線）が唯一ではない場合、輸送経路の選択が決定論的な曖昧さを導入します。
2. ホロノミー・バイアス（Holonomy Bias）: 多体の曲率と束の接続（connection）により、閉じたループ（異なる2つの経路によって形成されるもの）に沿った平行移動は非自明な回転をもたらします。これは、サンプリング誤差とは異なり、データが増加しても消失しない決定論的なバイアスを輸送された平均に生じさせます。

既存の集中理論（例：ホフディング、バーンスタイン）は線形空間に適用されるものであり、既存の多様体統計学の文献（例：フレシェ平均）は、多くの場合、漸近的な結果や基本多様体上のデータに焦点を当てており、平行移動の下での**束値セクション（bundle-valued sections）**の非漸近的な集中については対処していません。

2. 手法

本論文は、輸送された経験平均に関する非漸近的な集中理論を展開します。核心となる手法のステップは以下の通りです：

• 幾何学的簡約（Geometric Reduction）: 著者らは、束値の観測値 $s(X_i) \in E_{X_i}$ を固定された参照ヒルベルト空間 $E_{x_0}$ へ写像するための可測な輸送規則（例：正規球内またはカルタン・アダマール多様体における一意な最小測地線の選択）を仮定します。これにより、問題を固定されたヒルベルト空間における独立同一分布（i.i.d.）なランダムベクトルの平均化問題へと変換します。
• 鋭い不等式（Sharp Inequalities）: Pinelis [31] および Boucheronら [13] の研究を活用し、輸送された経験平均 $\bar{Y}_n$ に対して、次元に依存しないホフディングおよびバーンスタイン型の不等式を適用します。極めて重要な点として、分散プロキシ（variance proxy）は共分散行列の演算子ノルムを通じて定義されており、これにより境界がファイバーの次元 $k$ に依存しないことを保証しています。
• バイアス・分散分解（Bias-Variance Decomposition）: 全誤差は以下の2つに分解されます：
  1. 確率的項（Stochastic Term）: 古典的な $O(n^{-1/2})$ の速度で減衰します。
  2. 幾何学的バイアス項 ($\Delta_{hol}$): 輸送の曖昧さ（ホロノミー）によって引き起こされる決定論的なオフセットであり、束の曲率とデータのサポートの幾何学によって制御されます。
• ホロノミーの定量化: 著者らは、ホロノミー・バイアスのための明示的かつ鋭い公式を導出します。円球面 $S^2_r$ の接束に対しては、代替的な輸送経路によって形成されるループの面積に依存する閉形式の境界を提供します。
• 頑健性と漸近性: 本フレームワークは、重い裾を持つ分布（heavy-tailed distributions）に対して**中央値・平均・中央値（median-of-means; MoM）**推定量を適用して拡張され、ホロノミー・バイアスがサンプリングノイズに対して無視可能である場合に、参照ファイバーにおける中心極限定理（CLT）を確立します。

3. 主要な貢献

本論文は、以下の具体的な貢献を行います：

• 非漸近的集中境界: 輸送された束値平均に対する、有限サンプルかつ次元に依存しないホフディングおよびバーンスタイン型の境界を確立します。これらの境界は、確率的なゆらぎと決定論的な幾何学的バイアスを明示的に分離します。
• ホロノミー・バイアスの定量化: 非一意な測地線によって導入される決定論的な誤差フロアを孤立させます。球面におけるこのバイアスのための鋭い閉形式の公式（命題1）と、任意の束に対する一般的な曲率ベースの境界（定理3）を提供します。
• ミニマックス下界: 輸送ベースの推定量のクラスにおいて、$O(n^{-1/2})$ の確率的レートと曲率駆動のホロノミー・フロアの両方が**避けられない（unavoidable）**ものであることを証明します（定理4）。これは、アライメントベースのアルゴリズムが、推定量の根本的な構造（例：外在的な手法への移行）を変更することなしには、幾何学的バイアスを排除できないことを裏付けています。
• 頑健な推定: 重い裾を持つ分布の下でも最適な $\sigma/\sqrt{n}$ レートを達成する、頑健な中央値・平均・中央値（MoM）推定量を確立し、バイアス・分散構造を維持します。
• 中心極限定理: 輸送された平均に関する中心極限定理（CLT）を、ホロノミー・バイアスが漸近的に無視可能（$o(n^{-1/2})$）である場合に、参照ファイバー内で証明します。

4. 結果

• 誤差分解: 輸送された平均 $\bar{Y}_n$ と母平均 $m^\star$ の偏差は次のように抑えられます：
  $$\|\bar{Y}_n - m^\star\| \lesssim \frac{B}{\sqrt{n}} + \Delta_{hol}$$
  ここで $B$ はセクションの一様境界であり、$\Delta_{hol}$ はホロノミー・バイアスです。
• クロスオーバー・サンプルサイズ: サンプルサイズ $n$ を増やしても、幾何学的バイアス $\Delta_{hol}$ が支配的になるため、総誤差がこれ以上減少しなくなる臨界サンプルサイズ $n_\times$ を特定します。半径 $r$ の球面 $S^2$ において、データが半径 $\rho$ の球内にサポートされている場合、このクロスオーバーはおよそ $n \sim (r/\rho)^4$ の時に発生します。
• 球面の検証: 球面 $S^2$ 上の制御された実験により、理論的予測を検証します。確率的誤差は $n^{-1/2}$ として減衰しますが、代替的な輸送規則の下での誤差は一定の値にプラトー（停滞）し、理論的なホロノミー境界と3.7%以内の誤差で一致します。
• 応用: 本理論は、多様体回帰残差、ゲージ等変グラフニューラルネットワーク（GNN）、拡散テンソルイメージング、およびワッサースタイン接空間に適用され、これらのバイアス・分散分解がどのようにこれらの特定のパイプラインに適用されるかを示しています。

5. 意義と主張

本論文は、束の接続を介して特徴量を集約する幾何学的ディープラーニングおよび多様体学習のパイプラインに対し、厳密な統計的基礎を提供することを主張しています。その意義は以下の点にあります：

• 統一されたフレームワーク: 明示的な有限サンプル保証を伴う、単一の確率構造の下で、ユークリッド集中理論、多様体統計、および束の幾何学を統合します。
• 根本的な限界の特定: 曲がった幾何学においては、統計的な精度は単なるデータの不足だけでなく、空間の幾何学（曲率／ホロノミー）によって本質的に制限されることを示しています。これは、「データが増えれば常に推定精度が向上する」という仮定に異を唱えるものです。
• 実践的な指針: 実務者に対し、曲率の効果が無視できる（局所的レジーム）場合と、それが支配的になる（大きなキャップ）場合を判断するための具体的な基準を提供し、データのサポートをより小さな正規球に制限する、あるいはホロノミー補正を適用するといった対策を提案します。
• 限定的な範囲: 著者らは、自らの結果が輸送ベースの推定量に適用されることを明示しています。外在的な推定量（ファイバー構造を無視するもの）は、幾何学的な解釈性を犠牲にするものの、ホロノミー・フロアを回避できる可能性があることを認めています。本論文は、すべての幾何学的学習問題を解決しようとするものではなく、特にベクトル束におけるセクションの平均化に関する統計的振る舞いに焦点を当てています。

要約すると、本論文は、束値の統計量における確率的成分については古典的な集中レート（$n^{-1/2}$）が保持される一方で、曲率駆動の誤差フロアが存在し、それはデータのみでは排除できないことを確立しており、幾何学的学習アルゴリズムの収束挙動を根本的に変えるものであることを示しています。