技術要約：信念のコスト幾何学

1. 問題提起

本論文は、有限なエージェントが固定されたノイズを含む世界を推論する際の、**信念（belief）**の空間における幾何学的構造を取り扱う。ここで「信念」とは、有限でノイズを含む観測 $y$ から導出される、世界の状態 $x$ に関するベイズ事後確率密度 $p(x|y)$ と定義される。

中心となる問題は、この信念空間の幾何学、具体的には以下の性質を特徴付けることである：

• 距離： 考えを変えること（ある信念から別の信念への移動）のコスト。
• 境界： 「確信」（ディラックのデルタ関数）の性質、およびそれが到達可能か否か。
• 曲率： 信念空間の固有の曲率。

このフレームワークは、確信（certainty）が有限のシステムに対して二重に否定されることを提示している：

1. 観測の有限性： 完全な精度には無限の情報が必要であり、これはクラメール・ラオの不等式（有限のフィッシャー情報量）によって否定される。
2. 物理的有限性： 確信に達するために情報を消去することは無限のエネルギーを散逸させるため、ランダウアーの原理によって否定される。

これらの制約はいずれもフィッシャー情報量（$J$）から読み取れるものであり、$J$ は信念が確信に近づくにつれて発散する。目標は、この発散が「越えられない境界」として現れるような計量を構築することである。

2. 手法とフレームワーク

著者は、確率測度の空間 $\mathcal{P}_2(\mathbb{R}^n)$（有限の二次モーメントを持つワッサースタイン空間）上にコスト幾何学を構築する。その手法は、以下の3つの核心的なコミットメントに基づいている：

1. 舞台（最適輸送）： 基底となる幾何学はワッサースタイン空間 $(\mathcal{P}_2, W_2)$ である。ここでは、距離は確率質量を移動させるコストを測定する。これは、識別可能性を測るフィッシャー・ラオ計量を用いる情報幾何学とは対照的である。
2. コスト（共形変形）： 信念の変化のコストは、生のワッサースタイン距離ではなく、共形的に再重み付けされた計量によってモデル化される：
   $$\tilde{g}_{e,U} = 2(e + U) g_{W_2}$$
   ここで、$U$ は信念状態の不可能性またはコストを表す「リリーフ（relief）」関数であり、$e \ge 0$ はレベル・パラメータである。曲線 $\gamma$ のコスト長は $\ell_e(\gamma) = \int \sqrt{2(e + U(\gamma_t))} |\dot{\gamma}| dt$ となる。
3. 架け橋（オットー恒等式）： 本フレームワークは、ワッサースタイン空間におけるシャノン・エントロピー $H$ の勾配とフィッシャー情報量を結びつけるオットー恒等式を利用する：$\|\nabla_{W_2} H\|^2 = J$。これにより、フィッシャー情報量を計量テンソルとしてではなく、「勾配」として扱うことが可能になる。

分析は、計量の**共形類（conformal class）に焦点を当て、主に位置・尺度族（location-scale families）**の分布（例：ガウス分布）を対象とする。

3. 主要な貢献と結果

本論文は、コスト単位の変化に対して不変な（ゲージ不変な）3つの主要な特性を確立している。

A. 壁（推論の良設定性）

結果： 推論が良設定（内部最小解を持ち、確信へと崩壊しないこと）であるためには、確信の境界（$\partial_\infty$、ここで $J \to \infty$）が無限距離に存在しなければならない。

• 条件： この「壁」は、リリーフ $U$ が境界においてフィッシャー情報量 $J$ を支配する場合に確立される。
• 十分条件： もし全域で $U \ge \varepsilon J$ （ある $\varepsilon > 0$ に対して）が成立するならば、確信までの距離は無限となる。
• 必要条件： パワーロー（べき乗則）の族 $U = cJ^\alpha$ において、壁が存在するための必要十分条件は $\alpha \ge 1$ である。
• 含意： 有限のエージェントは有限のコストで確信に到達することはできない。目標とする分散がゼロに近づくにつれ、特定の精度に達するためのコストは発散する。

B. 正直さ（アイカル条件）

結果： 知識の「価格」が至る所で一様であること（各「ナット（nat）」の情報の幾何学的長さが等しいという**アイカル（eikonal）**なコスト）を要求すると、フィッシャー族のリリーフが一意に選択される。

• 条件： $U = cJ$（ある定数$c > 0$ に対して）。
• 解釈： これは、オットー恒等式を介して、ランダウアーの原理（一定のエネルギーコスト／ナット）と一致する。「正直な」幾何学は、フィッシャー情報量に比例する。

C. 剛性（双曲性とスタム境界）

結果： 位置・尺度族において、正直な幾何学（$U=cJ$）は双曲的（厳密な負曲率）である。

• 曲率： ガウス曲率は $K = -1/(2cJ_0)$ である（ここで $J_0$ は標準化された基底密度のフィッシャー情報量）。
• スタムの極値性： スタム境界（$J_0 \ge 1$、単位分散の場合）により、曲率は $K \in [-1/(2c), 0]$ に制限される。
• ガウス分布： ガウス分布（$J_0=1$）は、極値的な曲率 $K = -1/(2c)$ を達成する。特定の単位選択（$c=2$）の下では、この値は $-1/4$ となる。したがって、ガウス分布は「最も双曲的な」信念である。

D. ゲージ不変性

結果： コストの単位を変更すること（$e$ と $U$ を $\lambda$ 倍すること）は、幾何学に対するホモテティ（相似拡大）として作用する。これは距離を $\sqrt{\lambda}$ 倍し、曲率を $1/\lambda$ 倍するが、以下の性質は保持される：

• 壁の存在（確信への無限距離）。
• 曲率の順序。
• ガウス分布の極値性。
• アイカルな比例関係 $U \propto J$。

4. 意義と主張

本論文は、既存の形式化とは異なる有限推論のための幾何学的フレームワークを提供することを主張している：

• フィッシャー・ラオとの違い： 情報幾学が識別可能性のための計量テンソルとしてフィッシャー・ラオを用いるのに対し、本フレームワークはフィッシャー情報を輸送計量上の共形ウェイトとして扱う。これにより、異なる曲率シグネチャ（例：ここでのガウス分布は $-1/4$ であり、フィッシャー・ラオの $-1/2$ とは異なる）が得られる。
• 熱力学との違い： 幾何学的熱力学とも関連しているが、本研究は単に固定された幾何学上の散逸を測定するのではなく、位置情報によって駆動される負の曲率と無限の壁を含むように、信念空間を**再計量化（re-metrize）**している。
• アルゴリズム的解釈： 本フレームワークは、既存のアルゴリズムに対して幾何学的な解釈を提供する：
  • カルマンフィルタ： この幾何学における内部点として機能し、有限のコストで信念を更新する。
  • 点予測器／過学習ネットワーク： 境界（壁）に位置しており、内部の信念から連続的に到達できないため、再学習（無限のコスト）を必要とする。
  • 弾性的重み減衰（EWC）： 確信度（フィッシャー）に比例して移動を罰するという原理を共有しているが、EWCは重み（フィッシャー・ラオ）に適用されるものであり、信念密度そのものに適用されるものではない。

5. 限界と予想

著者らは、証明の範囲について以下のように謙虚に述べている：

• 必要性： 壁の条件（$U \ge \varepsilon J$）の必要性は、パワーローについては証明されているが、一般的なリリーフについては依然として**予想（conjecture）**の段階である。
• 一意性： 本フレームワークは推論の最小解の存在を確立しているが、一般的なケースにおける一意性（相互作用項の非凸性が残っていること）は証明していない。
• 曲率の範囲： 負の曲率とスタムの剛性は、1次元の位置・尺度族において厳密に証明されている。これらが高次元や非位置・尺度族へ拡張されることは予想されているが、証明はされていない。
• 物理的動機付け： 熱力学（ランダウアー）はフレームワークを動機付け、コストの単位を決定するが、幾何学的な証明は物理法則から独立しており、計量幾何学のみに依拠している。

要約すれば、本論文は、有限のエージェントとセンサの性質が、フィッシャー情報量とオットー恒等式によって支配される双曲空間および確信における無限の壁として現れる、「信念のコスト幾何学」を構築している。