技術要約：トランスデューサにおける近似ホモモルフィズムと収束する表現

問題提起

本論文は、制御された確率過程（具体的にはトランスデューサ）の最小表現が、摂動に対して理論的にどの程度安定しているかを調査している。この問いは、異なるデータや目的関数で学習された異なるニューラルネットワーク・アーキテクチャが、しばしば収束した潜在構造を示すという、ディープラーニングにおける経験的な観察に基づいている。この現象は「プラトニック表現仮説」へとつながっており、同様の分布から学習するエージェントは、現実の共通の統計モデルへと収束することを示唆している。

先行研究 [44] では、線形および予測的トランスデューサにおいて最小の実装が存在すること（すなわち一意の「標準的（canonical）」な表現が存在すること）を確立したが、これらの結果は厳密なものであった。実用的なシナリオでは、モデルはわずかに異なるデータセットから学習し、ノイズの影響を受けるため、それらが実装するインターフェースは、同一ではなく「近似的に」類似したものとなる。中心となる問題は、一意の最小表現（およびしたがって収束する構造）の存在が、これらの摂動に対して頑健であるかどうかである。具体的には、2つのトランスデューサが実装するインターフェースが $\epsilon$ 近似している場合、それらは共通の構造的表現（近似ホモモルフィズム）を共有し、その誤差は $\epsilon$ に対して線形にスケールする共通の標準形式へとマップされるのだろうか。

手法

著者は、以下の3つのクラスのトランスデューサを用いて問題を定式化している。

1. 標準的トランスデューサ (Standard Transducers): 隠れ状態を持つ一般的な制御された確率系。
2. 線形トランスデューサ (Linear Transducers): 状態がベクトル空間内に埋め込まれ、ハンケル行列を用いて構築されるシステム。
3. 予測的トランスデューサ (Predictive Transducers): 内部状態に、観測可能な履歴からは得られない予測情報が含まれていないシステム（計算力学における $\epsilon$-マシンと同等）。

手法は以下の3段階で進行する：

1. 近似ホモモルフィズムの定義: 著者は、標準的なホモモルフィズムの厳密な構造写像条件を緩和した $\epsilon$-ホモモルフィズムを導入する。標準的トランスデューサの場合、これはソースのダイナミクスのプッシュフォワードとターゲットのダイナミクスの間の全変動（Total Variation; TV）距離を境界付けることを含む。線形トランスデューサの場合、これはマップされたダイナミクスとターゲットとの差のノルムを境界付けることを含む。
2. インターフェースのための計量空間: トランスデューサが実装する振る舞い（インターフェース）の類似性を測定するために、インターフェースの空間に対する計量を定義する。著者は、上限計量 ($d_\infty$) および、長期の不一致を重く評価しない割引計量 ($d_\gamma$) を利用する。予測的トランスデューサについては、確率に関わらず、すべての許容可能な履歴の条件付きインターフェースを比較する「残留計量」($d_{res}$) が導入される。
3. 安定性解析: ターゲットとなるインターフェース $I$ の $\epsilon$-近傍内のインターフェースを実装するトランスデューサの集合を分析する。著者は、この集合が「$\delta$-最小値」――すなわち、集合内のすべてのトランスデューサが、誤差 $\delta = O(\epsilon)$ で $T_{min}$ への近似的な簡約（reduction）を許容するようなトランスデューサ $T_{min}$――を持つかどうかを調査する。

主要な貢献と結果

1. 近似ホモモルフィズムと合成可能性

本論文は、3つのすべてのトランスデューサ型に対して $\epsilon$-ホモモルフィズムを定義している。主要な理論的特性として、合成可能性 (composability) が証明されている。すなわち、$T_1 \xrightarrow{\epsilon_1} T_2$ かつ $T_2 \xrightarrow{\epsilon_2} T_3$ であれば、$T_1 \xrightarrow{\epsilon_1 + \epsilon_2} T_3$ となる。さらに、著者は近似的な簡約が、割引計量下での誘導されたインターフェース・ダイナミクスを保存することを証明している。具体的には、$T_1$ が誤差 $\epsilon$ で $T_2$ に簡約される場合、割引計量 $d_\gamma$ 下でのそれらのインターフェース間の距離は $O(\epsilon)$ で抑えられる。

2. 標準的トランスデューサに対する負の結果

標準的トランスデューサについては、近似下であっても収束が失敗することを著者は示している。著者は、特定のインターフェース $I$ を構成しており、任意の $\delta < 1$ に対して、$I$ を実装するトランスデューサの集合（または $I$ に任意に近いインターフェースを実装する集合）は、$\delta$-最小値を持たない。これは、一般的な確率系においては、一意の最小表現の欠如は、誤差項を導入しても救済できないことを意味する。すなわち、類似したダイナミクスを持つ構造的に異なる実装は、共通の近似構造を共有しない可能性がある。

3. 線形トランスデューサに対する正の結果

線形トランスデューサについては、強力な安定性の結果を証明している。任意の有限ランクのインターフェース $I$ に対して、インターフェースの近傍（距離 $\epsilon$ 以内）が存在し、これらの近傍のインターフェースを実装するすべての最小線形トランスデューサは、$I$ の標準的な最小実装への近似的な簡約を許容する。

• メカニズム: 証明は、ハンケル行列による最小線形トランスデューサの構築に基づいている。インターフェースの小さな摂動は、ハンケル行列の小さな摂動につながる。著者は、摂動を受けた標準的表現を元の表現へとマップする線形写像（ハンケル行列の可逆な小行列式に基づく）を構成する。
• 誤差境界: この簡約の誤差は、摂動のサイズに対して線形にスケールする ($\delta \approx \Gamma_I \epsilon$)。ここで $\Gamma_I$ はインターフェース $I$ のみに依存する定数である。

4. 予測的トランスデューサに対する正の結果

予測的トランスデューサについては、特定の計量の下で収束が成立することを示している。著者は、すべての履歴の条件付きインターフェースを比較する残留計量 ($d_{res}$) を導入している。

• 条件: 2つのインターフェース $I$ と $J$ の間の $d_{res}$ 下での距離が、十分に小さい（具体的には、異なる予測的状態間の最小分離 $\Delta_I$ の半分よりも小さい）場合、 $J$ の最小予測的トランスデューサは、$I$ の最小予測的トランスデューサへの $\epsilon$-簡約を許容する。
• 意義: この結果は、上限計量が予測的トランスデューサに対して安定性を保証できないこと（稀ではあるが区別される履歴が存在するため）を浮き彫りにしているが、すべての条件付き履歴を考慮する計量が安定性を回復させることを示している。

意義と主張

本論文は、特定の構造的制約の下で、プラトニック表現仮説に対する理論的裏付けを提供すると主張している。

• 抽象化の頑健性: 本研究の結果は、標準的な（canonicalな）トランスデューサ表現が摂動に対して頑健となる条件を特定している。具体的には、AIアーキテクチャにおける世界モデルが線形または予測的なトランスデューサとして抽象化できるのであれば、同様のデータ分布から学習されたモデルは、構造的な収束（すなわち、それらの潜在表現が、限定された誤差を伴って共通の最小形式へとマップされ得るということ）を示すはずである。
• 一般性の限界: 本論文は、この収束が一般的な（標準的な）トランスデューサについては保証されないことを明示しており、これは、収束現象が創発するためには、線形および予測的システムのような特定の代数的または構造的な特性が必要であることを示唆している。
• 理論的 vs 実験的: 著者はこれらの結果を理論的な証拠として位置づけている。著者は、ニューラルネットワークにおける予測的構造（$\epsilon$-マシンのようなもの）の存在が経験的に観察されている [46, 47] 一方で、線形トランスデューサの存在は、ニューラルパラメータのベクトル空間的な性質に基づいた仮説であると述べている。本論文は、既存のモデルにおけるこれらの構造を実験的に検証したことを主張しているのではなく、それらを期待するための数学的枠組みを提供している。

要約すると、本研究は、「表現の収束」という性質が、システムをモデル化するために使用される数学的抽象のクラスに強く依存していることを確立している。それは線形および予測的システムにおいては強固に保持されるが、一般的な確率系においては失敗する。これは、なぜ一部のAIアーキテクチャでは収束的な構造が現れ、他のアーキテクチャでは現れないのかについて、ニュアンスを含んだ理論的な説明を与えるものである。