TERRA: Task-Embedded Reasoning and Representation Architecture for Cross-Domain Applications

技術要約：TERRA – クロスドメイン・アプリケーションのためのタスク埋め込み型推論および表現アーキテクチャ

論文のステータス： 本書は研究プロポーザルおよび理論的枠組みである。著者らは、実証的な結果は提示されていないことを明示している。本研究は、ある構造化されたドメイン（例：自動運転）における予測モデルが別のドメイン（例：金融市場）へ転移できるという、広く信じられている直感を、事前登録された実験プログラムを伴う反証可能な理論へと変換するものである。

1. 問題設定

現在の予測学習アーキテクチャ（V-JEPA、Dreamer、RT-2など）は、行動条件付き潜在状態をモデリングすることで、特定のドメイン内での成功を収めている。しかし、あるドメイン（例：物理的なロボットのワークスペース）で学習された表現や予測器が、構造的に類似しているが関連のない別のドメイン（例：金融のオーダーブックや電力網）に引き継がれるという主張は、未検証の直感のままである。

核心となる未解決問題は、**転移の問い（transfer question）**である：

• いつ、ドメインAで学習された表現はドメインBへ転移するのか？
• どの程度転移するのか？
• この転移に関する理論的境界は何か、そしてそれらはどのように測定できるのか？

既存の研究には、特に高次元の、行動条件付き潜在予測器が構造化されたグリッド上で動作する場合において、いつ転移が成立すべきか、あるいはなぜ失敗するのかを説明する形式的な理論が欠けている。

2. メソドロジーおよび理論的枠組み

本論文は、クロスドメイン転移の形式的な数学的扱いを提案しており、ドメインを**階層的潜在グリッド上の制御されたマルコフ過程（Controlled Markov Processes on Graded Latent Grids）**としてモデル化している。

A. ドメイン・モデリングと分解

• 構造化状態ドメイン（Structured-State Domain）： 状態空間 $S$ が階層的グリッド表現（例：自動運転におけるボクセルグリッド、価格・時間グリッドとしてのオーダーブック）を許容するタプル $(S, A, T, r)$ として定義される。
• アーキテクチャの分解： 著者らは、あらゆるドメインのインスタンスを以下の2つの部分に分解することを提案している：
  1. ドメイン・アダプター（Domain Adapters）： 特定のドメインに特化したコンポーネント（エンコーダ $e_D$ およびトークナイザ $\tau_D$）であり、特定のグリッドを標準的な潜在空間へと写像する。
  2. 共有ドメイン不変コア（Shared Domain-Invariant Core）： 標準的な潜在表現とアクション・トークンのみに作用する、大規模かつ共有されたコンポーネント（コンテキスト・エンコーダ、ターゲット・エンコーダ、および行動条件付き潜在予測器）。
• 前提： コアが構造上同一であるため、観察されるいかなる転移も、単なるアーキテクチャの再利用ではなく、共有された構造的特性に起因するものである。

B. クロスドメインの対応関係

2つのドメイン間の関係は、近似マルコフ決定過程（MDP）準同型として定式化される。

• 厳密な準同型（Exact Homomorphism）： 遷移カーネルを完全に交差させ、報酬を保存する写像 $\Phi = (\phi_Z, \phi_A)$。論文では、これらが物理的ドメインと非物理的ドメインの間で完全に存在することは稀であると述べている。
• 近似準同型（Approximate Homomorphism）： 対応関係の質は、以下の要素を集約した緩い双模倣不一致（Lax Bisimulation Discrepancy） ($\epsilon_{lax}$) によって測定される：
  • 遷移欠陥（Transition Defect, $\epsilon_T$）： ソースの遷移の押し出し（pushforward）とターゲットの遷移との間のワッサースタイン-1距離。
  • 報酬欠陥（Reward Defect, $\epsilon_r$）： 写像下における報酬の最大差。

C. 理論的境界

著者らは、誤差源を分離する**予測転移境界（Predictive Transfer Bound）**を導出している：

1. 1ステップ誤差： 転送された予測器の誤差は、ソース・モデルの誤差（状態写像のリプシッツ定数によってスケールされる）と、構造的不一致（準同型の欠陥）の和によって抑えられる。
2. ホライゾン境界： 予測器をホライゾン $H$ にわたってロールアウトする場合、誤差はコアのダイナミクスのリプシッツ定数 ($L$) に基づいて幾何級数的に増大する。
   • $L \leq 1$（収縮的／安定）の場合、誤差は線形にスケールするか、あるいは有界に留まる。
   • $L > 1$（発散的）の場合、誤差は幾何級数的に増大し、転移可能なホライゾンを制限する。
3. 構造的フロア（Structural Floor）： 2つのドメインの遷移演算子間のグロモフ・ワッサースタイン（GW）距離は、達成可能な不一致の低減限界（下限）を与える。いかなる対応関係も、誤差をGW距離の半分以下に下げることはできない。
4. 決定レグレット（Decision Regret）： 双模倣メトリックのリプシッツ値特性を用いて、潜在表現の予測誤差を決定レグレットへと還元する。これにより、表現の忠実度を制御の質に直接結びつけている。

3. 主な貢献

1. 形式的モデル： 階層的潜在グリッド上の制御されたマルコフ過程として、構造化状態決定ドメインを定義し、アダプターと共有コアに分解した。
2. 転移理論： 緩い双模倣不一致およびグロモフ・ワッサースタイン距離を用いて、近似MDP準同型によるクロスドメイン対応関係を定量化した理論。
3. 予測転移境界： ソース・モデルの誤差と構造的不一致を分離し、誤差が予測ホライゾンおよびリプシッツ定数に対してどのようにスケールするかを示す導出。
4. レグレットの低減： 潜在誤差を決定レグレットへと結びつける証明を行い、理論が単なる表現の類似性ではなく、制御の質に対処していることを保証した。
5. 構造化状態転移仮説（SSTH）： 転移による利得は、構造的不一致の減少関数である（GW距離によって下限が規定される）という、反証可能な主張。
6. 事前登録された実験プログラム： ドメイン内でのサニティチェックから「遠隔転移（far transfer）」（例：自動運転からオーダーブックへ）に至るまでの、詳細なフェーズ1〜4の計画。これには、理論を論破するための明示的な条件も含まれている。

4. 結果

本論文は実証的な結果を提示していない。
著者らは次のように明言している：「我々は実証的な結果を提示しない。これは、広く繰り返されてきた直感をテスト可能な理論へと変換することを目的とした研究プロポーザルである。」
「結果」とは、理論的導出（命題1–3、系1）および将来の実験のための事前登録された予測（P1–P4）である。

5. 意義および主張

本研究の意義は、その謙虚さと厳密さにある：

• 直感から理論へ： クロスドメイン転移の概念を、繰り返される直感から、数学的に根拠付けられたテスト可能なフレームワークへと昇華させた。
• 測定可能性： 転移が「いつ」可能であり、「どの程度」期待できるかを定量化するための具体的な指標（GW距離、リプシッツ定数、緩い不一致）を提供している。
• 反証可能性： 構造化状態転移仮説（SSTH）は、明示的に反証されるように設計されている。論文では、理論が誤りであると証明される具体的な条件（例：高い不一致があるにもかかわらず転移が発生した場合、あるいはホライゾンの減衰がリプシッツ定数に依存しない場合）が概説されている。
• 新しいアーキテクチャの主張ではない： 著者らは、基礎となるアーキテクチャ（TERRA）が、既存の検証済みコンポーネント（JEPA、ワールドモデル、トークナイゼーション）の再結合であることを明確にしている。貢献はアーキテクチャそのものではなく、その基盤の上に構築された転移の理論である。

本論文は、仮説の妥当性は未知であるが、既存の数学的ツールを用いて転移の問題に答える能力こそが主要な貢献であると結論づけている。