🤖 machine learning

The SIGReg Objective as Variational Free Energy: A Theoretical Active-Inference Account of JEPA World Models

本論文は、Joint-Embedding Predictive Architectures (JEPA) に対する理論的な能動的推論（Active Inference）の枠組みを確立し、SIGReg正則化項が、事前分布の不適合ギャップを排除することで学習目的関数を一意に有効な変分自由エネルギーへと変換する一方で、他の一般的な正則化項は必要な驚愕（surprise）の境界を維持することに失敗することを証明するものである。

原著者： Fabio Arnez, Alexandra Gomez-Villa

公開日 2026-07-16

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Fabio Arnez, Alexandra Gomez-Villa

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

あなたはロボットに世界を理解させる方法を教えようとしていると想像してください。ビデオの全ピクセルをただ暗記させるのではなく（それは不可能で無駄なことです）、次に何が起こるかを予測できる、圧縮された「潜在的（レイテント）」な現実のメンタルマップを構築させたいと考えています。これが**結合埋め込み予測アーキテクチャ（JEPA）**の夢です。これは、学生がノートを取る様子に似ています。先生の講義を一言一句すべて書き写すのではなく、重要な概念とその関係性を書き留めるのです。

しかし、落とし穴があります。情報を圧縮すると、重要な詳細を失うリスクがあります。さらに悪いことに、ロボットがすべてのメモを一つの退屈な「すべては同じである」という答えに崩壊させて、ズルをする可能性があります。このズルを防ぐために、科学者は**正則化（レギュラライザー）**と呼ばれる特別なルールを使用します。これは、「おい、君のノートは多様で、広がりを持たせなきゃダメだよ！」と伝える教師の赤ペン記号のようなものです。

宇宙の反対側には、**能動的推論（アクティブ・インファレンス）**という理論があります。この理論は、知的な存在（私たちやロボット）は「驚き」を最小化するように行動することを示唆しています。私たちは世界のモデルを構築しますが、現実が私たちのモデルと一致しないとき、私たちは「驚き」を感じます（数学的には「自由エネルギー」が高い状態です）。生き残るために、私たちはモデルを変えるか、あるいは世界に適合するように行動を変えるかのどちらかを行います。科学者がずっと問い続けてきた大きな疑問は、「これらのロボットのノートテーカー（JEPA）を訓練するために使うトリックは、実は私たちが驚きを最小化するための数学的ルールと同じなのか？」ということです。これまでは、ロボットの性能に基づいて推測することしかできませんでしたが、厳密な証明はこれまでありませんでした。

この論文は、これら二つの世界をつなぎ合わせる、ようやく点と点を結びつけた探偵小説のようなものです。著者であるファビオ・アルネズとアレクサンドラ・ゴメス＝ヴィジャは、現代のロボット訓練で使用されている特定の「不正防止ルール」を調査しています。彼らはこう問いかけます。「ロボットのノートの多様性を保つために使用するルールは、実際にロボットが数学的に正しい方法で驚きを最小化することを保証しているのだろうか？」

答えは、どのルールを選ぶかに完全にかかっています。著者らは、4つの異なるルールを、精度の梯子（はしご）のように階層構造として整理しています。一番下には、VICRegのような一般的なルールがあります。これらは「安全ではありません」。想像してみてください。偽のテストでスコアを膨らませることで成績を上げようとする学生を。教師（数学）は高いスコアを目にしますが、学生は実際には何も学んでいません。同様に、VICRegは、ロボットが実際には理解していないにもかかわらず、多様で情報豊かなマップを持っていると錯覚させる可能性があります。これはロボットの知識の上限を設定してしまうため、ロボットは世界を理解できていないのに、うまくやっていると思い込んでしまう可能性があるのです。

次に、SIGRegと呼ばれるルールがあります。著者らは、これが「ゴールデンチケット（至高の切符）」であることを証明しています。他のルールとは異なり、SIGRegは単なる推測や近似ではなく、ロボットのメンタルマップを完璧にバランスさせ、広がりを持たせること（数学的には「等方的なガウス分布」）を強制します。ロボットがSIGRegを使用すると、数学が劇的に変化します。「ロボットが知っていると思っていること」と「実際に知っていること」の間の「ギャップ」が消失します。突然、ロボットの訓練目的は、能動的推論の公式と正確に一致します。それはもはや大まかな推測ではなく、完璧な翻訳となるのです。

この論文は、もしSIGRegを使用すれば、ロボットの「予測誤差を最小化する」という目標が、「驚きを最小化する」ことと全く同じであることを示しています。さらに、著者らは現在のロボットの脳に欠けているものを見出しました。これらのロボットは、目標に到達するために先読みすること（実用的価値）には長けていますが、特定の「好奇心」の信号が欠けています。彼らには、未来についてより多くを学ぶために、あえて新しい状態を探索しようとする内発的な衝動（状態エピステミック価値）が備わっていないのです。論文は、現在のロボットが無視しているのは、このパズルのピースの一つであることを指摘しています。

著者らは、数学が特定の条件（ロボットの訓練データが無限であり、ノイズが一定である場合など）の下で厳密に証明されていることを非常に慎重に述べていますが、現実世界でのテストはまだこれからです。彼らは理論的な架け橋を築きましたが、まだその橋を渡る車を走らせてはいません。彼らは、SIGRegで訓練されたロボットは、古い手法で訓練されたものよりも安定し、計画性が高く、自分の知識に対してより「正直」になると予測しています。しかし、最終的な判定は将来の実験に委ねています。

要するに、この論文は、真に「能動的な」ロボット――好奇心旺盛な探検家のように学び、行動するロボット――を構築する秘訣は、単に古くて少し壊れたルールを、数学的に完璧な新しいルールに交換することにあるかもしれない、と伝えています。それは、ヒューリスティックなトリックを厳密な科学的原理へと変え、ロボットの脳を物理法則や情報の法則にどのように適合させるかを正確に示しているのです。

技術的要約：変分自由エネルギーとしてのSIGReg目的関数

問題提起
Joint-Embedding Predictive Architectures (JEPA) は、潜在的な世界モデルの設計において支配的な構造として台頭しているが、その学習目的関数は、規範的な原理よりもむしろ経験的なパフォーマンスによって正当化されることが一般的である。表現の崩壊（representational collapse）を防ぐための非対照的正則化（例：VICReg）が、Active Inference (AIF) の変分自由エネルギーとどのように関連しているかについては、決定的な理論的空白が存在する。

核心となる問題は、標準的な定数ノイズ・エンコーダ・モデルの下で、JEPAの目的関数が、非対照的正則化を用いてAIFの相互情報量（informativeness）項を近似していることである。標準的な定数ノイズ・モデルの下では、情報量（informativeness）の最大化は、埋め込みの周辺微分エントロピー $h(Z)$ の最大化と同等である。しかし、VICRegのような推定器は、第1および第2モーメント（分散と共分散）を通じてこのエントロピーを近似する。本論文は、この近似が「事前分布の誤校正ギャップ（prior-miscalibration gap）」を導入すると論じている。決定的なことに、VICRegは（アダマールの不等式および最大エントロピー定理を通じて）真のエントロピーの上界として機能するため、これを最大化することが真のエントロピーの増加を保証するわけではない。この「安全ではない（unsafe）」上界は、結果として得られる目的関数がAIFの驚愕（surprise）の境界（ $F \ge -\ln p(x)$ ）を保持することを保証せず、JEPAをAIFエージェントとする規範的な妥当性を損なうものである。

手法
著者らは、以下の3つの主要なステップを通じて、JEPAの正則化項とAIF自由エネルギーの関係を分析するための理論的枠組みを構築している：

エントロピー・推定器の階層（Entropy-Estimator Hierarchy）: 本論文は、4つの非対照的正則化器（VICReg, LogDet, PairDist, SIGReg）を「3つのソースによるギャップ分解」に基づいて分類している。この分解は、真のエントロピー $h(Z)$ とそのプロキシ $\hat{H}(Z)$ の間の誤差を以下のように分解する：
- Gap I (非ガウス性): 真の分布とガウス参照分布との差。
- Gap II (非対角共分散): 対角共分散行列を仮定することによって導入される誤差（相関の無視）。
- Gap III (推定誤差): 推定器自体の残留誤差。
  この階層は、各正則化器がこれらのギャップをどの程度含むか、また「安全な下界」として機能するか「安全ではない上界」として機能するかによって順序付けられている。
SIGReg–AIFの対応関係: 著者らは、ランダム投影によるガウス性テストを通じて、埋め込みに等方的ガウス分布を強制する SIGReg (Sketched Isotropic Gaussian Regularisation) を導入した。彼らは、SIGRegが正常に適用された場合、事前分布の誤校正ギャップが消失（ $\Delta = 0$ ）することを証明した。
理論的証明と拡張:
- 単一ステップ: SIGRegを用いることで、JEPAの目的関数が正確な情報ボトルネック（IB）分解となり、驚愕の境界を保持する有効なAIF自由エネルギーになることを証明した。
- マルチステップおよびプランニング: この対応関係をマルチステップの期待自由エネルギー（EFE）へと拡張し、特定の展開レジーム（例：再計画を伴うモデル予測制御）の下で、複雑性項が正確に合成されることを示した。
- 方策レジーム: 学習された方策を分析し、SIGRegの下では、方策の目的関数が期待自由エネルギーに対するボルツマン分布に正確に対応することを示した。

主な貢献

エントロピー・推定器の階層: 本論文は、非対照的正則化器の形式的な階層を確立した。VICRegとLogDetは、AIFの驚愕の境界を保持することを保証しない「安全ではない」上界であるが、PairDistは「安全な」下界であることを示している。SIGRegは、これら全てのギャップ・ソースを排除し、等方的ガウス性を強制することで、安全かつ正確である唯一の推定器として特定された。
対応定理 (Theorem 1): 著者らは、VICRegをSIGRegに置き換えることで、AIFの対応関係が「近似」から「正確」へとアップグレードされることを証明した。定数ノイズ・モデルおよび成功したSIGRegの強制下において：
- エントロピー・ギャップが消失する。
- 目的関数は正確なIB分解を認める。
- AIFの驚愕の境界が保持される。
- 潜在的な目標コストは、AIFのプラグマティックな価値（pragmatic value）の正確なプロキシとなる（VICRegとは異なり、VICRegは既約な $O(\delta^2)$ の異方性項を残す）。
「状態・エピステミック」ギャップの特定: 本論文は、AIFの期待自由エネルギーにおける特定の項、すなわち状態・エピステミック価値（探索を駆動する将来状態のカバレッジ信号）が、現在のすべてのJEPA世界モデルに欠落していることを特定した。アンサンブルの分散プロキシは情報獲得をパラメータ化するが、現在のJEPAはいずれも、方策に条件付けられた将来状態の周辺エントロピーを計算していない。
機械検証された証明: ギャップ分解および対応定理を含む結果の代数的核は、Lean 4によって機械検証されており、導出の論理的一貫性が保証されている。

結果と予測
本論文は、SIGRegとVICRegの間で、質的に異なる（程度の差ではなく種類の差がある）いくつかの理論的帰結を導き出している：

境界の保持: SIGRegのみがAIFの驚愕の境界の保持を保証する。VICRegはこれを保証しない。
等方性: SIGRegは埋め込みの条件数を 1（完全な等方性）へと駆動するが、VICRegは既約な異方性項を残す。
プランニングの忠実度: SIGRegの下では、プランニング・コストは期待自由エネルギーの正確なプロキシとなる。VICRegの下では、プラグマティックな価値およびリスクの項に歪みが生じる。
検証可能な予測: 論文には、実験的検証のための5つの具体的な予測がリストされている（例：SIGRegの埋め込みは $\kappa \approx 1$ であり、タスク成功率とプランニング・コストの間のスペアマン相関がVICRegよりも高いはずである）。これらは、別個の研究でテストされるべき理論的帰結として述べられている。

意義と主張
本論文は、反崩壊（anti-collapse）正則化は単なる実装の詳細ではなく、JEPA世界モデルの目的関数が有効なActive Inference自由エネルギーであるかどうかを決定する構成要素であると主張している。

妥当性の基準: 本研究は、目的関数の妥当性に関する形式的な基準を提供している。エントロピー推定器が安全な下界または正確な一致（SIGRegのような）である場合にのみ、AIFの驚愕の境界は存続する。
統合: 現在展開されている非対照的JEPAのエコシステムと、ディープ・アクティブ・インファレンスを統合し、一方の分野のツールが他方に知見を与えることを可能にする。
原理的な探索: ヘリスティックな「探索ボーナスを加える」という手法を、具体的な符号付きの処方箋、すなわち欠落している「状態・エピステミック価値」の項へと変換する。
謙虚な姿勢: 著者らは、この対応関係が理想化された仮定（定数ノイズ・モデル、集団極限）の下で正確に成立することを明示している。彼らは、「状態・エピステミック」のギャップが現在のJEPAの構造的な発見であり、理論の欠陥ではないことを認めている。また、過剰な（over-complete）レジームにおける潜在変数の線形識別可能性が依然として開かれた問題であることも認めている。本論文は、これらの経験的問題を解決したと主張しているのではなく、それらが解決可能となるための理論的条件を確立したものである。

関連論文