Lost and Found in Translation: Variational Diagnostics for Neural Codebook Channels

技術的サマリー：翻訳における見失いと発見：ニューラルコードブックチャネルのための変分診断

問題定義
変分オートエンコーダ（VAE）は、エンコーダ $q_\phi(z|x)$ とデコーダ $p_\theta(x|z)$ を共同で訓練し、生成された潜在空間を、クラスタリング、条件付き生成、メカニズム的解釈可能性などのタスクにおける離散コードとして扱うことが多い。しかし、ELBO、アクティブユニット、相互情報、周辺コードヒストグラムといった標準的な VAE 診断手法は、潜在空間が「使用されている」かどうかのみを保証するに留まる。それらは、以下の連関した問いに答えることができない：デコーダは、エンコーダがそこに質量を配置するために使用したコードと同じコードで、潜在空間の領域を解釈しているか？

この失敗モードは、古典的な通信理論においてミスマッチ復号として知られており、送信機（エンコーダ）と受信機（デコーダ）が互換性のない運用コードブックを使用する場合に発生する。既存の診断手法は、周辺量または集計量であるため、このミスマッチを検出できない。それらは、エンコーダのコードマップとデコーダの読み取りマップとの間の結合を検査しないからである。その結果、周辺統計量が健全に見える一方で、デコーダはエンコーダの領域を順列させたり、複数の領域を 1 つにマージしたり、単一のコードに自明に収束させたりする可能性がある。

手法
本論文は、ニューラルコードブックチャネル $K_{e \to d}(j | i)$ を中心とした新しい診断フレームワークを導入する。

1. 運用コードマップ: フレームワークは、エンコーダとデコーダに対して、それぞれ測定可能なハードコードマップ $c^*_{enc}: Z \to \{1, \dots, K\}$ および $c^*_{dec}: Z \to \{1, \dots, K\}$ を定義する。これらのマップは、共有潜在空間 $Z$ 上の運用分割を誘起する。

   • エンコーダマップ: 集約事後分布のガウス混合モデル（GMM）要約から導出された、加法的に重み付けされたボロノイ則として具体化される。
   • デコーダマップ: デコーダ出力空間における Type-1 ブレグマン・ボロノイ則として具体化され、潜在空間に引き戻される。

2. 診断対象:

   • 結合表: $P_{ed}(i, j) = \Pr[c^*_{enc}(Z)=i, c^*_{dec}(Z)=j]$ は、エンコーダラベルとデコーダラベルの結合分布を記録する。
   • チャネル: $K_{e \to d}(j | i)$ は、エンコーダコードがデコーダによってどのように読み取られるかを示す行正規化チャネルである。
   • コードブック合意（$A$）: チャネルの対角成分の質量、$A = \sum_i P_{ed}(i, i)$ は、単一の潜在サンプリングがエンコーダとデコーダの両方から同じラベルを受ける確率を測定する。
   • 実効コードレート（$R_{eff}$）: 相互情報 $I(C_{enc}; C_{dec})$。

3. 周辺不可能性結果:
   本論文は（命題 4）、標準的なスカラー診断（周辺ヒストグラム、エントロピー、アクティブコード数、相互情報）が結合チャネル $K_{e \to d}$ を決定するには不十分であることを証明する。具体的には、任意の $K \ge 2$ に対して、同一の周辺量と相互情報を持つが、生の合意（$A=1$ 対 $A=0$）が正反対である 2 つの結合チャネルが存在する。これにより、$K_{e \to d}$ が厳密に新しい、冗長性のない診断単位であることが確立される。

4. 変分監査証明書:
   本論文は、VAE 変分ギャップ（$\bar{\Delta}$）を用いて、非対角成分の質量（コード間干渉、$1-A$）に対する 1 次元の監査境界を導出する。二値の不一致事象 $E = \{c^*_{enc} \neq c^*_{dec}\}$ に対して、分解（disintegration）の下で KL 連鎖則を適用すると、平均変分ギャップは以下のように分解される：
   $$\bar{\Delta} = d_{bin}(1 - A \parallel \bar{\eta}_p) + J_E + \bar{\rho}_E$$
   ここで、

   • $d_{bin}$ は、観測された不一致率（$1-A$）とモデル事後参照率（$\bar{\eta}_p$）との間のベルヌーイ-KL 発散である。
   • $J_E$ は、平均において相殺する Jensen 残差（事例ごとのミスマッチ）である。
   • $\bar{\rho}_E$ は、コードマップのファイバー内部に隠れたミスマッチであるセル内残差である。

   これにより、証明書 $d_{bin}(1 - A \parallel \bar{\eta}_p) \le \bar{\Delta}$ が得られる。$\bar{\Delta}$ と $\bar{\eta}_p$ が制御されている場合（例えば、有限グリッド上の正確な列挙や重要度サンプリング境界を通じて）、非対角成分の質量は数学的に拘束されることが保証される。

主要な結果
本フレームワークは、4 つの低次元 sklearn データセット（digits, wine, breast cancer, two moons）および MNIST において監査された：

• 有限グリッド正確監査: 5 つのシードを用いた 4 つのデータセット（合計 20 組）において、ベルヌーイ-KL 証明書はすべてのケースで満たされた。境界は空虚ではなく、観測された不一致は変分ギャップによって拘束された。
• MNIST 監査領域: 重要度重み付きオートエンコーダ（IWAE）と自己正規化重要度サンプリング（SNIS）を用いてギャップを境界付けることで、フレームワークはコード間干渉を検出した。Conv-VAE の場合、境界は $\sim 160$ 倍の余裕（スラック）で成立し、これは残差予算と IWAE の緩みによって支配された。
• VQ-VAE の限界: MNIST 上の VQ-VAE は、コードブック合意 $\hat{A} = 1.000$（10,000/10,000 の完全合意）を達成し、コードブックが原始変分対象となる予測されたティア 3 の限界に到達した。
• ダイナミクス: 長視野設定（Setting 1-long）において、チャネル幾何学は 20 万エポックにわたってエンコーダのボロノイセルとデコーダのブレグマンセルが漸進的に整列することを示し、スカラー診断（$A, I_{code}, R_{eff}$）はこの整列を追跡した。

意義と主張
本論文は、控えめかつ理論優先の貢献を行う：

1. ギャップの特定: 標準的な VAE 診断がエンコーダ - デコーダの一貫性の問いを未解決のまま放置していることを形式的に特定する。周辺要約がミスマッチ復号を検出できないことを証明する（命題 4）。
2. 新しい診断単位: 移植可能で監査準備が整った報告単位として、ニューラルコードブックチャネル（$K_{e \to d}$）とコードブック合意（$A$）を提供する。この単位は、潜在空間を離散コードとして扱うあらゆる下流タスク（クラスタリング、検索、解釈可能性）に必要である。
3. 監査可能な境界: 古典的な KL 連鎖則を特化させ、変分ギャップを用いてエンコーダ - デコーダの不一致確率を境界付けるベルヌーイ-KL 証明書を提供する。これにより、「ミスマッチ復号」という失敗モードを、単一の深層生成モデル内で可視化し、定量化可能にする。
4. 範囲: 著者は明示的に、最先端の生成能力、普遍的な訓練ダイナミクス定理、あるいは高い合意のみが創発的記号の証拠となることを主張していない。主張は厳密に診断的である：VAE 潜在空間がコードとして扱われる場合、結合チャネルは欠落している対象であり、変分ギャップは、そのミスマッチ証明書の数学的ライセンスがいつ付与されるかを指定する。

本フレームワークは、VAE 分析を「コードは使用されているか？」から「コードは一貫して読み取られているか？」へと再構成し、スカラー指標が見逃す構造的な非互換性を検出するための厳密なツールを提供する。