技術的概要：一歩離散生成のための結合モデル

問題定義

離散生成モデリングは、言語モデリングやコード生成から生物学的配列設計に至るまで、多様な応用の基盤となっています。しかし、これらの分野における最先端のモデルは、通常、逐次推論（自己回帰的デコーディング）または反復的洗練（離散拡散、マスク付き洗練、フローマッチング）に依存しています。これらのアプローチは、複雑な結合構造とグローバルなトークン間依存関係を捉えるために複数のモデル評価を必要とし、計算上のボトルネックを生み出しています。

最近の研究では、蒸留、整合性トレーニング、フローマップ圧縮を通じて生成を加速しようとする試みがありますが、これらの手法は往々にして、一歩生成を既存の多段階軌道の圧縮という最適化問題として扱っています。著者らは、一歩離散生成の難しさはまた表現の問題であると主張します。共有潜在変数や反復的洗練なしに並列にトークンを予測する直接的一歩カテゴリカルデコーダは、因数分解された系列法則（$p(x) = \prod p_t(x_t)$）を誘発します。論文の付録で証明されている通り、この因数分解された族は、すべての可能な系列分布の空間の厳密な部分集合であり、最適化の質に関わらず、一般的なトークン間依存関係を表現することはできません。

手法：結合モデル

本論文は、離散系列とガウス潜在変数の間のサンプリング可能な結合を学習することにより、直接トークン単位デコーダの表現性の壁を回避するように設計された、2 段階フレームワークである**結合モデル（Coupling Models）**を提案します。

中核アーキテクチャ

本手法は、明確に 2 つの段階で動作します。

1. 段階 A：離散系列 $\to$ ガウス潜在変数（結合の構築）

   • 離散トークンに直接密度モデルを適合させる代わりに、モデルはまず再パラメータ化されたエンコーダ $E_\psi(x, \epsilon)$ を用いて、離散系列 $x$ を連続表現 $u$ にエンコードします。
   • この連続表現は、可逆な正規化フロー $NF_\phi$ を介してガウス潜在変数 $z$ に変換されます。
   • 目的関数（$L_A$）は、以下の 3 つの項を組み合わせます。
     • 再構成損失： 連続表現 $u$ が $x$ を再構成するのに十分な情報を保持することを保証します。
     • KL 正則化： エンコーダ分布を安定化させます。
     • フロー尤度： 誘発された潜在周辺分布 $q_\phi(z)$ を標準ガウス事前分布 $p_Z = \mathcal{N}(0, I)$ と整合させます。
   • 重要な洞察： フロー成分は単なる事前分布ではなく、学習と推論の整合性を確保するメカニズムです。これは、段階 B でデコーダを監督するために使用される潜在変数が、推論時にサンプリングされるノイズと同一の分布に従うことを保証します。

2. 段階 B：ガウス潜在変数 $\to$ 離散系列（並列デコーディング）

   • 段階 A で生成された対データ $(z, x)$ を用いて、結合を逆転させる並列デコーダ $G_\theta$ が訓練されます。
   • デコーダは、共有潜在変数 $z$ に条件付けられ、すべての位置に対して語彙上の分布を同時に予測します。
   • 条件付き放出が因数分解される（$G_\theta(x|z) = \prod G_\theta(x_t|z)$）ものの、周辺生成 $p_{gen}(x) = \int G_\theta(x|z)p_Z(z)dz$ は、$z$ を通じてグローバルな依存関係を捉えることができる潜在混合分布となります。
   • 推論： 生成には単一ステップが必要です：$z \sim \mathcal{N}(0, I)$ をサンプリングし、単一のフォワードパスですべてのトークンをデコードします。

拡張

• 少数ステップ洗練： 学習されたガウス潜在空間は、マスク付きノイズ除去器（$H_\theta$）に対するグローバルな条件として機能でき、単一のグローバル潜在変数引き出しを維持しつつ、反復的洗練（例：P2 セルフサンプリング）を可能にします。
• ガイダンス： 一歩性によりガイダンスメカニズムが簡素化されます。
  • クラスラフリーガイダンス（CFG）： 最終的なロジットに直接適用されます。
  • クラスラガイダンス： 緩和された出力に対する勾配上昇を通じて潜在変数 $z$ を最適化します。
  • 報酬微調整： 多段階ノイズ除去に必要な長い確率的制御パスを回避し、ジェネレータパラメータを直接更新します。

主要な貢献

1. 表現中心のアプローチ： 本論文は、一歩離散生成を軌道圧縮の問題ではなく、表現の問題として再定義します。直接トークン単位デコーダは表現が制限されており、これを克服するために結合に基づく潜在空間を提案することを示しています。
2. 2 段階結合構築： 正規化フローを用いて離散系列とガウスノイズの間のサンプリング可能な結合を学習する手法を導入し、多段階の教師軌道を必要とせずに並列デコーダのための監督対を誘発します。
3. 理論的解析： 一歩生成の全変動誤差が、デコーディング誤差と潜在ミスマッチ誤差によって制限されることを示す形式的証明（命題 3.1 および付録 C）を提供し、段階 A におけるフローベースの整合性の必要性を正当化します。
4. 効率的なガイダンス： 制御信号が軌道ではなく最終予測または単一の潜在変数に作用するため、多段階ベースラインと比較して、CFG、クラスラガイダンス、報酬チューニングなどのガイダンスが著しく効率的になることを実証します。

実験結果

モデルは、MNIST-Binary（画像）、Fly Brain（DNA エンハンサ）、LM1B（言語）の 3 つのドメインで評価されました。

• MNIST-Binary（無条件画像生成）：

  • 厳密な一歩設定で FID 5.50 を達成しました。
  • CFM（10.10）や PAIRFLOW+ReDi（12.90）を含む、最も強力な一歩ベースラインを上回りました。
  • 結果は、いくつかの少数ステップおよび多段階ベースラインと競争力がありました。

• Fly Brain エンハンサ設計（DNA 配列）：

  • フレシェットベンチマーク距離（FBD）を、蒸留されたディリクレ FM ベースラインの 15.8 から 12.9 ± 0.3 に削減しました。
  • 強力な反復手法（例：100 ステップ SLM、Fisher-Flow）はいまだに一歩モデルを上回っていましたが、結果は、この手法が構造化された生物学的配列へも転移可能であることを示しました。

• LM1B（言語生成）：

  • 既存の一歩ベースライン（例：FMLM、DFM、CFM）に対する生成パープレキシティ（Gen-PPL）を向上させつつ、エントロピーを実データ参照に近いレベルに維持しました。
  • 最低のパープレキシティ動作点において、最強の一歩ベースラインと比較して Gen-PPL を 33% 削減し、エントロピー - パープレキシティのフロンティアを、望ましい低パープレキシティ・高エントロピー領域へとシフトさせました。
  • 注目すべきは、パープレキシティの向上が、多様性（エントロピー）の崩壊を犠牲にして達成されたわけではないことです。

• ガイダンス効率：

  • MNIST-Binary において、Coupling Models は、関数評価回数を桁違いに少なく（例：CFG において 2 回対 512 回）使用しながら、多段階 MDM ベースラインよりも低い FID と同等の精度を達成しました。

意義と主張

本論文は、効果的な一歩離散生成は、デコーディング前にデータとノイズがどのように結合されるかに大きく依存すると主張しています。離散系列とガウス潜在変数の間の直接結合を学習することで、この手法は単体上の複雑な連続フローや手動指定されたデータからノイズへの結合の必要性を回避します。

著者らは、Coupling Models を軌道圧縮やフローマップ手法とは異なる代替案として位置付けています。より困難な設定（長い生物学的配列など）では依然としてより強力な反復ベースラインが存在することを認めつつも、学習された連続結合が、高品質な一歩生成への実用的かつ効率的な経路を提供することを確立しています。結果は、一歩生成を軌道圧縮の限界としてのみ見る必要はなく、専用の表現学習戦略を通じて達成可能であることを示唆しています。

限界： 著者らは、現在の実験は中規模のモデルを使用しており、最先端規模の言語生成や大規模なタンパク質設計はテストされていないと指摘しています。さらに、言語生成の指標であるパープレキシティは、最終的なサンプル品質と完全に相関しない可能性があり、これは尤度ベースの評価における既知の問題です。