💬 NLP

Coevolutionary Continuous Discrete Diffusion: Make Your Diffusion Language Model a Latent Reasoner

本論文は、連続拡散の訓練性と復号化の課題を克服しつつ、その優れた理論的表現力を活用して言語モデルの性能を向上させるために、連続拡散と離散拡散のプロセスを単一のモデル内で統合する新たな枠組みである共進化的連続離散拡散（CCDD）を提案する。

原著者： Cai Zhou, Chenxiao Yang, Yi Hu, Chenyu Wang, Chubin Zhang, Muhan Zhang, Lester Mackey, Tommi Jaakkola, Stephen Bates, Dinghuai Zhang

公開日 2026-05-13

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Cai Zhou, Chenxiao Yang, Yi Hu, Chenyu Wang, Chubin Zhang, Muhan Zhang, Lester Mackey, Tommi Jaakkola, Stephen Bates, Dinghuai Zhang

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

「共進化的連続離散拡散」に関する論文を、平易な言葉と創造的な比喩を用いて解説します。

大きな課題：二つの思想

ロボットに物語を書かせようとしていると想像してください。これには現在、二つの主要な方法があり、どちらも重大な欠陥を持っています：

「一歩ずつ」の作家（自己回帰モデル）： このロボットは左から右へ、一度に一つの単語を書きます。まるで、10 番目の単語を書いた時点で、一度書かれた最初の単語を修正できないように文章を書く人のようです。速いですが、複雑なパズル（例えば数独）には苦戦します。なぜなら、容易に「先読み」や「バックトラック（やり直し）」ができないからです。
「書き直しと修正」の芸術家（拡散モデル）： このロボットは、静電ノイズ（または空白）で満たされたページから始め、それをゆっくりと物語へと洗練させていきます。ページ全体を一度に見て、間違いを修正し、要素を再配置できます。
- 離散的な芸術家： 実際の単語を扱います。特定の単語の修正には優れていますが、ループに陥ったり、「全体像」の意味を見失ったりすることがあります。
- 連続的な芸術家： 特定の単語ではなく、「雰囲気」や「感覚」（数学的な数値）を扱います。複雑な論理や計画の理解において非常に強力ですが、その「雰囲気」を再び読みやすい実際の単語に変換するプロセスが散漫で困難なため、訓練が非常に難しいです。

ジレンマ： 「連続的な芸術家」はより大きな脳（理論的な力）を持っていますが、実際の単語を書く作業においては不器用です。「離散的な芸術家」は単語を書くのが上手ですが、複雑な推論のための脳は小さいです。

解決策：「共進化的」チーム

この論文の著者らは、CCDD（共進化的連続離散拡散） という新しい手法を提案しています。

CCDD を、同じ文書上で同時に作業する二人組の執筆チームだと考えてください：

人物 A（離散的なトークン）： この人物は実際の単語のリストを持っています。文法や特定のスペルを知っているのが得意です。
人物 B（連続的な潜在変数）： この人物は物語の「感覚」や「概念マップ」を持っています。深い論理、プロットの転換、そして（数学の問題を解くような）複雑な推論を理解しています。

彼らがどのように協力するか：
人物 A と人物 B が別々に働くのではなく、彼らはリンクしています。

訓練： 彼らは一緒に訓練されます。人物 B は人物 A が単語の「意味」を理解するのを助け、人物 A は人物 B がその抽象的な「感覚」を現実的で読みやすい単語に定着させるのを助けます。
魔法： 彼らがリンクしているため、モデルは両方の世界から最良のものを得ることができます。それは、推論に優れた連続的な「感覚」空間の思考力と、テキスト生成に優れた離散的な単語空間の精度の両方を持っています。

比喩：建築家と建設業者

家を建てると想像してください：

離散モデルは、レンガを積むのが得意だが設計図を理解していない建設業者のようです。彼らは家全体が見えないため、壁を間違った場所に建ててしまうかもしれません。
連続モデルは、家の完璧な 3 次元の頭脳モデルを持っているが、物理的にレンガを積むことができない建築家のようです。彼らは壁がどこに「あるべきか」を正確に知っていますが、その 3 次元のビジョンをレンガの山に変換するのは困難です。
CCDDは、並行して作業する建築家と建設業者です。建築家（連続）は構造の明確なビジョンで建設業者（離散）を導きます。建設業者は、物理的に何が可能かについて建築家に即座のフィードバックを与えます。結果はどうなるでしょうか？構造的に堅固（良い推論）であり、かつ正しく建てられた（良いテキスト）家です。

論文が実際に発見したこと

著者らは、この新しい「チーム」アプローチを実世界のタスクでテストしました：

物語の執筆： 標準的な言語データセットにおいて、彼らのモデルは同じサイズの以前のモデルよりも著しく少ない誤り（低い「パープレキシティ」）を犯しました。学習も速かったです。
パズルの解決： 彼らは、数独、3-SAT（複雑な論理問題）、カウントダウン（数学ゲーム）などの難しい論理パズルでモデルをテストしました。
- 以前のモデル（標準的な「一歩ずつ」の作家など）は苦戦したり失敗したりしました。
- 「連続的」モデルは理論的には優れていましたが、実際には失敗しました。
- CCDD は圧倒的な勝利を収めました。 高い精度でこれらのパズルを解決し、競合他社よりも少ないステップで達成することがよくありました。
速度： 最大の勝利の一つは効率性です。通常、拡散モデルから良い結果を得るには、スケッチをゆっくりと洗練させるように、数百の小さなステップを踏む必要があります。CCDD はわずか8 ステップで高品質な結果を生み出せますが、他のモデルは同様の品質を得るために256 ステップを必要としました。

結論

この論文は、「推論に優れたモデル」と「単語を書くのが得意なモデル」の間で選択する必要はないと主張しています。「抽象的な推論」と「具体的な単語」が共に進化（共進化）するシステムを作ることで、優れた思考者であり、熟練した作家でもあるモデルが得られます。

要約すると： 彼らは、難しい問題を解決するために「感覚で思考」し、その感覚を瞬時に完璧な単語に変換するロボットを構築しました。これにより、これまで存在したどのものよりも速く、賢くなりました。

技術的サマリー：共進化連続離散拡散（CCDD）

1. 問題定義

大規模言語モデル（LLM）の最近の進展は、標準的な自己回帰（AR）アーキテクチャの限界、特に数独、グラフ連結性、形式言語認識などの複雑な推論タスクにおける限界を浮き彫りにしました。理論的解析によれば、標準的なトランスフォーマーは対数ステップの思考連鎖（CoT）を有していても、複雑性クラス $TC^0$ に制限されるのに対し、ループ型トランスフォーマー（LT）や連続推論手法は理論的には $TC^1$ 以上への到達が可能であるとされています。

しかし、理論的な表現力と実証的な性能の間には大きな隔たりが存在します。

ループ型トランスフォーマー（LT）: 理論的にはより表現力が高いものの、中間教師信号の欠如により学習性が低下し、推論時にループの深さが訓練時と異なる場合に分布外（OOD）の問題を引き起こします。
連続拡散モデル（CDM）: 連続潜在空間で動作し、ループ型トランスフォーマーを一般化することで、離散対応モデルよりも理論的に表現力において優位に立っています。しかし、実証的には離散拡散モデル（DDM）や AR モデルよりも性能が劣ります。著者らは、これを実用的な学習性の課題に起因すると指摘しています。すなわち、大規模な決定空間、低品質な埋め込み、および連続表現を離散トークンへ復号化する際の組み合わせ的複雑さです。
離散拡散モデル（DDM）: 学習性が高く効果的ですが、明示的なトークン空間で動作するため、各ステップにおける「logits $\to$ サンプル $\to$ 埋め込み」という量子化プロセス中に情報が失われる可能性があります。

核心的な問題は表現力と学習性のジレンマです。高い理論的表現力を持つモデル（CDM、LT）は学習が困難であり、一方で学習性の高いモデル（DDM、AR）は複雑なタスクに必要な潜在推論能力を欠く可能性があります。

2. 手法：共進化連続離散拡散（CCDD）

本論文は、単一のフレームワーク内で連続および離散拡散プロセスを統合する新しい言語モデリングパラダイムである**共進化連続離散拡散（CCDD）**を提案します。

2.1 結合拡散プロセス

CCDD は、離散トークン空間（ $X = \Omega^L$ ）と連続表現空間（ $Z = \mathbb{R}^{L \times d}$ ）の和集合上で結合拡散プロセスを定義します。

順方向プロセス: 汚染プロセスは因数分解されますが、両方のモダリティに同時に適用されます。
- 離散成分: 連続時間マルコフ連鎖（CTMC）を通じて進化し、通常はマスクノイズ（吸収状態）または一様ノイズを使用します。
- 連続成分: 文脈化された埋め込み空間（例：Qwen3-Embedding などの事前学習済みモデルから派生）において、確率微分方程式（SDE）または確率流常微分方程式（PF-ODE）を通じて進化します。
- 結合順方向カーネルは、個々のカーネルの積となります： $q_t(x_t, z_t | x_0, z_0) = q_t^{disc}(x_t | x_0) q_t^{cont}(z_t | z_0)$ 。
逆方向プロセス: 単一の時間条件付きネットワーク $f_\theta(\cdot, t)$ が、ノイズの付いたペア $(x_t, z_t)$ を入力として受け取り、モダリティ固有のヘッドを出力します。
- 逆方向更新は因数分解されます： $p_\theta(x_s, z_s | x_t, z_t) = p_\theta^{disc}(x_s | x_t, z_t) p_\theta^{cont}(z_s | x_t, z_t)$ 。
- 重要なのは、更新規則が因数分解されている一方で、各モダリティの推定は両方の状態に条件付けられる点です。離散デコーダは連続潜在変数 $z_t$ を視認し、連続デコーダは離散トークン $x_t$ を視認します。これにより、連続成分は暗黙的推論として離散成分に豊富な意味的ガイダンスを提供し、一方で離散成分は連続成分に明示的な構造を提供することが可能になります。

2.2 学習目的関数

学習損失は、連続損失と離散損失の加重和です。
$\mathcal{L}_{CCDD} = \gamma_{cont} \cdot \mathcal{L}_{cont} + \gamma_{disc} \cdot \mathcal{L}_{disc}$

$\mathcal{L}_{cont}$ : ノイズまたは元の連続表現の予測（例： $\epsilon$ -予測）に対する標準的な MSE 損失。
$\mathcal{L}_{disc}$ : 元の離散トークンの予測（通常はマスクされた位置に対して）に対するクロスエントロピー損失。

2.3 アーキテクチャ設計

本論文は、拡散トランスフォーマー（DiT）に基づいた結合ノイズ除去ネットワークのためのいくつかのアーキテクチャを導入します。

MDiT（マルチモーダル DiT）: トランスフォーマーブロックの前に連続および離散埋め込みを混合します。離散のみのベースラインと比較して、パラメータ数と FLOPs の増加は negligible（無視できる程度）です。
MMDiT: マルチモーダル相互作用のために、クロスアテンションとセルフアテンションブロックを交互に配置し、パラメータ数と FLOPs を倍増させます。
MoEDiT（エキスパート混合 DiT）: 共有アテンション機構内で離散トークンと連続トークンのために個別の MLP を維持し、トークンの状態に基づいて動的に処理するために MoE ルーティングを使用します。これはパラメータ効率と表現力のバランスを取ります。

2.4 推論技術

分類器フリーガイダンス（CFG）: 連続表現は、離散トークン生成のための自己生成ガイダンスとして機能します。モデルは、連続埋め込みをゼロにする（無条件）確率 $p_{drop}$ で訓練され、サンプリング中の CFG スケーリングを可能にして品質を向上させます。
柔軟なサンプリング: CCDD は、効率性のための数ステップ決定論的サンプリング（ODE 経由）と、高品質生成のための多ステップ確率的サンプリング（SDE 経由）の両方をサポートします。

3. 主要な貢献

3.1 理論的解析

表現力の階層性: 著者らは、連続拡散モデル（CDM）が軌道レベルの表現力において離散拡散モデル（DDM）を厳密に凌駕することを証明しました。CDM は絶対連続な周辺分布を生成するのに対し、DDM は有限原子サポートに制限されており、これにより各離散サンプリングステップで情報が失われます。
ループ型トランスフォーマーの一般化: 本論文は、連続拡散サンプラーが同じアーキテクチャとパラメータ数を持つ任意のループ型トランスフォーマーのロールアウトをシミュレートできることを示しています。逆に、決定論的ループ型トランスフォーマーは、連続拡散によって生成される非退化な確率的経路をシミュレートすることはできません。
学習性解析: 本論文は、CDM の実証的失敗を、LT における中間教師信号の欠如と、CDM における復号の複雑さ/表現の欠如に起因すると帰結しています。CCDD は、CDM の表現力を維持しつつ、明示的トークン教師信号を通じて DDM の学習性を獲得する解決策として提案されています。

3.2 実証結果

言語モデリング: LM1B および OpenWebText (OWT) データセットにおいて、CCDD は離散ベースライン（MDLM、SEDD）および自己回帰モデルを大幅に上回りました。
- LM1B において、CCDD-MDiT は同じパラメータ数（92.1M）を持つ離散ベースラインと比較して、検証パープレキシティを25% 以上削減しました。
- OWT において、CCDD は離散ベースラインと比較してパープレキシティを35% 以上削減しました。
- CCDD は、ベースライン（100 万イテレーション）に対して 4 万イテレーションで25 倍高速な学習収束を達成しました。
数ステップ生成: CCDD は優れた数ステップ生成能力を示しています。8 回のノイズ除去ステップのみを持つモデルが、256 ステップを使用する離散ベースライン（MDLM）を上回り、品質を損なうことなく生成速度で 16 倍の加速を実現しました。
複雑な推論: 強力な計画とバックトラックを必要とするタスク（数独、3-SAT、カウントダウン）において、CCDD は自己回帰モデル、マスク付き離散拡散、ループ型トランスフォーマーを含むすべての従来手法を上回りました。例えば、CCDD はわずか 2 ステップで数独において 100% の精度を達成し、最良のループ型トランスフォーマーの結果と同等となりました。

4. 意義と主張

本論文は、CCDD が言語モデリングにおける理論的表現力と実用的な学習性の間の隔たりを成功裏に埋めたと主張しています。結合拡散プロセスを定義することで、CCDD は連続潜在空間の強力な表現力（暗黙的推論、計画、およびグローバルな文脈保持を可能にする）を活用しつつ、離散トークンを用いて学習性と復号の安定性を確保しています。

著者らは、CCDD が単なるハイブリッドではなく、以下の点で原理的な統合であると強調しています。

既存のパラダイム（CDM、DDM、LT）を単一のフレームワークに一般化する。
数独や 3-SAT のような複雑なタスクに不可欠な連続空間における**「潜在推論」の実行能力を維持**する。
柔軟な推論時スケーリング（数ステップ ODE 対多ステップ SDE）を可能にし、ループ型トランスフォーマーよりも高速な学習収束を達成することで効率を向上させる。
モダリティを組み合わせることで、特に下流ベンチマークや複雑な推論シナリオにおいて、その部分の和を超える性能向上をもたらすことを実証する。

この研究は、効果的な学習を確保するために明示的な離散教師信号を維持する限り、将来の言語モデリングパラダイムは、推論のために連続潜在表現を活用するために、純粋な離散トークン空間を超えて進むべきであることを示唆しています。