🤖 machine learning

Continuous Diffusion Models Can Obey Formal Syntax

本論文は、正規表現などの形式的構文制約を満たすために解析スコアを用いてサンプリングを誘導し、補助分類器や再学習を必要とせずに高い制約満足度と出力品質を達成する、トレーニング不要のガイダンス手法であるDiffinityを導入する。

原著者： Jinwoo Kim, Taylor Berg-Kirkpatrick, Loris D'Antoni

公開日 2026-05-28

📖 1 分で読めます☕ さくっと読める

原著者： Jinwoo Kim, Taylor Berg-Kirkpatrick, Loris D'Antoni

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

完璧なケーキを焼こうとしていると想像してください。しかし、そのケーキは非常に厳格なレシピ（「形式的構文」）に従わなければなりません。材料を一つでも見落としたり、手順を間違った順序で混ぜたりすれば、ケーキは台無しになります。

問題：「ぼんやりとした」 Baker
現在のほとんどの AI 言語モデルは、左から右へと材料を一つずつ追加する Baker のように機能します。途中で砂糖を忘れたことに気づいても、最初からやり直さない限り、簡単に修正して戻ることができません。これは「自己回帰的」生成と呼ばれます。

しかし、拡散モデルと呼ばれるより新しいタイプの AI は、異なった方法で機能します。このモデルは、小麦粉、卵、砂糖がすべてランダムに混ざり合ったような、純粋で混沌としたノイズのボウルから始めると想像してください。時間とともに、このモデルは混合物を徐々に「ノイズ除去」し、段階的に洗練させていくことで、明確なケーキが現れるまで進めます。問題は、このモデルが明確な材料ではなく「ぼんやりとした」連続的な混合物で作業しているため、「このケーキは必ず JSON ファイルであること」「この特定のパターンに必ず一致すること」といった厳格なルールを伝えるのが非常に難しいことです。AI は単に「見た目が良い」テキストを作ることに慣れているため、これらの厳格なルールを自然には理解しません。

解決策：DIFFINITY（レシピガイド）
この論文の著者たちは、DIFFINITYというツールを開発しました。DIFFINITY は、ぼんやりとした Baker の隣に立つ、超スマートなレシピガイドだと考えてください。

Baker に材料を変更して作業を中断させる（そうすればケーキの味が台無しになる）のではなく、DIFFINITY は Baker が混ぜている最中に、その手を優しく誘導します。「今の混合物は有効な JSON ファイルに向かっているようだ、その方向で続けろ！」あるいは「おっと、その道は壊れた文につながっている、少し左へ舵を切れ」と伝えます。

仕組み（マジック・トリック）
通常、AI にルールに従わせるためには、作業を見て「合格」または「不合格」と判断する別の「判定者」（分類器）を訓練する必要があります。これには多くの時間と計算能力が必要です。

DIFFINITY は特別で、トレーニング不要です。新しい判定者を必要としません。代わりに、数学を用いて、現在の「ぼんやりとした」混合物が最終的に有効なケーキになる確率を瞬時に計算します。

厳格なルール（正規表現など）を地図（有限オートマトン）に変換します。
AI の現在の「ノイズ」の状態を見て、「このまま進めば、ゴールに到達する確率はどれくらいか？」を計算します。
その計算結果を用いて、AI を「有効な」経路へと優しく誘導します。

結果：より良いケーキ、より少ないミス
著者たちは、この手法を 2 種類のタスクでテストしました。

JSON ファイル: 厳格で構造化されたデータ形式（デジタル請求書など）。
自然言語: 特定のパターンを持つ文（「Hello」で始まり「World」で終わるなど）。

その結果、DIFFINITY はルールに従う能力が非常に優れていることがわかりました。

高い成功率: 厳格なルールを満たす割合は 68% から 96% でした。
より高い品質: ルールに従わせるために AI を強制する他の手法では、意味不明なテキスト（ガベージ）が生まれてしまいがちですが、DIFFINITY はテキストが自然で高品質である状態を維持しました。
競合他社との比較: 複雑なルールに従う際、ループに陥ったりエラーを起こしたりすることなく、標準的な「左から右」の Baker（自己回帰モデル）よりも優れたパフォーマンスを発揮しました。

欠点（コスト）
唯一の欠点は速度です。DIFFINITY は各ステップで重い数学的計算（地図と混合物の照合）を行う必要があるため、AI が単独で生成するよりも約 2〜3 倍の時間がかかります。しかし、著者たちは、厳格なルールに従った完璧な結果を得ることは、その追加の待ち時間に見合うと主張しています。

まとめ
DIFFINITY は、「ぼんやりとした」連続的な AI に、コードや特定の文構造のような厳格で離散的なルールに従う方法を教えます。これにより、AI の再訓練を行う必要も、テキストの品質を犠牲にする必要もありません。その仕組みは、数学的な「コンパス」を用いて、AI の生成プロセスを有効な結果へと誘導することにあります。

技術的サマリー：連続拡散モデルは形式的構文に従うことができる

問題定義

拡散言語モデルは、双方向の文脈やグローバルな修正を必要とするタスク（例：インフィルリング、長期的な計画）に有益な、グローバルで非因果的な生成プロセスを可能にすることで、自己回帰モデルに代わる魅力的な選択肢を提供する。しかし、重大な制限が依然として存在する。これらのモデルの連続的な潜在ダイナミクスは、JSON スキーマや特定の正規表現（regex）への準拠など、離散的な構文制約を課すことを困難にしている。

自己回帰モデルでは、構文的妥当性は通常、制約付きデコーディングによって強制され、最終的な出力が適切に形成されるように次のトークンの選択肢をフィルタリングする。このメカニズムは、明示的な離散プレフィックスを維持することに依存している。対照的に、連続拡散モデルは各タイムステップにおいて、シーケンス全体に対する連続的な潜在表現上で動作し、明示的な離散プレフィックスを持たない。その結果、制約付きデコーディングの中核的なプリミティブである「プレフィックスを完了不可能にする次のトークンの選択肢をマスクする」という操作は、直接適用できない。既存の拡散モデルへの適応は、しばしば特殊な離散変種を対象とするか、特定の制約ごとに補助モデルを学習する必要がある分類器ガイダンスに依存しており、これは膨大な可能性を持つ正規表現の空間に対してはリソース集約的で実用的ではないアプローチである。

手法：DIFFINITY

著者は、正規表現で表される形式的構文制約を満たすように連続拡散言語モデルを誘導するための、学習不要なガイダンス手法「DIFFINITY」を導入する。このアプローチは分類器ガイダンスの原理を模倣するが、学習済みの補助分類器の必要性を、解析的に計算されたスコアに置き換える。

中核メカニズム

この手法は、拡散プロセスのノイズ除去ステップを修正することによって動作する。ベースモデルの予測分布からサンプリングする代わりに、サンプリング軌跡は構文的妥当性の確率から導出された勾配項を用いてシフトされる。

解析的スコア計算:
この手法は、与えられた正規言語 $L$ によって受理される有効な文字列に潜在状態 $x_t$ がデコードされる確率の解析的推定値を構築する。
- デコーダ $Dec(x_t)$ は、各トークン位置において語彙全体に対するユニグラム分布を放出するとみなされる。
- 正規言語 $L$ は、決定性有限オートマトン（DFA）として表現される。
- 文字レベルの正規表現定義とトークンレベルのモデル語彙との間のミスマッチに対処するため、著者は語彙整合オートマトンの構築を導入する。これにより DFA をモデルのトークナイザに整合させ、文字列のすべての有効なトークナイズを考慮に入れる。
- 動的計画法を用いて、現在のユニグラム分布に基づいて重み付き遷移行列（ $M_1, \dots, M_l$ ）を計算する。期待確率 $E_{s \sim Dec(x_t)}[s \in L]$ は、初期状態分布をこれらの行列を通じて伝播させ、受理状態に到達する確率を合計することで計算される。
誘導サンプリング:
ノイズ除去ステップは以下のように修正される：
$x_{t-1} = \mu_\theta(x_t, t) + \gamma \sigma_t^2 \nabla_{x_t} \log E_{s \sim Dec(x_t)}[s \in L] + \sigma_t \epsilon$
ここで、 $\mu_\theta(x_t, t)$ はベースモデルの予測であり、勾配項 $\nabla_{x_t} \log E_{s \sim Dec(x_t)}[s \in L]$ は誘導力として機能する。この勾配は、構文的に有効な文字列にデコードされる連続空間の領域へと潜在軌跡を押しやる。ハイパーパラメータ $\gamma$ はこの制約の強さを制御する。
理論的正当性:
著者は、このアプローチが構文的妥当性に対する拡散サンプリャの条件付けを近似することを示す。学習された代理モデルではなく正確な解析的期待値を使用することで、この手法は個別の分類器の学習の不安定性やコストなしに、条件付き分布 $Pr(x_0 | L)$ を対象とする。

主要な貢献

学習不要ガイダンス: 本論文は、補助分類器の学習なしに離散正規表現制約を満たすように連続拡散モデルを誘導する手法を提案する。ガイダンススコアは、制約自体から解析的に計算される。
理論的枠組み: 著者は、結果として得られるサンプリャが構文的妥当性に対する条件付きベースモデルをターゲットにすることを示す形式的な正当性を提供し、このアプローチを標準的なスコアベースの条件付き生成理論と結びつけている。
実装と評価: この手法は、PLAID拡散モデルの上にDIFFINITYとして実装された。JSON スキーマや自然言語パターンを網羅する 180 の正規表現制約に対して評価が行われた。

結果

評価は、GPT-2 変種と Guidance ライブラリを使用した自己回帰制約付きデコーディング、および制約付きデコーディングを備えた離散拡散モデル（LLaDA + DINGO）との DIFFINITY の比較を行った。

制約充足率: DIFFINITY は、ベンチマーク全体で**68% から 96%**の範囲の制約充足率を達成した。
- JSON スキーマベンチマークでは、**68.4%の充足率（異なるパディング制約を持つ GPT-2 Large の約 77% と比較）と91.4%**の Pass@10 を達成した。
- 自然言語ベンチマークでは、平均充足率**92.9%**を達成し、GPT-2 Large（20.5%）を大幅に上回り、LLaDA+DINGO（ほぼ 100%）と同等であった。
品質とパープレキシティ:
- 低確率領域で停止する「無限反復の罠」に陥りやすく、モデル分布を歪ませる傾向のある自己回帰制約付きデコーディングとは異なり、DIFFINITY は高いテキスト品質を維持する。
- DIFFINITY は、制約のないサンプリングに対してわずかなパープレキシティコストしか生じない。自然言語ベンチマークにおいて、DIFFINITY のパープレキシティ（60.0）は制約のないベースモデル（61.6）と同等であり、制約付き自己回帰モデルがしばしば示す高いパープレキシティや低い流暢さとは対照的である。
- 流暢さの点では、DIFFINITY（35.8）は GPT-2 Small および Medium を凌駕し、GPT-2 Large と同等である。
分類器ガイダンスとの比較: 標準的な分類器ガイダンス（ノイズの混じった潜在変数上で学習された）は性能が低く、JSON ベンチマークでは 0% の充足率、自然言語タスクでは非常に低い率しか達成できず、補助分類器を介してこれらの離散制約を学習することの困難さを浮き彫りにした。
計算オーバーヘッド: DIFFINITY は、主にオートマトン遷移にわたる密な和の計算に起因し、無条件生成の約 2〜3 倍のレイテンシを伴う。メモリ使用量は、整合されたオートマトン内の遷移数と状態数に比例して増大する。

意義と主張

本論文は、連続拡散モデルが、学習を必要とせず、自己回帰モデルにおける制約付きデコーディングでしばしば見られる分布の歪みもなく、形式的構文に従うように効果的に誘導できることを主張する。

頑健性: DIFFINITY は、特に有効なシーケンスを完了できない可能性のある自己回帰モデルが存在する有限トークン予算の下では、自己回帰制約付きデコーディングよりも信頼性が高いことが示された。
分布の保存: この手法は、他の制約付き生成手法で出力品質を低下させる「場当たり的」ヒューリスティックを回避しつつ、ベースモデルの確率分布を保存したまま制約を効果的に強制する。
汎用性: 現時点では正規制約に限定されているが、この枠組みは連続拡散モデルを誘導するための原理的かつ学習不要なメカニズムを提供し、分類器の学習に要するリソース集約的なアプローチや、離散拡散制約付きデコーディングの構造的制限に対する実用的な代替案となる。

著者は、現在の計算オーバーヘッドは軽視できないものであるが、高い忠実度で構文的に有効な構造化出力を生成できる能力は、拡散モデルにおける構造化生成にとって有望な方向性を示唆すると結論づけている。今後の研究は、レイテンシを削減するためのメモリ効率の良いデータ構造とカーネル最適化に焦点を当てるべきであると示唆されている。