💬 NLP

LESS Is More: Mutual-Stability Sampling for Diffusion Language Models

本論文は、相互安定性ルールを通じてトークンのコミットメントを動的に決定することにより、固定予算デコーディングと比較して逆ステップ数を72.1%削減し、拡散型大規模言語モデルの効率と精度を大幅に向上させる、学習不要かつモデルに依存しない適応型サンプラーである\textsc{LESS}を導入する。

原著者： Amr Mohamed, Guokan Shang, Michalis Vazirgiannis

公開日 2026-06-16

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Amr Mohamed, Guokan Shang, Michalis Vazirgiannis

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

論文解説：「LESS Is More: Mutual-Stability Sampling for Diffusion Language Models」を、日常的な例えを用いた平易な言葉で解説します。

大きな全体像：「タイピング中の編集」問題

想像してみてください。あなたは物語を書こうとしています。しかし、標準的なAIのように左から右へと一単語ずつ打ち込んでいくのではなく、すべての単語がマスク（隠された状態）で覆われた白紙の状態からスタートします。あなたは一度にすべてのマスクの中身を推測し、物語が意味を成すようになるまで、その推測を何度も何度も洗練させていかなければなりません。

これが**拡散言語モデル（dLLM）**の仕組みです。これらが強力なのは、前の単語に基づいて次の単語を予測するのではなく、文章全体を一度に見ることができる（ドラフトを編集するように）からです。

問題点：
現在のこれらのモデルの仕組みは、まるで試験を受けている学生が、数学の問題は10分、歴史の問題は5分で終わったとしても、強制的に合計256分間試験を受け続けなければならないようなものです。

すでに完璧な答えに対して、何度も「再確認」を繰り返しています（時間の無駄）。
一方で、タイマーが「停止」を指示したために、まだ答えが定まっていないにもかかわらず、早すぎる段階で間違った答えを確定させてしまうこともあります。

この論文では、**LESS（相互安定性サンプリング）**という新しい手法を紹介しています。これは、賢い試験監督のような役割を果たします。学生が「時間が来たから」ではなく、特定の質問に対して「確信が持てた瞬間」に作業を終えられるようにしてくれるのです。

LESSの仕組み：「3つのチェック」ルール

この論文は、単にモデルの「自信（確信度）」だけを信じるべきではないと主張しています。モデルは非常に自信満々であっても間違っていることがありますし、あるいは一秒ごとに考えを変えていることもあります。

特定の単語（トークン）の精緻化をいつ止めるかを判断するために、LESSは**結合安定性ルール（Joint Stability Rule）**を使用します。これは、答えを「確定（ロックイン）」させる前の、3段階のセキュリティチェックのようなものです。

自信のチェック（Confidence Check）：「本当に大丈夫か？」
- モデルが、自分のトップの推測が正しいと高い確信を持っている必要があります。
持続性のチェック（Persistence Check）：「最近、考えを変えていないか？」
- モデルが、直近の数回のチェックにおいて、同じトップの単語を選び続けている必要があります。もし「猫」と「犬」の間を行ったり来たりしているなら、まだ安定していません。
動きのチェック（Motion Check）：「全体の状況は落ち着いているか？」
- これがこの論文の大きな革新です。ここでは**イェンセン・シャノン・ダイバージェンス（JSD）**という数学的ツールを使用します。
- 例え： ぼやけた写真を見ている場面を想像してください。たとえそれが90%の確率で「犬」だと分かっていても、もし背景がまだ揺れていたり、ぼやけて動いていたりするなら、答えを断定すべきではありません。JSDは、答えの周囲にある「ボケ」が止まったかどうかを測定します。もし起こりうる単語の分布がまだ変動しているなら、その答えは安定していません。

結果： これら3つの条件すべてを満たしたとき、初めて単語は「アンマスク（マスクが外され、確定）」されます。

なぜこれが重要なのか

この論文では、3つの異なるAIモデル（Dream-7B, LLaDA-8B, LLaDA-1.5-8B）を用い、数学、コーディング、一般知識を含む7つのタスクでLESSをテストしました。

研究結果：

少ない労力で、同等（またはそれ以上）の品質を： LESSは、標準的な手法よりも72%少ないステップで「試験」を完了することができました。
高速化： AIが「再確認」を行う回数が減るため、タスクの完了が早くなります。テストでは、数学の問題を解く時間を約19秒からわずか5秒に短縮しました。
より賢い判断： 単に自信があるからといって答えを確定させてしまう他の手法とは異なり、LESSは答えが「安定」するまで待ちます。これにより、難しい数学やコーディングのタスクにおいて、他の「追加学習を必要としない（free）」手法よりも精度が向上しました。

「Less is More（少ないことは、より豊かなこと）」という比喩

標準的なAIのデコーディング過程を、石の塊から彫刻を作るプロセスに例えてみましょう。

従来の方法： 彫刻家は、たとえ状況がどうあれ、正確に100回ノミを打つよう命じられています。彼らは、すでに滑らかになった部分に対して20回もノミを打ち続けたり（無駄な努力）、あるいは50回目で制限に達したために、まだ荒削りな部分をそのままにしてしまったり（手抜き）します。
LESSの方法： 彫刻家は彫刻の各部分を観察します。ある部分が滑らかになり、安定し、ノミを打っても揺れなくなったら、その「特定の部分」については作業を止めて次に進みます。その結果、トータルのノミの回数は少なくなり、完成した彫刻はより美しいものになります。

主な主張のまとめ

論文は、単語を「確定」させる決定を**オンライン停止問題（リアルタイムの安定性に基づいて停止時期を判断すること）**として扱うことで、LESSが以下のことを実現できると主張しています。

計算ステップ数を70%以上削減する。
テキスト生成にかかる時間を短縮する。
数学やコーディングのような複雑なタスクにおいて、精度を維持または向上させる。
これらすべてを、AIモデルを再学習させることなく（デコーディング方法の「プラグアンドプレイ」な更新として）実現する。

著者らは、単なる「自信」よりも「安定性」こそが重要であり、単語が真に「落ち着いた」状態になるまで待つことで、より少ない計算資源でより良い結果が得られると結論付けています。

技術要約: LESS: 拡散言語モデルのための相互安定性サンプリング

問題提起

拡散大規模言語モデル（dLLM）は、反復的なマスクシーケンスのデノイジングを通じて、並列的なトークン更新と双方向の条件付けを可能にすることで、自己回帰（AR）デコーディングに代わる有望な選択肢を提供している。しかし、その実用的な効率性は、固定された逆拡散スケジュールに依存するサンプリング手順によって現在ボトルネックとなっている。標準的なサンプラーは、あらかじめ定められたステップ数を実行するが、これは予測がすでに安定している位置に対して計算を浪費したり、不安定なトークンに対して時期尚早な確定を招いたりするリスクがある。一度拡散プロセスにおいてトークンがアンマスクされると、通常は固定されたものとして扱われる。硬直したスケジュールによって誤ったトークンが早期に確定してしまうと、その後の逆ステップでそれを修正することはできず、品質の低下を招く。既存のトレーニングフリーな適応型サンプラーは、信頼度やマージンに基づく基準を用いることでこれに部分的に対処しているが、トークンの予測軌跡における完全な時間的・分布的安定性を捉えることにはしばしば失敗する。

手法

著者らは、LESS (Less is More) を提案する。これは、トークンの確定をポジションごとのオンライン停止問題として定式化した、トレーニングフリーかつモデルに依存しない適応型サンプラーである。LESSは相互安定性サンプリングを実装しており、マスクされたポジションは、3つの特定の安定性シグナルが共同で予測が落ち着いたことを示す場合にのみ、アンマスクの資格を得る。

共同安定性ルール

各逆ステップ $t$ における各マスクされたポジション $i$ について、LESSはモデルの予測分布 $p_{t,i}$ から導出される3つのシグナルを評価する。

Top-1 予測信頼度: 現在のトップ1トークン ( $w_{t,i}$ ) に割り当てられた確率。ポジションは閾値 $c$ を超えなければならない。
Top-1 トークンの持続性: 現在のトップ1トークンが、直近の $P$ ステップのウィンドウにわたって変化していないこと。これにより、現在の信頼度が高くても、トークンが入れ替わった直後に確定してしまうことを防ぐ。
Top-K ステップ間 Jensen–Shannon ダイバージェンス (JSD): これはLESSの新規の貢献である。これは、連続する逆ステップ間における予測分布自体の安定性を測定するものである。
- 非対称な Kullback–Leibler (KL) ダイバージェンスの代わりに、LESSは対称かつ有界な JSD を使用する。
- 計算効率を確保し、関連する候補に焦点を当てるために、JSD は現在と前ステップのトップ- $K$ トークンの和集合からなる粗粒化された語彙に対して計算され、残りの質量は残差シンボルへと集約される。
- JSD は閾値 $d$ を下回らなければならない。

ポジションがアンマスクとして受け入れられる条件は以下の通りである：
$\text{accept}_{t,i} = (\text{conf}_{t,i} \ge c) \land \text{persist}_{t,i} \land (\text{JSD}_{t,i} \le d)$

アンマスク・ポリシー

LESSは、フルシーケンス拡散モデルに対してフロンティア・ファースト・ポリシーを採用している。もし左端のマスクされたポジションが適格であれば、それをアンマスクしようと試みる。適格でない場合は、先読みウィンドウをスキャンして最初の適格なポジションを探す。適格なポジションが見つからない場合は、ステップをスキップする。終了を保証するために、 $\Pi$ 回の連続したスキップステップの後に強制アンマスクのフォールバックがトリガーされるが、このフォールバックは「安定した」確定としてはカウントされない。

主な貢献

トークン確定の定式化: 本論文は、アンマスクの不可逆性に起因する適応型アンマスキングを、dLLMにおけるポジションごとのオンライン停止問題として定式化した。
Top-K ステップ間 JSD: 著者らは、有界かつ対称な安定性シグナルとして、Top-K ステップ間 Jensen–Shannon ダイバージェンスを導入した。これは、信頼度だけでは分布の動きを検出できないという従来研究の限界や、KL ダイバージェンスが方向性を持ち非有界であるという問題を解決するものである。
LESS サンプラー: 信頼度、トークンの持続性、およびステップ間 JSD を結合した、トレーニングフリーのサンプラーである。これはモデルの再学習を必要とせず、既存の dLLM チェックポイントと互換性がある。
実証的検証: 3つの dLLM ファミリー（Dream-7B, LLaDA-8B, LLaDA-1.5-8B）および数学、コード、一般知識をカバーする7つのベンチマークにわたる包括的な評価を実施した。

結果

評価の結果、LESSは固定予算デコーディング（Base）および他の強力なトレーニングフリー適応型サンプラー（Prophet および KLASS）の両方と比較して、精度と効率のトレードオフを大幅に改善することが示された。

効率性: 3つのモデルファミリー全体で、LESSは固定予算デコーディング（Base）と比較して、平均で 72.1% 少ない逆ステップを使用している。
精度: LESSは、より少ないステップを使用しながら、固定予算ベースラインに対して平均 +0.91 ポイントの精度向上を達成している。また、すべてのモデルファミリーにおいて、平均精度で Prophet および KLASS を上回っている。
タスク性能: 精度向上は数学およびコード生成タスクで最も顕著である。例えば、Dream-7B において、LESSは 64.3 ステップ（Base の 256 ステップに対し）のみで 65.18% の平均精度（Base の 63.30% に対し）を達成している。
計算量の節約: 各逆ステップは Transformer のフォワードパスを必要とするため、ステップ数の減少は直接的に推論計算量の削減につながる。Dream-7B の GSM8K において、LESSはウォールクロック・レイテンシを 19.45秒から 5.16秒に短縮し、高いステップ予算におけるフォワード評価の回数を約 75% 削減した。
アブレーション研究:
- シグナルの相補性: 単一のシグナル（信頼度、持続性、または JSD）では、結合ルールほど高い性能を発揮しない。信頼度は主要な駆動要因であるが、持続性と JSD は、時期尚早な確定や分布の漂流に対する不可欠なガードレールとして機能する。
- 堅牢性: 本手法は、単一のグローバルな構成 $(c=0.75, d=0.040)$ を用いて、異なるモデルやデコーディング・レジーム（フルシーケンス vs 半自己回帰ブロック単位）にわたって一貫した性能を発揮する。

重要性と主張

本論文は、LESS が、予測が確信に基づき、時間的に持続し、かつ分布的に安定している場合にのみトークンを確定させることで、拡散言語モデルのデコーディングを加速する実用的なトレーニングフリーのメカニズムを提供すると主張している。

著者らは、**「安定性は単なる信頼度以上のものである」**と強調している。トップ1トークンが最近変更されたばかりであったり、あるいは代替案の間で確率質量が依然として移動していたりする場合、高信頼度の予測であっても信頼できない可能性がある。LESS は、安定性を現在の予測とその最近の軌跡の結合特性として扱うことで、時期尚早な確定という落とし穴を回避している。

本研究は、以下の方法と直交し、かつ補完的なものとして LESS を位置づけている：

逆プロセスを短縮するトレーニング時の手法（例：蒸留）を補完する。
ステップあたりのレイテンシを削減するシステム的手法（例：キャッシュ、投機的デコーディング）を補完する。
基礎となるモデルを変更することなく、これらの手法と組み合わせることが可能な、ドロップイン形式の推論時ポリシーとして機能する。

結論として、相互安定性は、堅牢な早期トークン確定のための実行可能な基準であり、生成品質を損なうことなく、むしろ向上させながら、dLLM の高い効率化を実現することを可能にする。著者らは、手法が安定性閾値によって制御される品質と効率のトレードオフを露呈すること、そして特定のモデルやタスクに合わせてチューニングが必要になる可能性があることを認めているが、固定されたグローバル構成が多様な評価スイートにおいて効果的であったことを示している。