🤖 machine learning

Approximate Speculative Decoding

本論文では、新たなドラフトモデルの構築やファインチューニングを必要とせず、リグレット予算に基づいてドラフトトークンの不一致を選択的に受け入れることで、有効なサフィックスを再利用し、スループットを向上させる学習不要の手法であるApproximate Speculative Decoding (ASD) を提案する。

原著者： Yuannuo Feng, Zegang Peng, Yuxin Xie, Yubing Ye, Yizhe Chen, Wenshuai Yao, Wenyong Zhou, Wang Kang

公開日 2026-08-05

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Yuannuo Feng, Zegang Peng, Yuxin Xie, Yubing Ye, Yizhe Chen, Wenshuai Yao, Wenyong Zhou, Wang Kang

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

あなたは、非常に賢いけれど、信じられないほど動作が遅い友人と一緒に物語を書こうとしているところだと想像してください。あなたが物語に新しい単語を一つ追加しようとするたびに、あなたは友人が深く考え、知識のライブラリ全体をチェックし、次に続くべき正確な単語を教えてくれるのを待たなければなりません。これが現代のAI言語モデルの仕組みです。彼らは一単語ずつテキストを生成しますが、「思考」の部分にほとんどの時間がかかるため、プロセスはまるでペンキが乾くのを眺めているかのように退屈に感じられます。このスピードを上げるために、科学者たちは「投機的デコーディング（speculative decoding）」と呼ばれるトリックを考案しました。これは、あなたの代わりに次の数単語を予測する、素早いジュニア・アシスタントを持っているようなものです。その後、あなたは、その予測が正しいかどうかを、遅くて熟練した専門家に素早くチェックさせます。もし専門家がその予測に同意すれば、一度に一単語ずつではなく、一度に複数の単語を書くことができ、大幅な時間を節約できます。

しかし、落とし穴があります。その専門家は、ルールに非常に厳しいのです。もしアシスタントが、専門家が選ぶはずの「絶対的な完璧な選択」ではない単語を一つでも予測してしまうと、専門家はそのプロセス全体を即座に停止させます。たとえそのターンのアシスタントの予測のほとんどが実際には完璧であったとしても、彼らはその後に続くすべての単語を破棄してしまいます。それは、間違いが一つ見つかった瞬間にテストの採点を止めてしまう教師が、残りの答案用紙をすべてゴミ箱に捨ててしまうようなものです。この「全か無か」のルールは物語の完璧さを保ちますが、アシスタントの努力の多くを無駄にし、プロセスを遅らせてしまいます。

この論文では、**近似投機的デコーディング（Approximate Speculative Decoding: ASD）**と呼ばれる、よりスマートで柔軟な教師のような手法を紹介しています。一つの間違いに対して「これはダメだ」と切り捨てるのではなく、ASDはこう問いかけます。「この間違いは微細なものか？そして、アシスタントは次の数単語を正しく予測できているか？」もし答えがイエスであれば、ASDはその小さな間違いを受け入れ、その後に続く良い単語を保持し、そのまま進みます。これは、「『because』の綴りが間違っているけれど、その後の10単語は完璧に綴れているから、その一箇所だけ直して先に進もう」と言う教師のようなものです。研究者たちは、些細なエラーに対して少し寛容になることで、物語の質を損なうことなく、AIを大幅に高速化できることを発見しました。

「予算制」アシスタントの物語

ASDの核心となるアイデアは、あらゆる間違いを災難として扱うのをやめることです。従来の方法では、アシスタントが最高の選択肢ではない単語を予測すると、システムは即座に停止していました。しかし、著者たちは、アシスタントの「間違い」が実は正解に非常に近く、その後に続く単語が依然として完璧である場合があることに気づきました。

これを解決するために、チームは**予算（budget）**を備えたシステムを作成しました。想像してみてください、あなたには「間違いトークン」が入った瓶があります。あなたはいくつかの小さな間違いを犯すことが許されますが、それらは瓶から支払わなければなりません。

ローカル・ゲート（Local Gate）: 間違いを受け入れる前に、システムはその間違いがどれほど「悪い」かをチェックします。アシスタントの予測が完璧な単語よりもわずかに確率が低いだけなら、それは「安い」間違いです。もしそれが大きなエラーであれば、コストが高すぎるため、システムは「ノー」と言います。
ブロック・キャップ（Block Cap）: 一度の予測バッチの中で、間違いを出しすぎてはいけません。これにより、アシスタントが一気に不正確になるのを防ぎます。
リクエスト予算（Request Budget）: これは会話全体を通じた合計のトークンが入った瓶です。一度使い切ってしまうと、あなたは物語の残りの部分について、厳格な古いルールに従って完璧に戻らなければなりません。

魔法は、システムが小さな間違いを受け入れるときに起こります。アシスタントの「次」の数回の予測が実際に完璧（専門家が選ぶであろうものと一致している）であった場合、システムはそれらを「再利用」することができます。システムはそれらを再度チェックするために、遅い専門家に頼る必要はありません。ただそれらを受け入れ、前進するだけです。これにより、「停止して破棄する」瞬間が「修正して進み続ける」瞬間に変わります。

彼らが発見したこと

研究者たちは、このアイデアをQwen3やDeepSeekのような非常に人気のあるAIモデルを用いて、数学の問題解決からコード作成に至るまで、さまざまなタスクでテストしました。彼らはモデルを再学習させたり、アシスタントに新しいことを教えたりする必要はありませんでした。ただ、「教師（検証器）」が採点する方法を変更しただけです。

結果は非常に有望でした。この予算制のアプローチを使用することで、システムは追加のトレーニングなしで高速化されました。

7つの異なるタスクのセットにおいて、システムは厳格な従来の方法と比較して、平均で 7.78% 高速化しました。
MATH-500データセットのような最良のケースでは、11.73% の高速化を実現しました。
DeepSeek-V4-Flashという大規模なモデルでテストした際、受け入れ率（システムが保持した予測の割合）は約 10% から 16% 上昇しました。

論文は、これがすべてを完璧にする魔法の杖ではないことに注意を払っています。著者は、この手法がAIが辿る経路を変更することを明示的に述べています。時には、物語がわずかに異なったり、最終的な答えは同じであっても、テキストの「ハッシュ（デジタル指紋）」が変わったりすることがあります。例えば、一部のコーディングテストでは、精度がわずかに低下（1.5パーセントポイント未満）しましたが、他の多くのタスクでは、精度は全く同じに保たれるか、あるいはわずかに向上しました。

なぜこれが重要なのか

この論文の素晴らしさは、新しい高速なAIを構築したり、新しいアシスタントを訓練したりする必要がない点にあります。単に、すでに持っているもののルールを変更するだけなのです。それは、厳格な交通警察官が、軽微な違反があるたびに車を止めてしまうために街全体の流れを遅らせている状況において、より柔軟なアプローチをとることで、管理可能な小さなリスクを伴いつつ交通の流れをスムーズに保つ方法を見つけるようなものです。

著者らは、この手法が現行のAIシステムからさらなるスピードを引き出すための優れた方法であると示唆しています。彼らは、スピードの向上が現実的で測定可能である一方で（ケースによっては最大 15.26%）、ユーザーは「厳格な完璧さ」をわずかな「スピード」とトレードオフしていることを認識する必要があると強調しています。これは計算されたトレードオフです。あなたは物語をはるかに速く書き上げることができ、ほとんどの人にとって、言葉遣いのわずかな違いは全く問題になりません。論文は、この「予算制」のアプローチが、品質が自身のニーズに十分なレベルであるかを確認できるのであれば、AI生成を高速化するための実用的で、トレーニングを必要としない方法であると結論づけています。

技術要約：近似投機的デコーディング (Approximate Speculative Decoding: ASD)

問題提起

自己回帰型大規模言語モデル（LLM）はトークンを逐次的に生成するため、巨大なターゲットモデルの反復的な実行による重大な推論ボトルネックが生じます。投機的デコーディングは、軽量な「ドラフト（草案）」モデルを使用して将来のトークンブロックを提案し、それをターゲットモデルが並列に検証することで、この問題に対処します。

**標準的な貪欲検証（greedy verification）**の下では、プロセスは厳密にバイナリ（二値的）です。検証器は、ターゲットモデルのargmax（貪欲）トークンと正確に一致する最も長いプレフィックス（接頭辞）をコミットします。不一致が発生した時点でプロセスは停止し、残りのドラフト・トークンを破棄して、単一のターゲット回復トークンを付加します。このアプローチには主に2つの制限があります：

本質的な二値的切断： ターゲットのロジットが僅差である（低レグレットな）ドラフト・トークンを、ターゲットが強く否定しているトークンと同一に扱い、不一致が生じた瞬間に即座に停止してしまいます。
計算の浪費： 教師強制（teacher-forced）による検証パスにおいて、ターゲットモデルは、（不一致を含む）プレフィックスを条件とした後続のドラフト・トークンのスコアを既に算出しています。早期の不一致が受理された場合、その後の連続するサフィックス（接尾辞）は、既に「ターゲット・グリーディ（ターゲットの最大値）」となっている可能性があります。標準的な検証では、これらの再利用可能なトークンを破棄してしまうため、回復のために追加のターゲット・フォワードパスが必要になります。

核心となる課題は、非貪欲なトークンを受け入れることはデコーディングの軌道を変化させるという点です。これは再利用可能なサフィックスを解放できる一方で、損失のない最適化ではありません。制御されていない不一致の蓄積は、タスクの品質を低下させる可能性があります。本論文は、目標は不一致を無視することではなく、累積的な大きさを制御しながら、明示的な例外を許容範囲内で認めることであると提言しています。

手法：近似投機的デコーディング (ASD)

ASDは、トレーニング不要の検証器側手法であり、「最初の不一致による切断」ルールを予算化された最長プレフィックス選択戦略に置き換えるものです。ドラフトモデルの変更やファインチューニングを必要とせず、追加のターゲットモデル・フォワードパスも発生させません。

コアメカニズム

ローカル・ターゲット・ロジット・レグレット (Local Target-Logit Regret):
ドラフト・トークン $x_i$ とターゲットの $y^*_i$ に対して、ASDは $r_i = z_i(y^*_i) - z_i(x_i)$ というローカル・レグレットを計算します。これは、正しいトークンに対するドラフト・トークンの選好度を表します。
3層制御システム:
ASDは、以下の3つの制約を満たす場合にのみ不一致を許容し、これにより実現可能な最長の連続プレフィックスを選択します。
- ローカル・レグレット・ゲート ( $g$ ): 正規化されたゲート $r_i / q_i \leq g$ （ここで $q_i$ は残りの提案長）が、個別にコストの高い不一致をフィルタリングし、潜在的なサフィックス再利用に対して比例的な例外を優先します。
- ブロックごとの例外上限 ( $M$ ): エラーの集中を防ぐため、単一のドラフト・ブロック内での例外数を制限します。
- リクエストレベルの持続的レグレット予算 ( $B$ ): リクエスト全体にわたる累積レグレット ( $s$ ) の台帳を維持します。プレフィックスが実現可能であるためには、 $C_t \leq B - s$ である必要があります。これにより、生成全体における総偏差が制限されます。
実現されたプレフィックスによるサフィックス再利用 (Realized-Prefix Suffix Reuse):
ASDが不一致で終わるプレフィックスをコミットすると、その「実現された履歴」（受理された不一致を含む履歴）の下で依然としてターゲット・グリーディである後続のドラフト・トークンを再利用します。これらのトークンは、さらなる近似的な決定や追加のターゲット・フォワードパスなしにコミットされます。
ベクトル化実装:
アルゴリズムは、上記の制約に基づき、ドラフト・ブロック内の各位置に対する実現可能性マスクを構築します。受理される長さは、累積和と累積積を用いて $O(K)$ 時間で計算可能な、このマスクの「全真（all-true）」である最長プレフィックスです。予算 $B=0$ のとき、ASDは標準的な厳密貪欲検証と完全に一致します。

主な貢献

本論文の主な貢献は以下の3点です：

定式化: 提案されたドラフトとターゲットの不一致を考慮するために、持続的なリクエストレベルの台帳を利用した、予算化された最長連続プレフィックス選択問題として近似貪欲検証を定式化しました。
メカニズムの特定: 実現されたプレフィックスによるサフィックス再利用を特定・定式化し、キャッシュが一貫して更新されている限り、例外受理後に連続するターゲット・グリーディなサフィックスを、追加の近似決定なしにコミットできることを示しました。
実証的検証: このトレーニング不要の検証器が、提案生成メカニズムを変更することなく、様々なモデルとタスクにおいてスループットを大幅に向上させることを実験的に証明しました。

実験結果

実験は、Qwen3-8B/14B、Llama-3.1-8B、Qwen2.5-7Bのターゲットに対し、DSpark、EAGLE3、Medusaのドラフターを組み合わせて、GSM8K、MATH-500、HumanEval、MBPP、MMLU、MT-Bench、Alpacaのベンチマークを用いて実施されました。

スループットの向上: ASDは、一致する厳密な投機的デコーディングと比較して、固定ワークロードのスループットを 3.05%～15.26% 向上させました。
- Qwen3-14B + DSpark-14B において、7つのタスクの平均利得は 7.78% でした。
- 観測された最高利得は、Llama-3.1-8B + EAGLE3 を用いた GSM8K での 15.26% でした。
精度のトレードオフ: 本手法は制御された近似であり、出力保存型の最適化ではありません。
- 主要な DSpark-14B マトリックスにおいて、7つのタスクのうち5つで非負の精度変化を示しました。
- 観測された精度の低下は僅かであり（例：HumanEvalで -0.61 ポイント、MT-Benchで -0.64 ポイント）、タスクに依存します。
- GSM8K および MATH-500 では、ハッシュの分岐が95%を超えており、軌道が変化していることを示していますが、測定された精度は安定または向上しています。
スケーラビリティ: 利得は異なるドラフター・ファミリー（DSpark, EAGLE3, Medusa）およびターゲットモデルにわたって持続しており、この恩恵が特定の提案アーキテクチャではなく、検証器側のメカニズムに起因することを示しています。
大規模モデルとの互換性: DSpark を用いた DeepSeek-V4-Flash (284B) の FP4-to-FP8 互換設定において、ASD は GSM8K および MATH-500 において検証器側の受理率を約 10%～16% 高めました。

重要性と主張

本論文は、ASD が、より高速な貪欲なブロック単位の投機的デコーディングへの、広く互換性のあるトレーニング不要の経路を提供すると主張しています。その重要性は以下の点にあります：

提案と検証の分離: 提案（ドラフター）の改善に焦点を当てる従来の作業とは異なり、ASD はスコアリング完了後の検証器のコミット決定を最適化します。
明示的なトレードオフ制御: 持続的なレグレット予算とローカル・ゲートを導入することで、ASD はユーザーが速度と精度の境界を明示的に調整できるようにし、厳密な検証の「全か無か」という性質を超越させます。
システム効率: 追加のフォワードパスやモデルの再学習なしに、ターゲット・スコア付きのサフィックスを再利用することで、ターゲットの検証ラウンドの数を減らし、スループットの向上を実現します。

著者らは、ASD は蓄積されたローカル・レグレットを制限するものの、同一の出力を保証したり、意味の保存やタスクの正当性を保証したりするものではないことを強調しています。したがって、検証器の制御を互いに独立したデータに対して凍結し、その後、特定のターゲット、ドラフター、およびワークロードの組み合わせに対して自然な EOS（End of Sequence）タスク品質監査を行うというデプロイメント・モデルを推奨しています。