🤖 machine learning

DISK: Dynamic Inference SKipping for World Models

本論文は、予測精度と視覚的品質を維持しながら、自己回帰型ワールドモデルにおける軌跡拡散で2倍、ビデオ拡散で1.6倍の高速化を実現する、デュアルブランチコントローラーとクロスモーダル・スキップ決定を活用した学習不要のアダプティブ推論手法であるDISKを提案している。

原著者： Anugunj Naman, Gaibo Zhang, Ayushman Singh, Yaguang Zhang

公開日 2026-02-03

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Anugunj Naman, Gaibo Zhang, Ayushman Singh, Yaguang Zhang

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

あなたは、混雑した高速道路の未来を1秒ごとに予測しようとしていると想像してください。あなたには同時に2つのことを行う必要があります。

絵を描く： 次のフレームでは、車、木、道路はどのような見た目になるでしょうか？（「ビジョン」の部分）
経路を描く： 次のフレームで、あなた自身の車はどこに移動しているでしょうか？（「トラジェクトリ（軌跡）」の部分）

AIの世界において、これを行うことは、ビデオを1秒生成するごとに、100回の小さく慎重な呼吸（数学的な計算）をしなければならないマラソンを走るようなものです。これは遅く、コストがかかり、多くのエネルギーを消費します。

そこで、DISKの登場です。

この論文は、新しい手法であるDISK（Dynamic Inference SKipping：動的推論スキップ）を紹介しています。DISKを、AIの隣に座っているスマートで適応力のある副操縦士だと考えてください。その副操縦士はこう言います。「おい、今は全力で息を吸い込む必要はないぞ。そのまま滑るように進もう。」

その仕組みを、簡単な例えを使って説明します。

1. 「スムーズな滑走」対「デコボコ道」

高速道路を運転しているところを想像してください。

スムーズな滑走： もし、晴れた空の道路を真っ直ぐ走っているなら、ハンドルはほとんど動きません。毎ミリ秒ごとに道路を確認する必要はありません。そのまま進み続けることができます。
デコボコ道： もし、急カーブや工事現場、あるいは合流してくる車に近づいているなら、注意を払う必要があります。ミラーを確認し、ハンドルを切り、速度を慎重に計算しなければなりません。

DISKはまさにこれを行っています。 DISKはAIの「思考プロセス」（舞台裏にある数学）を観察しています。

シーンが単純な場合（真っ直ぐな高速道路を巡航しているときなど）、DISKはAIにこう指示します。「重い計算はスキップしろ！前の予測をそのまま使い回せ！」 これにより、膨大な時間と手間を節約できます。
シーンが複雑になった場合（突然の車線変更など）は、DISKはこう言います。「止まれ！今こそフル計算を行うんだ。」

2. 「タンデム自転車」の問題

厄介なことに、AIには2つの脳が連携して働いています。一つはビデオ（私たちに見えるもの）のための脳、もう一つはトラジェクトリ（私たちが進む場所）のための脳です。

もし、「ビデオ」の脳が、道が退屈そうに見えるからといってステップをスキップした一方で、「トラジェクトリ」の脳が複雑な旋回をしようと判断した場合、グリッチ（不具合）が発生します。車がビデオ内で突然テレポートしたり、経路には存在しない衝突がビデオに映り込んだりすることがあります。

DISKは、「セーフティ・ゲート（安全の門）」によってこれを解決します。
「トラジェクトリ」の脳をドライバー、「ビデオ」の脳を写真を撮っている助手だと考えてください。

もしドライバー（トラジェクトリ）が複雑な操作を察知し、「一生懸命働く（フル計算を行う）」と判断した場合、セーフティ・ゲートは即座に助手（ビデオ）にこう伝えます。「スキップをやめろ！同期を保つために、今すぐ写真を撮るんだ！」
しかし、もし助手（ビデオ）が何か面白いものを見つけたとしても、ドライバーがただ巡航しているだけなら、助手は時間を節約するためにステップをスキップすることができます。これにより、二つの脳はエネルギーを無駄にすることなく、完璧に同期し続けることができます。

3. 結果：品質を損なうことなく高速化

研究者たちは、強力なコンピューターチップ（NVIDIA L40S）を使用し、大規模な走行シナリオのデータセット（NuPlanおよびNuScenes）を用いてこのテストを行いました。

スピードアップ： 不要な計算ステップをスキップすることで、DISKはトラジェクトリ予測を2倍速く、ビデオ生成を1.6倍速くしました。
品質チェック： 計算の40〜50%をスキップしたにもかかわらず、結果は低速なフルスピード版とほぼ同一でした。
- 車が衝突する頻度は増えませんでした。
- ビデオの品質は高く維持されました（高速版と低速版の区別はつきませんでした）。
- 車の計画決定は、安全かつ正確なままでした。

まとめ

DISKは、**トレーニング不要（training-free）**のアップグレードです。AIに何かを再学習させたり、その脳を作り変えたりする必要はありません。既存のAIシステムの上に、この「スマートな副操縦士」のレイヤーを追加するだけです。

それは、スーパーコンピューターにサングラスを与えるようなものです。そのサングラスによって、退屈な部分の道路を無視して、エキサイティングな（あるいは危険な）部分にエネルギーを集中させることができるようになり、安全に運転する能力を失うことなく、プロセス全体をより速く、より安価にするのです。

技術要約: DISK – ワールドモデルのための動的な推論スキップ（Dynamic Inference Skipping）

1. 問題提起

自己回帰的なワールドモデル、特にDiffusion Transformer（DiT）に基づくモデルは、閉ループ走行における将来のシーン内容およびエゴモーションの予測において強力な能力を示している。しかし、これらのモデルは推論レイテンシと計算コストが非常に大きいという課題がある。自己回帰の設定では、予測された各フレームと軌道が次のステップを条件付けるため、コストは時間の経過とともに累積する。長期間のロールアウトには、結合されたビジョン・ブランチと軌道・ブランチにわたる数千回のモデル評価が必要となる。

既存の加速手法は、この特定の課題に対して効果的に対処できていない：

固定ステップの加速またはグローバルなステップ削減は、特に閉ループのロールアウトにおいて小さな誤差が蓄積する場合、忠実度と安定性を低下させる。
学習時のアクセラレータ（例：コンシステンシーモデル、漸進的蒸留）は、高価な再学習や蒸留を必要とし、既存の基盤モデルの学習された挙動を変更することなく加速するために必要な「プラグアンドプレイ」の柔軟性を損なう。
推論時の適応策（例：決定論的な定式化、高次ODEソルバー）は、ステップごとの難易度に適応できず、ビジョンと軌道の予測間の結合されたブランチを調整できない。
シングルブランチの最適化手法（例：早期終了、特徴量キャッシュ）は、単一のネットワーク内の計算を最適化するが、クロスモーダルなブランチ間の同期を考慮しておらず、外観と運動の間の非同期（デシンクロナイゼーション）を招くリスクがある。

核心となる課題は、モデルを再学習したり、既存のモデルの挙動を変えたりすることなく、シーンの複雑さ（例：静かな高速道路の巡航 vs. 重要なマニューバ）に基づいて、動的に推論コストを削減することである。

2. メソドロジー

著者らは、テスト時のみ動作する、学習不要の適応型推論モジュールである**DISK (Dynamic Inference SKipping)**を提案する。DISKは、クロスモーダルなスキップ決定を備えたデュアルブランチ・コントローラーを介して、ビデオ用（Vision DiT）とエゴ軌道用（Trajectory DiT）の2つの結合されたDiffusion Transformerを調整する。

2.1. 適応的なステップごとのスキップ

逆時間グリッドにおける各拡散ステップ $k$ について、コントローラーは新しい予測を計算するか、あるいはキャッシュされたものを再利用するかを決定する。この決定は、**ローカルな平滑性テスト（local smoothness test）**に基づいている：

難易度のプロキシ ( $d_k$ ): 連続する拡散ステップ間の潜在状態における平均絶対変化量。
曲率チェック ( $\Delta_k$ ): 潜在的な進化の局所的な線形性を測定する二次の差分基準。潜在的な変化が局所的にアフィン（低曲率）である場合、そのステップは予測可能であるとみなされる。
スキップ決定: もし $\Delta_k \leq \theta \cdot d_{k+1}$ （ $\theta$ は許容閾値）であれば、ステップはスキップされ、キャッシュされた予測が再利用される。そうでなければ、フルフォワードパスが計算される。

セーフティガード: 誤差の蓄積と退化的な挙動を防ぐために、3つのガードが強制される：

ウォームアップ ( $W$ ): 最初の $W$ ステップにおける強制的な計算。
連続スキップ上限 ( $C_{max}$ ): ドリフトを防ぐために、連続したスキップの回数を制限する。
停滞閾値 ( $\epsilon$ ): 潜在的な変化が数値的に極めて小さい（ゼロに近い）場合に、無限のスキップを防ぐために計算を強制する。

2.2. クロスモーダルな調整

個別にブランチをスキップすると、外観と運動の同期が崩れる可能性がある。DISKは、一方向のセーフティゲートを導入する：

**軌道コントローラー（Trajectory Controller）**は、自身のセーフティガードを監視する。軌道ブランチが複雑なマニューバに遭遇した場合（セーフティ条件をトリガーした場合）、信号 $\sigma^{(t)}_k$ が送られる。
一方向の結合: もし $\sigma^{(t)}_k = 1$ であれば、ビジョン・ブランチは自身の平滑性テストに関わらず、計算を強制される。これにより、複雑なエゴモーションに対して、対応する視覚的な変化が確実にレンダリングされる。
非対称性: 視覚的な複雑さは、軌道の計算を強制することはない。これは、軌道ブランチの方が通常高速であるため、スループットを優先しつつ、遅いビデオブランチが重要なマニューバから遅れないようにすることを目的としている。

2.3. 自己回帰的な安定性

長期間のロールアウトを安定させるために、DISKはコントローラーの統計量を自己回帰的な連鎖を通じて伝播させる。各ロールアウトステップ $s$ の後、サマリー（計算/スキップ回数およびセーフティ比率）が次のステップに渡される。クロスモーダル難易度スコア ( $\beta_s$ ) は、両ブランチの最大セーフティ比率から算出される。このスコアは、ウォームアップウィンドウとスキップ閾値を動的に調整し、困難なマニューバの後に計算ウィンドウを拡大し、シーンが安定した後に緩和する。

3. 主な貢献

学習不要の適応型フレームワーク: モデルの重みを変更したり再学習したりすることなく、適応的なステップごとのスキップ決定を用いて、ビジョンと軌道のDiTをオーケストレートする手法。
クロスモーダル・スキップ調整: 一方向のセーフティゲートとコントローラー統計の伝播を介して、ビジョンと軌道のブランチを調和させ、長期間のロールアウトにおける運動と外観の一貫性を確保するメカニズム。
Chain-of-Forward Self-Conditioningの維持: DISKは、ステップをスキップしながらも、自己回帰ループの完全性を維持するように設計されている。

4. 実験結果

本手法は、NVIDIA L40S GPUを用い、NuPlanおよびNuScenesデータセットからの1500サンプルを用いて、Eponaワールドモデル（2.5Bパラメータモデル）に統合して評価された。

4.1. 推論速度

軌道ブランチ (TrajDiT): 約2倍の高速化を達成（ステップあたり約20msから約10msへ減少）。
ビジョン・ブランチ (VisDiT): 約1.6倍の高速化を達成（ステップあたり約244msから約155msへ減少）。
全体: 同一のモデルアーキテクチャを維持したまま、合計のステップあたりのレイテンシを大幅に削減した。

4.2. プランニング性能

オープンループ: DISKは、ベースラインとほぼ同一のL2変位誤差を維持した（例：L2@3s: 0.3007 vs. 0.3011）。
クローズドループ (NAVSIM): DISKは、Predictive Driver Model Score (PDMS) において競争力のある結果を示した。
- ベースライン PDMS: 85.4
- DISK PDMS: 83.6
- サブメトリック（NC, DAC, TTC, Comf, EP）はわずかな低下のみを示し、安全性と走行可能性が維持されていることを示した。

4.3. 視覚的品質

指標: FIDは7.5から12.5へ、FVDは82.8から88.1へとわずかに上昇した。
定性的評価: 指標の変化はあるものの、視覚的な比較では、生成されたビデオはベースラインと「視覚的に区別がつかない」レベルであり、高い時間的一貫性を示した。

4.4. アブレーション研究

閾値 ( $\theta$ ): $\theta=0.01$ が、高速化（約2.03倍）と品質の最適なバランスとして特定された。
最大連続スキップ数 ( $C_{max}$ ): $C_{max}=4$ が、最も優れたトレードオフを提供した。より高い値（例：8）は速度を向上させたが、視覚的安定性が低下した（FID 12.65）。
ウォームアップ ( $W$ ): $W=3$ が十分であった。 $W=0$ は同様の指標を示したが、初期の不安定性のリスクがあった。一方、 $W=5$ は品質の向上なしに効率を低下させた。

5. 重要性と主張

本論文は、DISKが大幅に削減されたコストで、実用的な長期間のビデオおよび軌道予測を実現できることを主張している。その主な重要性は以下の通りである：

プラグアンドプレイの効率性: 再学習や蒸留という多大なコストをかけることなく、既存の基盤モデルを加速する方法を提供する。
動的な適応: 固定ステップの手法とは異なり、DISKは計算資源の割り当てをシーンの複雑さに適応させ、単純なフレームではリソースを節約し、重要なマニューバ中には精度を維持する。
クローズドループへの適合性: クロスモーダルなブランチを調整し、難易度統計を伝播させることで、誤差の蓄積が致命的な失敗モードとなる閉ループ走行に必要な安定性を維持することに成功している。

著者らは、視覚的指標（FID/FVD）において軽微なトレードオフはあるものの、大幅な高速化と維持されたプランニング精度により、DISKがリアルタイムの自動運転シミュレーションおよびプランニング・パイプラインのエネルギーおよびレイテンシ予算を削減するための実行可能なソリューションであることを結論付けている。