あなたは傑作を描こうとしている画家だと想像してください。しかし、一筆描くたびにキャンバス全体を最初から描き直さなければならないとしたらどうでしょう？それが、現代のAI画像生成器（拡散モデルとして知られる）が今日行っている仕組みの本質です。それらは混沌としたデジタルノイズの雲から始まり、一歩ずつ、段階的に、鮮明な絵へと洗練させていきます。このプロセスは驚くほどリアルな画像を生み出しますが、非常に低速で計算コストがかかります。まるで、ビルを一軒建てるためにレンガを一つずつ積み上げ、そのたびに建物全体を再構築して作業を確認しているようなものです。これらのAIツールをより高速で、リアルタイムのアプリケーションに役立つものにするために、科学者たちは不要なステップをスキップする方法を探してきました。これまで最も一般的なアイデアは「キャッシュ」であり、これは以前の筆致のコピーを保持しておき、画像があまり変化していない場合はそれを再利用するというものです。しかし、従来の方法は硬直的でした。それは単純なタイマーに基づいてステップをスキップすることを決定する、固定されたスケジュールを使用しており、現在の画像が描きやすいか難しいかにかかわらず、一律に適用されていました。

本論文では、OnlineCacheと呼ばれる、よりスマートで柔軟なアプローチを紹介します。固定されたルールに従う代わりに、著者らは、絵を描くプロセスをリアルタイムで観察する、非常に小さく軽量な「コーチ」（ポリシーネットワーク）を訓練しました。このコーチは、以前の筆致を再利用しても安全か、あるいはフルでの重い計算を行う必要があるのかを、瞬間ごとに判断します。論文では、画像の生成難易度はプロンプトによって大きく異なり（簡単なアイデアもあれば複雑なものもある）、また、絵を描くプロセスの特定の瞬間はエラーに対して非常に敏感であると主張しています。AIに即座に戦略を適応させ、さらにステップをスキップした際に生じる小さなミスを修正するための「補正器（corrector）」を含めるように教えることで、OnlineCacheは劇的なスピードアップを実現しました。FLUX.1-devモデルにおいて、品質を維持したまま、速度をほぼ3倍（3倍のスピードアップ）に向上させました。著者らは、この動的で学習ベースのアプローチが、異なる画像サイズ、データセット、さらにはビデオ生成タスクにおいても、従来の静的な手法を一貫して上回ることを実証しています。

問題点： 「ワンサイズ・フィッツ・オール（一律適用）」の罠

OnlineCacheがなぜ重要なのかを理解するために、まずそれが解決しようとしている問題を見る必要があります。拡散モデルは、ぼやけたノイズのスケッチから始まり、徐々にそれを鮮明にしていくアーティストのようなものです。最終的な画像を得るために、30ステップ以上かかることもあります。過去には、研究者たちは「ステップ10、11、12は似ているので、ステップ10の結果を再利用しよう」と言うことで、これを高速化しようと試みました。これがキャッシュと呼ばれるものです。

しかし、既存の手法は、「どんな生徒に対しても、ステップ10、11、12をスキップしなければならない」と言う厳格な教師のようなものでした。これは静的ポリシーです。論文では、このアプローチには2つの大きな欠陥があると指摘しています。

1. プロンプトによってニーズが異なる： 「赤いボール」のような単純なリクエストもあれば、「雨の中のサイバーパンク都市」のような複雑なものもあります。静的な教師はこれらを同じように扱い、簡単なものには時間を浪費し、難しいものには急ぎすぎてしまいます。
2. 瞬間によってリスクが異なる： 絵を描くプロセスにおいて、形を正しく整えるために重要なステップもあれば、単にテクスチャを加えているだけのステップもあります。もし重要なステップをスキップしてしまうと、画像全体がおかしくなる可能性があります。静的なルールは、その違いを知りません。重要なステップをスキップしてしまうか、退屈なステップに時間を浪費してしまう可能性があります。

著者らは、この硬直性がボトルネックであると主張しています。彼らは、タスクの「難易度」がプロンプトごと、そしてステップごとに変化しているにもかかわらず、古い手法はこれを無視していることを観察しました。

解決策： 学習するスマートなコーチ

OnlineCacheは、キャッシュの決定を学習問題に変えることで、ゲームのルールを変えます。固定されたルールではなく、システムは絵を描くプロセスを見守るスマートなコーチとして機能する、非常に小さなニューラルネットワーク（「ポリシー」）を使用します。

コーチの判断方法：
コーチは、ステップをスキップするかどうかを判断する前に、いくつかの重要な手がかりを確認します。

• 現在の状態： 今、画像はどのような見た目か？（まだめちゃくちゃなのか、それともほとんど完成しているのか？）
• キャッシュされた状態： 最後に保存されたステップはどのような見た目だったか？
• 時間： プロセスの中でどの程度進んでいるか？

これらの手がかりに基づき、コーチは問いかけます。「古い結果を再利用しても安全か、それとも重い作業を行う必要があるか？」もしコーチが安全だと判断すれば、重い計算をスキップして時間を節約します。もし画像が複雑であるか、あるいはステップが重要であると判断すれば、AIにフル計算を行うよう強制します。

「バイレベル（二層構造）」の仕掛け（コーチと補正器）：
本論文では、このシステムの2つのバージョンを紹介しています。1つ目は単なるコーチです。2つ目の、より高度なバージョン（バイレベル最適化またはBLOと呼ばれる）は、第2のキャラクターである**補正器（Corrector）**を追加しています。

• コーチは、いつスキップするかを決定します。
• 補正器は、コーチがステップをスキップした際に発生する小さなエラーを修正する、非常に小さなツールです。

これは、動画の早送りプレイヤーのようなものです。コーチはいつ早送りするかを決定します。もし早送りが多くを飛ばしすぎると、映像がぼやけてしまうかもしれません。補正器は、そのぼやけを瞬時に修正する「シャープ」ボタンのようなもので、早送りされた動画が依然として鮮明に見えるようにします。システムは、コーチと補正器を共に訓練します。つまり、コーチは「補正器が修正できる範囲内でしかスキップしない」ことを学び、補正器は「コーチがスキップした内容を修正する」ことを学ぶのです。

実験結果が示したこと

著者らは、FLUX.1-dev、DiT、およびCog디오X（ビデオ用）を含む、いくつかの強力なAIモデルを用いてこのシステムをテストしました。判明したことは以下の通りです。

• 速度 vs 品質： FLUX.1-devモデルにおいて、OnlineCacheはほぼ3倍のスピードアップを達成しました。これは、標準的な手法よりも3倍速く画像を生成できることを意味します。極めて重要なのは、品質が低下しなかったことです。実際、作成された画像は、他の高速化手法で作られたものよりも鮮明で正確であることが多かったのです。
• 適応性： このシステムは、異なるシナリオにも対応できることが証明されました。単純な画像を生成するように求められると、より多くのステップをスキップしました。プロンプトが複雑になると、より懸命に作業を行いました。また、絵を描くプロセスの特定の瞬間がスキップするには重要すぎることも、また無視しても安全であることも、自ら判断しました。
• 競合への勝利： 論文では、OnlineCacheをERTACacheやTeaCacheといった他のトップクラスの手法と比較しました。ほぼすべてのテストにおいて、OnlineCacheは、同じスキップ量を用いた静的な手法と比較して、より優れた画像を作り、エラーを少なく抑えました。例えば、あるテストでは、静的な手法と比較して視覚的エラー（L1エラー）を**37.48%**削減しました。
• 汎用性： システムは一つの画像セット（MSCOCO）で訓練されましたが、全く異なる画像（Parti-Prompts）や、異なる解像度（512x512から1024x1024まで）に対しても、再学習を必要とせずに完璧に動作しました。さらに、ビデオ生成にも適用可能であり、「スマートなコーチ」というアイデアが画像だけでなくビデオにも通用することを示しました。

なぜこれが重要なのか

この論文は、高速なAIの未来は、より大きく高速なコンピュータを構築することではなく、今あるコンピュータをいかに賢く使うかにあることを示唆しています。硬直した「ワンサイズ・フィッツ・オール」のルールから脱却し、動的で学習ベースのアプローチを採用することで、品質を損なうことなく、AI生成器を大幅に高速化できます。著者らは、AIに「いつショートカットを取り、どのようにミスを修正するか」を判断させることで、スピードと完璧さの両立が可能であることを示しました。

要約すると、OnlineCacheは、AIに「硬直したロボット」ではなく「柔軟な芸術家」であることを教え、その結果、目の前のタスクに適応した、より高速で高品質な創造物を実現させたのです。