🤖 AI

CachedSearch: Training-Free Cached Exploration for Test-Time Search in Video Diffusion

Das Papier stellt CachedSearch vor, eine trainingsfreie Methode, die die Suche zur Testzeit in Video-Diffusionsmodellen beschleunigt, indem sie Kandidaten-Rollouts aggressiv zwischenspeichert, um die Ranking-Fidelität zu bewahren, und anschließend nur den Top-Gewinner mit voller Rechenleistung neu generiert, wodurch sie über verschiedene Modellarchitekturen hinweg nahezu optimale Leistungssteigerungen bei signifikant reduzierten Kosten erzielt.

Ursprüngliche Autoren: Shreshth Saini, Neil Birkbeck, Yilin Wang, Balu Adsumilli, Alan C. Bovik

Veröffentlicht 2026-07-31

📖 3 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Shreshth Saini, Neil Birkbeck, Yilin Wang, Balu Adsumilli, Alan C. Bovik

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen, das perfekte Lied in einer riesigen Bibliothek zu finden. Sie haben einen sehr schnellen, aber etwas tollpatschigen Assistenten, der tausende Lieder in Sekunden scannen kann, aber manchmal die Songtexte vermischt oder einen Takt überspringt. Und Sie haben einen langsamen, perfektionistischen Assistenten, der jede Note perfekt hört, aber ewig braucht, um auch nur ein einziges Lied zu prüfen. In der Welt der Künstlichen Intelligenz, speziell bei der „Videogenerierung“, befinden wir uns in einer ähnlichen Situation. KI-Modelle können Videos aus Textbeschreibungen erstellen, aber das Erstellen eines einzelnen hochwertigen Videos ist unglaublich teuer und langsam, als würde man für jedes einzelne Lied den perfektionistischen Assistenten engagieren. Um das beste Ergebnis zu erzielen, nutzen Forscher einen Trick namens „Test-Time Search“: Sie lassen die KI viele verschiedene Versionen eines Videos (Kandidaten) erstellen und wählen dann den absolut besten aus. Das Problem ist, dass das Erstellen all dieser Kandidaten ein Vermögen an Zeit und Rechenleistung kostet, und die meisten von ihnen werden ohnehway weggeworfen.

Dieses Paper stellt eine kluge neue Strategie namens CachedSearch vor, um dieses teure Problem zu lösen. Denken Sie an dies als ein „Entwurfs-und-Finalisierungs“-System. Anstatt den perfektionistischen Assistenten zu bitten, jeden einzelnen Kandidaten von Grund auf neu zu schreiben, nutzt das Team den schnellen, tollpatschigen Assistenten, um schnell grobe Entwürfe aller Optionen zu erstellen. Sie verwenden einen speziellen „Caching“-Trick, um dies zu beschleunigen, der Teile der Arbeit von einem Schritt zum nächsten wiederverwendet, wodurch die Entwürfe etwa doppelt so schnell erscheinen. Entscheidend ist, dass die Forscher getestet haben, ob diese groben Entwürfe gut genug sind, um zu entscheiden, welches Video das beste ist. Sie fanden heraus, dass die Entwürfe zwar nicht perfekt sind, aber die Kandidaten fast exakt so bewerten wie die langsame, perfekte Version es tun würde. Die Strategie lautet also: Nutzen Sie die schnellen Entwürfe, um den Gewinner zu finden, und fragen Sie erst dann den langsamen, perfektionistischen Assistenten, um dieses eine Gewinner-Video von Grund auf neu zu erstellen.

Die Ergebnisse sind beeindruckend. Durch die Verwendung dieses „Günstig explorieren, vollendet festlegen“-Ansatzes fanden die Teams heraus, dass sie etwa 94,7 % der Qualitätsverbesserung beibehalten konnten, die man erhielte, wenn man jede Option perfekt prüfen würde, aber es kostet nur 63 % der Zeit. Tatsächlich ermöglicht diese Methode, wenn man die gleiche Zeit (Budget) zur Verfügung hat wie beim Prüfen von vier perfekten Videos, acht grobe Entwürfe zu prüfen, den besten zu finden und ihn perfekt zu machen, was zu einem um 38 % besseren Ergebnis führt als die alte Methode. Das Paper zeigt, dass dies über verschiedene KI-Modelle hinweg funktioniert, von kleinen mit 1,3 Milliarden Parametern bis hin zu riesigen mit 14 Milliarden. Die wichtigste Entdeckung ist, dass die „Fehler“, die bei den schnellen Entwürfen gemacht werden, meistens dann auftreten, wenn die Videos bereits so ähnlich sind, dass es kaum einen Unterschied macht, welches man wählt. Das bedeutet, dass die Methode sicher verwendet werden kann, ohne die KI-Modelle neu trainieren zu müssen; sie wirkt wie ein Plug-in-Upgrade, das die Videogenerierung viel schneller und günstiger macht, ohne den Zauber zu verlieren.

Technisches Resümee: CachedSearch – Trainingsfreie Cache-basierte Exploration für die Testzeit-Suche in der Videodiffusion

1. Problemstellung

Videodiffusionsmodelle stellen eine der rechenintensivsten generativen Arbeitslasten dar. Strategien zur Suche in der Testzeit (z. B. Best-of-N), bei denen mehrere Kandidaten gesampelt werden, um den am höchsten bewerteten Output über einen Verifizierer auszuwählen, erhöhen diese Kosten um den Faktor 2–10×. Beim Standard-Best-of-N wird jeder Kandidat mit vollem Rechenaufwand generiert, obwohl die Mehrheit verworfen wird.

Obwohl trainingsfreie Caching-Techniken existieren, um einzelne Durchläufe durch die Wiederverwendung von Features über Denoising-Schritte hinweg zu beschleunigen (was 2–3× Beschleunigung ermöglicht), wurde deren Anwendung auf die Testzeit-Suche bisher nicht untersucht. Das Kernproblem ist subtil: Caching ist verlustbehaftet. Während es die pixelgenaue Treue bei Seed-identischen Vergleichen bewahren mag, ist unklar, ob es auch die relative Ordnung der Kandidaten unter einem Verifizierer beibehält. Wenn Caching die Rangfolgen vertauscht, wählt der Suchprozess möglicherweise den falschen Kandidaten aus, was die Effizienzgewinne zunichtemacht. Dieses Paper untersucht, ob Caching die Kandidaten-Rankings in der Videodiffusions-Testzeit-Suche korrumpiert, und schlägt eine Methode vor, um Caching sicher zu nutzen.

2. Methodik: CachedSearch

Die Autoren schlagen CachedSearch vor, ein trainingsfreies, verifizierer-agnostisches Protokoll, das Exploration von der Auslieferung entkoppelt. Die Methode basiert auf dem Prinzip, dass die pixelgenaue Treue unter Caching zwar leicht abnehmen kann, die relative Rangfolge der Kandidaten jedoch oft intakt bleibt.

Kern-Workflow

Exploration (Günstig): Generierung von $N$ Kandidaten mittels aggressivem Caching. Ein Wrapper fängt Transformer-Aufrufe ab und überspringt die Berechnung, wenn der kumulierte Input-Drift unter einem Schwellenwert $\tau$ liegt.
Scoring: Bewertung aller $N$ gecachten Kandidaten mittels eines Verifizierers (z. B. ImageReward).
Selektion: Identifikation des Seeds, der dem am höchsten bewerteten gecakten Kandidaten entspricht.
Commit (Vollständig): Regeneration nur des gewinnenden Seeds mit vollem Rechenaufwand (oh sich Caching zu nutzen), um den finalen Output zu erzeugen.

Technische Implementierung

Adaptive Transformations-Vektor-Caching: Die Methode kapselt den Diffusion Transformer (DiT) unter Verwendung einer Variation von EasyCache. Anstatt rohe Outputs zu cachen, wird der Transformationsvektor $\Delta = v_\theta(x_{ref}) - x_{ref}$ gecacht.
Skip-Regel: Ein kumulierter Drift-Indikator $a$ verfolgt die relative Änderung der latenten Inputs. Wenn $a \le \tau$ , wird der Transformer-Aufruf übersprungen und die Approximation $\hat{v}_\theta(x) = x + \Delta$ verwendet. Sobald $a > \tau$ , wird der Transformer evaluiert und der Zustand aktualisiert.
Determinismus: Der Prozess ist deterministisch für festes $(c, s, \tau)$ , wodurch sichergestellt wird, dass die „Commit“-Phase exakt den voll berechneten Sample für den ausgewählten Seed reproduziert.
Kostenmodell: Die Kosten von CachedSearch betragen $N \cdot C_c + C_f$ , wobei $C_c$ die Kosten des gecakten Durchlaufs und $C_f$ die vollen Kosten sind. Dies ist signifikant günstiger als volles Best-of-N ( $N \cdot C_f$ ), wenn $N > N^* = 1/(1-\gamma)$ , wobei $\gamma = C_c/C_f$ .

3. Zentrale Beiträge

Erste Studie zur Rangfolgen-Erhaltung: Das Paper liefert die erste empirische Untersuchung dazu, ob Caching die Kandidaten-Rankings unter der Testzeit-Suche bewahrt. Es etabliert ein Seed-matching-Protokoll, das auf dem Gate Grid, VBench und VBench-2.0 evaluiert wurde.
Das „Explore-Cheap, Commit-Full“-Protokoll: Einführung von CachedSearch, das 94,7 % des Reward-Gewinns einer vollen Best-of-8-Suche bei nur 63 % der Wandlaufzeit (Wall-Clock Cost) beibehält.
Analyse der Korruption: Zeigt, dass Ranking-Fehler „selbstlimitierend“ sind. Korruption konzentriert sich auf Prompts, bei denen die Kandidaten fast gleichauf liegen (geringe Score-Streuung). In diesen Fällen führt die Auswahl des „falschen“ Kandidaten zu minimalem Regret (Bedauern).
Generalisierbarkeit: Zeigt, dass die Methode über sechs Modelle und vier Architekturfamilien (Wan, LTX, CogVideoX, Hunyuan) mit 1,3B bis 14B Parametern transferierbar ist und nur eine Rekalibrierung des einzelnen Parameters ( $\tau$ ) pro Familie erfordert.
Komponierbarkeit: Beweist, dass CachedSearch mit Methoden zur Kandidaten-Pruning multiplikativ kombiniert werden kann und eine 3,11× Beschleunigung der Exploration erreicht.

4. Experimentelle Ergebnisse

Die Evaluierung erfolgte primär auf Wan2.1-T2V-1.3B, mit Replikation auf größeren Modellen und verschiedenen Suiten.

Rangfolgen-Erhaltung:
- Auf der VBench-Suite (946 Prompts) beträgt die mediane Spearman-Rangkorrelation ( $\rho$ ) zwischen gecakten und vollen Scores pro Prompt 0,905.
- Top-1-Übereinstimmung (Auswahl desselben besten Kandidaten) liegt bei 72 %.
- VBench-2.0 (eine schwierigere Suite) repliziert diese Ergebnisse mit $\rho = 0,881$ .
Effizienz und Gewinn-Erfassung:
- Bei $N=8$ erfasst CachedSearch 94,7 % des Reward-Gewinns von vollem Best-of-8 bei 63 % der Kosten.
- Unter einem festen Budget ermöglicht es, doppelt so breit zu suchen (z. B. 8 Kandidaten statt 4), was 38 % mehr Reward als volles Best-of-4 liefert.
- Die Methode skaliert mit der Breite: Bei $N=16$ erfasst sie 95,7 % des Gewinns bei 57 % der Kosten.
Regret-Analyse:
- Der mittlere Regret ist gering (0,056 auf VBench), mit einem Median von 0.
- 72 % der Prompts weisen einen Regret von Null auf.
- Fehler treten primär in Szenarien mit geringer Streuung auf, in denen der Wert der korrekten Auswahl inhärent niedrig ist.
Modell-Generalität:
- Die Methode funktioniert über die Skala von 1,3B–14B hinweg. Wan2.1-14B erreicht dieselbe mediane $\rho$ (0,905) wie das 1,3B-Modell.
- Modelle aus anderen Familien (z. B. CogVideoX-5B) erfordern eine Rekalibrierung von $\tau$ (z. B. von 0,10 auf 0,05), um hohe Erfassungsraten (>85 %) beizubehalten.
Vergleich zu Alternativen:
- Im Vergleich zu „Step Truncation“ (Reduzierung der Denoising-Schritte) bewahrt Caching signifikant mehr Suchwert (90,1 % Erfassung gegenüber 72,6 % bei Truncation), da es dieselbe Trajektorie stört, anstatt eine andere Verteilung zu sampeln.
- Es ist kompatibel mit verschiedenen Caching-Engines (PAB, CFG-Cache, TeaCache) und bildet eine einheitliche Capture-vs.-Speedup-Frontier.

5. Bedeutung und Ansprüche

Das Paper behauptet, dass CachedSearch ein „Plug-in-Multiplikator“ für das Testzeit-Scaling in der Videodiffusion ist. Seine Bedeutung liegt in:

Entkopplung von Treue und Rangfolge: Es zeigt, dass Kandidaten für Suchzwecke nicht pixelperfekt sein müssen; sie müssen lediglich „ehrlich“ in Bezug auf ihre relative Ordnung sein.
Kostensenkung ohne Training: Es erreicht eine nahezu verlustfreie Qualitätsbeibehaltung und signifikante Kostensenkungen (bis zu 3,11× in Kombination mit Pruning), ohne Fine-Tuning oder Modifikation der Modellgewichte.
Skalierbarkeit: Der Ansatz ist orthogonal zum Suchalgorithmus und Verifizierer, was ihn für jeden Sample-then-Rank-Loop anwendbar macht.
Praktische Auswirkungen: Es ermöglicht kleineren Modellen (z. B. 1,3B), größere Modelle zu rivalisieren, indem es größere Suchräume innerhalb desselben Budgets ermöglicht, was die hochwertige Videogenerierung demokratisiert.

Die Autoren kommen zu dem Schluss, dass die Lehre über das Caching hinausgeht: Jeder verlustbehaftete Beschleuniger kann die Exploration unterstützen, wenn er ein Ranking-plus-Regret-Audit besteht, was auf eine neue Richtung bei der Budgetallokation über Beschleuniger hinweg in der generativen KI hindeutet.