🤖 machine learning

x-Prediction Is All You Need:Training-Free Accelerated Generation via Endpoint Decodability

Dit artikel introduceert Training-Free Accelerated Generation via Endpoint Decodability, een methode genaamd Truncated Jump Sampling (TJS) die de inherente $x_0$ -informatie in standaard waarschijnlijkheidspaden benut om schone monsters vroegtijdig te decoderen tijdens ODE-sampling, waardoor het aantal neurale functie-evaluaties met 20–70% wordt verminderd over diverse diffusie- en flow matching-modellen zonder dat hertraining of architecturale wijzigingen vereist zijn.

Oorspronkelijke auteurs: Xin Peng, Ang Gao

Gepubliceerd 2026-07-08

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Xin Peng, Ang Gao

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Probleem: De Lange, Trage Wandeling

Stel je voor dat je een prachtige beeldhouwwerk uit een blok marmer probeert te maken. Momenteel werken de AI-modellen die afbeeldingen genereren (zoals Stable Diffusion) als een zeer voorzichtige, langzaam bewegende beeldhouwer.

Om een heldere afbeelding te krijgen, begint de AI met een blok pure statische ruis (zoals tv-sneeuw) en hakt er stap voor stap stukjes vanaf om de afbeelding eronder te onthullen.

De Oude Manier: Om een hoogwaardig beeldhouwwerk te krijgen, heeft deze beeldhouwer 30 tot 100 kleine, zorgvuldige beitelslagen (stappen) nodig om het goed te krijgen.
De Kosten: Elke beitel vereist een zware mentale berekening van de AI. Het doen van deze 100 stappen kost veel tijd en gebruikt veel computerkracht.

Het Nieuwe Idee: De "Kristallen Bol" Afkorting

De auteurs van dit paper ontdekten een geheim trucje dat verborgen zit in de eigen training van de AI. Ze realiseerden zich dat de AI niet alleen weet hoe hij ruis moet wegbeitelen; de AI weet eigenlijk ook al hoe het uiteindelijke beeldhouwwerk eruitziet bij bijna elke stap van het proces.

Denk hier eens aan:

Het Standaard Proces: Je loopt een donker, kronkelend bergpad omhoog om een top te bereiken. Je moet 100 kleine stapjes zetten om de top te bereiken.
De Ontdekking van het Paper: Bij stap 20, stap 40 of zelfs stap 10, houdt de AI eigenlijk een kristallen bol vast die een perfect, helder beeld van de top laat zien. Het is alleen zo dat de standaard instructies de AI vertellen de kristallen bol te negeren en gewoon door te blijven lopen tot hij fysiek de top heeft bereikt.

De Oplossing: "Truncated Jump Sampling" (TJS)

De auteurs stellen een nieuwe strategie voor genaamd Truncated Jump Sampling (TJS).

In plaats van de AI te dwingen om alle 100 stappen naar de top van de berg te lopen, zegt TJS:

Laat de AI slechts een paar stappen zetten (bijvoorbeeld 20 stappen).
Stop.
Kijk in de kristallen bol (de "endpoint decoder") die de AI vasthoudt.
Spring direct naar de afbeelding die in de kristallen bol wordt getoond.

Het Resultaat: Je krijgt een bijna perfecte afbeelding in 20 stappen in plaats van 100. Je bespaart 80% van de tijd en energie, en de afbeelding ziet er bijna exact hetzelfde uit.

Waarom Dit Werkt (De "Magische" Wiskunde)

Het paper bewijst twee belangrijke zaken die dit mogelijk maken:

De Kaart is Al Getekend: De AI is getraind om de uiteindelijke afbeelding op elk moment te voorspellen. Zelfs wanneer de afbeelding nog heel wazig is (vroeg in het proces), bevat de wiskunde binnenin de AI genoeg informatie om het heldere beeld direct te "decoderen". Het is also kind dat een GPS heeft die de bestemming al kent op het moment dat je begint met rijden, zelfs als je nog vaststaat in het verkeer.
Je Hebt Geen Rechte Weg Nodig: Eerdere methoden probeerden het bergpad perfect recht te maken zodat de AI grotere stappen kon nemen. Dit paper laat zien dat je geen rechte weg nodig hebt. Zelfs als het pad kronkelig en bochtig is, werkt de "kristallen bol" (de decoder) nog steeds. Je kunt vroeg stoppen en naar de finishlijn springen, ongeacht hoe bochtig het pad was.

Wat Dit Voor Jou Betekent

Geen Her-training Nodig: Dit is geen nieuw AI-model dat vanaf nul geleerd moet worden. Het werkt op de modellen die mensen al hebben (zoals SDXL of SD3.5). Het is alsof je een nieuwe set instructies geeft aan een chauffeur die je al kent, in plaats van een nieuwe auto te kopen.
Gratis Snelheid: Het vereist nul extra training, nul extra geld en nul wijzigingen aan de architectuur van de AI. Het is een "gratis lunch" in de wereld van AI.
Het Optimale Punt: Voor de meeste afbeeldingen kun je het proces stoppen wanneer het ongeveer 30% tot 70% voltooid is en een resultaat krijgen dat niet te onderscheiden is van het volledige proces.

Een Opmerking Over "Te Vroeg"

Het paper waarschuwt ook dat als je te vroeg stopt (zoals bij stap 1 of 2), de kristallen bol nog te wazig is om duidelijk te zien. De afbeelding kan eruitzien als een vage, wazige bende. Maar zodien je een bepaalde drempel passeert (meestal rond stap 10–15 voor complexe afbeeldingen), verbetert de kwaliteit snel en kun je veilig naar de finishlijn springen.

Samenvatting

Het paper zegt: "Stop met het hele pad af te lopen. De AI kent de bestemming al. Vraag het hem gewoon, en hij zal het je vertellen."

Door te beseffen dat de AI op elke stap het antwoord op de uiteindelijke afbeelding in zijn zak heeft, kunnen we het saaie, trage deel van de reis overslaan en het resultaat direct krijgen.

Technische Samenvatting: x-Prediction Is All You Need

Probleemstelling

Diffusie- en flow matching-modellen hebben state-of-the-art prestaties neergezet in generatieve taken, maar lijden onder hoge inferentiekosten, waarbij doorgaans tientallen tot honderden neural function evaluations (NFEs) per sample nodig zijn. Bestaande acceleratiestrategieën—zoals trajectory rectification (Rectified Flow), distillatie (progressief, op consistentie gebaseerd, bootstrapping) en geavanceerde ODE-solvers—vereisen over het algemeen aanpassingen aan het trainingsrecept, de modelarchitectuur of de trajectorie zelf. Als gevolg hiervan zijn deze methoden vaak incompatibel met de enorme bibliotheek aan bestaande pretrained checkpoints (bijv. SDXL, SD3.5M, FLUX) zonder dat er hertrainingskosten worden gemaakt. Het vakgebied kampt met een gebrek aan een training-vrije acceleratiestrategie die werkt op modellen "zoals ze zijn".

Methodologie: Truncated Jump Sampling (TJS)

Het paper stelt Truncated Jump Sampling (TJS) voor, een training-vrije inferentiestrategie gebaseerd op het concept van endpoint decodability.

Kerninzicht: Endpoint Decodability

De auteurs formaliseren dat voor elk niet-degeneratief affien probabilistisch pad (de standaardstructuur voor diffusie- en flow matching-modellen gedefinieerd als $x_t = \alpha_t x_0 + \sigma_t \epsilon$ ), de schone sample $x_0$ uniek kan worden hersteld uit elke tussenliggende staat $x_t$ en de padsnelheid $u_t$ via een gesloten vorm decoder.

Algebraïsch Herstel: Gegeven het gekoppelde lineaire systeem van positie en snelheid, wordt $x_0$ hersteld als $x_0 = (\sigma_t u_t - \dot{\sigma}_t x_t) / \Delta_t$ , waarbij $\Delta_t$ de pad-determinant is.
Optimaliteit: Onder standaard $\ell_2$ trainingsdoelstellingen komt deze algebraïsche decoder overeen met de Minimum Mean Square Error (MMSE) estimator $E[x_0 | x_t]$ . Dit impliceert dat standaard pretrained modellen impliciet leren om de endpoint $x_0$ op elk tijdstip te voorspellen, zelfs als ze getraind zijn om ruis of snelheid te voorspellen.
Curvatuuronafhankelijkheid: Cruciaal is dat de fout van deze endpoint-voorspelling alleen afhangt van de schattingsnauwkeurigheid van het model en de onherleidbare onzekerheid van de staat $x_t$ , en niet van de curvatuur van de trajectorie ( $\|\ddot{x}_t\|$ ). Dit daagt de heersende aanname uit dat rechte trajectorieën (zoals in Rectified Flow) noodzakelijk zijn voor nauwkeurige generatie in enkele stappen.

Het Algoritme

TJS operationaliseert dit inzicht door de ODE-integratie vroegtijdig te stoppen bij een tijdstip $t^*$ en direct de gedecodeerde $x_0$ uit te voeren in plaats van door te gaan naar $t=0$ .

Partiële Integratie: Het model integreert de ODE voor een fractie $\gamma$ van de totale stappen ( $k^* = \lceil \gamma K \rceil$ ).
Vroegtijdige Exit: Bij stap $k^*$ berekent het algoritme de endpoint-schatting $\hat{x}_0$ met behulp van het geleerde snelheidveld en de gesloten vorm decoder.
Terminatie: Het proces stopt en geeft $\hat{x}_0$ terug als de finale sample.

Deze aanpak vereist nul hertraining, nul distillatie en nul architecturale wijzigingen. Het is compatibel met elke ODE-solver, noise schedule, classifier-free guidance (CFG) scale of bestaand checkpoint.

Belangrijkste Bijdragen

Theoretische Formalisering: Het paper vestigt Endpoint Decodability (Theorem 5) als een universele eigenschap van affine paden. Het bewijst dat de geïnduceerde decoder de MMSE-optimale estimator is (Theorem 6) en dat de foutdecompositie onafhankelijk is van de trajectorie-curvatuur (Theorem 9).
Uitdaging van Trajectory Straightening: De auteurs bewijzen dat rechte trajectorieën voldoende zijn, maar niet noodzakelijk voor nauwkeurige endpoint-voorspelling (Proposition 12). Dit ontkoppelt inferentie-acceleratie van de noodzaak voor trajectie-rectificatie, wat een theoretische basis biedt voor waarom TJS werkt op gebogen paden waar Euler-integratie zou falen.
Training-vrij Algoritme (TJS): Een praktische sampler die NFEs met 20–70% vermindert over diverse modelfamilies zonder het model of de trainingsdata te wijzigen.
Omvattende Empirische Validatie: Uitgebreide experimenten op zes modelfamilies (SDXL, SD3.5M, Z-Image-Turbo, ImageNet-256, CIFAR-10, MNIST) laten zien dat TJS een bijna gelijkwaardige of superieure kwaliteit bereikt vergeleken met volledige ODE-trajectorieën.

Experimentele Resultaten

De auteurs evalueerden TJS over class-conditional en text-to-image benchmarks:

NFE Reductie: TJS vermindert NFEs met 20–70% terwijl de kwaliteit nagenoeg gelijk blijft.
- SDXL/SD3.5M: Bereikt 95% van de volledige ODE-kwaliteit (gemeten via ImageReward) bij ongeveer 37–40% NFE-besparing (stoppend bij $k^* \approx 18$ van 30 stappen).
- Z-Image-Turbo: Op een gedistilleerd 10-stappen model bereikt TJS 95% kwaliteitsbehoud met 70% extra besparing (stoppend bij $k^*=2$ , d.w.z. 3 NFEs totaal), wat aantoont dat endpoint decodability standhoudt, zelfs in gedistilleerde trajectorieën.
- Class-Conditional: Op MNIST en CIFAR-10 presteert TJS soms beter dan de volledige ODE (het "overshoot" fenomeen), omdat het de discretisatiefouten vermijdt die zich ophopen in de laatste stappen van de Euler-integratie.
Metrische Hiërarchie: De experimenten onthullen een convergentie-hiërarchie waarbij semantische inhoud (CLIP, PickScore) vroeg wordt opgelost (vaak tegen $k^* \approx 12$ ), terwijl fijnmazige esthetische details (ImageReward, AES) diepere integratie vereisen.
Robuustheid: De prestaties van TJS zijn invariant voor de keuze van de ODE-solver (DDIM, DPM++, UniPC, etc.), noise schedule (Beta, Karras, etc.) en CFG-scale, wat bevestigt dat het orthogonaal is aan bestaande inferentiecomponenten.

Betekenis en Claims

Het paper claimt dat matige acceleratie in enkele stappen geen trajectie-rechtlijnigheid, distillatie of herontwerp van training vereist. De betekenis ligt in het herkennen van endpoint decodability als een inherente structurele eigenschap van generatieve modellen op affine paden.

Praktische Impact: TJS biedt een directe, kosteloze acceleratie-optie voor de bestaande bibliotheek aan fine-tuned checkpoints van de community, die vaak onhaalbaar zijn om te hertrainen of te distilleren.
Theoretische Verschuiving: Door te bewijzen dat rechte trajectorieën niet noodzakelijk zijn voor endpoint-voorspelling, daagt dit werk de fundamentele motivatie van Rectified Flow en Consistency Models met betrekking tot inferentie-acceleratie uit.
Complementair Karakter: De auteurs positioneren TJS als orthogonaal aan distillatie. Terwijl distillatie de totale trajectielengte comprimeert, elimineert TJS de redundante staart van de resterende trajectorie, wat een additieve acceleratie mogelijk maakt (bijv. het toepassen van TJS op een gedistilleerd model zoals Z-Image-Turbo).

Het paper concludeert dat het erkennen van deze eigenschap "niets kost" en dat het negeren ervan potentieel rendement laat liggen, en biedt een geprincipeerde manier om de integratiediepte af te wegen tegen de inferentiesnelheid zonder de kwaliteit van de gegenereerde sample op te offeren.