Technische Samenvatting: ResilPhase

Probleemstelling

Diffusion Transformers (DiTs) hebben zichzelf gevestigd als de gouden standaard voor hoogwaardige visuele generatie vanwege hun schaalbare architectuur. Echter, hun afhankelijkheid van iteratieve denoisingsprocessen creëert een significante bottleneck in de inferentielatentie, wat vaak tientallen tot honderden sequentiële stappen vereist die niet geparallelliseerd kunnen worden. Recente inspanningen voor training-vrije versnelling zijn verschoven van passieve "cache-then-reuse" paradigma's naar "cache-then-forecast" schema's, die polynomen gebruiken om de trajecten van features te voorspellen.

Ondanks deze vooruitgang lijden bestaande methoden onder ernstige kwaliteitsdegradatie bij hoge acceleratieverhoudingen. De auteurs identificeren drie grondoorzaken voor dit falen:

1. Ruimtelijke Instabiliteit: De meeste methoden vertrouwen op laag-specifieke forecasting, waarbij polynomen worden aangepast aan uiterst grillige micro-features binnen Transformer-blokken. Dit veroorzaakt dat voorspellingsfouten exponentieel door de netwerkdiepte cascaderen en brengt een enorme geheugenoverhead met zich mee.
2. Temporele Instabiliteit (Afgeleide-fout): Huidige forecasting-methoden vertrouwen op afgeleide-gebaseerde benaderingen (bijv. Taylor-reeksen, Hermite-polynomen). Hoewel het macro-traject van het diffusieproces vloeiend is, zijn de hogere-orde temporele afgeleiden inherent chaotisch. Het schatten hiervan via eindige differenties versterkt de ruis exponentieel, wat leidt tot divergerende voorspellingen.
3. Numerieke Instabiliteit (Runge-fenomeen): Het uitvoeren van polynomiale extrapolatie over uniforme, discrete tijdstappen triggert het Runge-fenomeen, wat ongecontroleerde oscillaties aan de randen en catastrofale kwaliteitsdegradatie veroorzaakt bij agressieve acceleratieverhoudingen.

Methodologie: ResilPhase

De auteurs stellen ResilPhase voor, een ruisbestendig, plug-and-play acceleratieframework dat versnelde inferentie herformuleert als stabiele macro-traject extrapolatie in de Ordinary Differential Equation (ODE) ruimte. Het framework pakt de geïdentificeerde bottlenecks aan via drie kerncomponenten:

1. ODE-gealigneerde Macro-Traject Targeting (Global Drift)

In plaats van intermediaire laag-specifieke features te voorspellen, verlegt ResilPhase de voorspellingsdoelstelling naar de Global Drift (GD). De GD wordt gedefend als de end-to-end staat-verplaatsing tussen de initiële input van het model en de uiteindelijke output ($D(x_t) = G(x_t) - x_t$).

• Mechanisme: Een enkele macro-voorspeller voorspelt de GD voor overgeslagen stappen, en de uiteindelijke output wordt gereconstrueerd door deze drift aan de input toe te voegen.
• Voordeel: Deze aanpak stemt de extrapolator af op de continue probability flow ODE, waardoor de inherente ruimtelijke cascade-foutaccumulatie van laag-specifieke methoden strikt wordt doorbroken. Het reduceert de foutmarge van een afhankelijkheid van de netwerkdiepte ($O((1+L_f)^L)$) naar een constante ($O(1)$) en elimineert de geheugenoverhead van het cachen van blok-features.

2. Afgeleide-vrije Barycentrische Lagrange Extrapolator

Om de "afgeleide-fout" te omzeilen waarbij hogere-orde afgeleiden ruisig zijn, gebruikt ResilPhase een puur afgeleide-vrije benadering.

• Mechanisme: Het framework maakt gebruik van Barycentrische Lagrange Interpolatie. In tegenstelling tot standaard Lagrange-interpolatie die een complexiteit heeft van $O(m^2)$, maakt de barycentrische vorm het mogelijk om gewichten vooraf te berekenen en te cachen, wat de complexiteit reduceert tot $O(m)$.
• Voordeel: Door het vermijden van eindige-differentie benaderingen van afgeleiden, omzeilt de methode volledig de versterking van gradiëntruis en chaotische hogere-orde afgeleiden, wat resulteert in aanzienlijk lagere en stabielere voorspellingsfouten over variërende extrapolatie-intervallen.

3. Plug-and-Play Fase Mapping

Om de numerieke instabiliteit te onderdrukken die wordt veroorzaakt door het Runge-fenomeen op uniforme tijdstappen, introduceren de auteurs een Phase Mapping mechanisme.

• Mechanisme: Deze techniek projecteert discrete tijdstappen ($t$) niet-lineair naar een begrensde fase-domein ($s$). Twee specifieke mapping-strategieën worden voorgesteld:
  • Chebyshev Mapping: Gebruikt Chebyshev-knopen om tijdstappen te projecteren, optimaal voor class-conditional generatie.
  • Balanced Mapping: Een data-gedreven, adaptieve strategie die een hyperbooltangent-functie gebruikt om gemapte coördinaten dynamisch te begrenzen op basis van de spreiding van recente tijdstappen. Dit is afgestemd op complexe text-to-image en text-to-video taken.
• Voordeel: Door het extrapolatie-domein te hermappen, minimaliseert de methode de knoop-afhankelijke foutterm in de Lagrange-interpolatiefoutgrenzen, waardoor een divergerend numeriek probleem effectief wordt getransformeerd in een stabiele voorspelling.

Belangrijkste Bijdragen

1. Global Drift Targeting: Een verschuiving van laag-specifieke feature-voorspelling naar end-to-end Global Drift forecasting, wat ruimtelijke cascade-fouten en geheugenoverhead elimineert terwijl het aansluit bij de continue ODE.
2. Afgeleide-vrije Extrapolatie: De introductie van een ruisbestendige, $O(N)$ Barycentrische Lagrange extrapolator die de inherente ruis en chaotische afgeleiden van eindige-differentie benaderingen omzeilt.
3. Phase Mapping Mechanisme: Een theoretisch gefundeerde, plug-and-play techniek die het extrapolatie-domein reguleert via Chebyshev of Balanced Mapping, waardoor de polynomiale extrapolatie-foutgrenzen strikt worden geminimaliseerd en oscillatieve groei wordt onderdrukt.
4. Plug-and-Play Stabilisator: De demonstratie dat Phase Mapping kan worden geïntegreerd in bestaande afgeleide-gebaseerde accelerators (bijv. TaylorSeer, HiCache) om hun stabiliteit en prestaties te verbeteren.

Experimentele Resultaten

De auteurs evalueerden ResilPhase op FLUX.1-dev (text-to-image), HunyuanVideo (text-to-video), en DiT-XL/2 (class-conditional ImageNet generatie).

• Text-to-Image (FLUX.1-dev): ResilPhase behaalde een versnelling van ongeveer 4.97× terwijl een ImageReward van 1.0258 werd behouden, waarmee het de leidende baseline TaylorSeer (0.6241) met meer dan 60% versloeg. Het vertoonde ook een 52% lagere LPIPS-score vergeleken met TaylorSeer. Kwalitatieve resultaten toonden aan dat ResilPhase gedetailleerde structuren en kleuraccuratesse behield waar baselines leden onder ernstige artefacten.
• Text-to-Video (HunyuanVideo): Bij een versnelling van ~5× behaalde ResilPhase een VBench-score van 79.78 en een 10% lagere LPIPS vergeleken met de SOTA TeaCache. Het behield temporele coherentie en semantische accuratesse, terwijl concurrenten last hadden van objectvervaging en bewegingsdistortie.
• Class-Conditional Generation (ImageNet): Op DiT-XL/2 behaalde ResilPhase een 2.78× versnelling met een FID van 2.347, waarmee het de volledige 50-staps DDIM baseline (FID 2.367) versloeg. Bij een agressievere 4.41× versnelling behield het een FID van 2.832, wat aanzienlijk beter is dan concurrenten zoals SpeCa (FID 6.866) en ClusCa (FID 3.251).
• Ablatie-studies: Experimenten bevestigden dat Global Drift targeting beter presteert dan laag-specifieke voorspelling en dat Balanced Mapping superieur is aan Chebyshev Mapping voor tekst-geconditioneerde taken. Integratie van Phase Mapping in bestaande accelerators verbeterde consistent de ImageReward en reduceerde de extrapolatie-foutgrenzen.

Betekenis en Claims

Het artikel claimt dat ResilPhase een nieuwe state-of-the-art balans vestigt tussen inferentie-acceleratie en uitzonderlijke generatiekwaliteit. Door de ruimtelijke, temporele en numerieke beperkingen van bestaande paradigma's aan te pakken, maakt het agressieve acceleratieverhoudingen (tot ~5×) mogelijk zonder de eerder waargenomen ernstige kwaliteitsdegradatie.

De auteurs positioneren ResilPhase niet alleen als een op zichzelf staande high-performance accelerator, maar ook als een robuuste, plug-and-play stabilisator die extrapolatiefouten in bestaande afgeleide-gebaseerde accelerators kan mitigeren. Het werk biedt een theoretisch en praktisch kader voor stabiele macro-traject extrapolatie, wat een levensvatbaar pad biedt naar de real-time en grootschalige inzet van Diffusion Transformers.