Analytic Distribution of Classifier-Free Guidance for Schedule Design

Technische Samenvatting: Analytische Distributie van Classifier-Free Guidance voor Schedule Design

Probleemstelling
Classifier-Free Guidance (CFG) is het standaardmechanisme voor conditionele generatie in diffusiemodellen, waarbij de conditionele en onconditionele scorefuncties worden gecombineerd via een guidance-sterkteparameter $\omega$. Hoewel dit empirisch succesvol is, blijft een fundamentele theoretische vraag onopgelost: uit welke distributie sampleert het deterministische CFG-reversieproces daadwerkelijk? Een veelgebruikte heuristiek gaat ervan uit dat CFG sampleert uit een genormaliseerde productdistributie $\tilde{r}_0 \propto p_0^\omega q_0^{1-\omega}$. Echter, deze pointwise interpretatie slaagt er niet in om het cumulatieve effect van tijdafhankelijke score-perturbaties langs het gehele sampling-traject te vatten. Bestaande theoretische werken verklaren specifieke faalmodi (bijv. mode collapse, oversaturatie) of stellen heuristieken voor, maar bieden geen exacte karakterisering van de geïnduceerde distributie onder de deterministische probability flow ODE. Dit gebrek aan een exacte analytische vorm belemmert het principiële ontwerp van tijdafhankelijke guidance-schedules.

Methodologie
De auteurs analyseren CFG binnen het kader van de deterministische probability flow Ordinary Differential Equation (ODE). Hun aanpak omvat drie hoofdfasen:

1. Theoretische Afleiding:

   • Zij formuleren het geleide reversieproces als een ODE waarbij de score wordt vervangen door de affine combinatie $s_\omega^t(x) = \omega \nabla \log p_t(x) + (1-\omega) \nabla \log q_t(x)$.
   • Door de Fokker–Planck-vergelijking af te leiden voor de genormaliseerde product-referentiedistributie $\tilde{r}_t$, identificeren zij een "interactiepotentiaal"-term die voortvloeit uit het verschil tussen de conditionele en de referentie-scores.
   • Met behulp van een characteristic-gebaseerde analyse lossen zij de exacte analytische padintegraal-representatie op voor de geïnduceerde distributie $\hat{r}_{t_0}$ bij een stoppertijd $t_0$. Deze afleiding dekt zowel constante guidance ($\omega(t) \equiv \omega$) als tijdafhankelijke guidance ($\omega(t)$).

2. Schedule Design (DG-CFG):

   • Bij het analyseren van de afgeleide padintegraal-formule observeren de auteurs dat het effectieve gewicht van de guidance bij elk tijdstap wordt gemoduleerd door de ruis-schedule coëfficiënt $\beta(t)$ (in de VPSDE-setting) en de guidance-deviatie $\omega(t)-1$.
   • Zij stellen vast dat standaard constante CFG impliciet de hoog-ruis regime overgewichtet, omdat $\beta(t)$ met ordes van grootte varieert, wat leidt tot saturatie en verlies van diversiteit.
   • Om dit te corrigeren, stellen zij Distribution-Guided CFG (DG-CFG) voor, een schedule die ontworpen is om de padintegraal-bijdrage te balanceren. De schedule wordt geconstrueerd door:
     • Het compenseren voor de niet-uniformiteit van $\beta(t)$.
     • Wegen op basis van signaalinhoud ($\sqrt{\bar{\alpha}_t}$) om de focus te leggen op tijdstappen met betekenisvol signaal.
     • Het mitigeren van de amplificatie van score-benaderingsfouten in het laag-ruis regime (waar $\sigma_t \to 0$) door te schalen met $(1-\bar{\alpha}_t)$.
   • De resulterende formule is: $\omega(t) = 1 + C \cdot (\bar{\omega} - 1) \cdot \frac{(1-\bar{\alpha}_t)\sqrt{\bar{\alpha}_t}}{\beta(t)}$.

3. Experimentele Validatie:

   • Toy Model: Zij verifiëren de theorie op een discrete distributie op een cirkel met analytische scores, waarbij ze empirische samples vergelijken met de theoretische padintegraal-voorspellingen.
   • Grootschalige Evaluatie: Zij evalueren DG-CFG op Stable Diffusion 1.5 (SD1.5) met de MS-COCO 2017 validatieset, waarbij ze het vergelijken met constante CFG en heuristische baselines (Interval CFG, $\beta$-CFG) over diverse guidance-sterktes en sampling step budgets.

Kernbijdragen

1. Exacte Analytische Distributie: Het artikel leidt de eerste exacte analytische padintegraal-representaties af voor de distributie geïnduceerd door deterministische CFG onder zowel constante als tijdafhankelijke guidance (Theorema 4.3 en 4.4). Deze formules onthullen dat CFG de doeldistributie wijzigt via een exponentiële padintegraal-correctie gewogen door $\omega(t)-1$, in plaats van simpelweg te samplen uit de productdistributie.
2. Principieel Schedule Design: Gebaseerd op de padintegraal-karakterisering, stellen de auteurs DG-CFG voor. Deze schedule balanceert expliciet de temporele bijdragen van de guidance, waarbij het corrigeert voor de niet-uniformiteit van de ruis-schedule, variatie in signaalinhoud en de amplificatie van fouten in het laag-ruis regime.
3. Empirische Verificatie: De theorie wordt rigoureus geverifieerd op een toy model waar de voorspelde distributies overeenkomen met empirische samples. Op SD1.5 demonstreert DG-CFG verbeterde robuustheid, betere controle over kleurverzadiging en een superieure diversiteit–getrouwheid-trade-off, met name bij hoge guidance-sterktes waar baselines degraderen.

Resultaten

• Toy Model: De empirische distributies van DDIM-sampling kwamen nauw overeen met de theoretische voorspellingen (Total Variation afstand $\approx 1-2\%$). Tijdafhankelijke guidance verbeterde de mode-balans (Min-Max ratio) aanzienlijk vergeleken met constante CFG, vooral bij hoge guidance-sterktes ($\omega=9$), waardoor de instorting van perifere modes werd voorkomen.
• Stable Diffusion 1.5:
  • Prestaties bij Hoge Guidance: Bij hoge guidance-sterktes ($\bar{\omega} \ge 15$) vertoonden constante en heuristische baselines ernstige kleurverzadiging en kwaliteitsdegradatie (negatieve ImageReward scores). DG-CFG behield positieve ImageReward scores en competitieve FID/CLIP scores.
  • Controle over Verzadiging: DG-CFG hield verzadigingsmetrieken aanzienlijk dichter bij de real-image referenties vergeleken met baselines, die de referentieniveaus vaak ruim overschreden.
  • Efficiëntie: In analyses met een vaste kwaliteit vereiste DG-CFG minder sampling stappen (NFE) om specifieke ImageReward, CLIP en FID targets te bereiken vergeleken met alle baselines. Bijvoorbeeld, om een ImageReward $\ge 0.2$ te bereiken bij $\bar{\omega}=23$, had DG-CFG 12 stappen nodig, terwijl de sterkste baseline 16 stappen vereiste.

Betekenis en Claims
Het artikel claimt dat de primaire betekenis ligt in het bieden van een theoretische fundering voor het begrijpen van CFG. Door verder te gaan dan de "product-distributie heuristiek" naar een exacte padintegraal-karakterisering, verhelderen de auteurs waarom constante guidance faalt (temporele onbalans in de padintegraal) en hoe men dit kan corrigeren.

De auteurs stellen dat DG-CFG niet louter een heuristiek is, maar een schedule die direct is afgeleid van de geïnduceerde distributionele representatie. De resultaten suggereren dat deze principiële aanpak sterkere guidance-sterktes mogelijk maakt zonder de typische trade-offs van saturatie en verlies van diversiteit, wat effectief de computationele kosten (sampling stappen) vermindert die nodig zijn om hoogwaardige conditionele generatie te bereiken. Het werk positioneert zich als complementair aan bestaande studies over faalmodi, door een verenigd analytisch kader te bieden dat de accumulatie van score-discrepanties verklaart en de vormgeving van de schedule stuurt.