Riepilogo Tecnico: Il Campionamento Monotono è Necessario nei Modelli di Diffusione?

1. Enunciato del Problema

Per sei anni, i modelli di diffusione hanno fatto affidamento su un'unica assunzione strutturale non dichiarata: il livello di rumore diminuisce in modo monotono lungo la traiettoria di campionamento. Sebbene il campo abbia esaustivamente analizzato quasi ogni altra dimensione di progettazione — inclusi operatori di corruzione, obiettivi di addestramento, schedule di varianza, architetture e solver ODE — la necessità della monotonia stessa non è mai stata testata sistematicamente.

Tre filoni indipendenti di evidenze suggeriscono che questa assunzione potrebbe essere una convenzione storica piuttosto che un requisito fondamentale:

1. Validità Matematica: L'equazione di aggiornamento DDIM è ben definita per qualsiasi scelta del prossimo passo temporale, non solo per quelle strettamente decrescenti.
2. "Riscaldamento" Stocastico: Il campionamento stocastico DDPM aggiunge implicitamente rumore fresco a ogni passo, contrastando parzialmente i progressi della rimozione del rumore, il che produce risultati migliori rispetto al DDIM deterministico con budget elevati di valutazioni della funzione (NFE).
3. Campionamento con Riavvio: L'iniezione esplicita di rumore a metà traiettoria (accoppiata con correzione) ha mostrato risultati all'avanguardia in contesti specifici.

Questo porta alla domanda centrale: il campionamento monotono è semplicemente una convenzione che potrebbe essere rilassata gratuitamente, o è essenziale? Nello specifico, aumenti strutturati e deliberati di rumore non monotoni ("riscaldamento") possono aiutare i campionatori a uscire da traiettorie subottimali e raggiungere campioni migliori?

2. Metodologia

Gli autori hanno progettato un test empirico sistematico per valutare la necessità della monotonia su tre famiglie distinte di modelli generativi:

• DDPM (Tempo discreto, passi temporali interi)
• EDM (Livelli di rumore continui, integrazione di Heun)
• Flow Matching (Tempo continuo, trasporto ottimo)

Configurazione Sperimentale

• Dataset: CIFAR-10.
• Budget: NFE compresi tra 10 e 200.
• Metrica: Fréchet Inception Distance (FID).
• Baseline: DDIM monotono (deterministico) per tutti i modelli.

Famiglie di Schedule Non Monotoni

Gli autori hanno costruito quattro famiglie di schedule strutturati non monotoni, inserendo passi di "riscaldamento" (dove il rumore aumenta) all'interno di un budget NFE fisso:

1. Singolo Riscaldamento (SR): Un singolo salto all'indietro di entità $\delta$ in una posizione specifica $t_{reheat}$.
2. Sega (ST): Salti all'indietro periodici di entità uguale.
3. Oscillazione Smorzata (DO): Riscaldamenti che decadono geometricamente concentrati attorno al livello critico di rumore ($\log \text{SNR} \approx 0$), dove è determinata la qualità percettiva.
4. Riscaldamento Adattivo (AR): Uno schedule online che attiva riscaldamenti quando le previsioni di punteggio consecutive divergono oltre una soglia calibrata.

Lo studio ha incluso un'ablazione iperparametrica su 42 celle su $(t_{reheat}, \delta)$ per lo schedule a Singolo Riscaldamento su DDPM. Crucialmente, per le famiglie a budget fisso, i riscaldamenti sono stati inseriti all'interno del budget NFE, non aggiunti sopra, garantendo un confronto equo dell'efficienza.

3. Risultati Chiave

A. Il Risultato Negativo: Il Riscaldamento Non Aiuta Mai

Su 90 configurazioni testate (che coprono 3 modelli, 4 tipi di schedule e 4 budget NFE), nessuna configurazione non monotona testata ha migliorato la baseline monotona.

• La penalità (aumento di FID) è cresciuta in modo monotono con l'entità del riscaldamento $\delta$ in ogni posizione.
• Non vi sono stati minimi locali sotto zero; anche i riscaldamenti più piccoli hanno comportato una penalità positiva.
• Questo risultato è valso per schedule deterministici, varianti corrette stocasticamente e criteri adattivi online.

B. Il Risultato Positivo: Entità della Penalità Dipendente dall'Architettura

Sebbene il riscaldamento danneggi uniformemente, l'entità della penalità varia drasticamente (di quasi tre ordini di grandezza) a seconda dell'architettura del modello. Questa variazione è una proprietà strutturale del denoiser addestrato, non rumore di misurazione:

• DDPM: Soffre una penalità persistente e sostanziale (es. +1.31 FID a NFE=100). La penalità non converge a zero nemmeno a budget elevati.
• Flow Matching: Mostra una penalità intermedia (+0.04 FID a NFE=100).
• EDM: Mostra una penalità indistinguibile da zero (−0.003 FID a NFE=100), statisticamente entro il livello di rumore.

C. Risoluzione delle Confusioni della Comunità

Il lavoro chiarisce due apparenti contraddizioni nella letteratura precedente:

1. DDPM vs. DDIM: Il fatto che il DDPM stocastico ($\eta=1$) superi il DDIM deterministico ad alto NFE (NFE=200) non è dovuto al riscaldamento. Gli autori mostrano che la stocasticità fornisce una componente ortogonale di diversificazione della traiettoria sul manifold dei dati, mentre il riscaldamento deterministico opera puramente nella direzione parallela (ri-rumore lungo il vettore di rumore previsto).
2. RePaint: Il successo di RePaint (che utilizza il riscaldamento) è attribuito ai suoi ancoraggi di condizionamento per passo (pixel noti), che fissano la traiettoria a un punto dati specifico. Il puro riscaldamento senza tali ancoraggi è uniformemente dannoso.

4. Contributo Teorico: Coefficiente di Sensibilità allo Schedule (SSC)

Gli autori formalizzano la variazione osservata nella penalità come Coefficiente di Sensibilità allo Schedule (SSC).

• Definizione: $SSC := \lim_{N \to \infty} \frac{[\Delta \text{FID}_{\text{DO}}(N)]_+}{[\Delta \text{FID}_{\text{SR}}(N)]_+}$, dove $[x]_+ = \max(x, 0)$.
• Base Teorica: Un passo di riscaldamento forza il denoiser a rielaborare una stima corrotta. Per un denoiser Bayes-ottimale, questo secondo passaggio non estrae nuove informazioni, rendendo il passo uno NFE sprecato con penalità zero. Per un denoiser imperfetto, gli errori si accumulano. La penalità è limitata dalla costante di Lipschitz locale del denoiser ($L$) e dal suo errore ($\epsilon$) al livello di rumore riscaldato.
• Implicazione: $SSC > 0$ fornisce evidenza che il denoiser addestrato non ha convergito al denoiser Bayes-ottimale al livello di rumore critico.
• Utilità: L'SSC è un diagnostico economico e agnostico rispetto all'architettura (richiede solo due run di generazione da 256 campioni) che completa il FID sondando la coerenza interna del denoiser.

5. Significato e Affermazioni

Il lavoro afferma di fornire la prima risposta empirica sistematica alla domanda se la monotonia sia necessaria nel campionamento di diffusione.

1. Validazione della Convenzione: I risultati giustificano la dipendenza tacita del campo dagli schedule monotoni. Le estensioni non monotone strutturate sono uniformemente dannose ai budget e alle architetture testati.
2. Nuovo Strumento Diagnostico: L'introduzione dell'SSC offre una nuova sonda per la qualità dei modelli di diffusione. Rivela che modelli di alta qualità (come EDM) sono robusti alle perturbazioni dello schedule (SSC $\approx$ 0), mentre modelli di qualità inferiore o meno convergenti (come il DDPM testato) sono fragili (SSC > 0).
3. Chiarimento dei Meccanismi: Il lavoro districa gli effetti della stocasticità, del condizionamento e del riscaldamento esplicito, risolvendo la confusione sul motivo per cui certi metodi stocastici o condizionati hanno successo mentre gli schedule puramente non monotoni falliscono.

Gli autori concludono che lo spazio di ricerca per la progettazione utile del campionatore rimane all'interno degli schedule monotoni, e che la variazione nelle penalità di riscaldamento funge da indicatore strutturale della qualità del denoiser.