Sintesi Tecnica: OTCache

Problematica

I modelli di diffusione, in particolare quelli basati su Flow Matching (FM) e Rectified Flow, hanno raggiunto risultati allo stato dell'arte nella sintesi di immagini e video. Tuttavia, la loro implementazione pratica in scenari con risorse limitate o interattivi è ostacolata dall'enorme overhead computazionale e dall'impronta di memoria associati ai processi iterativi di denoising.

Sebbene siano emerse strategie di caching training-free per accelerare l'inferenza riutilizzando le feature intermedie, i metodi basati su grafi esistenti (ad es. MeanCache, LeMiCa) affrontano limitazioni significative nei regimi a basso NFE (Number of Function Evaluations). Questi metodi tipicamente formulano lo scheduling del cache come un problema di cammino minimo vincolato su un grafo diretto, facendo affidamento su un'ipotesi di indipendenza additiva. Tale ipotesi postula che la degradazione end-to-end di uno schedule possa essere approssimata sommando gli errori locali indipendenti degli archi. Gli autori sostengono che questo surrogato fallisca sotto accelerazione estrema (basso NFE), dove i grandi passi di integrazione causano interazioni non lineari tra le decisioni di caching precoci e i passaggi successivi, portando a perdite di fedeltà sostanziali che gli ottimizzatori basati su grafi non riescono a recuperare. Inoltre, gli approcci esistenti trattano ogni budget in modo indipendente, ignorando le regolarità strutturali e l'evoluzione fluida degli schedule ottimali attraverso diversi budget di inferenza.

Metodologia: OTCache

Per affrontare queste limitazioni, gli autori propongono OTCache, un framework training-free che modella lo scheduling del cache come un'evoluzione fluida nello spazio delle policy, ispirandosi al Trasporto Ottimale (OT). Il framework opera in tre fasi distinte:

1. Fase 1: Acquisizione della Reference Policy (High-Budget)
   Sotto un setting conservativo ad alto budget (ad es. $B_{ref} = 20$), viene utilizzato un metodo di caching standard basato su grafi (istanziato come MeanCache) per generare uno schedule di riferimento ad alta fedeltà ($\pi_{ref}$). In questo regime, il surrogato del cammino minimo additivo rimane affidabile, fornendo un robusto prior strutturale per la traiettoria dell'ODE sottostante.

2. Fase 2: Ricerca della Anchor Policy (Low-Budget)
   Nel regime estremo a basso budget (ad es. $B_{anc} = 8$), dove i surrogati basati su grafi falliscono, OTCache esegue una ricerca black-box leggera per trovare uno schedule ancora (anchor) vicino all'ottimo ($\pi_{anc}$).

   • Obiettivo: Invece di minimizzare gli errori locali degli archi, la ricerca minimizza direttamente un obiettivo percettivo end-to-end (LPIPS) tra l'output con cache e il ground truth a budget completo.
   • Ottimizzazione: La ricerca utilizza Optuna con CMA-ES, inizializzata con un warm start dallo schedule di MeanCache. L'ottimizzazione avviene in uno spazio di "gap" (differenza del primo ordine) per preservare la monotonicità e migliorare il condizionamento del landscape di ricerca.

3. Fase 3: Predizione dello Path Ottimale (Target Budget)
   Per predire gli schedule per budget target arbitrari ($B \in [B_{anc}, B_{ref}]$), OTCache modella la transizione tra le policy anchor e reference come una traiettoria fluida nello spazio delle misure di probabilità.

   • Rappresentazione Continua: Gli schedule discreti vengono elevati a curve di warping temporale continue e strettamente monotone utilizzando polinomi di interpolazione cubica di Hermite (PCHIP).
   • Interpolazione dei Quantili: Lo schedule target viene generato tramite interpolazione geodetica di Wasserstein (interpolazione lineare delle funzioni quantile) tra le curve anchor e reference.
   • Geodetica Pesata: I pesi di interpolazione sono determinati da due prior: Località (distanza dal budget target) e Confidenza (fiducia nella reference ad alto budget).
   • Realizzazione Conservativa: La geodetica continua viene discretizzata nuovamente in uno schedule utilizzando un warping a legge di potenza ($\rho \ge 1.0$) per dare un bias alla densità di NFE verso le prime fasi dell'ODE inversa, dove la volatilità del campo vettoriale è più alta.

Contributi Chiave

• Ripensare lo Scheduling del Cache: Gli autori identificano due difetti fondamentali negli scheduler basati su grafi esistenti: (i) il disallineamento dei surrogati del cammino minimo additivo sotto la propagazione dell'errore non lineare nei regimi a basso NFE, e (ii) il fallimento nel sfruttare le relazioni strutturali tra diversi budget.
• Evoluzione dello Schedule Condizionata al Budget: OTCache introduce un framework in tre fasi che tratta gli schedule del cache come misure di probabilità. Modellando la loro evoluzione come una traiettoria fluida nello spazio delle policy, il metodo sfrutta la geometria del Trasporto Ottimale per interpolare tra endpoint affidabili, evitando le insidie dell'ottimizzazione indipendente del budget.
• Accelerazione Training-Free: Il framework non richiede il retraining del modello di diffusione, rendendolo immediatamente applicabile ad architetture esistenti.

Risultati Sperimentali

Gli autori hanno valutato OTCache su tre modelli generativi allo stato dell'arte: FLUX.1 [dev], Qwen-Image e HunyuanVideo.

• FLUX.1 [dev]: Con un'accelerazione di 4.50× (10 step), OTCache ha ottenuto un LPIPS di 0.254 e un ImageReward di 0.996. Questo ha superato significativamente MeanCache (LPIPS 0.272) e altri baseline, che soffrivano di inconsistenze di contenuto e distorsioni degli oggetti a velocità simili.
• Qwen-Image: OTCache ha ottenuto un'accelerazione di 4.70× (10 step) con un LPIPS di 0.171, dimostrando una fedeltà strutturale superiore (SSIM 0.864, PSNR 21.48) rispetto a MeanCache e LeMiCa, che presentavano evidenti spostamenti di contenuto e riposizionamento di oggetti.
• HunyuanVideo: Per la generazione di testo-video, OTCache ha ottenuto un'accelerazione di 3.66× con un punteggio VBench di 80.37% e LPIPS di 0.252, superando MeanCache (3.59×) ed evitando gli artefatti temporali visti in metodi come DiCache e TeaCache.

Studi di Ablazione:

• Consistenza del Contenuto: OTCache ha mantenuto la semantica delle parole rare e i dettagli strutturali (ad es. oggetti specifici in una scena) ad alti rapporti di accelerazione dove MeanCache mostrava un drift del contenuto.
• Parametro $\rho$: È stata trovata un'allocazione non lineare della densità di NFE ($\rho = 1.3$) come ottimale, bilanciando la stabilità della fase iniziale con il raffinamento della fase finale.
• Efficienza della Ricerca: La ricerca dell'anchor nella Fase 2 si è dimostrata altamente efficiente, con il numero mediano di trial necessari per trovare l'ottimo Top-1 di circa 50.

Significato e Rivendicazioni

Il paper sostiene che OTCache fornisca una nuova prospettiva sull'accelerazione dei modelli di diffusione, passando da un'ottimizzazione discreta e indipendente del cammino minimo a una modellazione dello schedule consapevole della geometria. Interpretando l'evoluzione delle policy di caching attraverso i budget come una traiettoria fluida nello spazio delle policy e utilizzando il Trasporto Ottimale per l'interpolazione, OTCache recupera le perdite di fedeltà che i metodi tradizionali basati su grafi non riescono ad affrontare nei regimi a basso NFE. Il lavoro dimosta che è possibile ottenere un'accelerazione sostanziale (fino a 4.7×) mantenendo o addirittura migliorando la fedeltà della generazione rispetto ai baseline allo stato dell'arte, il tutto senza necessità di retraining del modello.