Resumo Técnico: OTCache

Declaração do Problema

Modelos de difusão, particularmente aqueles baseados em Flow Matching (FM) e Rectified Flow, alcançaram resultados de estado da arte em síntese de imagem e vídeo. No entanto, sua implementação prática em cenários de recursos limitados ou interativos é dificultada pelo enorme overhead computacional e pelas pegadas de memória associadas aos processos iterativos de denoising.

Estratégias de cache sem treinamento (training-free) surgiram para acelerar a inferência através do reuso de características intermediárias, mas métodos baseados em grafos existentes (ex: MeanCache, LeMiCa) enfrentam limitações significativas em regimes de baixo NFE (Number of Function Evaluations). Esses métodos tipicamente formulam o escalonamento de cache como um problema de caminho mais curto restrito em um grafo direcionado, baseando-se em uma suposição de independência aditiva. Essa suposição postula que a degradação end-to-end de um escalonamento pode ser aproximada pela soma de erros locais independentes. Os autores argumentam que esse substituto (surrogate) falha sob aceleração extrema (baixo NFE), onde grandes passos de integração fazem com que decisões de cache anteriores interajam de forma não linear com passos subsequentes, levando a perdas substanciais de fidelidade que otimizadores baseados em grafos não conseguem recuperar. Além disso, abordagens existentes tratam cada orçamento (budget) de forma independente, ignorando as regularidades estruturais e a evolução suave de escalonamentos ideais através de diferentes orçamentos de inferência.

Metodologia: OTCache

Para abordar essas limitações, os autores propõem o OTCache, um framework livre de treinamento que modela o escalonamento de cache como uma evolução suave no espaço de políticas, inspirado em Transporte Ótimo (OT). O framework opera em três estágios distintos:

1. Estágio 1: Aquisição de Política de Referência (Alto Orçamento)
   Sob uma configuração conservadora de alto orçamento (ex: $B_{ref} = 20$), um método de cache padrão baseado em grafos (instanciado como MeanCache) é usado para gerar um escalonamento de referência de alta fidelidade ($\pi_{ref}$). Neste regime, o substituto de caminho mais curto aditivo permanece confiável, fornecendo um prior estrutural robusto para a trajetória da ODE subjacente.

2. Estágio 2: Busca de Política Âncora (Baixo Orçamento)
   No regime extremo de baixo orçamento (ex: $B_{anc} = 8$), onde substitutos baseados em grafos falham, o OTCache realiza uma busca de caixa preta (black-box search) leve para encontrar um escalonamento âncora próximo do ideal ($\pi_{anc}$).

   • Objetivo: Em vez de minimizar erros de arestas locais, a busca minimiza diretamente um objetivo perceptual end-to-end (LPIPS) entre a saída com cache e o ground truth de orçamento total.
   • Otimização: A busca utiliza Optuna com CMA-ES, inicializada com um warm start a partir do escalonamento MeanCache. A otimização ocorre em um espaço de "gap" (diferença de primeira ordem) para preservar a monotonicidade e melhorar o condicionamento do cenário de busca.

3. Estágio 3: Predição de Caminho Ótimo (Orçamento Alvo)
   Para prever escalonamentos para quaisquer orçamentos alvo ($B \in [B_{anc}, B_{ref}]$), o OTCache modela a transição entre as políticas âncora e de referência como uma trajetória suave no espaço de medidas de probabilidade.

   • Representação Contínua: Escalonamentos discretos são elevados a curvas de warping temporal estritamente monotônicas e contínuas usando Polinômios de Interpolação de Hermite Cúbica por Partes (PCHIP).
   • Interpolação de Quantis: O escalonamento alvo é gerado via interpolação geodésica de Wasserstein (interpolação linear de funções de quantil) entre as curvas âncora e de referência.
   • Geodésica Ponderada: Os pesos de interpolação são determinados por dois priors: Localidade (distância ao orçamento alvo) e Confiança (confiança na referência de alto orçamento).
   • Realização Conservadora: A geodésica contínua é discretizada de volta em um escalonamento usando warping de lei de potência ($\rho \ge 1.0$) para enviesar a densidade de NFE para os estágios iniciais da ODE reversa, onde a volatilidade do campo vetorial é mais alta.

Principais Contribuições

• Repensando o Escalonamento de Cache: Os autores identificam duas falhas fundamentais nos escalonadores baseados em grafos existentes: (i) o desalinhamento dos substitutos de caminho mais curto aditivo sob propagação de erro não linear em regimes de baixo NFE, e (ii) a falha em aproveitar as relações estruturais entre diferentes orçamentos.
• Evolução de Escalonamento Condicionada ao Orçamento: O OTCache introduz um framework de três estágios que trata os escalonamentos de cache como medidas de probabilidade. Ao modelar sua evolução como uma trajetória suave no espaço de políticas, o método utiliza a geometria do Transporte Ótimo para interpolar entre endpoints confiáveis, evitando as armadilhas da otimização de orçamento independente.
• Aceleração Sem Treinamento: O framework não requer retreinamento do modelo de difusão, tornando-o imediatamente aplicável a arquiteturas existentes.

Resultados Experimentais

Os autores avaliaram o OTCache em três modelos generativos de estado da arte: FLUX.1 [dev], Qwen-Image e HunyuanVideo.

• FLUX.1 [dev]: Com uma aceleração de 4.50× (10 passos), o OTCache alcançou um LPIPS de 0.254 e um ImageReward de 0.996. Isso superou significativamente o MeanCache (LPIPS 0.272) e outros baselines, que sofreram com inconsistências de conteúdo e distorções de objetos em velocidades similares.
• Qwen-Image: O OTCache alcançou uma aceleração de 4.70× (10 passos) com um LPIPS de 0.171, demonstrando fidelidade estrutural superior (SSIM 0.864, PSNR 21.48) comparado ao MeanCache e LeMiCa, que exibiram mudanças de conteúdo e reposicionamento de objetos perceptíveis.
• HunyuanVideo: Para geração de texto-para-vídeo, o OTCache alcançou uma aceleração de 3.66× com um score VBench de 80.37% e LPIPS de 0.252, superando o MeanCache (3.59×) e evitando os artefatos temporais vistos em métodos como DiCache e TeaCache.

Estudos de Ablação:

• Consistência de Conteúdo: O OTCache manteve semânticas de palavras raras e detalhes estruturais (ex: objetos específicos em uma cena) em altas taxas de aceleração onde o MeanCache exibiu deriva de conteúdo.
• Parâmetro $\rho$: Um warping não linear da densidade de NFE ($\rho = 1.3$) foi encontrado como ideal, equilibrando a estabilidade do estágio inicial com o refinamento do estágio final.
• Eficiência de Busca: A busca da âncora no Estágio 2 mostrou-se altamente eficiente, com o número mediano de tentativas para encontrar o ótimo Top-1 sendo de aproximadamente 50.

Significância e Alegações

O artigo afirma que o OTCache fornece uma nova perspectiva sobre a aceleração de modelos de difusão ao mudar de uma otimização de caminho mais curto discreta e independente para um modelamento de escalonamento consciente da geometria. Ao interpretar a evolução das políticas de cache através dos orçamentos como uma trajetória suave no espaço de políticas e utilizar o Transporte Ótimo para interpolação, o OTCache recupera perdas de fidelidade que métodos tradicionais baseados em grafos não conseguem abordar em regimes de baixo NFE. O trabalho demonstra que é possível alcançar uma aceleração substancial (até 4.7×) enquanto mantém ou até melhora a fidelidade de geração em comparação com baselines de estado da arte, tudo isso sem a necessidade de retreinar o modelo.