🤖 AI

CachedSearch: Training-Free Cached Exploration for Test-Time Search in Video Diffusion

O artigo introduz o CachedSearch, um método livre de treinamento que acelera a busca em tempo de teste em modelos de difusão de vídeo ao realizar o cache agressivo de rollouts candidatos para preservar a fidelidade de classificação, e então regerar apenas o vencedor principal com computação total, alcançando assim ganhos de desempenho próximos do ideal com custo significativamente reduzido em várias arquiteturas de modelos.

Autores originais: Shreshth Saini, Neil Birkbeck, Yilin Wang, Balu Adsumilli, Alan C. Bovik

Publicado 2026-07-31

📖 3 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Shreshth Saini, Neil Birkbeck, Yilin Wang, Balu Adsumilli, Alan C. Bovik

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está tentando encontrar a música perfeita em uma biblioteca imensa. Você tem um assistente muito rápido, mas um pouco desastrado, que consegue escanear milhares de músicas em segundos, mas às vezes confunde as letras ou pula um tempo da batida. Você também tem um assistente lento e perfeccionista que ouve cada nota perfeitamente, mas leva uma eternidade para verificar apenas uma música. No mundo da inteligência artificial, especificamente na "geração de vídeo", estamos em uma situação semelhante. Modelos de IA podem criar vídeos a partir de descrições de texto, mas produzir um único vídeo de alta qualidade é incrivelmente caro e lento, como contratar o assistente perfeccionista para cada música. Para obter o melhor resultado, pesquisadores usam um truque chamado "busca em tempo de teste" (test-time search): eles pedem à IA para fazer muitas versões diferentes de um vídeo (candidatos) e depois escolhem a absolutamente melhor. O problema é que criar todos esses candidatos custa uma fortuna em tempo e poder computacional, e a maioria deles acaba sendo descartada de qualquer maneira.

Este artigo apresenta uma nova estratégia inteligente chamada CachedSearch para resolver este problema caro. Pense nisso como um sistema de "rascunho e finalização". Em vez de pedir ao assistente perfeccionista para escrever cada um dos candidatos do zero, a equipe usa o assistente rápido e desastrado para gerar rascunhos brutos de todas as opções rapidamente. Eles usam um truque especial de "cache" para acelerar isso, que reutiliza partes do trabalho de um passo para o próximo, fazendo com que os rascunhos apareçam cerca de duas vezes mais rápido. Crucialmente, os pesquisadores testaram se esses rascunhos brutos são bons o suficiente para dizer qual vídeo é o melhor. Eles descobriram que, embora os rascunhos não sejam perfeitos, eles classificam os candidatos quase exatamente da mesma forma que a versão lenta e perfeita faria. Portanto, a estratégia é: usar os rascunhos rápidos para encontrar o vencedor e, só então, pedir ao assistente lento e perfeccionista para criar esse único vídeo vencedor do zero.

Os resultados são impressionantes. Ao usar esta abordagem de "explorar barato, comprometer-se totalmente", a equipe descobriu que poderia manter cerca de 94,7% da melhoria de qualidade que você obteria ao verificar cada opção perfeitamente, mas isso custa apenas 63% do tempo. Na verdade, se você tiver o mesmo tempo (orçamento) que verificar quatro vídeos perfeitos, este método permite que você verifique oito rascunhos brutos, encontre o melhor e o torne perfeito, resultando em um resultado 38% melhor do que o método antigo. O artigo mostra que isso funciona em diferentes modelos de IA, desde os pequenos com 1,3 bilhão de parâmetros até os enormes com 14 bilhões. A descoberta principal é que os "erros" cometidos pelos rascunhos rápidos acontecem principalmente quando os vídeos já são tão semelhantes que mal importa qual deles você escolher. Isso significa que o método é seguro para uso sem a necessidade de retreinar os modelos de IA, agindo como um upgrade de plug-in que torna a geração de vídeo muito mais rápida e barata sem perder a magia.

Resumo Técnico: CachedSearch - Exploração com Cache Livre de Treinamento para Busca em Tempo de Teste em Difusão de Vídeo

1. Declaração do Problema

Os modelos de difusão de vídeo representam uma das cargas de trabalho generativas computacionalmente mais caras. Estratégias de busca em tempo de teste (ex: Best-of-N), que amostram múltiplos candidatos para selecionar a saída de maior pontuação via um verificador, exacerbam esse custo em 2 a 10 vezes. No Best-of-N padrão, cada candidato é gerado com o custo computacional total, embora a maioria seja descartada.

Embora existam técnicas de cache livres de treinamento para acelerar rollouts individuais ao reutilizar características entre etapas de denoising (proporcionando ganhos de velocidade de 2 a 3 vezes), sua aplicação à busca em tempo de teste permanece inexplorada. O obstáculo central é sutil: o cache é perdedor (lossy). Embora possa preservar a fidelidade ao nível de pixel em comparações com sementes correspondentes, não está claro se ele preserva a ordenação relativa dos candidatos sob um verificador. Se o cache embaralhar os rankings, o processo de busca pode selecionar o candidato errado, anulando os ganhos de eficiência. Este artigo aborda se o cache corrompe a classificação de candidatos na busca de vídeo em tempo de teste e propõe um método para utilizar o cache de forma segura.

2. Metodologia: CachedSearch

Os autores propõem o CachedSearch, um protocolo livre de treinamento e agnóstico a verificadores que desacopla a exploração da entrega. O método opera sob o princípio de que, embora a fidelidade de pixel possa degradar ligeiramente sob o uso de cache, a classificação relativa dos candidatos geralmente permanece intacta.

Fluxo de Trabalho Principal

Exploração (Barata): Gera $N$ candidatos usando cache agressivo. Um wrapper intercepta chamadas de transformer e pula a computação quando o drift de entrada acumulado está abaixo de um limiar $\tau$ .
Pontuação: Pontua todos os $N$ candidatos com cache usando um verificador (ex: ImageReward).
Seleção: Identifica a semente correspondente ao candidato com maior pontuação via cache.
Compromisso (Total): Regenera apenas a semente vencedora com custo computacional total (sem cache) para produzir a saída final.

Implementação Técnica

Caching de Vetor de Transformação Adaptativo: O método envolve o Diffusion Transformer (DiT) usando uma variação do EasyCache. Em vez de cachear saídas brutas, ele armazena o vetor de transformação $\Delta = v_\theta(x_{ref}) - x_{ref}$ .
Regra de Pulo (Skip Rule): Um indicador de drift acumulado $a$ rastreia a mudança relativa nos inputs latentes. Se $a \le \tau$ , a chamada do transformer é pulada e a aproximação $\hat{v}_\theta(x) = x + \Delta$ é utilizada. Quando $a > \tau$ , o transformer é avaliado e o estado é atualizado.
Determinismo: O processo é determinístico para $(c, s, \tau)$ fixos, garantindo que a fase de "compromisso" reproduza exatamente a amostra de computação total para a semente selecionada.
Modelo de Custo: O custo do CachedSearch é $N \cdot C_c + C_f$ , onde $C_c$ é o custo do rollout com cache e $C_f$ é o custo total. Isso é significativamente mais barato que o Best-of-N total ( $N \cdot C_f$ ) quando $N > N^* = 1/(1-\gamma)$ , onde $\gamma = C_c/C_f$ .

3. Principais Contribuições

Primeiro Estudo de Preservação de Ranking: O artigo fornece o primeiro estudo empírico sobre se o cache preserva a classificação de candidatos sob busca em tempo de teste. Estabelece um protocolo de semente correspondente avaliado no gate grid, VBench e VBench-2.0.
O Protocolo "Explore-Cheap, Commit-Full": Introduz o CachedSearch, que retém 94,7% do ganho de recompensa do Best-of-8 total com apenas 63% do custo de tempo de execução (wall-clock cost).
Análise de Corrupção: Demonstra que os erros de classificação são "autolimitantes". A corrupção concentra-se em prompts onde os candidatos estão quase empatados (baixa dispersão de pontuação). Nesses casos, selecionar o candidato "errado" acarreta um arrependimento mínimo.
Generalização: Mostra que o método é transferível para seis modelos e quatro famílias de arquitetura (Wan, LTX, CogVideoX, Hunyuan) abrangendo de 1,3B a 14B parâmetros, exigindo apenas a recalibração de um único parâmetro ( $\tau$ ) por família.
Componibilidade: Prova que o CachedSearch se acumula multiplicativamente com métodos de poda de candidatos, alcançando um aumento de 3,11× na velocidade de exploração.

4. Resultados Experimentais

A avaliação foi conduzida primariamente no Wan2.1-T2V-1.3B, com replicação em modelos maiores e diferentes suítes.

Preservação de Ranking:
- Na suíte VBench (946 prompts), a mediana da correlação de ranking de Spearman ( $\rho$ ) por prompt entre o cache e o total é de 0,905.
- Acordo Top-1 (selecionar o mesmo melhor candidato) é de 72%.
- VBench-2.0 (uma suíte mais difícil) replica esses resultados com $\rho = 0,881$ .
Eficiência e Captura de Ganho:
- Com $N=8$ , o CachedSearch captura 94,7% do ganho de recompensa do Best-of-8 total com 63% do custo.
- Sob um orçamento fixo, permite buscar duas vezes mais amplamente (ex: 8 candidatos vs. 4), gerando 38% mais recompensa do que o Best-of-4 total.
- O método escala com a largura: em $N=16$ , captura 95,7% do ganho com 57% do custo.
Análise de Arrependimento (Regret):
- O arrependimento médio é baixo (0,056 no VBench), com uma mediana de 0.
- 72% dos prompts apresentam zero de arrependimento.
- Erros ocorrem principalmente em cenários de baixa dispersão, onde o valor da seleção correta é inerentemente baixo.
Generalidade do Modelo:
- O método funciona em escalas de 1.3B a 14B. O Wan2.1-14B atinge a mesma mediana $\rho$ (0,905) que o modelo de 1.3B.
- Modelos de outras famílias (ex: CogVideoX-5B) requerem a recalibração de $\tau$ (ex: de 0,10 para 0,05) para manter altas taxas de captura (>85%).
Comparação com Alternativas:
- Comparado à "truncagem de passos" (redução de passos de denoising), o cache preserva significativamente mais valor de busca (90,1% de captura vs. 72,6% para truncagem) porque perturba a mesma trajetória em vez de amostrar uma distribuição diferente.
- É compatível com vários motores de cache (PAB, CFG-Cache, TeaCache), formando uma fronteira unificada de captura-vs-aceleração.

5. Significância e Alegações

O artigo alega que o CachedSearch é um "multiplicador plug-in" para o escalonamento de tempo de teste em difusão de vídeo. Sua significância reside em:

Desacoplamento de Fidelidade e Ranking: Demonstra que, para fins de busca, os candidatos não precisam ser perfeitos ao nível de pixel; eles só precisam ser "honestos" sobre sua ordenação relativa.
Redução de Custo sem Treinamento: Alcança retenção de qualidade quase sem perdas e redução significativa de custo (até 3,11× quando combinado com poda) sem necessidade de ajuste fino ou modificação dos pesos do modelo.
Escalabilidade: A abordagem é ortogonal ao algoritmo de busca e ao verificador, tornando-a aplicável a qualquer loop de amostragem-e-classificação.
Impacto Prático: Permite que modelos menores (ex: 1.3B) rivalizem com modelos maiores ao permitir espaços de busca mais amplos dentro do mesmo orçamento computacional, democratizando efetivamente a geração de vídeo de alta qualidade.

Os autores concluem que a lição se estende além do cache: qualquer acelerador perdedor (lossy) pode suportar a exploração se passar por uma auditoria de ranking e arrependimento, sugerindo uma nova direção para a alocação de orçamentos entre aceleradores na IA generativa.