Resumen Técnico: CachedSearch - Exploración con Caché sin Entrenamiento para la Búsqueda en Tiempo de Prueba en Difusión de Video

1. Planteamiento del Problema

Los modelos de difusión de video representan una de las cargas de trabajo generativas computacionalmente más costosas. Las estrategias de búsqueda en tiempo de prueba (por ejemplo, Best-of-N), que muestrean múltiples candidatos para seleccionar la salida con mayor puntuación mediante un verificador, exacerban este costo en un factor de 2 a 10×. En un Best-of-N estándar, cada candidato se genera al costo computacional completo, a pesar de que la mayoría se descartan.

Aunque existen técnicas de almacenamiento en caché sin entrenamiento para acelerar rollouts individuales (logrando aceleraciones de 2 a 3× mediante la reutilización de características a través de los pasos de eliminación de ruido), su aplicación a la búsqueda en tiempo de prueba ha permanecido inexplorada. El obstáculo central es sutil: el almacenamiento en caché es con pérdida (lossy). Si bien puede preservar la fidelidad a nivel de píxel en comparaciones con la misma semilla, no está claro si preserva el orden relativo de los candidatos bajo un verificador. Si el almacenamiento en caché altera las clasificaciones, el proceso de búsqueda podría seleccionar el candidato incorrecto, anulando las ganancias de eficiencia. Este artículo aborda si el almacenamiento en caché corrompe las clasificaciones de los candidatos en la búsqueda de video en tiempo de prueba y propone un método para aprovecharlo de forma segura.

2. Metodología: CachedSearch

Los autores proponen CachedSearch, un protocolo sin entrenamiento y agnóstico al verificador que desacopla la exploración de la entrega. El método opera bajo el principio de que, si bien la fidelidad de los píxeles puede degradarse ligeramente bajo el almacenamiento en caché, el orden relativo de los candidatos suele permanecer intacto.

Flujo de Trabajo Principal

1. Exploración (Barata): Generar $N$ candidatos utilizando un almacenamiento en caché agresivo. Un envoltorio (wrapper) intercepta las llamadas al transformador y omite la computación cuando la deriva acumulada de la entrada es inferior a un umbral $\tau$.
2. Calificación (Scoring): Calificar todos los $N$ candidatos almacenados en caché utilizando un verificador (por ejemplo, ImageReward).
3. Selección: Identificar la semilla correspondiente al candidato con la mayor puntuación en caché.
4. Compromiso (Completo): Regenerar solo la semilla ganadora al costo computacional completo (sin caché) para producir la salida final.

Implementación Técnica

• Almacenamiento en Caché de Vector de Transformación Adaptativo: El método envuelve al Diffusion Transformer (DiT) utilizando una variación de EasyCache. En lugar de almacenar salidas brutas, almacena el vector de transformación $\Delta = v_\theta(x_{ref}) - x_{ref}$.
• Regla de Omisión (Skip Rule): Un indicador de deriva acumulada $a$ rastrea el cambio relativo en las entradas latentes. Si $a \le \tau$, se omite la llamada al transformador y se utiliza la aproximación $\hat{v}_\theta(x) = x + \Delta$. Una vez que $a > \tau$, se evalúa el transformador y se actualiza el estado.
• Determinismo: El proceso es determinista para un $(c, s, \tau)$ fijo, asegurando que la fase de "compromiso" reproduzca la muestra exacta de cómputo completo para la semilla seleccionada.
• Modelo de Costo: El costo de CachedSearch es $N \cdot C_c + C_f$, donde $C_c$ es el costo del rollout en caché y $C_f$ es el costo completo. Esto es significativamente más barato que un Best-of-N completo ($N \cdot C_f$) cuando $N > N^* = 1/(1-\gamma)$, donde $\gamma = C_c/C_f$.

3. Contribuciones Clave

• Primer Estudio de Preservación de Clasificación: El artículo proporciona el primer estudio empírico sobre si el almacenamiento en caché preserva las clasificaciones de los candidatos bajo la búsqueda en tiempo de prueba. Establece un protocolo de coincidencia de semillas evaluado en la rejilla gate, VBench y VBench-2.0.
• El Protocolo "Explorar Barato, Comprometerse Completo": Introduce CachedSearch, que retiene el 94.7% de la ganancia de recompensa de la búsqueda completa de Best-of-8 con solo el 63% del costo de tiempo de ejecución (wall-clock cost).
• Análisis de Corrupción: Demuestra que los errores de clasificación son "autolimitados". La corrupción se concentra en prompts donde los candidatos están casi empatados (baja dispersión de puntuación). En estos casos, seleccionar el candidato "incorrecto" incurre en un arrepentimiento (regret) mínimo.
• Generalizabilidad: Muestra que el método se transfiere a través de seis modelos y cuatro familias de arquitectura (Wan, LTX, CogVideoX, Hunyuan), que abarcan de 1.3B a 14B de parámetros, requiriendo solo la recalibración de un único parámetro ($\tau$) por familia.
• Componibilidad: Demuestra que CachedSearch se acumula multiplicativamente con los métodos de poda de candidatos, logrando una aceleración de exploración de 3.11×.

4. Resultados Experimentales

La evaluación se realizó principalmente en Wan2.1-T2V-1.3B, con replicación en modelos más grandes y diferentes suites.

• Preservación de Clasificación:
  • En la suite VBench (946 prompts), la mediana de la correlación de rango de Spearman ($\rho$) por prompt entre las puntuaciones en caché y las completas es de 0.905.
  • El acuerdo Top-1 (seleccionar el mismo mejor candidato) es del 72%.
  • VBench-2.0 (una suite más difícil) replica estos resultados con $\rho = 0.881$.
• Eficiencia y Captura de Ganancia:
  • Con $N=8$, CachedSearch captura el 94.7% de la ganancia de recompensa de la búsqueda completa de Best-of-8 con solo el 63% del costo.
  • Bajo un presupuesto fijo, permite buscar el doble de ancho (por ejemplo, 8 candidatos frente a 4), lo que genera un 38% más de recompensa que un Best-of-4 completo.
  • El método escala con el ancho: con $N=16$, captura el 95.7% de la ganancia con un 57% del costo.
• Análisis de Arrepentimiento (Regret):
  • El arrepentimiento medio es bajo (0.056 en VBench), con una mediana de 0.
  • El 72% de los prompts incurren en cero arrepentimiento.
  • Los errores ocurren principalmente en escenarios de baja dispersión donde el valor de la selección correcta es inherentemente bajo.
• Generalidad del Modelo:
  • El método funciona a través de la escala de 1.3B–14B. Wan2.1-14B logra la misma $\rho$ mediana (0.905) que el modelo de 1.3B.
  • Los modelos de otras familias (por ejemplo, CogVideoX-5B) requieren recalibrar $\tau$ (por ejemplo, de 0.10 a 0.05) para mantener altas tasas de captura (>85%).
• Comparación con Alternativas:
  • Comparado con la "truncación de pasos" (reducir los pasos de eliminación de ruido), el almacenamiento en caché preserva significativamente más valor de búsqueda (90.1% de captura frente al 7 de 72.6% para la truncación) porque perturba la misma trayectoria en lugar de muestrear una distribución diferente.
  • Es compatible con varios motores de caché (PAB, CFG-Cache, TeaCache), formando una frontera unificada de captura-frente-aceleración.

5. Significado y Reivindicaciones

El artículo afirma que CachedSearch es un "multiplicador plug-in" para el escalado en tiempo de prueba en la difusión de video. Su importancia radica en:

1. Desacoplar Fidelidad de Clasificación: Demuestra que, para fines de búsqueda, los candidatos no necesitan ser perfectos a nivel de píxel; solo necesitan ser "honestos" sobre su orden relativo.
2. Reducción de Costo sin Entrenamiento: Logra una retención de calidad casi sin pérdidas y una reducción significativa de costos (hasta 3.11× cuando se combina con la poda) sin necesidad de ajuste fino (fine-tuning) o modificar los pesos del modelo.
3. Escalabilidad: El enfoque es ortogonal al algoritmo de búsqueda y al verificador, lo que lo hace aplicable a cualquier bucle de muestreo y clasificación.
4. Impacto Práctico: Permite que modelos más pequeños (por ejemplo, 1.3B) rivalicen con modelos más grandes al permitir espacios de búsqueda más amplios dentro del mismo presupuesto computacional, democratizando efectivamente la generación de video de alta calidad.

Los autores concluyen que la lección se extiende más allá del almacenamiento en caché: cualquier acelerador con pérdida puede soportar la exploración si pasa una auditoría de clasificación y arrepentimiento, lo que sugiere una nueva dirección para la asignación de presupuestos entre aceleradores en la IA generativa.