Resumen Técnico: CaC – Avanzando en Modelos de Recompensa para Video mediante Concentración Espaciotemporal Jerárquica

Declaración del Problema

Los modelos recientes de generación de video han logrado avances significativos en la fidelidad visual global. Sin embargo, al sintetizar contenido dinámico complejo, frecuentemente producen anomalías dispersas y sutiles (por ejemplo, distorsiones estructurales, violaciones de leyes físicas, inconsistencias temporales y texto corrupto) que a menudo se localizan en regiones pequeñas o breves ventanas de tiempo. Los modelos de recompensa para video existentes enfatizan principalmente la calidad visual general y la alineación con el texto; a medida que mejora la calidad de generación, estos defectos de granularidad gruesa se vuelven menos frecuentes, dejando las anomalías estructurales y temporales dispersas como un cuello de botella crítico. Los modelos actuales luchan por aislar estas señales de anomalía débiles de grandes cantidades de contexto normal debido a la falta de percepción espaciotemporal de granularidad fina, lo que a menudo resulta en un razonamiento a nivel de video global que pasa por alto alucinaciones sutiles.

Metodología

El artículo propone CaC (Concentrate and Concentrate), un modelo de recompensa basado en un Modelo de Visión-Lenguaje (VLM) diseñado para detectar y localizar estas anomalías dispersas mediante una estrategia jerárquica de dos vueltas, de lo grueso a lo fino.

1. Construcción del Conjunto de Datos

Para entrenar y evaluar el modelo, los autores construyeron el primer conjunto de datos a gran escala para anomalías dispersas en videos generados (~30K videos). Las características clave incluyen:

• Anotaciones de Granularidad Fina: Cuadros delimitadores por cuadro, ventanas temporales de anomalía, tipos de anomalía y razones de atribución.
• Taxonomía de Anomalías: Cubre anomalías reconocibles en un solo cuadro (distorsión de objetos/seres humanos) y anomalías de múltiples cuadros (anomalías de movimiento, violaciones físicas, anomalías de personajes).
• Síntesis CoT: Un pipeline que combina el etiquetado humano experto con la síntesis de Cadena de Pensamiento (CoT) basada en VLM, utilizando un proceso de generación-verificación para asegurar datos de razonamiento de alta calidad.

2. Entrenamiento Progresivo de Tres Etapas

CaC emplea un paradigma de entrenamiento de tres etapas para construir capacidades de concentración jerárquica:

• Etapa 1 (Calentamiento de Cuadro Único): El modelo aprende a reconocer y localizar anomalías a partir de cuadros extraídos que contienen anomalías, estableciendo una correspondencia desde pistas visuales hasta anclaje espacial y atribución de anomalía.
• Etapa 2 (SFT de Múltiples Cuadros): El modelo se entrena tanto en videos globales muestreados uniformemente (para escaneo temporal) como en clips muestreados densamente (para localización espacial). Esta etapa optimiza conjuntamente el escaneo temporal global y el anclaje espacial de granularidad fina, preparando el modelo para el formato de interacción de dos vueltas.
• Etapa 3 (GRPO de Dos Vueltas): El modelo se optimiza utilizando Optimización de Política Relativa de Grupo (GRPO) con una estrategia de inferencia de dos vueltas:
  • Vuelta 1: Escaneo temporal global en una secuencia de cuadros dispersa (4 fps) para anclar la ventana temporal de la anomalía.
  • Vuelta 2: Anclaje espacial de granularidad fina en un clip muestreado densamente (8 fps) extraído de la ventana predicha para confirmar anomalías y emitir cuadros delimitadores.
  • Mecanismo de Recompensa: Más allá de la precisión estándar, los autores introducen recompensas de IoU Temporal, IoU Espacial e IoU de Atribución. Estas recompensas de proceso supervisan los pasos intermedios de localización, guiando al modelo hacia un razonamiento espaciotemporal fundamentado e interpretable. Se aplica un factor de descuento de saliencia para manejar las variaciones en la dificultad de reconocimiento.

3. Estrategia de Inferencia

El proceso de inferencia refleja la estrategia de entrenamiento:

1. Escaneo Global: El video de entrada se submuestrea (4 fps) y se analiza para detectar anomalías y predecir una ventana temporal.
2. Concentración Local: La ventana predicha se recorta y se remuestrea densamente (8 fps). El modelo realiza un razonamiento espacial de granularidad fina en este clip para confirmar la anomalía y emitir cuadros delimitadores específicos.
3. Decisión: Si la segunda vuelta no confirma la anomalía, el video se clasifica conservadoramente como normal.

Contribuciones Clave

1. Conjunto de Datos: Construcción del primer conjunto de datos a gran escala para anomalías dispersas en videos generados, con cuadros delimitadores por cuadro, ventanas temporales y etiquetas de atribución de granularidad fina para apoyar la síntesis de CoT de alta calidad y señales de recompensa verificables.
2. Arquitectura del Modelo: Propuesta de CaC, un modelo de recompensa de dos vueltas de lo grueso a lo fino que utiliza enfoque espaciotemporal jerárquico para detectar anomalías sutiles, convirtiendo juicios estructurados en retroalimentación de recompensa accionable.
3. Paradigma de Entrenamiento: Desarrollo de un pipeline progresivo de tres etapas. Notablemente, la etapa de RL introduce recompensas de IoU Temporal, Espacial y de Atribución para guiar al VLM hacia un razonamiento interpretable de anomalías CoT y juicios estables, yendo más allá de las métricas de precisión simples.

Resultados

Experimentos extensivos demuestran la superioridad de CaC en la detección de anomalías dispersas y la mejora de la calidad de generación de video:

• Detección de Anomalías: En el benchmark CaC-Bench-Main, CaC alcanza una precisión global del 81.7%, una mejora absoluta del 25.7% sobre la línea base más fuerte.
• Sensibilidad a Anomalías Dispersas: En la división CaC-Bench-Hard (que presenta anomalías de menor duración y menor extensión espacial), CaC supera a las líneas base con márgenes que van del 14% al 38%, validando su eficacia en defectos altamente dispersos.
• Generalización: CaC mejora la precisión en un 19.9% en un subconjunto derivado de Skyra externo, demostrando generalización fuera de dominio.
• Alineación de Video: Cuando se utiliza como señal de recompensa para la generación de video aguas abajo (Wan-2.1-1.3B), CaC reduce la tasa de anomalías anotadas por expertos en un 11.7% (de 29.0% a 17.3%) mientras mejora la consistencia del sujeto y la calidad de la imagen, sin suprimir el movimiento dinámico.

Significado y Afirmaciones

El artículo afirma que CaC aborda efectivamente el problema de la "dilución de la atención" causado por la extrema dispersión de las anomalías en video. Al concentrarse activamente en cuadros y regiones anómalos mediante un proceso de razonamiento estructurado e interpretable, CaC proporciona juicios más confiables y fundamentados que los modelos de recompensa globales o detectores existentes. Los autores afirman que este enfoque no solo avanza la evaluación de videos generados, sino que también proporciona retroalimentación accionable que mejora directamente la calidad de los modelos de generación de video al reducir las alucinaciones estructurales y temporales. El trabajo destaca que, a medida que la generación de video madura, son necesarios modelos de recompensa especializados y de granularidad fina para abordar los modos de fallo sutiles restantes que los evaluadores holísticos pasan por alto.