Resumen Técnico: TrajShield

1. Declaración del Problema

Los modelos de Texto-a-Vídeo (T2V) han avanzado significativamente en la generación de vídeos temporalmente coherentes a partir de prompts en lenguaje natural. Sin embargo, los mecanismos de seguridad existentes, heredados en gran medida de los dominios de Texto-a-Imagen (T2I), son insuficientes para T2V. Las defensas actuales operan principalmente en la superficie léxica del prompt de entrada (por ejemplo, listas negras de palabras clave, clasificadores a nivel superficial o reescritura genérica mediante LLM). Estos métodos no abordan una distinción fundamental entre imágenes estáticas y vídeo dinámico: el riesgo emergente temporal.

En la generación T2V, un prompt aparentemente benigno (por ejemplo, "dos hombres discutiendo en un aparcamiento") puede carecer de palabras clave abiertamente dañinas y, sin embargo, conducir a contenido inseguro (por ejemplo, violencia física) a través de la extrapolación temporal del modelo hacia la coherencia narrativa. El riesgo es invisible a nivel del prompt y solo se materializa a medida que el generador despliega la escena a lo largo del tiempo. Además, las defensas existentes a menudo fallan frente a ataques de jailbreak sofisticados que disimulan la intención dañina mediante reformulación o prompts adversarios. El desafío central es anticipar la trayectoria temporal que producirá un modelo T2V, identificar el origen causal de los riesgos emergentes e intervenir con una perturbación semántica mínima antes de que se renderice un solo fotograma.

2. Metodología: TrajShield

Los autores proponen TrajShield, un marco de defensa sin entrenamiento y en tiempo de inferencia que reformula la seguridad de T2V como un problema de intervención causal dentro de un espacio semántico estructurado temporalmente. En lugar de modificar el texto crudo basándose en patrones léxicos, TrajShield simula la trayectoria implícita del prompt para neutralizar riesgos mientras preserva la semántica irrelevante para la seguridad. El marco consta de tres etapas secuenciales:

A. Desacoplamiento Semántico-Motor (MSD)

Para evitar la deriva semántica colateral (donde neutralizar un riesgo altera inadvertidamente la identidad o el estilo de la escena), TrajShield factoriza el prompt de entrada $P$ en tres componentes condicionalmente independientes:

1. Contexto Espacial Invariante ($E$): Captura elementos temporalmente estacionarios, incluidas descripciones de sujetos, configuraciones ambientales y señales de estilo cinematográfico. Esto actúa como un ancla congelada para asegurar que la identidad del sujeto y el tono visual permanezcan sin cambios.
2. Traectoria de Acción ($T$): Una secuencia discretizada y ordenada temporalmente de estados de la escena (por ejemplo, inicio, punto medio, conclusión) que captura la progresión dinámica implícita en el prompt. El sistema realiza una extrapolación implícita de dinámicas para inferir arcos temporales plausibles incluso si el prompt del usuario está subespecificado.
3. Ancla de Intención ($I$): Una destilación concisa del objetivo creativo central del usuario, abstraída de detalles potencialmente dañinos, que sirve como regularizador semántico durante la reescritura.

B. Grafo de Propagación de Riesgo Temporal (TRPG)

Este módulo opera enteramente en el espacio semántico para simular la trayectoria y localizar el origen causal del riesgo sin renderizar fotogramas de vídeo.

1. Despliegue de Traectoria: La trayectoria de acción se modela como una cadena de Markov condicionada al contexto, prediciendo estados posteriores basándose en el estado actual y el contexto espacial.
2. Evaluación de Riesgo Jerárquica: En cada ancla temporal, el riesgo se evalúa a lo largo de tres dimensiones:
   • Riesgo de Contenido: Si el estado instantáneo contiene contenido dañino (riesgo estático).
   • Riesgo de Transición: Si el cambio entre estados constituye una escalada causal hacia el daño (riesgo dinámico).
   • Riesgo Prospectivo: Si continuar la trayectoria sin obstáculos conduciría a un estado terminal inseguro.
3. Atribución Causal: El sistema identifica el punto de activación más temprano ($t_r$) donde el riesgo compuesto supera un umbral de seguridad. Luego deriva una Restricción Segura ($C$), una directiva declarativa que especifica qué debe cambiar (neutralizar el patrón inseguro) y qué debe preservarse (el prefijo benigno y la intención).

C. Reescritura Segura Temporalmente Consistente (TCSR)

La etapa final sintetiza un prompt seguro $P^*$ mediante:

1. Anclaje de Contexto Invariante: Bloqueo estricto del contexto espacial $E$ para asegurar que no haya deriva semántica en los sujetos o el entorno.
2. Sustitución de Traectoria Contrafactual Constrained: Generación de una trayectoria de acción alternativa $T^*$ que satisface la restricción segura $C$, preserva el prefijo benigno (estados antes de $t_r$), mantiene la proximidad semántica de la acción (por ejemplo, reemplazando la violencia física con un enfrentamiento verbal) y se adhiere al ancla de intención $I$.
3. Ensamblaje del Prompt: Composición del contexto congelado con la trayectoria contrafactual en un prompt fluido en lenguaje natural.

3. Contribuciones Clave

El artículo describe tres contribuciones principales:

1. Identificación del Riesgo Emergente Temporal: Los autores definen una categoría de amenaza previamente pasada por alto en T2V donde prompts benignos generan contenido inseguro mediante extrapolación temporal, evadiendo sistemáticamente las defensas léxicas existentes.
2. Marco TrajShield: Un mecanismo de defensa unificado y sin entrenamiento que maneja prompts inseguros explícitos, ataques de jailbreak y riesgos emergentes temporales mediante simulación de trayectoria, localización causal de riesgos y reescritura contrafactual mínimamente invasiva.
3. Validación Empírica: Experimentos exhaustivos que demuestran que TrajShield logra un rendimiento de defensa de vanguardia en 14 categorías de seguridad y múltiples backends de T2V, manteniendo una alta fidelidad semántica.

4. Resultados Experimentales

Los autores evaluaron TrajShield en la prueba de referencia T2VSafetyBench (14 categorías de seguridad) y en el conjunto de datos SafeWatch (prompts inseguros del mundo real) utilizando seis modelos T2V (incluyendo Pixverse, Hailuo, Kling, Seedance, Veo y Sora).

• Rendimiento de Seguridad: TrajShield redujo la Tasa de Éxito del Ataque (ASR) en un promedio de 52.44% en todos los modelos y categorías. Específicamente, la ASR promedio disminuyó de 70.00% (modelos originales) a 15.64% (modelos defendidos).
• Comparación con Líneas Base: El método superó sustancialmente a las defensas existentes, incluidas las listas negras de palabras clave, el análisis semántico (Toxic-BERT) y la reescritura con LLM. Por ejemplo, en el modelo Sora, TrajShield redujo la ASR al 20.86%, mientras que la reescritura con LLM solo logró un 51.57%.
• Robustez: La defensa permaneció efectiva frente a diversos ataques de jailbreak (RAB, DACA, SceneSplit, SPARK), reduciendo la ASR a un rango estrecho de 6%–21% independientemente de la estrategia de ataque.
• Fidelidad Semántica: En prompts benignos (conjunto de datos MSVD), TrajShield mantuvo puntuaciones altas de Similitud CLIP (CS) y Consistencia Temporal (TC), comparables a la línea base, lo que indica que la defensa no degrada la calidad de las generaciones seguras.
• Estudios de Ablación: Eliminar cualquiera de los tres módulos centrales (MSD, TRPG o TCSR) condujo a una degradación significativa del rendimiento, confirmando que el desacoplamiento de movimiento y semántica, la identificación de detonantes causales de riesgo y la reescritura restringida son esenciales para la eficacia del sistema.

5. Significado y Afirmaciones

El artículo afirma que TrajShield representa un cambio de paradigma en la seguridad de T2V, pasando del filtrado léxico estático a la mediación de seguridad a nivel de trayectoria. Los autores argumentan que una defensa efectiva para modelos generativos de vídeo debe alinearse con la naturaleza temporal y composicional de la generación de vídeo. Al intervenir en el "espacio de intención de vídeo latente" antes de la generación, TrajShield aborda el punto ciegos estructural de las defensas actuales: la incapacidad de detectar riesgos que emergen solo a través de la progresión causal del tiempo.

Los autores concluyen que su enfoque ofrece una mejor compensación entre seguridad y fidelidad que las líneas base competitivas, validando la necesidad de una mediación de seguridad consciente del tiempo para modelos generativos donde la nocividad emerge a través de la estructura latente. Reconocen limitaciones, señalando que la discretización gruesa actual de la trayectoria podría no capturar completamente dinámicas altamente complejas de largo alcance, y sugieren que combinar esta defensa pre-generación con moderación post-generación sigue siendo una dirección para trabajos futuros.