Resumen Técnico: PolicyShiftGuard

Planteamiento del Problema

Los guardarraíles de imágenes actuales se entrenan y evalúan predominantemente bajo políticas de seguridad fijas, tratando implícitamente la seguridad como una propiedad intrínseca de una imagen. Sin embargo, los despliegues en el mundo real requieren guardarraíles adaptables a la política (policy-adaptive guardrails), donde la aceptabilidad de una imagen depende de la política de ejecución específica (por ejemplo, variando según el producto, la región, el grupo de edad o el anunciante). Los benchmarks y modelos existentes no logran abordar esta dinámica:

• Brecha de Evaluación: La mayoría de los benchmarks de seguridad visual asignan una única etiqueta por imagen bajo una taxonomía fija, fallando en distinguir entre el reconocimiento genérico de lo inseguro y la capacidad de seguir cambios en la política.
• Brecha Metodológica: Los guardarraíles existentes suelen detectar señales de riesgo, pero no logran revisar sus decisiones cuando la misma evidencia visual es permitida bajo una política y bloqueada bajo otra. Exhiben fragilidad cuando las definiciones de la política cambian más allá de los entornos conocidos.

Metodología

1. Benchmark: POLICYSHIFTBENCH

Para evaluar las capacidades de adaptación a la política, los autores introducen POLICYSHIFTBENCH, un benchmark exhaustivo diseñado para probar si los modelos pueden adaptarse a políticas activas en lugar de depender de sesgos previos a nivel de imagen.

• Estructura: El benchmark organiza la seguridad visual en 7 categorías de riesgo (p. ej., desnudez, violencia, bienes regulados, seguridad de la propiedad intelectual) y 5 escenarios de moderación amplios (p. ej., redes sociales convencionales, apto para niños, línea base legal). La intersección de estos crea 28 variantes de política.
• Composición de Datos: Contiene 2,000 instancias discriminativas de política sobre 265 imágenes únicas. Crucialmente, cada imagen se empareja con un promedio de 7.55 prompts condicionados por la política. 262 de las 265 imágenes aparecen tanto con etiquetas de "pasa" (pass) como de "bloquea" (block) dependiendo de la política activa.
• Curación de Datos: Las etiquetas se generan mediante un pipeline determinista:
  1. Anotación de Atributos: Múltiples anotadores multimodales predicen atributos atómicos de la imagen (p. ej., "genitales expuestos", "contexto médico", "tipo de arma") mediante voto por mayoría.
  2. Ejecución de Reglas: Se aplican reglas de política ejecutables a estos atributos para generar decisiones a nivel de categoría.
  3. Composición de Paquetes: Se forma un paquete de política de tiempo de ejecución (una política por categoría), y la etiqueta final es el OR lógico de las decisiones de categoría.
• Métricas: Además de la Exactitud (Accuracy) y F1, los autores introducen la Puntuación de Cambio de Política (PSS). La PSS mide la capacidad de un modelo para manejar correctamente los pares de "cambio" (flip pairs): instancias donde la imagen y la categoría objetivo permanecen constantes, pero la política activa cambia la etiqueta de la verdad de terreno de "pasa" a "bloquea" (o viceversa). Un modelo solo recibe el crédito si predice correctamente ambos lados del cambio.

2. Modelo: PolicyShiftGuard

Los autores proponen PolicyShiftGuard, un modelo de guardarraíl compacto entrenado mediante una receta de dos etapas para manejar eficazmente los cambios de política.

• Etapa 1: SFT de Política Aleatorizada (RP-SFT):
  • El modelo se entrena en datos de Ajuste Fino Supervisado (SFT) condicionados por la política, donde las imágenes son disjuntas de los conjuntos de evaluación.
  • Aleatorización: La presentación de la política (orden, identificadores de superficie, espacios de categoría) se aleatoriza para evitar que el modelo dependa de posiciones o plantillas fijas.
  • Objetivo: Enseña al modelo a seguir paquetes de políticas completos y a producir salidas concisas y estructuradas (p. ej., false o true | <CategoryID>).
• Etapa 2: Adaptación de Frontera de Pares (BP-Adapt):
  • Esta etapa apunta específicamente al modo de fallo de los guardarraíles de taxonomía fija.
  • Datos de Entrenamiento: Construidos a partir de pares de frontera emparejados para la misma imagen y categoría de riesgo: un prompt con una política que permite la imagen (pass) y otro con una política que la bloquea (block).
  • Función de Pérdida: Combina la entropía cruzada estándar con una pérdida de comparación por pares ($L_{pair}$). Esta pérdida obliga explícitamente al modelo a asignar un puntaje de "inseguro" más alto a la política de bloqueo que a la política de paso para la misma evidencia visual, optimizando así el margen de decisión para los cambios de política.

Resultados Clave

Los experimentos en POLICYSHIFTBENCH revelan brechas significativas en los sistemas existentes y la eficacia del enfoque propuesto:

• Fragilidad de los Modelos Existentes: Los Modelos de Lenguaje de Gran Escala (MLLM) de propósito general y los guardarraíles especializados logran puntuaciones F1 no triviales, pero puntuaciones PSS extremadamente bajas (p. ej., GuardReasoner-VL-3B: 59.2 F1 frente a 3.2 PSS). Esto indica que reconocen el riesgo, pero fallan al adaptar las decisiones a los cambios de política.
• Limitaciones de Escala: Aumentar el tamaño del modelo (p. ej., de 7B a 72B parámetros) mejora el F1 general, pero no resuelve la brecha de adaptación de la política (p. ej., Qwen2.5-VL-72B logra solo 27.4 PSS).
• Rendimiento de PolicyShiftGuard:
  • El modelo PolicyShiftGuard-7B logra un F1 Promedio de 76.9 y un PSS Promedio de 72.1, estableciendo un nuevo estado del arte.
  • Supera significativamente a su modelo base (Qwen2.5-VL-7B), mejorando el F1 Promedio de 20.6 a 76.9 y el PSS de 4.8 a 72.1.
  • Se transfiere bien a benchmarks externos como UnSafeBench y SafeEditBench.
• Compromiso Latencia-Rendimiento: PolicyShiftGuard emplea un formato de salida conciso (decisiones resueltas en aproximadamente 5 tokens), logrando una latencia significativamente menor (163.9 ms para el modelo 7B) en comparación con los enfoques basados en razonamiento pesado y los modelos de código cerrado, manteniendo un rendimiento superior.

Significancia y Reivindicaciones

El artículo reivindica tres contribuciones principales:

1. Benchmarking: La introducción de POLICYSHIFTBENCH establece un estándar riguroso para evaluar el guardarraíle de imágenes adaptable a la política, yendo más allá de la detección estática de seguridad hacia el seguimiento dinámico de políticas.
2. Metodología: El marco PolicyShiftGuard demuestra que combinar el seguimiento de instrucciones de política aleatorizadas con la supervisión explícita de pares de frontera es esencial para una adaptación de política estable. Los estudios de ablación confirman que los pares de paso/bloqueo emparejados son necesarios para que el modelo aprenda el matiz de los cambios de política, en lugar de simplemente memorizar más datos.
3. Despliegue Práctico: Este trabajo destaca que, para los guardarraíles del mundo real, la latencia y la sensibilidad de la política deben evaluarse conjuntamente. Los modelos propuestos ofrecen una frontera de Pareto favorable, proporcionando un alto rendimiento de adaptación de política con baja latencia de inferencia, lo que los hace adecuados para las rutas críticas en los procesos de moderación de contenido.

Los autores concluyen que los guardarraíles de imágenes efectivos deben fundamentar sus decisiones en la política aplicada en lugar de depender de un reconocimiento fijo de seguro/inseguro, y que los modelos actuales fallan en gran medida en cumplir este requisito sin intervenciones arquitectónicas y de entrenamiento específicas.