Resumen Técnico: Generación de Imágenes Autorregresiva Segura con Libros de Códigos de Auto-mejora Iterativa

Declaración del Problema

Los modelos multimodales unificados autorregresivos generan imágenes prediciendo secuencialmente tokens visuales discretizados derivados de un libro de códigos (codebook), en lugar de operar en espacios latentes continuos como los modelos de difusión. Si bien esta arquitectura ofrece ventajas en velocidad y consistencia en el condicionamiento de texto, plantea preocupaciones críticas de seguridad: ¿qué tan seguras son las imágenes generadas por estos sistemas autorregresivos? Los métodos de mitigación de seguridad existentes para los modelos de difusión (por ejemplo, guía en el espacio latente, filtrado post-generación) dependen de representaciones continuas y no se generalizan bien al proceso de generación basado en tokens discretos de los modelos autorregresivos. Además, los enfoques actuales suelen requerir una extensa anotación humana o bucles de retroalimentación externa, lo cual es costoso en recursos y difícil de escalar.

Metodología

El artículo propone Libros de Códigos de Auto-mejora Iterativa (Iterative Self-Improving Codebooks), un método que aprovecha las propias capacidades del modelo multimodal unificado para identificar y eliminar conceptos dañinos sin anotación humana externa. El enfoque consta de dos pasos principales repetidos iterativamente hasta la convergencia:

1. Construcción del Espacio Dañino y Proyección

• Emparejamiento de Datos Auto-generados: El modelo genera imágenes a partir de un conjunto de prompts que contienen atributos dañinos específicos. Utilizando las capacidades de comprensión del propio modelo, este identifica qué imágenes generadas son dañinas. Para cada prompt dañino ($x_u$), el modelo genera una alternativa de prompt segura pero semánticamente similar ($x_s$) reemplazando términos inseguros por otros benignos. Esto crea conjuntos de datos imagen-texto emparejados: $(x_u, y_u)$ para lo dañino y $(x_s, y_s)$ para lo seguro.
• Extracción de Diferencia de Características: El modelo extrae características de incrustación (embeddings) ($F_u$ y $F_s$) para los tokens correspondientes a estos prompts de su libro de códigos. Se calcula la diferencia entre estos vectores de características ($F_u - F_s$) para aislar las características específicas asociadas con el concepto dañino.
• Construcción del Subespacio: Estos vectores de diferencia se agregan y procesan mediante la Descomposición en Valores Singulares (SVD) para extraer los componentes principales. Los top-$k$ vectores singulares definen un Subespacio Dañino ($P$) que captura las características centrales del concepto dañino (por ejemplo, desnudez, violencia).
• Proyección Dura (Hard Projection): El libro de códigos original ($W_{ori}$) se proyecta para eliminar los componentes que yacen dentro de este subespacio dañino. El libro de códigos proyectado ($W_{proj}$) se calcula como:
  $$W_{proj} = W_{ori} (I - \lambda \cdot \text{Proj}_P(W_{ori}))$$
  Esto asegura que las nuevas incrustaciones sean ortogonales a la información dañina.

2. Ajuste Fino Adaptativo en el Espacio Inofensivo

• Restauración de la Calidad: La proyección dura en el Paso 1 puede degradar la calidad de la imagen al eliminar detalles benignos. Para contrarrestar esto, el método realiza un ajuste fino adaptativo en el libro de códigos proyectado.
• Restricción del Espacio Nulo: Se optimiza una matriz de perturbación ($\Delta$) para mejorar la fidelidad de la imagen. Crucialmente, esta perturbación está restringida al espacio nulo de la matriz de diferencia $E$ (el espacio ortogonal al subespacio dañino). Esto asegura que el proceso de ajuste fino mejore la calidad visual sin reintroducir información dañina.
• Libro de Códigos Final: El libro de códigos seguro final se construye como $W_{safe} = W_{proj} + \Delta \cdot Q$, donde $Q$ es la matriz de proyección sobre el espacio nulo.

Todo el proceso es iterativo: el libro de códigos actualizado se utiliza para generar nuevos datos, refinar el espacio dañino y mejorar aún más la seguridad y la calidad.

Principales Contribuciones

1. Primera Exploración Sistemática: Los autores son los primeros en abordar sistemáticamente la seguridad de la generación de imágenes dentro de los marcos multimodales unificados autorregresivos, distinguiéndola del panorama de seguridad basado en difusión, que ya ha sido ampliamente estudiado.
2. Mecanismo de Auto-mejora Iterativa: El artículo introduce un método que utiliza la comprensión interna y la capacidad de juicio del modelo para construir pares dañinos/seguros y actualizar el libro de códigos, eliminando la necesidad de conjuntos de datos anotados o retroalimentación humana.
3. Seguridad Centrada en el Libro de Códigos: A diferencia de los métodos que modifican las trayectorias de generación o los espacios latentes, este enfoque modifica directamente las representaciones de tokens visuales discretos (el libro de códigos), ofreciendo una solución fundamental para los modelos autorregresivos.

Resultados Experimentales

El método fue evaluado en ocho conjuntos de datos de prompts dañinos (incluyendo I2P, CoPro, ViSU, P4D y MPUP) a través de cinco modelos multimodales unificados (serie Janus, VILA-U, Emu3, LlamaGen, OmniMamba).

• Mejora de la Seguridad: El método redujo significáneamente la generación de contenido inapropiado en siete categorías (Sexual, Violencia, Odio, Autolesión, Actividad ilegal, Acoso, Impactante). Por ejemplo, en el conjunto de datos I2P, la proporción de contenido sexual cayó de 0.12 (Línea base) a 0.04 (Safe-CB).
• Eficacia Iterativa: Los experimentos demostraron que la eliminación iterativa supera a la eliminación de una sola vuelta. Las mejoras en la seguridad generalmente alcanzaron la saturación tras tres iteraciones, volviéndose el espacio dañino más refinado con el tiempo.
• Preservación de Capacidades: El método preservó las capacidades inherentes de generación de imágenes y comprensión de texto del modelo. Los benchmarks como Geneval (generación) y MMMU (comprensión) no mostraron una degradación significativa.
• Fidelidad Semántica: Aunque la proyección dura inicial causó una caída en la alineación entre el prompt y la imagen (medida por CLIP-Score y TIFA), la etapa de ajuste fino adaptativo recuperó con éxito la consistencia semántica, llevando el rendimiento de Safe-CB cerca de la línea base en prompts benignos.
• Generalización: El enfoque se generalizó bien a datos fuera de la distribución (OOD) y a varios tamaños de modelo (desde 1B hasta 7B de parámetros).

Significado y Reivindicaciones

El artículo afirma que este trabajo establece un nuevo paradigma para la seguridad en la generación de imágenes autorregresiva. Al aprovechar el propio juicio de auto-evaluación del modelo para refinar iterativamente su libro de códigos interno, el método logra mejoras de seguridad sin depender de la anotación humana externa o del reentrenamiento completo del modelo desde cero. Los autores enfatizan que este enfoque elimina eficazmente los mapeos dañinos mientras mantiene detalles visuales de alta calidad, ofreciando una solución escalable y autosustentable para la generación multimodal segura. El trabajo destaca que la seguridad en los modelos autorregresivos requiere estrategias distintas de los modelos de difusión, apuntando específicamente a la naturaleza discreta de los tokens visuales.