Information-Regularized Attention for Visual-Centric Reasoning

Resumen Técnico: Atención Regularizada por Información para el Razonamiento Centrado en la Visión

Planteamiento del Problema
Los modelos de lenguaje-visión (VLM) se han consolidado como un paradigma para el aprendizaje multimodal, pero sufren problemas significativos de fiabilidad, incluyendo la alucinación de objetos, un débil anclaje visual (visual grounding) y el olvido catastrófico tras el ajuste de instrucciones de parámetros completos (full-parameter instruction tuning). Los autores argumentan que estos fallos derivan de una falta de control explícito sobre el aprendizaje de la representación visual durante el objetivo estándar de predicción del siguiente token. Bajo los paradigmas de entrenamiento actuales, las incrustaciones (embeddings) visuales se optimizan pasivamente solo a través de la supervisión lingüística. Esto permite que señales visuales irrelevantes o ruidosas se propaguen a través de las capas de atención, provocando "sumideros de atención" (attention sinks) —donde la atención colapsa sobre tokens semánticamente informativos sin valor— e interacciones transmodales espurias. Los enfoques actuales centrados en los datos, que dependen de la expansión de las señales de supervisión (por ejemplo, la optimización de preferencias), no logran regularizar directamente las propias representaciones de las características.

Metodología: Atención Regularizada por Información (IRA)
Para abordar estos problemas, el artículo propone la Atención Regularizada por Información (IRA), un mecanismo de atención estocástica diseñado para regular explícitamente la cantidad de información visual inyectada en los estados ocultos de las capas intermedias del transformador.

• Formulación de Teoría de la Información: El método enmarca el problema como una tarea de inferencia variacional. En lugar de tratar los estados ocultos $h$ como mapeos deterministas de la entrada $x$, IRA introduce una variable latente estocástica $z$ mediante la inyección de ruido aleatorio en los estados de valor (value states) del módulo de atención antes de que entren en el cómputo de la atención. Esto transforma la propagación determinista de las incrustaciones visuales en un proceso estocástico.
• Arquitectura: Se adjunta un cabezal paramétrico ligero a cada capa del transformador para producir una distribución posterior $q_\phi(z | v)$, donde $v$ representa los estados de valor. Esta posterior se aproxima mediante un truco de reparametrización ($z = v + \Delta_\phi(v) + \sigma_q \epsilon$), lo que permite al modelo aprender perturbaciones adaptativas y estimaciones de incertidumbre sin una sobrecarga adicional de codificación.
• Objetivo de Regularización: El objetivo de entrenamiento incluye un término de divergencia de Kullback-Leibler (KL) entre la posterior aprendida y una distribución a priori dependiente de los datos $p_\lambda(z | \lfloor v \rfloor)$. La a priori se centra en el estado de valor original desvinculado (utilizando una operación de stop-gradient) para evitar el colapso trivial entre la posterior y la a priori.
• Ponderación Condicionada por la Incertidumbre: Reconociendo que no todos los tokens visuales requieren una regularización igual, los autores introducen un mecanismo de ponderación por token. La magnitud de la regularización se ajusta de forma adaptativa basándose en dos factores:
  1. Importancia: La masa de atención promedio asignada a un token por los contextos lingüísticos.
  2. Incertidumbre: La entropía de la distribución de atención transmodal.
     Los tokens que son poco importantes (baja atención) e inciertos (alta entropía) reciben una regularización más fuerte, mientras que los detalles visuales críticos se preservan.
• Aplicación Específica por Capa: Los experimentos indican que aplicar IRA a las capas medias y tardías (específicamente entre el 60% y el 80% de la profundidad del transformador) ofrece el mejor rendimiento, ya que estas capas equilibran el razonamiento abstracto con la retención de señales de anclaje visual.

Contribuciones Clave

1. Mecanismo Novedoso: La propuesta de IRA, que regula las representaciones visuales a nivel de representación antes de que entren en la atención transmodal, controlando explícitamente el flujo de información visual durante el ajuste de instrucciones de parámetros completos.
2. Perspectivas Geométricas: La demostración de que IRA mejora la geometría de la representación. Los autores introducen una métrica de curvatura para analizar las trayectorias neuronales, encontrando que IRA produce trayectorias más suaves y lineales a través de las capas, lo cual se correlaciona con una dinámica de entrenamiento estable y un mejor anclaje.
3. Mitigación de Sumideros de Atención: La identificación de una correlación entre los sumideros de atención y la curvatura de la representación. Se demuestra que IRA suprime los sumideros de atención y reduce la proporción de tokens que reciben una atención excesiva y sin información.

Resultados
Los autores evaluaron IRA en VLMs de código abierto (InternVL2, InternVL2.5 y LLaVA-OneVision) en varios bancos de pruebas:

• Rendimiento General: IRA superó consistentemente al ajuste fino supervisado (SFT) estándar en bancos de pruebas intensivos en razonamiento (ej. MMMU, STEM, General QA) y tareas intensivas en conocimiento (OK-VQA).
• Robustez: El método mejoró el rendimiento en bancos de pruebas de detección de alucinaciones (POPE, HallusionBench) y redujo el sesgo en tareas de visión de bajo nivel (VLM-are-biased, VLM-are-blind).
• Generalización: IRA demostró una mejor generalización a tareas fuera de la distribución (OOD), incluyendo la comprensión de múltiples imágenes (MuirBench, BLINK) y la comprensión de vídeo (MVBench).
• Análisis de Representación: El análisis cuantitativo mostró que los modelos con IRA exhibieron cambios de curvatura menores (trayectorias más rectas) y una reducción significativa en las proporciones de sumideros de atención en comparación con las bases de referencia de SFT.
• Ablación: Eliminar la ponderación guiada por la incertidumbre o la a priori dependiente de los datos provocó una degradación del rendimiento, confirmando la necesidad de una regularización adaptativa y de un anclaje a las representaciones preentrenadas.

Significancia y Reivindicaciones
El artículo sostiene que la atención estocástica no es meramente un regularizador, sino un contribuyente fundamental al aprendizaje de representaciones dentro de las arquitecturas generativas. Al regular explícitamente la información inyectada en los estados ocultos, IRA aborda la causa raíz de las alucinaciones visuales y la inestabilidad: la propagación incontrolada de señales visuales ruidosas. Los autores postulan que mejorar la fiabilidad de los VLM requiere ir más allá del post-procesamiento centrado en los datos para regular directamente las representaciones de las características dentro de la arquitectura generativa. Además, el trabajo sugiere que la atención debe verse no solo como un mecanismo de ponderación, sino como una métrica para evaluar la calidad de la representación interna, ofreciendo una nueva dirección para construir sistemas multimodales más fiables e interpretables. Los autores señalan que, aunque sus experimentos actuales están limitados a modelos de 8 mil millones de parámetros debido a restricciones de recursos, esperan que los hallazgos escalen a modelos más grandes.