Resumen Técnico: GRACE – Alineación Relacional con Puerta mediante Destilación Basada en Confianza para VLMs Eficientes

1. Enunciado del Problema

Los Modelos Visión-Lenguaje (VLM) han demostrado capacidades transformadoras en tareas multimodales, pero enfrentan desafíos significativos de despliegue debido a sus altos costos computacionales y de memoria. Si bien la Cuantización Post-Entrenamiento (PTQ) ofrece una ruta simple de compresión, a menudo provoca una degradación catastrófica de la precisión en los VLM, particularmente en anchos de bits agresivos como INT4, debido a las complejas distribuciones multimodales y las interacciones cruzadas entre modalidades inherentes a estos modelos.

El Entrenamiento Consciente de la Cuantización (QAT) es una alternativa más fundamentada que permite a los modelos adaptarse a las restricciones de baja precisión durante la optimización. Sin embargo, el QAT para VLM sigue siendo poco explorado. El QAT estándar se basa únicamente en pérdidas de tarea, las cuales proporcionan una supervisión dispersa insuficiente para guiar al modelo sobre qué información preservar bajo presupuestos de bits estrictos. Además, las combinaciones ingenuas de QAT y Destilación de Conocimiento (KD) a menudo no abordan los desafíos específicos de los VLM, como la variabilidad en la fiabilidad de la supervisión del maestro y la pérdida de estructuras de razonamiento visual detallado.

2. Metodología: El Marco GRACE

Los autores proponen GRACE (Alineación Relacional con Puerta mediante Destilación Basada en Confianza para VLMs Eficientes), un marco unificado que formula la compresión de VLM como un problema de Cuello de Botella de Información (IB). Bajo este principio, la cuantización actúa como una restricción de capacidad rígida, mientras que la destilación determina qué información relevante para la tarea retener. GRACE integra tres componentes sinérgicos:

2.1 Destilación de Conocimiento Desacoplada con Puerta de Confianza (GDKD)

La KD estándar trata todas las predicciones del maestro por igual, ignorando que las salidas inciertas del maestro (alta entropía) pueden introducir ruido. GRACE aborda esto mediante:

• Destilación de Conocimiento Desacoplada (DKD): La pérdida de destilación se descompone en Destilación de Conocimiento de Clase Objetivo (TCKD) y Destilación de Conocimiento de Clase No Objetivo (NCKD). La NCKD transfiere "conocimiento oscuro" desde la distribución de clases incorrectas, lo cual es a menudo más informativo que las probabilidades de objetivo por sí solas.
• Puerta de Confianza: Los autores observan una fuerte correlación positiva entre la entropía del maestro y el error de predicción. Introducen un mecanismo de puerta donde el peso de destilación para cada token se define como $g_i = \exp(-\tilde{h}_i)$, donde $\tilde{h}_i$ es la entropía normalizada de la salida del maestro. Esto suprime la supervisión de tokens inciertos (alta entropía) y prioriza las predicciones confiables.
• Justificación Teórica: Se demuestra que esta puerta minimiza la covarianza entre los pesos y la pérdida, filtrando eficazmente las señales de supervisión poco fiables.

2.2 Alineación de Núcleo Centrado Relacional (RCKA)

La destilación basada en logits falla en transferir las superiores capacidades de razonamiento visual de los modelos más grandes, las cuales se manifiestan como patrones de atención estructurados en lugar de meras probabilidades de salida.

• Estructura de Tokens Visuales: GRACE extrae representaciones de tokens visuales de la capa penúltima del núcleo LLM (excluyendo los tokens de texto).
• Alineación de Núcleo Centrado (CKA): En lugar de alinear características punto a punto, GRACE alinea las matrices de Gram de los tokens visuales entre el maestro y el estudiante. Esto transfiere la estructura relacional (similitudes por pares) entre los tokens visuales, permitiendo que el estudiante aprenda cómo el maestro organiza la información visual en regiones semánticamente coherentes (por ejemplo, agrupando tokens de cielo juntos).
• Independencia de Dimensionalidad: CKA opera sobre matrices de Gram $n \times n$, permitiendo la alineación entre modelos con diferentes dimensiones ocultas sin requerir capas de proyección.

2.3 Controlador Adaptativo de Cuello de Botella de Información

Para equilibrar los objetivos competitivos de rendimiento de tarea y retención de conocimiento bajo restricciones de cuantización, GRACE emplea un controlador adaptativo:

• Optimización Restringida: El problema se formula como la minimización de la pérdida de tarea sujeta a una restricción sobre la pérdida de destilación ($L_{GDKD} \leq \tau$), donde $\tau$ representa el presupuesto de preservación de información.
• Ascenso Dual: El peso de destilación $\beta$ se actualiza dinámicamente mediante ascenso dual proyectado con suavizado de Media Móvil Exponencial (EMA). Si el estudiante lucha por retener el conocimiento del maestro ($L_{GDKD} > \tau$), $\beta$ aumenta para fortalecer la destilación; de lo contrario, disminuye para priorizar el rendimiento de la tarea.

2.4 Estrategia de Cuantización

GRACE emplea Cuantización de Paso de Aprendizaje por Grupos (LSQ). Los pesos se dividen en pequeños grupos (tamaño predeterminado 128), cada uno con un parámetro de escala independiente y aprendible optimizado conjuntamente con los pesos del modelo durante el entrenamiento. Este enfoque captura mejor las distribuciones heterogéneas de pesos de los VLM que la cuantización por tensor o por canal.

3. Contribuciones Clave

1. Unificación Teórica: El artículo establece una conexión teórica entre la Destilación de Conocimiento y el QAT a través del principio del Cuello de Botella de Información, enmarcando la cuantización como un problema de asignación de capacidad donde la destilación guía qué preservar.
2. Marco GRACE: La propuesta de un marco unificado que presenta:
   • Destilación desacoplada con puerta de confianza para filtrar la supervisión ruidosa.
   • Alineación de núcleo centrado relacional para transferir el razonamiento visual estructural.
   • Un controlador IB adaptativo para equilibrar dinámicamente la fidelidad y la capacidad.
3. Avance en Rendimiento: Demostración de que los VLM cuantizados en INT4 entrenados con GRACE pueden superar las líneas base de precisión completa (BF16), un resultado raramente logrado en escenarios de cuantización agresiva.

4. Resultados Experimentales

Se realizaron evaluaciones extensas en LLaVA-1.5 (maestro de 13B $\to$ estudiante de 7B) y Qwen2-VL (maestro de 7B $\to$ estudiante de 2B) a través de múltiples puntos de referencia (SQA, MMBench, ScienceQA, etc.).

• Recuperación y Superación de Precisión:
  • LLaVA-1.5-7B (INT4): Logró un 70.1% en ScienceQA, superando la línea base BF16 (66.8%) y igualando el rendimiento del maestro de 13B.
  • Qwen2-VL-2B (INT4): Logró un 76.9% en MMBench y un 79.1% en ScienceQA, superando significativamente a la línea base BF16 (72.6% y 73.7%, respectivamente) y a los métodos INT4 existentes como RTN, AWQ y SPEED-Q.
• Comparación con Líneas Base: GRACE superó consistentemente al QAT estándar, a la KD+QAT ingenua y a los métodos PTQ más avanzados (GPTQ, AWQ, MBQ) por márgenes significativos (por ejemplo, +4.5% sobre la línea base en Qwen2-VL-2B INT4).
• Ganancias de Eficiencia: Al desplegarse con núcleos INT4 reales en una GPU NVIDIA A100, el modelo GRACE logró:
  • Un 3.03× mayor rendimiento de procesamiento (throughput).
  • Una latencia 3.03× menor.
  • Una reducción de 2.18× en la memoria pico de la GPU.
  • Una reducción de 3.08× en el almacenamiento de parámetros.

5. Significado y Afirmaciones

El artículo afirma que GRACE proporciona una base fundamentada para la optimización conjunta en la compresión de VLM. Al tratar la cuantización como un problema de Cuello de Botella de Información, el marco permite que los modelos aprendan representaciones que son inherentemente robustas a la compresión agresiva de bajo ancho de bits.

Los autores enfatizan que su enfoque permite que los modelos INT4 no solo recuperen, sino que superen las líneas base de precisión completa, validando que la asignación fundamentada de información (mediante puerta de confianza y alineación relacional) es superior a las combinaciones estándar de QAT o destilación ingenua. El trabajo tiene como objetivo democratizar el acceso a VLM de alta calidad permitiendo su despliegue en dispositivos con recursos limitados con reducciones significativas en los requisitos de memoria y computación, manteniendo o mejorando el rendimiento de la tarea. Los autores reconocen las posibles implicaciones sociales, incluido el riesgo de mal uso para generar contenido engañoso, pero argumentan que los beneficios de la IA multimodal eficiente y accesible superan estos riesgos cuando se despliega de manera responsable.