Resumen Técnico: Transporte Óptimo por Capas para la Detección de Alucinaciones en NMT y Resumen Abstractivo

Declaración del Problema

Los modelos de Traducción Automática Neuronal (NMT) y de resumen abstractivo sufren frecuentemente de "alucinaciones" o "fallos de fidelidad", donde los resultados generados son fluidos pero factualmente inconsistentes con la fuente. Si bien el trabajo reciente de Guerreiro et al. (2023) demostró que las distancias de Transporte Óptimo (OT) entre las distribuciones de atención cruzada y una referencia pueden detectar alucinaciones en NMT de manera no supervisada, varias cuestiones críticas permanecían sin resolver:

1. Resolución por Capas: ¿Cómo se distribuye la señal de alucinación a través de las capas individuales del decodificador, y son ciertas capas más diagnósticas que otras?
2. Especialización del Detector: ¿Se especializan diferentes métricas basadas en OT (por ejemplo, la distancia hacia la distribución uniforme frente a la distancia hacia los datos) en la detección de diferentes tipos de alucinaciones?
3. Transferencia de Tarea: ¿Se transfiere la intuición geométrica del "desenganche de la fuente" (detectado mediante OT en NMT) al resumen abstractivo, donde los modos de fallo pueden diferir fundamentalmente?

Metodología

1. Métricas de Transporte Óptimo

Los autores extienden el marco de la distancia de Wasserstein-1 ($W_1$) para analizar las distribuciones de atención cruzada ($\pi^{(\ell,t)}$) a través de todas las capas del decodificador ($\ell$) y los pasos de generación ($t$). Las métricas clave incluyen:

• Wass-to-Unif (WTU): Mide la concentración de la atención calculando la distancia $W_1$ hacia una distribución uniforme. Una alta concentración (baja distancia) sugiere que el modelo está ignorando la fuente.
• Wass-to-Data (WTD): Mide la similitud de la distribución de atención de una oración de prueba con un conjunto de referencia de traducciones confirmadas como correctas.
• Consistencia de Enrutamiento (RC): Una métrica novedosa que cuantifica qué tan consistentemente el decodificador atiende a la misma posición de la fuente a través de los pasos de generación. Se deriva de la entropía de las posiciones de la fuente argmax a lo largo del tiempo.
• OT Paso a Paso: Mide el cambio dinámico de la atención entre pasos de decodificación consecutivos para capturar la fase "exploratoria" de la generación.
• OT de Par de Capas: Computa las distancias entre las distribuciones de atención promedio de diferentes capas para mapear la organización funcional.

2. Conjuntos de Datos y Modelos

• NMT (Fairseq DE-EN): Reanálisis del corpus de Guerreiro et al. (2023) ($N=3,414$), que cubre cinco categorías de alucinación (falta de soporte total, falta de soporte fuerte, repeticiones, etc.).
• Resumen Abstractivo (AggreFact): Evaluación en los conjuntos de prueba CNN/DailyMail y XSum ($N=1,116$) utilizando arquitecturas T5-base y Flan-T5-Large.
• Líneas Base (Baselines): Comparación contra el estado del arte supervisado (MiniCheck-Flan-T5-L) y líneas base aleatorias.

Contribuciones Clave

1. Análisis de NMT por Resolución de Capas: El estudio extiende el análisis agregado de la última capa de Guerreiro et al. (2023) a todas las seis capas del decodificador. Identifica que el rendimiento de detección se concentra en las capas L1–L4, mientras que L5 (la capa final) es a menudo anti-predictiva para tipos de alucinación sutiles.
2. Detectores Complementarios: El artículo demuestra que WTU y WTD son detectores especializados. WTU destaca en la detección de alucinaciones de "falta de soporte total" (desenganche completo de la fuente), mientras que WTD es superior para "falta de soporte fuerte" y "repeticiones". El nuevo Consistencia de Enrutamiento (RC) propuesto se identifica como el detector individual más fuerte para las alucinaciones de falta de soporte total.
3. Patrones de Generación Dinámica: Los autores caracterizan la decodificación normal como una trayectoria de dos fases: una fase exploratoria (alto cambio de atención, baja concentración) seguida de una fase de compromiso. Las traducciones alucinadas carecen de la fase exploratoria, comenzando en un estado estáticamente concentrado desde el primer paso de decodificación.
4. Transferencia de Resumen y Límites: La primera aplicación de la detección basada en OT al resumen abstractivo. Aunque el detector no supervisado logra un rendimiento por encima del azar (57.4% de Precisión Balanceada), rinde significativamente por debajo de las líneas base supervisadas (72.1%).
5. Interpretabilidad Estructural: A través de métricas de OT y estudios de ablación en T5-base, el artículo revela una organización del decodificador consistente: la Capa 3 actúa como un pico estructural de concentración y divergencia de enrutamiento, mientras que la Capa 12 es crítica para la calidad de la generación. Las capas L9–L11 muestran redundancia funcional.

Resultados

Rendimiento de Detección en NMT

• Fuerza de la Señal: Las traducciones alucinadas exhiben una media de concentración significativamente mayor y un menor OT paso a paso en comparación con las traducciones correctas ($p < 0.001$).
• Especificidad de Capa:
  • Falta de soporte total: Altamente detectable en L1–L4 (AUROC > 0.93). RC alcanza su pico en L2 (AUROC 0.955).
  • Falta de soporte fuerte y Repeticiones: La detección es más débil en todo el proceso. Notablemente, la Capa 5 se vuelve anti-predictiva (AUROC < 0.5) para estos tipos, ya que la capa final es naturalmente la más concentrada independientemente de la calidad de la traducción.
• Mecanismo: Las alucinaciones se caracterizan por una firma de atención "estática" donde el decodificador se bloquea en tokens de la fuente irrelevantes (o el mismo token) desde el primer paso, saltándose la fase de escaneo dinámico observada en las traducciones correctas.

Transferencia de Resumen Abstractivo

• Brecha de Rendimiento: El detector de OT no supervisado logra un 57.4% de Precisión Balanceada en AggreFact, en comparación con el 72.1% de MiniCheck-Flan-T5-L supervisado.
• Generalización: Las características de OT no se generalizan bien entre los regímenes extractivos (CNN) y abstractivos (XSum) cuando se prueban de forma cruzada (44.2% BAcc), confirmando que la señal depende del régimen.
• Hallazgos Estructurales: En T5-base, la Capa 3 muestra el pico de concentración más alto, y la ablación de las Capas 1–3 causa un colapso agudo en ROUGE-L, identificándolas como un bloque indispensable de codificación de contexto temprano.

Significancia y Reivindicaciones

El artículo postula que el Transporte Óptimo en la atención cruzada es un detector no supervisado fiable específicamente cuando el modo de fallo es el "desenganche de la fuente".

• Interpretabilidad Basada en Principios: Los autores argumentan que el OT proporciona una lente geométrica libre de etiquetas para comprender la arquitectura Transformer, identificando especializaciones funcionales (por ejemplo, L3 en T5, L2 en Fairseq) que se alinean con los resultados de ablación.
• Limitación Teórica: La brecha de rendimiento en el resumen se atribuye a una diferencia fundamental en los modos de fallo. Las alucinaciones de NMT son predominantemente fallos de recuperación intrínsecos (ignorar la fuente), que el OT detecta bien. Los fallos de resumen abstractivo son a menudo uso incorrecto del contenido (atender correctamente a la fuente pero representar erróneamente el contenido), un modo de fallo que es "invisible para las métricas de concentración de OT por construcción".
• Conclusión: El trabajo establece el OT como una herramienta poderosa para detectar cuándo un modelo se desvincula de su fuente, ofreciendo una herramienta de interpretabilidad basada en principios independientemente de la tarea, mientras reconoce explícitamente sus limitaciones cuando los fallos de fidelidad ocurren aguas abajo del mecanismo de atención.