From Architecture to Output: Structural Origins of Hallucination in Large Language Models and the Amplifying Role of Data

Resumen Técnico: Orígenes Estructurales de la Alucinación en los Modelos de Lenguaje de Gran Escala

Planteamiento del Problema
Los modelos de lenguaje de gran escala (LLM) producen de manera consistente resultados fluidos y seguros, pero fácticamente incorrectos, un fenómeno conocido como alucinación. Si bien las taxonomías existentes (por ejemplo, Alansari y Luqman [1]; Huang et al. [2]) clasifican rigurosamente las alucinaciones por sus características de salida (intrínseca vs. extrínseca, fidelidad vs. veracidad), no logran identificar los mecanismos arquitectónicos internos específicos responsables de generar estos errores. Los marcos actuales describen el síntoma, pero no localizan la causa, lo que deja las estrategias de intervención de forma indirecta y centradas en la gestión de los resultados en lugar de abordar los orígenes. Este artículo sostiene que la alucinación no es un fenómeno superficial aleatorio, sino una consecuencia estructural de tres decisiones arquitectónicas específicas que forman un "sistema de falla compuesta".

Metodología
El artículo emplea un análisis mecanicista de la arquitectura Transformer, rastreando la alucinación hasta tres componentes centrales:

1. Autoatención (Self-Attention): Analizada como un mecanismo que aprende la coocurrencia estadística en lugar de la verdad semántica.
2. Estimación de Máxima Verosimilitud (MLE): Analizada como un objetivo de entrenamiento que optimiza la plausibilidad estadística sin restricciones fácticas.
3. Decodificación Autoregresiva: Analizada como un proceso de generación sujeto al sesgo de exposición, donde los errores se propagan de forma irreversible.

Para validar estas afirmaciones teóricas, los autores realizaron experimentos empíricos controlados utilizando GPT-2 (un transformador autoregresivo de solo decodificador). Los experimentos aislaron cada mecanismo bajo condiciones de prompting específicas:

• Autoatención: Evaluada para detectar fallos de coocurrencia y sesgo posicional mediante prompts diseñados para activar asociaciones aprendidas en contextos inválidos.
• Objetivo MLE: Evaluado para determinar la indiferencia hacia la exactitud fáctica, comparando las puntuaciones de log-probabilidad de falsedades comunes frente a verdades verificadas.
• Decodificación Autoregresiva: Evaluada para detectar fallos en cascada mediante la introducción de un único error fáctico en el prefijo del prompt y la observación de la propagación de dicho error a través de la secuencia generada.

El artículo también sintetiza hallazgos de literatura previa (por ejemplo, Liu et al. [8] sobre el sesgo de atención; Lin et al. [9] sobre el escalado inverso; Shumailov et al. [12] sobre el colapso del modelo) para demostrar cómo las patologías de los conjuntos de datos (deficiencias de la cola larga, sesgo de entrenamiento, contaminación sintética) interactúan con estos mecanismos arquitectónicos.

Contribuciones Clave
El artículo realiza tres contribuciones primarias:

1. Mapeo Mecanismo-Salida: Establece un mapeo directo entre los tres mecanismos arquitectónicos y las categorías específicas de alucinación en la taxonomía de Alansari y Luqman [1]:
   • La autoatención se identifica como la fuente de la alucinación intrínseca (confusión de entidades, atribución errónea de hechos, deriva semántica) causada por la sustitución de la proximidad estadística por el significado semántico.
   • El MLE se identifica como la fuente de la alucinación extrínseca (falsedades imitativas) causada por recompensar patrones estadísticamente frecuentes independientemente de la verdad.
   • La decodificación autoregresiva se identifica como la fuente de la inconsistencia lógica causada por el compromiso permanente de izquierda a derecha de los tokens bajo el sesgo de exposición.
2. Reencuadre de las Patologías de los Conjuntos de Datos: El artículo sostiene que las patologías de los conjuntos de datos (deficiencias de la cola larga, sesgo de entrenamiento y contaminación sintética) no causan la alucinación de forma independiente. En su lugar, actúan como amplificadores que explotan las vulnerabilidades preexistentes de los tres mecanismos arquitectónicos. Por ejemplo, las deficiencias de la cola larga explotan la naturaleza impulsada por la frecuencia del objetivo MLE, mientras que la contaminación sintética alimenta patrones corruptos en los tres mecanismos simultáneamente, conduciendo al colapso del modelo.
3. Limitación Diagnóstica y Rediseño Propuesto: El artículo identifica una brecha crítica en los marcos de diagnóstico actuales: clasificar la alucinación únicamente por el tipo de salida impide una intervención dirigida. Propone un sistema de clasificación de dos ejes que conserva el eje de tipo de salida (intrínseca/extrínseca) y añade un eje de mecanismo (atención, MLE, autoregresivo) para localizar el operador arquitectónico específico responsable de un error.

Resultados

• Validación Empírica: Los experimentos en GPT-2 confirmaron los modos de falla estructural.
  • Autoatención: En 13 de 15 prompts (86.7%), el modelo generó completaciones fácticamente erróneas basadas en patrones de coocurrencia fuertes en lugar de una fundamentación semántica. Los pesos de atención se concentraron en pares de tokens estadísticamente dominantes en lugar de en el contexto semánticamente relevante.
  • MLE: El modelo asignó una masa de probabilidad mayor o casi equivalente a falsedades comunes en comparación con verdades verificadas, confirmando que el objetivo recompensa la frecuencia sobre la exactitud.
  • Decodificación Autoregresiva: En 4 de 5 pares de prueba, un solo token erróneo en el prefijo del prompt causó que el modelo generara una secuencia fluida pero fácticamente rota que agravaba el error inicial, demostrando el efecto de cascada del sesgo de exposición.
• Observaciones de Escalamiento: El artículo señala que escalar los modelos bajo MLE no resuelve la alucinación; más bien, los modelos más grandes aprenden la distribución de entrenamiento (incluyendo sus falsedades) de manera más completa, aumentando potencialmente la fidelidad de las alucinaciones extrínsecas (escalado inverso de la veracidad).

Significancia
El artículo sostiene que comprender la alucinación como una consecuencia estructural de las decisiones arquitectónicas es un prerrequisito necesario para una intervención efectiva. Al desplazar el enfoque de "qué tipo de alucinación ocurrió" a "qué mecanismo la produjo", el campo puede ir más allá de las estrategias de mitigación indirectas (como el prompt engineering o la aumentación de recuperación) hacia intervenciones arquitectónicas dirigidas. Los autores argumentan que, sin identificar el operador arquitectónico específico (atención, MLE o decodificación) responsable de un error, las intervenciones permanecen ciegas a la causa raíz. Este análisis estructural proporciona un marco de diagnóstico que vincula modos de falla específicos con sus orígenes arquitectónicos, ofreciendo una imagen más completa de la fiabilidad de los LLM y una base para la investigación futura en la mitigación a nivel de mecanismo.