Resumen Técnico: Cuando el contexto engaña: La sorpresividad, la energía y la entropía de la atención como métricas de las ilusiones de coherencia en los LLM

Planteamiento del problema

La investigación psicolingüística ha establecido que los lectores humanos son susceptibles a las "ilusiones de coherencia", donde un discurso incoherente parece coherente porque un distractor en el contexto previo coincide semánticamente con la palabra crítica que sigue a un activador de presuposición (por ejemplo, "de nuevo" o "también"). Este fenómeno se explica mediante teorías de recuperación basadas en claves, donde la interferencia impulsada por la similitud provoca la recuperación de elementos incorrectos pero coincidentes de la memoria.

Si bien se ha observado el "atrapamiento contextual" o "secuestro de contexto" en los Grandes Modelos de Lenguaje (LLM) —donde los modelos asignan mayores probabilidades a los tokens mencionados en el prompt independientemente de su corrección factual—, no está claro si los LLM exhiben las ilusiones de coherencia específicas encontradas en el procesamiento del discurso humano. Este artículo investiga si los LLM en neerlandés (tanto monolingües como multilingües) replican las ilusiones de coherencia similares a las humanas al procesar textos que contienen activadores de presuposición como opnieuw (de nuevo) y ook (también).

Metodología

El estudio utiliza estímulos de tres experimentos psicolingüísticos existentes con textos en neerlandés (Schmitz et al., 2025; Kloostra et al., 2026). El diseño experimental involucra discursos cortos (típicamente tres oraciones) donde:

1. Contexto: Establece un escenario con un objetivo (target) y un distractor.
2. Activador (Trigger): Aparece un activador de presuposición ("de nuevo" o "también") en la última oración.
3. Palabra Crítica: La palabra que sigue al activador determina la coherencia.

Los autores definen cuatro condiciones basadas en la coincidencia o falta de coincidencia entre el objetivo y el distractor con la palabra crítica:

• MAMA: El objetivo coincide, el distractor coincide (Coherente).
• MAMI: El objetivo coincide, el distractor no coincide (Coherente).
• MIMA: El objetivo no coincide, el distractor coincide (Incoherente pero crea una ilusión de coherencia).
• MIMI: El objetivo no coincide, el distractor no coincide (Incoherente).

El estudio emplea 10 modelos: 6 modelos solo para neerlandés (basados en arquitecturas GPT-2 y GPT-Neo, incluyendo GEITje-7B-ultra) y 4 modelos multilingües (EuroLLM, Aya Expanse, Qwen3, LLaMA-3.1).

Los autores analizan tres métricas primarias:

1. Sorpresividad (Surprisal): La probabilidad negativa del logaritmo de la palabra crítica, comparada con datos de seguimiento ocular humano (duración de fijación) y juicios de aceptabilidad.
2. Entropía de la Atención: Calculada por cabeza y capa en la posición crítica para medir la dispersión de la atención. Una entropía alta sugiere interferencia o la recuperación de múltiples candidatos competidores.
3. Energía: Una métrica novedosa adaptada de la literatura de memoria asociativa (Redes de Hopfield) para cuantificar el "ajuste" entre la consulta (activador/palabra crítica) y las claves (contexto). Una energía baja indica un buen ajuste; una energía alta indica un mal ajuste o una atención difusa.

Además, los autores realizan experimentos de ablación de cabezas (anulando los valores de cabezas específicas) y entrenan sondas lineales sobre las representaciones ocultas para determinar si la información de coherencia está codificada explícitamente.

Resultados Clave

1. Sorpresividad y Alineación Humana

• Patrón Conductual: Tanto los modelos solo en neerlandés como los multilingües exhiben un orden de sorpresividad de $MAMA < MAMI < MIMA < MIMI$.
• Ilusión de Coherencia: Crucialmente, la condición MIMA (incoherente pero con un distractor que coincide) genera una sorpresividad significativamente menor que la condición MIMI (totalmente incoherente). Esto refleja el comportamiento humano, donde el distractor coincidente facilita el procesamiento, creando una ilusión de coherencia.
• Correlación Humana: Los valores de sorpresividad de los modelos (específicamente GEITje y GPT-Neo-125M) predicen significativamente las métricas de seguimiento ocular humano (Primera Fijación, Mirada Total, Fijación Total) en la región crítica. Esto confirma que la sorpresividad del modelo sirve como un proxy confiable de la dificultad de lectura humana a nivel de discurso.

2. Entropía de la Atención

• Diferenciación: La entropía de la atención distingue entre las condiciones MIMA (ilusión) y MIMI (incoherencia real).
• Especificidad de Capa: Las cabezas en las capas medias a tardías de los modelos muestran las diferencias más significativas de entropía entre las condiciones. En la condición MIMA, la atención es menos difusa en comparación con la MIMI, lo que sugiere que el modelo recupera con éxito el distractor coincidente, reforzando la ilusión.

3. Métrica de Energía

• Cuantificación: La métrica de energía cuantifica con éxito la coherencia del discurso.
• Hallazgos: La condición MIMA exhibe puntuaciones de energía más bajas (indicando un ajuste percibido como bueno) en comparación con la MIMI, a pesar de que ambas son incoherentes respecto al objetivo. Esto se alinea con la hipótesis de que la memoria asociativa del modelo recupera el distractor, reduciendo la "energía" del estado.

4. Ablación y Sondeo

• Ablación de Cabezas: La ablación de las 25 cabezas superiores identificadas por las diferencias de entropía afecta la sorpresividad de las condiciones de no-ilusión (MAMI, MAMA) más que a la condición incoherente base (MIMI). Esto sugiere que estas cabezas son críticas para codificar la coherencia, aunque el efecto varía según el tipo de activador.
• Sondas Lineales: Un clasificador lineal entrenado en estados ocultos logra una precisión del 71.88% en la predicción de las condiciones de coherencia (azar: 25%). El clasificador confunde frecuentemente MAMA (coherente) con MIMA (ilusión), proporcionando evidencia interna de que el modelo representa la ilusión incoherente como algo más cercano al estado coherente que al estado totalmente incoherente.

Contribuciones y Significado

Este artículo realiza las siguientes contribuciones:

1. Evidencia Empírica: Demuestra que las ilusiones de coherencia, previamente documentadas en la psicolingüística humana, emergen en los LLM en neerlandés tanto en arquitecturas monolingües como multilingües.
2. Integración de Métricas: Valida la sorpresividad como un predictor del nivel de discurso de los tiempos de lectura humana e introduce la entropía de la atención y la energía como métricas internas para cuantificar y explicar estas ilusiones.
3. Unificación Teórica: Los autores enmarcan tanto las ilusiones de coherencia humanas como el atrapamiento contextual de los LLM bajo la lente unificada de la recuperación basada en claves y la interferencia impulsada por la similitud. Esto cierra la brecha entre la ciencia cognitiva y la interpretabilidad de los LLM.
4. Perspectiva Mecanística: Al identificar cabezas de atención específicas y representaciones ocultas que diferencian (o no logran diferenciar) entre estados coherentes e ilusorios, el estudio revela los mecanismos internos que utilizan los LLM para resolver la coherencia del discurso.

Limitaciones y Alcance

Los autores señalan que el estudio se limita al idioma neerlandés y depende de modelos entrenados con datos en neerlandés, que pueden tener características de rendimiento diferentes en comparación con los modelos centrados en el inglés. Los estímulos fueron diseñados para experimentos psicolingüísticos humanos, lo que puede no mapearse perfectamente con la tokenización de los LLM o las distribuciones de entrenamiento. Los autores no afirman que los LLM "alucinen" de la misma manera que los humanos malinterpretan, sino que exhiben patrones de procesamiento similares impulsados por mecanismos de recuperación asociativa. El estudio se centra en la presencia de estas ilusiones y en las métricas para detectarlas, más que en proponer correcciones arquitectónicas específicas para eliminarlas.