💬 NLP

How Context Shapes Truth: Geometric Transformations of Statement-level Truth Representations in LLMs

Este artículo proporciona la primera caracterización geométrica de cómo el contexto transforma los vectores de verdad en los Modelos de Lenguaje de Gran Escala, revelando que el contexto generalmente amplifica la magnitud de las representaciones de verdad mientras que los modelos más grandes distinguen el contexto relevante del conflictivo principalmente a través de cambios direccionales en el espacio de activación en lugar de diferencias de magnitud.

Autores originales: Shivam Adarsh, Maria Maistro, Christina Lioma

Publicado 2026-06-09

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Shivam Adarsh, Maria Maistro, Christina Lioma

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina un Modelo de Lenguaje Extenso (LLM) como una gigantesca biblioteca de varios pisos donde cada libro representa un pensamiento o una pieza de información distinta. Dentro de esta biblioteca, la "verdad" sobre una afirmación no está escrita en palabras; se almacena como una flecha específica que apunta en una determinada dirección.

Si el modelo piensa que una afirmación es verdadera, la flecha apunta en una dirección. Si piensa que es falsa, la flecha apunta en la otra. El artículo que compartiste investiga qué sucede con estas "flechas de la verdad" cuando le entregamos al modelo una pieza de información adicional (contexto) para que la lea antes de responder.

Aquí está el desglose de sus hallazgos utilizando analogías sencillas:

1. El viaje de tres etapas de una flecha

Los investigadores observaron estas flechas de la verdad mientras viajaban a través de los diferentes "pisos" (capas) de la biblioteca. Encontraron un patrón consistente de tres etapas:

El sótano (Capas iniciales): Cuando el modelo lee la afirmación por primera vez, la "flecha de la verdad" con contexto y la "flecha de la verdad" sin contexto apuntan en direcciones completamente diferentes. Son como dos personas de espaldas; son ortogonales (en un ángulo de 90 grados). El modelo solo está procesando las palabras puras, por lo que el contexto adicional aún no ha dado sentido a la verdad.
El salón principal (Capas intermedias): A medida que la información sube, las flechas de repente comienzan a alinearse. Convergen, apuntando casi en la misma dirección. Aquí es donde el modelo realmente lo "entiende". Ha procesado el significado, y el hecho de que hubiera contexto adicional o no, la idea central de la "verdad" se representa de manera similar.
El ático (Capas finales): En los últimos pisos, las cosas se ponen interesantes. A veces, las flechas permanecen perfectamente alineadas. Otras veces, comienzan a separarse de nuevo. Esto sucede principalmente cuando el contexto adicional contradice lo que el modelo ya "sabe" de su entrenamiento. Es como si el modelo tuviera un debate interno, causando que la flecha tambalee o cambie de dirección mientras intenta decidir qué información confiar.

2. Subir el volumen (Magnitud)

Los investigadores también midieron la longitud de estas flechas.

El hallazgo: Cuando añades contexto, las flechas generalmente se vuelven más largas.
La analogía: Imagina que la diferencia entre una afirmación verdadera y una falsa es como la distancia entre dos personas paradas en una habitación. Sin contexto, podrían estar a 5 pies de distancia. Cuando añades contexto, el modelo las empuja más lejos, quizás a 10 pies. La "separación" entre la verdad y las mentiras se vuelve más distinta y fácil de ver. El contexto actúa como un reflector que hace que la diferencia entre lo correcto y lo incorrecto sea más clara.

3. Modelos grandes frente a modelos pequeños: Estrategias diferentes

El artículo descubrió que los modelos grandes y los modelos pequeños manejan esta "información extra" de maneras diferentes, como dos tipos distintos de navegantes:

Los modelos grandes (ej. LLaMA, Mistral): Estos modelos son como cartógrafos expertos con mapas enormes. Cuando reciben un contexto relevante, cambian la dirección de su flecha. Físicamente giran para enfrentar un nuevo ángulo más preciso. Utilizan el espacio extra en su "cerebro" para apuntar en una dirección completamente nueva para mostrar que comprenden el matiz.
Los modelos pequeños (ej. Qwen, SmolLM): Estos modelos tienen mapas más pequeños. No siempre pueden permitirse girar la flecha en una nueva dirección sin chocar con otras ideas. En su lugar, mantienen la flecha apuntando aproximadamente en la misma dirección pero la hacen más larga. Indican que comprenden el contexto mediante la "amplificación" de la señal (haciendo la flecha más larga) en lugar de cambiar su ángulo.

4. Buen contexto frente a ruido aleatorio

Los investigadores probaron qué sucede cuando el contexto es realmente útil frente a cuando es solo ruido aleatorio (como una lista de palabras al azar o un párrafo desordenado).

El resultado: El contexto relevante y útil provoca una reacción mucho mayor en las "flechas de la verdad" del modelo que el ruido aleatorio.
La excepción: Si el contexto es contradictorio (diciéndole al modelo algo que va en contra de su entrenamiento), esto provoca el cambio geomético más grande de todos. Es como si el modelo recibiera un choque; la flecha oscila violentamente porque tiene que reconciliar dos hechos opuestos.
El problema del texto legal: Curiosamente, cuando el contexto era un texto legal muy complejo y técnico, los modelos tuvieron dificultades para distinguirlo del ruido aleatorio. Las "flechas" no se movieron mucho. Parece que cuando el lenguaje es demasiado denso y especializado, el modelo no puede distinguir entre una pista útil y una oración aleatoria.

Resumen

En resumen, este artículo muestra que cuando un LLM lee una afirmación con contexto adicional, no solo "lee" las palabras; físicamente remodela la geometría de sus pensamientos internos.

Al principio, los pensamientos están confundidos y apuntan en todas partes.
En el medio, se alinean para encontrar la verdad.
Al final, la "flecha de la verdad" se hace más larga (más confianza) o cambia de dirección (si el contexto es complicado).
Los modelos grandes cambian la dirección de la flecha para mostrar que entienden; los modelos pequeños cambian la longitud de la flecha.

Esto ayuda a comprender que la "verdad" en una IA no es un interruptor estático; es una forma dinámica que cambia dependiendo de lo que la IA esté leyendo.

Resumen Técnico: Cómo el contexto moldea la verdad

Declaración del problema

Si bien investigaciones previas han establecido que los Grandes Modelos de Lenguaje (LLMs) codifican la veracidad de las afirmaciones como direcciones lineales (vectores) dentro de las activaciones de su flujo residual, la evolución geométrica de estos "vectores de verdad" cuando se introduce información contextual permanece inexplorada. Estudios existentes demuestran que la verdad puede separarse de las falsedades en el espacio de activación y que las sondas pueden generalizarse entre configuraciones, pero no caracterizan cómo se transforma la geometría de estas representaciones —específicamente su dirección y magnitud— cuando un modelo procesa una afirmación junto con un contexto. Esta brecha es crítica para comprender cómo los LLMs integran información externa, particularmente en escenarios de Generación Aumentada por Recuperación (RAG) y aprendizaje en contexto.

Metodología

Los autores proponen un marco para medir las transformaciones geométricas de los vectores de verdad inducidas por el contexto. La configuración experimental involucra cuatro LLMs ajustados por instrucciones (LLaMA-3.1-8B, Mistral-Nemo-12B, Qwen3-4B y SmolLM3-3B) y cuatro conjuntos de datos que abarcan diversos dominios (verificación de hechos, legal, sinopsis de películas y conflictos de conocimiento sintéticos).

Procedimiento Central:

Construcción de Prompts: Para cada afirmación, se generan cuatro prompts variando la [Opción Seleccionada] (apoyar o refutar la afirmación) y la presencia de [Contexto] (con o sin él). Se instruye al modelo para generar una completación comenzando con un token específico (por ejemplo, ")") para asegurar una comparación justa.
Extracción de Vectores: Los vectores de verdad se extraen de las activaciones del flujo residual (post-MLP) en la posición del primer token generado. El vector de verdad sin contexto ( $v_{k,nc}^{(l)}$ ) y con contexto ( $v_{k,c}^{(l)}$ ) para una afirmación $k$ en la capa $l$ se definen como la diferencia entre las activaciones para las completaciones verdaderas y falsas:
$v_{k,nc}^{(l)} = a_{k,True, nc}^{(l)} - a_{k,False, nc}^{(l)}$
$v_{k,c}^{(l)} = a_{k,True, c}^{(l)} - a_{k,False, c}^{(l)}$
Métricas Geométricas: Se miden dos propiedades para cuantificar el cambio:
- Cambio Direccional ( $\theta$ ): El ángulo entre el vector de verdad con contexto y sin contexto, calculado mediante la similitud de coseno.
- Magnitud Relativa: La razón entre la norma L2 del vector de verdad con contexto y la norma sin contexto ( $||v_{k,c}^{(l)}||_2 / ||v_{k,nc}^{(l)}||_2$ ). Los valores $>1$ indican una amplificación de la separación entre las representaciones verdaderas y falsas.

El estudio también compara el contexto relevante contra cinco tipos de contexto aleatorio o irrelevante (caracteres aleatorios, palabras aleatorias, oraciones incoherentes, texto aleatorio de Wikipedia y contextos de conjuntos de datos permutados) para evaluar la sensibilidad a la relevancia.

Resultados Clave

1. Patrón de Cambio Direccional de Tres Fases

En todos los modelos y conjuntos de datos, el cambio direccional ( $\theta$ ) sigue un patrón consistente de tres fases a través de las capas:

Fase 1 (Capas Tempranas): Los vectores de verdad con y sin contexto son aproximadamente ortogonales (alto $\theta$ ), lo que sugiere representaciones distintas en las etapas iniciales de procesamiento.
Fase 2 (Capas Medias): Los vectores convergen bruscamente, alcanzando un $\theta$ mínimo. Esto se alinea con el papel conocido de las capas medias en la codificación semántica y la recuperación de conocimiento. Notablemente, $\theta$ nunca llega a cero, lo que indica que el contexto siempre deja una firma geométrica distinta.
Fase 3 (Capas Posteriores): El comportamiento varía. Para algunos conjuntos de datos, los vectores se estabilizan. Para otros (específicamente cuando el contexto entra en conflicto con el conocimiento paramétrico, ej. ConflictQA-Counter), $\theta$ aumenta nuevamente, sugiriendo un procesamiento continuo de señales conflictivas en las capas más profundas.

2. Amplificación de la Separación de la Verdad

Agregar contexto generalmente aumenta la magnitud relativa de los vectores de verdad (valores $>1$ ). Esto indica que el contexto amplifica la separación entre las representaciones verdaderas y falsas en el espacio de activación. Este efecto es más pronunciado en las capas medias, donde la magnitud relativa a menudo alcanza su pico antes de estabilizarse en las capas posteriores.

3. Tamaño del Modelo y Mecanismos de Sensibilidad

Existe una divergencia significativa entre modelos grandes y pequeños respecto a cómo codifican la relevancia del contexto:

Modelos Grandes (LLaMA, Mistral): Distinguen el contexto relevante del irrelevante principalmente a través del cambio direccional ( $\theta$ ). El contexto relevante induce cambios direccionales significativamente mayores en comparación con el contexto aleatorio.
Modelos Pequeños (Qwen, SmolLM): Distinguen el contexto relevante del irrelevante principalmente a través del escalado de magnitud. Mientras que los cambios direccionales suelen ser insignificantes o negativos, la magnitud relativa de los vectores de verdad es significativamente mayor para el contexto relevante. Los autores hipotetizan que esto se debe a las restricciones de capacidad representacional en espacios de menor dimensión, haciendo que la magnitud sea una estrategia de codificación más factible que las direcciones distintas.

4. Impacto del Conflicto de Conocimiento

El contexto que contradice el conocimiento paramétrico (ConflictQA-Counter) produce cambios geométricos mayores (mayor $\theta$ y magnitud) que el contexto alineado con el conocimiento paramétrico. Esto sugiere que la información conflictiva dispara cambios geométricos más fuertes y persistentes, lo que potencialmente refleja la competencia entre las vías de memoria y de contexto.

5. Especificidad de Dominio

En conjuntos de datos complejos y de dominio específico como LegalBench (Corporate Lobbying), los modelos a menudo no muestran diferencias geométricas significativas entre el contexto relevante y el aleatorio. Esto se correlaciona con puntuaciones bajas de legibilidad de Flesch, lo que sugiere que el lenguaje altamente técnico puede abrumar la capacidad del modelo para extraer señales geométricas significativas que distingan la relevancia.

Significancia y Reivindicaciones

El artículo afirma proporcionar la primera caracterización geométrica de cómo el contexto transforma las representaciones de la verdad en los LLMs. Los hallazgos ofrecen una lente teórica para comprender el procesamiento interno del contexto y tienen implicaciones prácticas para:

Sistemas RAG: Los valores de $\theta$ por capa podrían servir como señales diagnósticas para detectar cuándo un modelo falla al integrar el contexto recuperado (falta de convergencia en la capa media) o cuándo existen conflictos de conocimiento (divergencia anormal en la capa tardía).
Direccionamiento de Modelos Pequeños: El descubrimiento de que los modelos más pequeños dependen de la magnitud en lugar de la dirección sugiere que las técnicas de direccionamiento de activación para estos modelos deberían centrarse en el escalado de magnitud en lugar de puramente en intervenciones direccionales.

Los autores mantienen una postura modesta, señalando que, si bien estos cambios geométricos son significativos, no siempre se traducen linealmente en cambios en la probabilidad de salida. También reconocen limitaciones, incluyendo el enfoque en el primer token, el uso de conjuntos de datos exclusivamente en inglés y la naturaleza específica de los modelos ajustados por instrucciones estudiados.