Resumen Técnico: Separación entre Creencia y Realidad en Modelos de Lenguaje

Planteamiento del Problema

Los modelos de lenguaje (LM) capaces demuestran la habilidad de distinguir entre las creencias de un personaje y la realidad objetiva (por ejemplo, responder "azul" cuando se pregunta qué cree Anna y "rojo" cuando se pregunta qué es verdad, dado que "Anna cree que la taza es azul; en realidad es roja"). Sin embargo, la localización mecánica de esta separación dentro de la computación del modelo sigue siendo incierta. Trabajos previos han establecido que los modelos pueden rastrear estados de entidades y realizar tareas de teoría de la mente (ToM), pero se desconoce si la separación entre creencia y realidad está codificada en la propia representación del valor o en el mecanismo que selecciona qué marco (frame) leer. Además, los benchmarks conductuales para ToM suelen ser susceptibles de "atajos" (por ejemplo, sesgo de recencia, copia) que inflan el rendimiento sin un razonamiento genuino. Este artículo busca localizar los mecanismos computacionales específicos responsables de la separación entre creencia y realidad y determinar si son distintos de los mecanismos que almacenan el valor atribuido.

Metodología

Los autores emplean la Búsqueda de Alineación Distribuida (DAS) para identificar subespacios continuos de bajo rango dentro del flujo residual del modelo que controlan causalmente lecturas específicas. La metodología se basa en tres componentes principales:

1. Estímulos Libre de Confusión: Para eliminar los atajos comunes en los benchmarks de ToM (Ullman 2023; Shapira et al. 2024), los autores diseñaron plantillas de pares mínimos con órdenes de cláusulas aleatorizadas y conjuntos de valores distintos.

   • Visibilidad Selectiva: Prueba si el modelo atribuye una creencia basándose en lo que un personaje vio (por ejemplo, Carol ve a Anna pintar de azul pero no a Ben pintar de rojo).
   • Asertado vs. Derivado: Contrasta creencias explícitamente declaradas en el texto ("Anna cree...") frente a creencias inferidas de la visibilidad ("Anna vio...").
   • Creencia vs. Realidad: Presenta un contexto único con valores de creencia y realidad en conflicto para probar la selección de marco.
   • Controles: Incluye diseños "a prueba de copia" donde devolver el último color mencionado o un único valor mencionado produce respuestas incorrectas.

2. Protocolo de Intervención: El estudio utiliza intervenciones de intercambio. Se identifica una porción de bajo rango del estado interno (subespacio) en una posición de token específica. Esta porción se copia de un contexto "donante" (por ejemplo, una taza roja) a un contexto "receptor" (por ejemplo, una taza azul) en el momento de la consulta. Si la salida del modelo cambia al valor del donante, el subespacio está controlando causalmente esa lectura.

3. Alcance del Modelo: El análisis se centra en modelos de pesos abiertos, principalmente Qwen2.5 (3B, 7B, 14B, 32B), Mistral-7B y OLMo-2-7B. La escala conductual se evalúa a través de cinco familias, estableciendo los 7B como la escala mínima donde el mecanismo es robustamente observable.

Contribuciones Clave

El artículo identifica que la separación entre creencia y realidad no es una representación monolítica, sino una división del trabajo entre dos mecanismos separables ubicados en diferentes posiciones de la computación:

1. Un Espacio de Valor Genérico: Un subespacio de bajo rango que contiene el valor atribuido (por ejemplo, "azul") pero que es agnóstico al marco. No etiqueta inherentemente el valor como "creencia" o "realidad".
2. Un Enrutador Específico del Marco: Un subespacio separado de bajo rango ubicado en la posición de la consulta que selecciona qué marco (creencia o realidad) se lee del espacio de valor.

Resultados Clave

1. Emergencia de la Capacidad con la Escala

La capacidad de atribuir creencias basadas en la visibilidad descrita emerge agudamente entre los 3B y 7B de parámetros.

• Modelos de 3B: Fallan la tarea, recurriendo a menudo a la recencia (repitiendo el último color mencionado).
• Modelos de 7B (Qwen, Mistral, OLMo): Resuelven la tarea con alta precisión e independencia del orden.
• Esto establece a los 7B como el sustrato para el análisis mecanicista.

2. Dos Rutas hacia un Único Espacio de Valor

El artículo demuestra que tanto las creencias asertadas (declaradas explícitamente) como las creencias derivadas (inferidas de la visibilidad) llenan el mismo subespacio de bajo rango.

• Transferencia Cruzada: Un subespacio entrenado para controlar creencias asertadas puede dirigir creencias derivadas (y viceversa) con alta eficiencia (0.74–0.97 en modelos base).
• Asimetría: El ajuste de instrucciones agudiza una asimetría donde la ruta derivada (que implica una búsqueda retrospectiva condicionada por la visibilidad) se vuelve más dominante en la dirección del espacio compartido, aunque el espacio en sí permanece compartido.
• Dependencia de la Visibilidad: Las creencias derivadas son causalmente dependientes de la visibilidad descrita (cambiar el actor visible invierte la creencia en el 99% de los casos), mientras que las creencias asertadas son invariantes a las cláusulas de visibilidad. Esto confirma dos rutas de entrada distintas que convergen en una sola representación.

3. El Espacio de Valor es Agnóstico al Marco

Las intervenciones en el espacio de valor revelan que este no porta una etiqueta de creencia-realidad.

• Transferencia entre Marcos: Un subespacio entrenado para controlar la lectura de "creencia" mueve la lectura de "realidad" con la misma fuerza (89–95% de transferencia).
• Conclusión: El espacio almacena el valor (por ejemplo, "azul") independientemente de si es una creencia o un hecho. La separación no reside aquí.

4. El Enrutador Selecciona el Marco

La separación entre creencia y realidad es implementada por un enrutador en la posición de la consulta.

• Disociación: Los enrutadores de creencia y de realidad son subespacios distintos y casi ortogonales. Intercambiar un enrutador de creencia en una consulta de realidad (o viceversa) no logra producir la salida correcta (fuga de cruce $\le$ 0.16).
• Mecanismo: El enrutador selecciona qué valor del marco se lee sin inyectar el valor específico del donante.
• Validez en Distribución: Las ablaciones de proyección confirman que estos enrutadores se utilizan durante el paso hacia adelante natural del modelo, no solo como objetivos de intercambio efectivos.

Significado y Reivindicaciones

El artículo afirma resolver el "dónde" de la separación entre creencia y realidad en los modelos de lenguaje:

• La Separación es Enrutamiento, no Codificación: La distincción entre lo que un personaje cree y lo que es verdad no está codificada en la representación del valor en sí. En cambio, se implementa como un mecanismo de enrutamiento que selecciona un marco sobre un espacio de valor compartido.
• Generalización Mecanicista: Esta arquitectura de "espacio y enrutador" se mantiene a través de tres familias de modelos distintas (Qwen, Mistral, OLMo) y escalas (7B, 14B).
• Refutación de Representaciones de Creencia Monolíticas: Los hallazgos contradicen la idea de que la creencia es un estado único y autocontenido. En su lugar, la creencia es un compuesto de una vinculación de valor (el espacio) y una selección de marco (el enrutador).
• Fundamento para Contextos No Actuales: Los autores señalan que este formato específico de espacio y enrutador parece compartirse con otros contextos no actuales (contrafácticos, ficción, temporales), una afirmación expandida en un artículo complementario (Steele 2026).

El artículo se mantiene modesto respecto a las creencias de segundo orden y los efectos del ajuste de instrucciones, señalando que estos son hallazgos preliminares o de un solo sustrato, y evita explícitamente hacer afirmaciones filosóficas sobre el "estatus doxástico" de estos estados internos, centrándose estrictamente en la estructura causal sobre las lecturas.