Resumen Técnico: La Anatomía de una Dirección de Verdad

Planteamiento del Problema

Los modelos de lenguaje de gran tamaño (LLM) generan afirmaciones falsas con una fluidez comparable a las verdaderas, sin embargo, trabajos recientes sugieren que los valores de verdad son linealmente legibles desde el flujo residual. Aunque Bürger et al. (2024) establecieron que las representaciones de la verdad residen en un subespacio multidimensional (que abarca una dirección de verdad general y una dirección sensible a la polaridad), tres preguntas críticas permanecen sin respuesta respecto a la naturaleza de esta representación:

1. ¿Cómo depende la dimensionalidad del subespacio de la verdad del conocimiento real del modelo sobre los hechos?
2. ¿Qué componentes arquitectónicos (Atención vs. Redes de Alimentación hacia Adelante [FFN]) construyen, propagan o degradan la señal de verdad?
3. ¿Cuál es la composición de la dirección de la verdad cuando el modelo procesa categorías heterogéneas de hechos?

Metodología

El artículo emplea una sonda direccional sin entrenamiento y sin etiquetas (hasta el signo) derivada de la Descomposición en Valores Singulares (SVD) de las diferencias de los estados ocultos entre pares mínimos (variantes de oraciones verdadera/falsa que difieren en una palabra de contenido).

• Instrumento: El vector singular derecho dominante ($v_1$) de la matriz de diferencia $D = h_{true} - h_{false}$ sirve como el "eje de verdad". Por el Lema 1, el espacio generado por este eje es invariante a qué oración del par se etiqueta como verdadera, requiriendo solo un único bit de signo global para la orientación.
• Evaluación: El rendimiento se mide mediante el Área Bajo la Curva (AUC) de validación cruzada k-fold sobre los pares mantenidos fuera del entrenamiento. Un nulo de permutación (intercambio de etiquetas dentro de los pares) controla el sesgo de selección en el escaneo de capas.
• Anatomía: El flujo residual se descompone en contribuciones de atención ($a_\ell$) y FFN ($f_\ell$). La ablación causal (anulación de componentes) y los controles de "procedencia de marco" (medir las contribuciones contra marcos ajustados a diferentes profundidades) aíslan los mecanismos causales.
• Disciplina: El estudio se adhiere a un estricto protocolo de falsificación. Las predicciones se prerregistran; los resultados negativos y las correcciones de las interpretaciones previas de los autores se reportan con igual rigor.

Contribuciones Clave y Resultados

Parte I: Dimensionalidad y Dependencia del Conocimiento (Modelo Único: Qwen2.5-1.5B)

• Dimensionalidad Dependiente del Conocimiento: La señal de verdad no tiene una dimensionalidad fija. En hechos que el modelo conoce conductualmente (pares curados), la señal está altamente concentrada en un solo eje (AUC 0.938). A medida que el conocimiento disminuye (CounterFact) o la heterogeneidad del material aumenta (mezcla de TruthfulQA), la señal se vuelve difusa y la brecha entre la sonda de un solo eje y una sonda lineal completa se amplía significamente (de 0.051 a 0.203). Esto sugiere que la representación de la verdad es dependiente del conocimiento: los hechos conocidos ocupan una dirección dedicada; los hechos desconocidos resultan en superposiciones superpuestas, no resueltas y solapadas.
• Verificación de Unidimensionalidad: Siete experimentos de falsificación (probando dinámicas de fase compleja, firmas de profundidad global, departamentos de capa, energía y agrupamiento 3D) no lograron invalidar la lectura unidimensional en hechos conocidos. La "fase" o "rotación" de las falsedades fue retractada como una reexpresión del cambio de signo en el eje real.
• Recuperación de la Polaridad: La SVD de pares mínimos de polaridad mixta recupera la dirección de polaridad supervisada ($t_P$) de Bürger et al. (2024) con un coseno de 0.959, sin haber visto nunca etiquetas de polaridad.
• Origen Anatómico: La atención construye causalmente la señal de verdad en las capas medias. Por el contrario, la FFN degrada la señal después del pico de legibilidad.

Parte II: Leyes Relacionales y Geometría Convergente (Cuatro Modelos: Familias Qwen y Llama)

• Ley Empírica 1 (Propagar vs. Sobrescribir): Emerge una ley relacional a través de los modelos: la Atención propaga marcos de verdad que no escribió, mientras que la FFN se opone al marco de su bloque actual y deposita el material para el siguiente marco. Esta dinámica explica el "giro" observado en el pico de verdad: la aparente escritura pro-verdad de la FFN en el pico es un artefacto de medir el componente contra un marco que ella misma ayudó a crear; cuando se mide contra un "marco limpio" previo, la FFF es consistentemente anti-alineada con el marco de verdad actual.
• Atribución Causal de la Erosión: La auténtica decadencia post-pico de la señal de verdad se atribuye causalmente al flujo de valores SwiGLU de la FFN, no a la compuerta (gate).
• Escala y Rasgos de Familia:
  • Escala: Un "tira y afloja" (donde la atención continúa escribiendo pro-verdad mientras la FFN sobrescribe) es un rasgo de modelos más grandes (3B), ausente en los más pequeños (1B).
  • Familia: Una "ignición de capa única" de la señal es un rasio de la familia Qwen, mientras que Llama exhibe un aumento gradual.
• Geometría de Categorías Convergentes: Los ejes de verdad para diferentes categorías semánticas (ej. idiomas, continentes, ciudadanía) forman una disposición semánticamente firmada que contradice la superficie léxica inicial y converge a través de las familias de modelos.
  • La Ley de Disposición: Diferentes modelos entrenados en el mismo mundo convergen hacia la misma disposición funcional de direcciones de verdad. Esta geometría pertenece al dominio del conocimiento, no a la arquitectura.
  • Puerta de Conocimiento: Esta convergencia está mediada por el conocimiento. La fuerza del acuerdo entre familias (Mantel $p=0.0009$) se fortalece de +0.42 en material de conocimiento mixto a +0.74 en categorías de conocimiento restringido.
• Inestabilidad de Signo y Corrección: La orientación por categoría es inestable para hechos de bajo conocimiento. El artículo introduce un medidor de consenso espectral (usando el autovector principal de la matriz de coseno) para reparar la inestabilidad de signo, asegurando que las comparaciones entre modelos no sean artefactos de giros de signo arbitrarios.

Significado y Reivindicaciones

El artículo afirma establecer una sonda estructural de bajo costo para la verdad que rivaliza con las sondas entrenadas en hechos conocidos sin necesidad de optimización. Su principal contribución teórica es el replanteamiento de la representación de la verdad:

1. La dimensionalidad no es fija: Es una función del conocimiento del modelo. Los hechos desconocidos no fallan en tener una dirección; más bien, su señal se distribuye a través de características superpuestas, lo que las hace ilegibles para un solo eje.
2. El mecanismo es relacional: La verdad no es un objeto estático, sino un flujo dinámico donde la atención propaga marcos y las FFN sobrescriben estos con nuevas direcciones específicas de la categoría.
3. La geometría es impulsada por el conocimiento: La disposición de las direcciones de verdad a través de las categorías es una propiedad del dominio de conocimiento compartido, que converge a través de diferentes arquitecturas de modelos.

Los autores declaran explícitamente que este método no es un sustituto de los autoencodificadores dispersos (sparse autoencoders) (que son necesarios para desambiguar las características superpuestas), sino que sirve como una "sonda estructural ligera, honesta y casi gratuita" para situarse junto a la generación. El trabajo enfatiza que estudiar la geometría de una capacidad presupone la existencia de esa capacidad conductualmente, un principio aplicado sistemáticamente al medir las "tasas de conocimiento" antes del análisis geométrico.

El artículo concluye que un resultado que sobrevive a los mejores ataques de sus propios autores (mediante correcciones y falsificaciones prerregistradas) es más robusto que uno que nunca ha sido atacado, posicionando los hallazgos como una base fortalecida para el futuro trabajo de interpretabilidad mecánica.