Resumen Técnico: Diagnóstico de Sondas de Corrección bajo el Confundimiento del Autojuicio

Declaración del Problema

Las lecturas de estados ocultos en los Grandes Modelos de Lenguaje (LLMs) pueden predecir si los resultados del modelo son fácticamente correctos. Sin embargo, existe una ambigüedad semántica crítica: la corrección objetiva (OC) —si una respuesta se alinea con la verdad externa— suele correlacionarse fuertemente con el autojuicio del propio modelo (SJ) —si el modelo cree que su respuesta es correcta—. Debido a que estas variables suelen coincidir, los contrastes convencionales etiquetados por corrección (por ejemplo, comparar respuestas correctas frente a incorrectas) a menudo confunden los correlatos neuronales de la verdad externa con la postura evaluativa interna del modelo.

La pregunta central es si una "dirección de verdad" transferible extraída de los estados ocultos representa la relación entre una respuesta y la verdad externa, o simplemente la propia evaluación del modelo sobre esa respuesta. Trabajos previos han demostrado que las direcciones relacionadas con la verdad pueden transferirse a través de tareas y transformaciones lógicas, pero la reusabilidad por sí sola no identifica la variable específica que representa una lectura. Esta ambigüedad es particularmente problemática cuando la OC y el SJ discrepan, ya que las sondas estándar pueden aprender inadvertidamente a predecir la confianza o el respaldo del modelo en lugar de la exactitud fáctica.

Metodología

Diseño Experimental: El Conjunto de Conflicto

Para desentrañar la OC y el SJ, los autores construyen un "conjunto de conflicto" cruzando estas dos variables binarias, creando cuatro tipos de respuesta:

• A (1,1): Objetivamente Correcta, Auto-respaldada.
• B (1,0): Objetivamente Correcta, Auto-rechazada (Falso Negativo).
• C (0,1): Objetivamente Incorrecta, Auto-respaldada (Falso Positivo).
• D (0,0): Objetivamente Incorrecta, Auto-rechazada.

La comparación diagnóstica crítica es entre B y C. Una dirección asociada a la OC debería clasificar a B (correcta) por encima de C (incorrecta). Por el contrario, una dirección asociada al SJ debería clasificar a C (respaldada) por encima de B (rechazada).

Descomposición Factorial

Los autores proponen una descomposición factorial del contraste mixto estándar ($W_{mix} = \mu_A - \mu_D$) en dos efectos principales ortogonales:

1. $W_{meta}$ (asociada al SJ): $[(\mu_A - \mu_B) + (\mu_C - \mu_D)] / 2$. Esto captura el efecto marginal del autojuicio del modelo.
2. $W_{truth}$ (asociada a la OC): $[(\mu_A - \mu_C) + (\mu_B - \mu_D)] / 2$. Esto captura el efecto marginal de la corrección objetiva.

Bajo un modelo asociativo lineal, $W_{mix}$ es la suma de estos dos componentes. El estudio evalúa qué componente preserva su polaridad semántica (clasificación) al transferirse a través de dominios.

Datos y Modelos

• Modelos: Cuatro LLMs ajustados por instrucciones de hasta 14B de parámetros (Qwen2.5-7B/14B, Llama-3.1-8B, OLMo-3-7B).
• Dominios:
  • Fuente: Razonamiento matemático (Math) y Recuerdo fáctico (Movies).
  • Objetivo (Fuera de Distribución): MMLU (selección múltiple de 4 opciones) y TruthfulQA binario.
• Procedimiento:
  1. Generar múltiples respuestas por pregunta.
  2. Filtrar por "pares estrictos": preguntas donde el modelo produce al menos una respuesta correcta y una incorrecta, y ambas son juzgadas con alta confianza ($p_{judge} \ge 0.7$ o $\le 0.3$).
  3. Extraer estados ocultos en el token de la respuesta final.
  4. Ajustar direcciones en dominios fuente y evaluar en dominios objetivo sin reajuste (zero-target-fitting).
  5. Medir el rendimiento utilizando el Área Bajo la Curva (AUC) para la clasificación de pares en conflicto (B vs. C).

Resultados Clave

1. Las Sondas Convencionales Siguen al Autojuicio

En el Experimento 1, se evaluó la dirección mixta estándar ($W_{mix}$) en conflictos B/C. Contrariamente a la expectativa de que priorizaría la corrección objetiva, $W_{mix}$ clasificó consistentemente a C (incorrecta/auto-respaldada) por encima de B (correcta/auto-rechazada). Esto se mantuvo incluso para una dirección de control "solo OC" ajustada sin etiquetas de SJ, lo que sugiere que las sondas de corrección estándar están dominadas por la postura evaluativa del modelo en lugar de la verdad de fondo.

2. Transferibilidad Asimétrica

En el Experimento 2B (transferencia entre dominios), los autores probaron si $W_{meta}$ y $W_{truth}$ preservan sus clasificaciones esperadas en los dominios objetivo:

• $W_{meta}$ (asociada al SJ): Se transfirió con éxito a través de todos los modelos y direcciones (Math $\leftrightarrow$ Movies, y hacia MMLU/TruthfulQA). Clasificó consistentemente a C por encima de B con AUCs significativamente por encima del azar (0.57–0.93).
• $W_{truth}$ (asociada a la OC): Falló en la transferencia. En casi todas las condiciones, la dirección asociada a la OC clasificó a C por encima de B (AUC < 0.5), revirtiendo efectivamente el orden esperado. No preservó la semántica de "corrección" en el dominio objetivo.

3. Robustez y Controles

Los hallazgos fueron robustos a través de múltiples controles:

• Profundidad de Capa: La asimetría de transferencia emerge en las capas medias a tardías (profundidad normalizada 0.40–0.80).
• Controles Nulos: Las direcciones aleatorias y los controles de etiquetas permutadas no replicaron el patrón.
• Factores de Confusión: Los resultados persistieron tras controlar el recuento de tokens de la respuesta, la log-probabilidad de la respuesta y la identidad de la opción de respuesta en tareas de elección forzada.
• Generalización OOD: La señal asociada al SJ se transfirió a MMLU y TruthfulQA sin necesidad de ajuste de dirección en esos conjuntos de datos específicos.

Contribuciones Clave

1. Diagnóstico Semántico de Lecturas: El artículo proporciona un método para distinguir si una lectura transferible representa la verdad objetiva o la autoevaluación del modelo, explotando casos donde estas variables entran en conflicto.
2. Identificación de Confundimiento: Demuestra que las "direcciones de verdad" encontradas en la literatura previa suelen estar confundidas por el autojuicio del modelo. Cuando la OC y el SJ discrepan, la señal que se transfiere es la asociada al respaldo del modelo, no a la verdad externa.
3. Marco de Descomposición Factorial: La introducción de $W_{meta}$ y $W_{truth}$ como componentes distintos y estimables ofrece una forma rigurosa de separar estas señales semánticas en el análisis de estados ocultos.

Significado y Reivindicaciones

El artículo concluye que la transferibilidad por sí sola es insuficiente para establecer la semántica de corrección objetiva en las lecturas de LLMs. Aunque una dirección se generalice a través de tareas, puede estar rastreando la confianza interna o la postura evaluativa del modelo en lugar de la verdad fáctica.

• Interpretación: El componente más confiablemente transferible en las sondas de corrección es el asociado al Autojuicio (SJ). Esto sugiere que los modelos poseen una representación interna robusta de su propia certeza o "respaldo" de una respuesta, la cual es distinta de y a menudo prevalece sobre la representación de la verdad objetiva en escenarios de conflicto.
• Implicación: Las afirmaciones de que los LLMs poseen un "acceso introspectivo privilegiado" o que estados ocultos específicos codifican la "verdad" deben ser reevaluadas. Si una sonda predice la corrección pero falla cuando el modelo está erróneamente seguro, es probable que esté midiendo la creencia del modelo en su propio resultado en lugar de la validez fáctica del mismo.
• Alcance: Los autores señalan que su muestra diagnóstica está limitada a juicios de alta confianza y modelos ajustados por instrucciones específicos. No pretenden haber resuelto el problema de la detección de la verdad, sino haber diagnosticado una ambigüedad fundamental en las metodologías actuales de sondeo. Los hallazgos sugieren que el trabajo futuro sobre la veracidad debe considerar y separar explícitamente las señales de autoevaluación del modelo de la corrección objetiva.