Resumen Técnico: Detección de Cadenas de Pensamiento Infieles Mediante Discrepancia Interna-Externa Guiada por Circuitos

1. Definición del Problema

El razonamiento en cadena de pensamiento (CoT) permite que los Modelos de Lenguaje Grandes (LLM) generen pasos textuales intermedios antes de producir una respuesta final, mejorando significativamente el rendimiento en tareas complejas. Sin embargo, surge un problema crítico cuando estas trazas de razonamiento generadas no reflejan fielmente el proceso de decisión interno real del modelo. Si bien los métodos de detección existentes se centran en señales externas —como la plausibilidad textual, la consistencia de la respuesta o las intervenciones contrafactuales—, a menudo pasan por alto la evidencia proveniente del cómputo interno del modelo.

Este artículo aborda dos desafíos principales:

1. Desafío 1: Cómo detectar la infidelidad del CoT utilizando evidencia del proceso de decisión interno del modelo en lugar de depender exclusivamente de la calidad del razonamiento superficial.
2. Desafío 2: Cómo aprovechar las señales de interpretabilidad interna para la detección sin incurrir en el costo computacional prohibitivo de construir circuitos de razonamiento completos para trazas de CoT largas.

El objetivo es la detección a nivel de instancia: determinar si una trayectoria de CoT generada específica $C$ refleja fielmente el proceso de razonamiento interno del modelo $R_M(q)$ para una consulta dada $q$.

2. Metodología: CIE-SCORER

Los autores proponen el Puntaje de Discrepancia Interna-Externa Guiado por Circuitos (CIE-SCORER), un marco que cuantifica la infidelidad midiendo la discrepancia entre la traza de razonamiento mostrada y la trayectoria computacional interna del modelo.

2.1 Construcción de Circuitos de Pasos Seleccionados por Tokens

Para abordar el desafío de escalabilidad del rastreo de circuitos completos, CIE-SCORER opera a nivel de oración en lugar de nivel de token para toda la traza.

• Selección de Tokens: En lugar de rastrear todos los tokens en una oración de razonamiento, el método selecciona un conjunto compacto de tokens informativos. Esto se logra combinando:
  • Selección Basada en Entropía: Identificación de tokens con alta incertidumbre (alta entropía), que es probable que porten información relevante para el razonamiento.
  • Necesidad Contrafactual: Medición del impacto causal de un token mediante la intervención sobre él (sustituyéndolo) y observando los cambios tanto en el contenido semántico de la oración como en la distribución predictiva aguas abajo.
• Gráficos de Circuitos Comprimidos: Utilizando los tokens seleccionados como anclas, el método construye circuitos de atribución a nivel de oración mediante un modelo de reemplazo basado en transcodificadores. Esto produce una secuencia de gráficos compactos $G^{circ} = (G^{circ}_1, \dots, G^{circ}_T)$ que representan el cómputo interno para cada paso de razonamiento.

2.2 Representaciones Internas y Externas

El marco construye dos representaciones paralelas para la traza de razonamiento:

• Representación Interna: La secuencia de gráficos de circuitos a nivel de oración se codifica en incrustaciones latentes ($X^{int}$) utilizando una Red Neuronal de Grafos (GNN). Estas incrustaciones capturan la trayectoria computacional de caja blanca del modelo.
• Representación Externa: Las oraciones de razonamiento mostradas se codifican en incrustaciones ($X^{ext}$) promediando los estados ocultos de una capa intermedia del LLM. Un adaptador MLP ligero proyecta estas incrustaciones en la misma dimensionalidad que las incrustaciones internas.

2.3 Puntuación de Discrepancia de Grafos

Ambas representaciones se convierten en gráficos de oraciones a nivel de traza ($G^{int}$ y $G^{ext}$) utilizando una regla de construcción compartida. Los nodos representan oraciones de razonamiento y las aristas codifican la progresión temporal y las dependencias semánticas.

• Distancia Fused Gromov–Wasserstein (FGW): La puntuación de infidelidad se calcula como la distancia FGW entre los gráficos interno y externo. Esta métrica considera conjuntamente:
  • Discrepancia de Características: Si el contenido de un paso mostrado se alinea con su evidencia computacional interna.
  • Discrepancia Estructural: Si las dependencias entre los pasos mostrados coinciden con la estructura interna de flujo de información.
• Objetivo de Entrenamiento: El modelo se entrena con una pérdida basada en márgenes para minimizar la distancia FGW para trazas fieles y maximizarla (más allá de un margen $m$) para trazas infieles.

3. Contribuciones Clave

1. Nueva Perspectiva: Este trabajo formula la detección de infidelidad del CoT desde una perspectiva de discrepancia interna-externa guiada por circuitos, representando la primera integración del cómputo interno del modelo con trazas de razonamiento externas para el análisis a nivel de instancia.
2. Marco Eficiente (CIE-SCORER): Los autores proponen un método que realiza el rastreo de circuitos seleccionados por tokens, comprime los circuitos a nivel de oración en incrustaciones y los compara con representaciones externas utilizando la distancia FGW. Este enfoque evita el costo de la construcción de circuitos completos mientras preserva las señales internas clave.
3. Rendimiento de Vanguardia: Los experimentos en cuatro conjuntos de datos de FaithCoT-Bench demuestran que CIE-SCORER supera a las líneas base existentes, incluidos los métodos basados en contrafactuales, los métodos basados en logits, los enfoques de LLM como juez y los métodos basados en circuitos anteriores (CRV).

4. Resultados Experimentales

La evaluación se realizó en cuatro conjuntos de datos que cubren razonamiento lógico, factual, matemático y biomédico: LogicQA, TruthfulQA, AQuA y HLE-Bio.

• Rendimiento: CIE-SCORER logró las puntuaciones de Precisión y F1 más altas en todos los conjuntos de datos. Por ejemplo, en el conjunto de datos LogicQA, mejoró la Precisión en 11.5 puntos y la F1 en 1.4 puntos sobre la línea base anterior más fuerte.
• Eficiencia: En comparación con la línea base CRV, CIE-SCORER redujo el uso máximo de memoria en un 48.3%–55.2% y los tokens rastreados en un 62.4%–68.6%. También logró reducciones significativas en el tiempo de ejecución (por ejemplo, 67.6% en TruthfulQA) mientras mejoraba las puntuaciones F1.
• Estudios de Ablación: Eliminar la estrategia de selección de tokens (usando solo entropía o solo puntuaciones contrafactuales) o eliminar el codificador interno GNN resultó en caídas significativas de rendimiento, confirmando la necesidad de la integración de ambas señales y del modelado de la estructura del grafo.
• Transferencia Interdominio: El modelo demostró capacidades de transferencia significativas, particularmente entre TruthfulQA y LogicQA, lo que sugiere que las representaciones de grafos internas aprendidas capturan señales de fidelidad generalizables.

5. Significado y Afirmaciones

El artículo afirma que CIE-SCORER aborda eficazmente la "ilusión de transparencia" del razonamiento CoT al combinar explícitamente las señales de interpretabilidad mecanicista con trazas externas.

• Diferenciación de Tipos de Infidelidad: El análisis revela que los diferentes tipos de infidelidad exhiben patrones de desajuste distintos. El razonamiento post-hoc (racionalizar una respuesta predeterminada) induce principalmente discrepancias a nivel de características (desajuste de contenido), mientras que las cadenas de razonamiento espurias (pasos localmente coherentes pero causalmente rotos) inducen principalmente discrepancias a nivel de estructura (desajuste de dependencias).
• Escalabilidad: Al centrar el rastreo de circuitos en tokens informativos en lugar de en todos los tokens, el método hace que la interpretabilidad mecanicista sea viable para trazas de razonamiento largas, superando un cuello de botella importante en los enfoques anteriores.
• Fiabilidad: El marco proporciona una señal más robusta para auditar el comportamiento del modelo que las métricas a nivel superficial, ya que compara directamente la "historia" que cuenta el modelo (traza externa) con el "cómputo" que realiza (circuito interno).

Los autores señalan que el método requiere acceso a los internos del modelo (caja blanca), lo que limita su aplicación inmediata a modelos de código abierto o accesibles, y deja la evaluación en diversos dominios y configuraciones multimodales para trabajos futuros.