Resumen Técnico: Atribución Causal Local del Razonamiento de Cadena de Pensamiento (Chain-of-Thought)

Declaración del Problema

El éxito de los Modelos de Razonamiento Grande (LRMs) depende en gran medida del razonamiento de Cadena de Pensamiento (CoT, por sus siglas en inglés), donde los modelos generan secuencias largas de pasos intermedios. Sin embargo, la fidelidad de estos textos de CoT con respecto al proceso de razonamiento latente subyacente del modelo sigue siendo una preocupación crítica. La investigación indica que el texto de CoT puede, en ocasiones, ignorar manipulaciones de la entrada o construir justificaciones elaboradas pero falsas, particularmente cuando los modelos se presentan con pistas incorrectas. Mientras que trabajos previos han explorado estructuras causales al nivel de las representaciones internas (caja blanca) o distribuciones sobre trayectorias de razonamiento (vía remuestreo), existe la necesidad de métodos locales eficientes para analizar las relaciones causales dentro de un rastro de CoT específico. Los métodos existentes de caja negra suelen centrarse en la atribución a nivel de respuesta o no tienen en cuenta el impacto de los pasos intermedios en los pasos de razonamiento subsiguientes.

Metodología: AttriCoT

Los autores proponen AttriCoT, un método de caja negra para estimar atribuciones causales locales dentro de un rastro de CoT específico. El enfoque se fundamenta en un Modelo Causal Estructural (SCM) y opera con una complejidad computacional lineal relativa al número de unidades de razonamiento.

1. Formulación del Modelo Causal Estructural

El método trata un rastro de CoT y su entrada como una secuencia de "unidades" ($x_1, \dots, x_S$ para la entrada; $y_1, \dots, y_T$ para los pasos de salida y la respuesta final). El supuesto central es una propiedad autorregresiva donde la probabilidad logarítmica de generar una unidad $y_t$ depende de la presencia o ausencia de unidades previas.

• Escalarización: La unidad $y_t$ se escala mediante su probabilidad logarítmica condicional: $S_t(y_t) = \log P(y_t | x, y_{<t})$.
• Ecuación Estructural Lineal: La influencia de las unidades previas se modela mediante una ecuación lineal:
  $$S_t(y_t) = \sum_{s=1}^S \alpha_{s,t} I(x_s) + \sum_{\tau=1}^{t-1} \beta_{\tau,t} I(y_\tau) + \gamma_t + u_t$$
  Aquí, $I(\cdot)$ son funciones indicadoras (1 si está presente, 0 si se elimina), y los coeficientes $\alpha_{s,t}$ y $\beta_{\tau,t}$ representan la importancia causal de la entrada y de las unidades de salida previas, respectivamente.

2. El Algoritmo AttriCoT

El algoritmo estima estos coeficientes a través de tres pasos:

1. Intervención: El método realiza intervenciones mediante la eliminación de unidades específicas de la secuencia. La estrategia por defecto es "Leave-One-Out" (LOO, dejar uno fuera), eliminando una unidad a la vez ($N = S + T$ intervenciones). Una variante mejorada ("AttriCoT-2x") incluye intervenciones de "Leave-Two-Out" (dejar dos fuera).
2. Medición: Para cada secuencia perturbada, el modelo realiza una pasada hacia adelante (forward pass) para calcular las probabilidades logarítmicas de las unidades de salida restantes. El cambio en la probabilidad logarítmica para una unidad objetivo $y_t$ sirve como el valor objetivo para la regresión.
3. Regresión: Se ajusta una regresión lineal (con regularización L1 opcional) para estimar los coeficientes $\alpha$ y $\beta$. Este proceso requiere $O(N)$ pasadas hacia adelante, manteniendo la complejidad lineal con respecto al número de unidades.

3. Métrica de Evaluación

La calidad de la atribución se evalúa mediante la Fidelidad Conductual (Behavioral Faithfulness), medida por el Área Bajo la Curva de Perturbación (AUPC).

• Procedimiento: Las unidades previas se clasifican según sus puntuaciones de atribución. Se eliminan las $k$ unidades superiores y se mide la disminución resultante en la probabilidad logarítmica de la unidad objetivo.
• Métrica: El AUPC agrega estas disminuciones a medida que $k$ varía de 0 a 20% de las unidades previas. Un AUPC más alto indica que el método de atribución identifica correctamente las unidades que son causalmente críticas para la generación de los pasos subsiguientes.

Contribuciones Clave

1. Marco de Trabajo AttriCoT: La propuesta de un método de explicación de caja negra y local que atribuye los pasos de CoT a unidades previas utilizando un modelo causal estructural, requiriendo solo un número lineal de pasadas hacia adelante ($O(S+T)$).
2. Fidelidad Superior: Evidencia empírica que demuestra que AttriCoT produce atribuciones más fieles al comportamiento del modelo que otros métodos, incluyendo el enmascaramiento de oración a oración (Thought Anchors) y las líneas base basadas en prompting.
3. Métricas Analíticas: La introducción de métricas derivadas de matrices de atribución (por ejemplo, densidad de puntuación, influencia promedio, ratio de entrada) para revelar diferencias estructurales en el razonamiento entre modelos y dominios.

Resultados Experimentales

El método fue evaluado en 5 conjuntos de datos (GSM8K, MATH500, GPQA-Diamond, MMLU-Pro, ZebraLogic) y 4 modelos de razonamiento (DS-Llama-8B, DS-Qwen-14B, DS-Qwen3-8B, Qwen3-8B).

• Rendimiento: AttriCoT alcanzó consistentemente las puntuaciones de AUPC más altas en todos los modelos y conjuntos de datos. En GSM8K, mostró mejoras del 15–30% sobre Thought Anchors y del 70–165% sobre las líneas base de prompting.
• Eficiencia: A diferencia de los métodos basados en remuestreo, AttriCoT evita el alto costo computacional de generar nuevos trayectos de CoT, basándose en su lugar en pasadas hacia adelante no generativas.
• Análisis Comparativo:
  • Thought Anchors: Aunque competitivos, los Thought Anchors (que utilizan la divergencia KL sobre distribuciones de tokens) generalmente tuvieron un rendimiento inferior a AttriCoT, probablemente porque no miden el impacto directo en la probabilidad logarítmica de la unidad generada de la misma manera local.
  • Prompting: El uso de prompting para que los LLM clasifiquen las unidades (incluso con Aprendizaje en Contexto) produjo puntuaciones de fidelidad significativamente menores.
  • Atención de Caja Blanca: Un método exploratorio de caja blanca que interviene en los pesos de atención mostró resultados prometedores, pero no superó a los métodos de intervención causal.

Análisis de las Estructuras de Razonamiento

Al analizar las matrices de atribución, los autores observaron patrones distintos:

• Decaimiento de la Influencia: La importancia generalmente decae rápidamente con la distancia entre los pasos, pero se estabiliza en una cola larga.
• Dependencia de la Entrada: La métrica "Ratio de Entrada" revela que los modelos dependen fuertemente de las unidades de entrada al comienzo de un rastro. Curiosamente, esta dependencia suele aumentar nuevamente en las etapas medias y finales (alrededor del 50–80% del rastro), lo que sugiere que los modelos vuelven a consultar el contexto de entrada para verificar o finalizar respuestas.
• Diferencias entre Modelos: Los modelos más grandes o destilados (por ejemplo, DS-Llama-8B) exhibieron densidades de puntuación más altas y patrones de influencia diferentes en comparación con sus contrapartes no destilados, lo que indica variaciones estructurales en cómo procesan el razonamiento.

Significado y Reivindicaciones

El artículo sostiene que tratar los rastros de CoT como objetos causales proporciona un marco vital para la transparencia y la seguridad. Al descomponer un rastro en unidades definidas por el usuario y ajustar ecuaciones estructurales, AttriCoT ofrece una forma computacionalmente eficiente de entender por qué se producen pasos de razonamiento específicos y si el razonamiento intermedio es consecuente.

Los autores enfatizan que su trabajo aborda el nivel "local" de la causalidad (rastros específicos) en lugar de los mecanismos internos o las distribuciones de trayectorias. Concluyen que las matrices de atribución resultantes revelan patrones sugestivos, como la influencia especial de los pasos iniciales y finales, y la tendencia de los modelos a revisar las entradas durante la verificación. Los autores reconocen las limitaciones, incluyendo la expresividad de las ecuaciones estructurales lineales y la simplicidad de la intervención LOO por defecto, posicionando el trabajo futuro hacia el desarrollo de métodos de caja blanca computacionalmente económicos y la investigación de cómo las estructuras de razonamiento dependen de las familias de modelos y la dificultad del problema.