💬 NLP

LLMs Faithfully and Iteratively Compute Answers During CoT: A Systematic Analysis With Multi-step Arithmetics

Este estudio demuestra que los modelos de lenguaje grandes calculan las respuestas de forma iterativa y fiel durante la generación de la cadena de pensamiento en tareas aritméticas, en lugar de haberlas predeterminado antes de iniciar el razonamiento.

Autores originales: Keito Kudo, Yoichi Aoki, Tatsuki Kuribayashi, Shusaku Sone, Masaya Taniguchi, Ana Brassard, Keisuke Sakaguchi, Kentaro Inui

Publicado 2026-03-20

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Keito Kudo, Yoichi Aoki, Tatsuki Kuribayashi, Shusaku Sone, Masaya Taniguchi, Ana Brassard, Keisuke Sakaguchi, Kentaro Inui

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

¡Claro que sí! Imagina que los grandes modelos de lenguaje (como los que usamos para chatear o escribir) son como cocineros muy inteligentes pero un poco misteriosos.

Cuando les pides una receta compleja (un problema de matemáticas), no solo te dan el plato final; también te explican paso a paso cómo lo cocinaron. A esto le llamamos "Cadena de Pensamiento" (CoT).

Pero, aquí surge la gran duda: ¿Realmente están pensando mientras te explican, o ya sabían la respuesta desde el principio y solo están "actuando" para parecer que piensan?

Este estudio quiere responder exactamente eso. Aquí te lo explico con una analogía sencilla:

1. El Misterio: ¿Actuación o Pensamiento Real?

Imagina que le preguntas a un actor: "¿Cómo llegaste a la conclusión de que el asesino es el mayordomo?".

Escenario A (Actuación): El actor ya sabía que el mayordomo era el culpable antes de empezar a hablar. Solo improvisó una historia convincente para que tú creyeras que lo dedujo en ese momento.
Escenario B (Pensamiento Real): El actor no sabía quién era el culpable al principio. Mientras hablaba, fue descubriendo pistas, calculando y, mientras explicaba, llegó a la conclusión.

La mayoría de la gente teme que los modelos de IA hagan el Escenario A: que nos mientan con una explicación bonita pero falsa, porque ya tenían la respuesta guardada en su "caja negra" antes de empezar a hablar.

2. La Experimentación: Los "Detectives de la Cocina"

Los autores de este estudio decidieron investigar la "cocina" de estos modelos. Para hacerlo, crearon un laboratorio de pruebas muy controlado: problemas de matemáticas simples pero en cadena (como: "A es 1 más B, B es 2 más 3, ¿cuánto es A?").

Usaron dos herramientas principales:

Los "Detectives de Rayos X" (Sondas Lineales): Imagina que podemos poner unos lentes mágicos en cada segundo que el modelo "piensa" para ver qué está guardando en su memoria interna.
- Lo que descubrieron: Cuando el modelo lee la pregunta, no tiene la respuesta. Es como si el chef mirara los ingredientes y dijera "no sé qué voy a cocinar todavía".
- La respuesta solo aparece en su memoria mientras está escribiendo la explicación paso a paso. ¡La respuesta nace del proceso de explicación!
El "Cambio de Chip" (Intervención Causal): Imagina que, mientras el modelo está escribiendo su explicación, le cambiamos la memoria de un paso intermedio por la de otro problema diferente.
- Lo que descubrieron: Si cambiamos la memoria de la explicación, el modelo cambia su respuesta final. Si el modelo ya hubiera sabido la respuesta desde el principio (Escenario A), cambiar la explicación no debería afectar el resultado final. Pero como sí lo afectó, significa que la explicación es el camino que construye la respuesta.

3. La Analogía del "Efecto Reciente"

El estudio también encontró algo curioso sobre cómo recuerdan las cosas. Es como si el modelo tuviera una memoria muy corta y solo se fijara en lo que acaba de decir.

Si el modelo acaba de escribir "B es igual a 5", usa ese dato para calcular "A".
No suele volver a mirar la pregunta original que estaba hace mucho tiempo.
Esto confirma que están "pensando en vivo", construyendo el edificio ladrillo a ladrillo, y el último ladrillo (la última parte de la explicación) es el que más pesa para poner la teja final (la respuesta).

4. ¿Qué significa esto para ti?

En resumen, este estudio es una buena noticia para la confianza en la IA:

No están mintiendo: En tareas de razonamiento lógico (como matemáticas), el modelo no tiene la respuesta guardada antes de empezar.
La explicación es real: Lo que el modelo escribe como "pensamiento" es, de hecho, el proceso real de cálculo que está ocurriendo en su cerebro digital.
Son honestos (en este contexto): La explicación que ves en la pantalla es un reflejo fiel de cómo llegó a la conclusión. Si la explicación es correcta, la respuesta también lo es, porque una no existe sin la otra.

En conclusión:
Piensa en estos modelos de IA no como oráculos que ya saben todo, sino como estudiantes que resuelven problemas en voz alta. Cuando te dicen "primero sumo esto, luego esto...", realmente están haciendo esa suma en ese preciso momento. No están actuando; están pensando.

1. Problema de Investigación

El estudio aborda una cuestión crítica en la interpretabilidad de los Grandes Modelos de Lenguaje (LLMs): ¿Qué tan fiel es la explicación de "Cadena de Pensamiento" (CoT) a la respuesta final del modelo?

Existe la preocupación de que los modelos puedan determinar la respuesta final internamente antes de generar la explicación (un proceso post-hoc), utilizando la cadena de razonamiento simplemente como una justificación formal que no refleja el verdadero proceso de cálculo interno. Si esto ocurre, la CoT no sería una representación fiel de la lógica del modelo, lo que comprometería la confianza del usuario en la explicabilidad del sistema. El objetivo es determinar cuándo se deriva la respuesta (antes o durante la generación de la CoT) y establecer la relación causal entre los pasos de razonamiento y la respuesta final.

2. Metodología

Los autores diseñaron un entorno de prueba controlado utilizando problemas aritméticos sintéticos de múltiples pasos para aislar el proceso de razonamiento del ruido del lenguaje natural.

Datos Sintéticos: Crearon un conjunto de datos con ecuaciones de asignación (ej. A = 1 + B, B = 2 + 3) y consultas finales (A = ?). Definieron cinco niveles de complejidad basados en el número de pasos de razonamiento, variables en espera (stack) y ecuaciones distractores.
Probing Lineal (Análisis de Representaciones Internas):
- Entrenaron clasificadores lineales (probes) sobre los estados ocultos del modelo en cada token y capa.
- El objetivo era predecir el valor de las variables intermedias y finales en diferentes momentos del tiempo ( $t$ ).
- Se midió la precisión de estos probes antes de la CoT ( $t < 0$ ) y durante la CoT ( $t \geq 0$ ) para determinar cuándo la información de la respuesta se vuelve linealmente separable en el espacio latente.
Intervenciones Causales (Activation Patching):
- Para verificar la causalidad, utilizaron la técnica de patching de activaciones.
- Reemplazaron los estados ocultos de un modelo resolviendo un problema con los estados ocultos de otro modelo resolviendo un problema diferente (con respuestas distintas).
- Observaron si la respuesta final o los pasos intermedios cambiaban hacia la respuesta del modelo "donante", estableciendo así una relación causal directa entre representaciones específicas y la salida.

3. Contribuciones Clave

Evidencia de Cálculo Iterativo: Demostraron que, en tareas de razonamiento complejo, los LLMs no tienen la respuesta predeterminada al recibir la entrada. En su lugar, calculan las (sub)respuestas de manera iterativa y en tiempo real ("on-the-fly") mientras generan la cadena de pensamiento.
Fidelidad de la CoT: Concluyeron que las cadenas de razonamiento generadas son reflejos fieles del cómputo interno del modelo. La respuesta final depende causalmente de los pasos intermedios generados en la CoT, no de una predicción previa oculta.
Sesgo de Recencia (Recency Bias): Identificaron un patrón causal donde cada paso de razonamiento depende fuertemente del paso inmediatamente anterior y de la información más reciente en la CoT, en lugar de depender de la información inicial del prompt.
Mecanismo de Desecho de Distractores: Observaron que el modelo no codifica linealmente variables que son distractores (no necesarias para la respuesta final), lo que sugiere un mecanismo interno eficiente que evita procesar información irrelevante.

4. Resultados Principales

Momento de la Derivación: En la mayoría de los casos (y en múltiples modelos como Qwen2.5, Llama3, Yi1.5, Mistral), la precisión de los probes para predecir la respuesta final es baja antes de la CoT ( $Acc_{\prec CoT} < 50\%$ ) y alta durante la CoT ( $Acc_{\succ CoT} \approx 100\%$ ). Esto indica que la respuesta se "desbloquea" en los estados ocultos a medida que se escribe la explicación.
Intervenciones Causales:
- Modificar los estados ocultos correspondientes a la parte inicial del prompt (INPUT) tuvo poco o ningún efecto en la respuesta final.
- Modificar los estados ocultos correspondientes a los pasos finales de la CoT (OUTPUT) alteró drásticamente la respuesta final, confirmando que la CoT es la causa directa del resultado.
Robustez: Estos hallazgos se mantuvieron consistentes a través de diferentes tamaños de modelos (desde 3B hasta 34B parámetros) y diferentes niveles de dificultad de las tareas aritméticas.
Análisis de Errores: En casos donde el modelo fallaba, a menudo la respuesta correcta había aparecido temporalmente en los estados ocultos en pasos anteriores, pero se perdió en la generación posterior, lo que sugiere que el error es un fallo en la propagación de la información generada, no en la predicción inicial.

5. Significado e Implicaciones

Este trabajo es fundamental para la comunidad de IA explicable (XAI) y la seguridad de los LLMs:

Validación de la Explicabilidad: Proporciona evidencia empírica sólida de que, al menos en tareas de razonamiento lógico y matemático, los usuarios pueden confiar en que la cadena de pensamiento generada por el modelo representa realmente cómo el modelo llegó a la conclusión.
Refutación del "Post-hoc Reasoning": Desafía la hipótesis de que los modelos simplemente "adivinan" la respuesta y luego inventan una justificación. En tareas que requieren pasos lógicos, el proceso de generación es inseparable del proceso de cálculo.
Guía para la Depuración: Sugiere que para corregir errores en modelos de razonamiento, es más efectivo intervenir en los pasos intermedios de la CoT que en la comprensión inicial del problema.
Limitaciones: Los autores reconocen que los resultados se basan en datos sintéticos aritméticos. Aunque el mecanismo parece generalizable, la dinámica podría diferir en tareas de razonamiento del mundo real o de conocimiento fáctico donde el modelo podría tener acceso a la respuesta en su memoria de entrenamiento sin necesidad de "pensar".

En resumen, el estudio demuestra que los LLMs modernos realizan un cómputo iterativo y fiel durante la generación de la CoT, transformando la cadena de pensamiento de una simple justificación retórica a un componente causal esencial de la resolución de problemas.