💬 NLP

ReasoningFlow: Discourse Structures for Understanding LLM Reasoning Traces

Este artículo presenta ReasoningFlow, un marco que convierte las trazas complejas y no lineales de los modelos de razonamiento grande (LRM) en grafos acíclicos dirigidos de grano fino para analizar sus estructuras de discurso, revelando que los LRM exhiben patrones de razonamiento estructuralmente similares a través de diferentes modelos y que la mayoría de los pasos erróneos no influyen en las respuestas finales.

Autores originales: Jinu Lee, Shivam Agarwal, Amruta Parulekar, Siddarth Madala, Dilek Hakkani-Tur, Julia Hockenmaier

Publicado 2026-06-05

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Jinu Lee, Shivam Agarwal, Amruta Parulekar, Siddarth Madala, Dilek Hakkani-Tur, Julia Hockenmaier

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás observando a un genio de las matemáticas resolver un rompecabezas complejo. No se limita a escribir la respuesta en una línea recta. En su lugar, habla consigo mismo: "Espera, ese número parece incorrecto", "Déjame intentar un camino diferente", "Oh, ya veo, cometí un error aquí, déjame volver atrás" y "Bien, ahora estoy seguro".

Durante mucho tiempo, las computadoras que intentaban comprender estos "procesos de pensamiento" (llamados trazas de razonamiento) solo veían una línea recta de texto. No podían ver el retroceso, las autocorrecciones o los callejones sin salida. Solo veían un párrafo desordenado.

Este artículo presenta ReasoningFlow, una nueva forma de mapear estos pensamientos desordenados en un diagrama de flujo claro (específicamente, un Grafo Acíclico Dirigido, o DAG). Piensa en ello como convertir un flujo de conciencia caótico en un mapa de metro donde cada estación es un pensamiento y cada vía muestra cómo un pensamiento conduce a otro.

Aquí está lo que los investigadores encontraron, explicado de forma sencilla:

1. El Mapa: Convertir Pensamientos en un Diagrama de Flujo

Los investigadores construyeron un sistema para descomponer estas trazas de razonamiento largas y sinuosas en pequeños fragmentos (nodos) y dibujar líneas (aristas) entre ellos para mostrar cómo se conectan.

Los Nodos (Estaciones): Identificaron 8 tipos de "paradas" en el mapa. Algunas son para la Planificación (decidir qué hacer a continuación), algunas para el Razonamiento (hacer las matemáticas o la lógica), algunas para la Reflexión (verificar si son correctos) y algunas para las Suposiciones (probar un escenario de "¿qué pasaría si...?").
Las Aristas (Vías): Dibujaron 14 tipos diferentes de vías. Algunas vías muestran un paso lógico hacia adelante ("inferir"), otras muestran la ejecución de un plan ("ejecutar") y otras muestran un "retroceso" donde el pensador se da cuenta de que "Espera, ese camino es erróneo" y regresa para intentar algo más.

2. El Descubrimiento: El Mapa de Todos se Ve Igual

El equipo probó esto en cinco modelos de IA diferentes (algunos modelos de "razonamiento" muy nuevos, otros más antiguos) en tareas de matemáticas, ciencia y argumentación.

El Hallazgo: Aunque estos modelos de IA fueron creados por diferentes empresas y entrenados con diferentes datos, sus "mapas de pensamiento" eran sorprendentemente similares. Es como si un humano de Nueva York y un humano de Tokio utilizaran ambos un mapa mental similar para resolver un laberinto, incluso si hablan idiomas diferentes. La estructura de cómo piensan se está estandarizando.

3. El Superpoder de la "Autocorrección"

Uno de los hallazgos más interesantes es cómo estos modelos de IA manejan los errores.

Verificación Local: En lugar de esperar hasta el final para verificar si toda la respuesta es correcta, estos modelos verifican constantemente su trabajo mientras avanzan. Detectan errores pequeños de inmediato y los corrigen.
El Momento "Ups": El artículo encontró que cuando una IA dice: "Espera, eso parece incorrecto", y cambia de opinión, ese cambio es usualmente la clave para obtener la respuesta correcta. El modelo se está "dirigiendo" activamente a sí mismo para alejarse de los errores en tiempo real.

4. Los Errores "Fantasma"

Este es quizás el hallazgo más sorprendente.

El Mito: La gente solía pensar que si una IA cometía un error en el paso 3, la respuesta final sería definitivamente incorrecta.
La Realidad: Los mapas de ReasoningFlow mostraron que la mayoría de los errores son "fantasmas". La IA puede cometer un error, darse cuenta, retroceder y omitir completamente ese camino erróneo. La respuesta correcta final se construye sobre un distinto conjunto de pasos.
La Analogía: Imagina que vas conduciendo a una fiesta. Tomas un giro equivocado, te das cuenta, das la vuelta y tomas el camino correcto. Llegaste a la fiesta a tiempo. Si alguien solo mirara el historial de tu GPS, vería el giro equivocado y diría: "¡Fallaste!". Pero el mapa de ReasoningFlow muestra que el giro equivocado fue un callejón sin salida que no afectó tu llegada final.

5. La "Caja Negra" vs. El "Guion"

Finalmente, los investigadores analizaron cómo el "cerebro" interno de la IA (dependencias mecánicas) coincide con las palabras que escribe (estructura del discurso).

El Hallazgo: Encontraron una desconexión. El hecho de que la matemática interna de la IA diga "el Paso A causó el Paso B" no siempre significa que el texto refleje esa relación con claridad. La "historia" que la IA cuenta (el texto) no siempre coincide perfectamente con el "cableado" (la mecánica) dentro de la computadora. Es como si el guion de un mago (el texto) no explicara perfectamente la mecánica secreta (el cableado) detrás del truco.

Resumen

ReasoningFlow es una nueva herramienta que nos permite ver el "mapa del metro" del pensamiento de una IA. Nos muestra que:

Los modelos de IA están desarrollando un "estilo de pensamiento" similar entre diferentes marcas.
Son muy buenos detectando sus propios errores mientras están pensando, no solo al final.
La mayoría de los errores que cometen son callejones sin salida temporales que no arruinan la respuesta final.
Lo que la IA dice (el texto) no siempre coincide perfectamente con lo que está sucediendo dentro de su cerebro.

Esto ayuda a los investigadores a entender cómo estos modelos resuelven problemas, en lugar de simplemente mirar si obtuvieron la respuesta correcta o no.

Resumen Técnico: ReasoningFlow: Estructuras de Discurso para la Comprensión de las Trazas de Razonamiento de los LLM

Declaración del Problema

Los Modelos de Razonamiento de Gran Escala (LRM) generan trazas de razonamiento extendidas caracterizadas por comportamientos no lineales, tales como el retroceso (backtracking), la autocorrección y la verificación iterativa. Si bien estos comportamientos son crucialos para la resolución de problemas complejos, complican la evaluación y el monitoreo del proceso de razonamiento. Los métodos de evaluación existentes suelen depender de la corrección paso a paso, lo que puede señalar pasos erróneos incluso cuando la respuesta final es correcta debido a una autoverificación posterior. Además, los marcos actuales para analizar estructuras de razonamiento carecen de la expresividad para capturar relaciones de discurso finas a nivel de sub-oración o fallan al no validar sus esquemas de anotación con acuerdos entre anotadores. Los métodos tradicionales de análisis de discurso (por ejemplo, la Teoría de la Estructura Retórica) están diseñados para textos bien organizados y no se adaptan a las dependencias causales orientadas a objetivos y frecuentemente de izquierda a derecha que se encuentran en las trazas autorregresivas de los LLM.

Metodología

Los autores presentan ReasoningFlow, un marco diseñado para anotar las estructuras de discurso finas de las trazas de razonamiento de los LRM mediante su conversión en Grafos Acíclicos Dirigidos (DAG).

Esquema de Anotación

ReasoningFlow define un esquema que comprende 8 tipos de nodos y 14 tipos de aristas:

Tipos de Nodos: El esquema incluye tres tipos funcionales centrales—Razonamiento (deducción, cálculo), Planificación (introducción de contenido próximo) y Reflexión (evaluación de la corrección o expresión de certeza). También define cinco subtipos especializados de nodos de Razonamiento: Hecho, Reafirmación, Suposición, Ejemplo y Conclusión. Los nodos son fragmentos contiguos y no superpuestos, típicamente oraciones, aunque las oraciones complejas con roles funcionales distintos se dividen.
Tipos de Aristas: Las aristas representan relaciones semánticas que fluyen desde pasos anteriores hacia pasos posteriores. Se categorizan en cuatro grupos: Razonar (por ejemplo, inferir, ejecutar, reafirmar), Planificar (por ejemplo, proceder, verificar), Reflexionar (por ejemplo, positivo, incierto, negativo) y Validar (por ejemplo, apoyar, atacar).

Construcción del Conjunto de Datos

Anotación Manual: Para validar el esquema, los autores anotaron manualmente 31 trazas de razonamiento (2.1k pasos) en los dominios de matemáticas, física y química. Dos anotadores por traza lograron un alto acuerdo entre anotadores (Krippendorff's $\alpha > 0.8$ ) tanto para la clasificación de nodos como para la detección/clasificación de aristas.
Anotación Automática: Utilizando el esquema validado, los autores escalaron a la anotación automática de 1,260 trazas (247.7k pasos) generadas por cinco modelos (Qwen2.5-32B-Inst, QwQ-32B, DeepSeek-V3, DeepSeek-R1, GPT-oss-120B) a través de tres tareas: AIME 2024 (Matemáticas), GPQA-Diamond (Ciencia) y ArgKP (Argumentación). El flujo de trabajo utilizó LLMs (Gemini-3-Flash y Gemini-3-Pro) para la segmentación, clasificación y detección de aristas, con revisión manual de un subconjunto para asegurar la calidad.

Marco de Análisis

Los autores utilizaron los grafos de ReasoningFlow para analizar:

Similitudes estructurales entre modelos y dominios utilizando el Análisis de Componentes Principales (PCA) sobre distribuciones de tripletes (nodo-arista-nodo).
Comportamientos de razonamiento finos como la verificación local, el sentimiento de autorreflexión y el razonamiento basado en suposiciones (reducción al absurdo, búsqueda en profundidad o DFS).
La relación causal entre los pasos erróneos y las respuestas finales.
La alineación entre las dependencias causales mecanísticas (medidas mediante el enmascaramiento de atención) y las estructuras de discurso a nivel de lenguaje.

Contribuciones Clave y Resultados

1. Similitud Estructural entre Modelos

A pesar de haber sido entrenados en diferentes modelos base y poseer potencialmente datos de post-entrenamiento no superpuestos, diferentes LRMs (QwQ, DeepSeek-R1, GPT-oss) exhiben trazas de razonamiento estructuralmente similares. La divergencia de Jensen-Shannon entre las distribuciones de tripletes de los modelos de razonamiento es significamente menor que la de sus contrapartes de modelos base no-razonadores, lo que sugiere que la capacidad de razonamiento induce un patrón estructural compartido.

2. Comportamientos de Razonamiento Finos

ReasoningFlow revela diversos comportamientos que no son capturados por marcos más gruesos:

Verificación Local: Los LRMs participan frecuentemente en la verificación local (corrigiendo pasos intermedios a mitad de la traza) en lugar de solo en la verificación global de la respuesta final. Las correcciones tienen una probabilidad significativamente mayor de ser utilizadas como premisas para la respuesta final que las declaraciones erróneas originales.
Sentimiento de Autorreflexión: Existe una fuerte correlación entre el sentimiento de los nodos de reflexión (positivo, incierto, negativo) y la calidad real (corrección) del paso reflejado. Las reflexiones positivas se correlacionan con una mayor corrección (78.1%), mientras que las negativas se correlacionan con una menor corrección (45.6%).
Manejo de Suposiciones: El marco identifica patrones para la reducción al absurdo y la búsqueda en profundidad (DFS), distinguiendo el razonamiento hipotético deliberado de los errores normales.

3. Propagación de Errores y Fidelidad

Un hallazgo crítico es que la mayoría de los pasos erróneos en los LRMs no son causalmente responsables de las respuestas incorrectas.

Aproximadamente el 79.6% de los nodos erróneos no se conectan con la respuesta final (no utilizados).
Alrededor del 6.0% de los errores están conectados a la respuesta final pero conducen a una conclusión correcta (errores omitidos/desatendidos), lo que indica que el modelo recuperó o ignoró exitosamente el error.
Solo el 14.4% de los nodos erróneos se propagan causalmente hacia respuestas finales incorrectas.
Esto sugiere que los métodos de evaluación paso a paso que filtran las trazas basándose en errores intermedios pueden ser excesivamente conservadores, ya que muchos errores son "no utilizados" o "desatendidos" dentro del proceso de razonamiento.

4. Desalineación Mecanística vs. Discursiva

El artículo encuentra que las dependencias causales medidas mecanísticamente (usando "Anclas de Pensamiento" vía enmascaramiento de atención) no reflejan fielmente las relaciones de discurso a nivel de lenguaje. El poder predictivo de las puntuaciones causales basadas en la atención no es significativamente mejor que simplemente seleccionar los $K$ nodos más recientes, lo que indica una brecha entre los mecanismos causales internos del modelo y la estructura de discurso superficial.

Significado

El artículo posiciona a ReasoningFlow como una herramienta necesaria para comprender la "parte del lenguaje" del procedimiento de razonamiento causal en los LRMs. Al proporcionar un esquema de anotación fino y validado, permite:

Mejor Monitorabilidad: Identificar comportamientos específicos como la verificación local y la autorreflexión permite un mejor monitoreo de las creencias internas del modelo.
Evaluación Refinada: Demostrar que la mayoría de los errores no se propagan a la respuesta final desafía la eficacia del filtrado de errores puramente paso a paso en el muestreo Best-of-N o en los Modelos de Recompensa de Proceso (PRMs).
Cerrar Brechas Mecanísticas y Semánticas: Resaltar la discrepancia entre las dependencias mecanísticas y las estructuras de discurso señala un área crucial para la investigación futura en hacer que los LRMs sean más fieles.

Los autores liberan el conjunto de datos (1.3k trazas) y el código para facilitar la investigación adicional sobre las capacidades de razonamiento de los LRMs, ofreciendo una lente interpretable por humanos para estudiar cómo emergen y funcionan los comportamientos de razonamiento.