🤖 AI

Beyond the Trace: Coupling an Interpretable Reasoning-State Readout to Native MoE Routing

Este artículo introduce un marco de lectura interna de dos niveles que destila estados de razonamiento latentes en un marco semántico de 64 ejes (J64) y lo reconstruye mediante estadísticas de enrutamiento de expertos nativos (R64), permitiendo decisiones en tiempo de prueba interpretables y de baja sobrecarga que mejoran significamente la precisión del razonamiento y permiten ediciones de mecanismos dirigidas para corregir los comportos del modelo.

Autores originales: Kang Chen, Sihan Zhao, Yixin Cao, Yugang Jiang

Publicado 2026-08-19

📖 6 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Kang Chen, Sihan Zhao, Yixin Cao, Yugang Jiang

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Cuando un programa informático diseñado para resolver problemas difíciles expresa sus pensamientos en voz alta, normalmente solo vemos las frases finales que decide escribir. Estos pensamientos expresados, a menudo llamados trazas de razonamiento, son como la transcripción de una conversación donde el hablante ha editado cada vacilación, cada comienzo falso y cada debate interno. Para los investigadores que intentan comprender cómo funcionan estas mentes artificiales, esta transcripción es frustrantemente incompleta. Muestra el destino, pero oculta el viaje. La verdadera pregunta es si el estado interno de la computadora —la maquinaria oculta que zumba bajo las palabras— contiene pistas sobre si está en el camino correcto mucho antes de que termine su respuesta. Si pudiéramos ver ese estado oculto, podríamos dirigir a la computadora para alejarla de los errores mientras todavía está pensando, en lugar de simplemente descartar un intento fallido después de los hechos.

Un equipo de investigadores de la Universidad de Fudan y del Instituto de Innovación de Shanghái ha construido una nueva forma de mirar dentro de estas máquinas pensantes. Se centraron en un tipo específico de modelo informático avanzado que utiliza una arquitectura de "mezcla de expertos". Imagine una gran oficina donde, para cada tarea, un gerente asigna automáticamente el trabajo a un pequeño equipo de trabajadores especializados. La computadora hace algo similar: para cada palabra que genera, activa un grupo específico de especialistas internos. Los investigadores se dieron cuenta de que, mientras la computadora escribe sus pensamientos, también mantiene un registro detallado de qué especialistas utilizó y cuánto dependió de ellos. Este registro es usualmente solo un registro técnico de eficiencia, pero el equipo descubrió que podía traducirse en un mapa legible del proceso de razonamiento de la computadora.

Los investigadores crearon primero un nuevo tipo de panel de control, que llaman marco semántico. Entrenaron este panel para traducir las señales internas crudas y ocultas de la computadora en sesenta y cuatro categorías distintas de pensamiento. Estas categorías no son solo etiquetas aleatorias; representan conceptos concretos como "precaución", "aritmética", "verificación de restricciones" o "consideración de opciones". Crucialmente, este panel puede detectar estos conceptos incluso cuando la computadora nunca llega a escribir las palabras correspondientes. Por ejemplo, la computadora podría estar luchando silenciosamente con una restricción compleja y, aunque no escribe nada al respecto, el panel se ilumina para mostrar que el concepto de "restricción" está activo. Esto reveló una capa oculta del proceso de pensamiento que el texto escrito omitió por completo. En sus pruebas, esta visión interna proporcionó una señal significativamente más clara sobre si una solución tendría éxito que simplemente contar las palabras que la computadora ya había escrito.

El equipo se enfrentó entonces a un desafío práctico: leer estas señales ocultas suele requerir detener la computadora y volver a reproducir todo su proceso de pensamiento, lo cual es demasiado lento para el uso en el mundo real. Resolvieron esto construyendo una segunda versión ligera del panel de control que lee solo el registro de asignación de especialistas. Esta nueva herramienta, que llaman proxy de enrutamiento, actúa como un sustituto rápido y de bajo costo. Reconstruye las mismas sesenta y cuatro categorías de pensamiento directamente desde el registro de tráfico interno de la computadora. Los investigadores encontraron que este proxy era notablemente preciso, capturando entre el 69% y el 86% de la información detallada que se encuentra en la versión completa y lenta. En uno de sus modelos de prueba, preservó casi todo el poder predictivo del original, demostrando que el propio registro de tráfico interno de la computadora contiene un registro fiel de su estado de razonamiento.

Con estas herramientas en mano, los investigadores probaron cómo podían mejorar el rendimiento de la computadora en el momento en que estaba resolviendo un problema. Utilizaron el panel para tomar dos tipos de decisiones. Primero, después de que la computadora generó muchos intentos diferentes para un solo problema, el panel les ayudó a elegir el mejor intento individual con más frecuencia que el azar o el simple análisis de texto. En casos donde los métodos de votación estándar fallaron al encontrar una respuesta correcta, esta visión interna ayudó a rescatar la solución correcta en aproximadamente el 17% de esos casos difíciles. Segundo, utilizaron el panel para detener los malos intentos prematuramente. Mientras la computadora generaba texto, el panel monitoreaba su estado interno en tiempo real. Si el panel detectaba que la computadora se desviaba hacia un callejón sin salida o se quedaba atrapada en un bucle de conjeturas, el sistema detenía ese intento inmediatamente y comenzaba uno nuevo. Esta estrategia de "detener y volver a muestrear" mejoró la precisión final de la computadora hasta en 5.9 puntos porcentuales en comparación con dejarla funcionar sin intervención.

Quizás el hallazgo más sorprendente fue que podían usar este entendimiento para corregir el comportamiento de la computadora directamente. Al identificar qué especialistas internos específicos eran responsables de un tipo particular de error, los investigadores pudieron realizar ajustes diminutos en cómo la computadora asignaba el trabajo. En un caso, identificaron un grupo de especialistas que mantenían a la computadora atrapada en un ciclo de conjeturas numéricas. Al suprimir ligeramente la actividad de ese grupo específico, obligaron a la computadora a cambiar a un método de cálculo simbólico más preciso, lo que le permitió resolver un problema en el que previamente había fallado. Esto demostró que el panel no solo describía el estado de la computadora; identificaba las palancas mecánicas exactas que controlaban su razonamiento.

El trabajo sugiere que el camino hacia una mejor inteligencia artificial puede no residir en hacer los modelos más grandes o entrenarlos con más datos, sino en aprender a leer las señales silenciosas que generan mientras piensan. Los investigadores demostraron que el enrutamiento interno de un modelo no es solo un detalle técnico oculto, sino una rica fuente de información sobre lo que el modelo está haciendo realmente. Al traducir estas señales a un formato legible, convirtieron una caja negra en un proceso transparente. Este enfoque nos permite intervenir mientras el modelo está pensando, corrigiendo su curso antes de que alcance una respuesta errónea. Aunque el estudio se centró en problemas matemáticos, el método ofrece una nueva forma de observar y guiar el razonamiento de sistemas complejos, convirtiendo el proceso invisible del pensamiento de las máquinas en algo que podemos ver, medir y mejorar.

Resumen Técnico: Más allá del rastro: Acoplamiento de una lectura de estado de razonamiento interpretable a la enrutación nativa de MoE

Declaración del Problema

Los rastros de razonamiento (el texto emitido por un modelo) sirven como la interfaz principal para inspeccionar los modelos de razonamiento, pero representan solo un registro parcial del proceso interno. Un rastro revela qué elige emitir un modelo, pero no logra exponer el estado completo del proceso: qué restricciones permanecen activas, si una derivación larga refleja un esfuerzo asignado o una dificultad genuina, o si una rama actual se está volviendo improductiva. Los métodos de inspección estándar suelen depender del texto emitido en sí mismo, perdiendo los estados de razonamiento "silenciosos" donde el modelo procesa conceptos sin verbalizarlos. Además, acceder a los estados ocultos internos requeridos para una inspección profunda suele requerir una segunda pasada hacia adelante (forward pass), lo cual es computacionalmente costoso e impracticable para el despliegue.

Metodología

El artículo introduce un marco de dos niveles para hacer que los estados de razonamiento latentes sean legibles y desplegables: J64 (una lectura semántica de los estados ocultos) y R64 (un proxy de baja sobrecarga reconstruido a partir de las estadísticas de enrutación de la Mezcla de Expertos [MoE] nativa).

1. La lectura J64 (Estado Latente)

Construcción: Los autores destilan el espacio de vocabulario "J-space" (derivado de la lente de Jacobiano, que mapea los estados ocultos a direcciones alineadas con el vocabulario) en un marco semántico compacto de 64 ejes.
Proceso: Identifican las direcciones del vocabulario que consistentemente reciben lecturas altas en el J-space durante el razonamiento, fusionan las duplicadas cercanas en 64 familias semánticas y utilizan la media ponderada de la dirección de cada familia como un eje.
Características:
- Agnóstico al resultado: Construido sin etiquetas de corrección, esfuerzo o dificultad.
- Ejes semánticos: Los 64 ejes incluyen conceptos de razonamiento con nombre (ej. precaución, aritmética, restricción, opcionalidad) y marcadores de producción de texto (ej. dígitos, tokens no ingleses).
- Activación silenciosa: Los ejes permanecen activos incluso cuando las palabras de vocabulario asociadas no son emitidas en el rastro.
- Separación de preocupaciones: J64 distingue entre la "postura de inferencia" (cómo está configurado el modelo para pensar, correlacionado con los ajustes de esfuerzo) y la "tensión inducida por el problema" (correlacionado con la dificultad del problema).

2. El proxy R64 (Enrutación Nativa)

Objetivo: Reconstruir el estado J64 utilizando únicamente señales emitidas naturalmente durante la inferencia de MoE (asignaciones de expertos y pesos de compuerta), evitando la necesidad de acceso a los estados ocultos o una segunda pasada hacia adelante.
Mecanismo:
- Entrada: Un espectro de uso que resume tres capas de MoE por modelo (pesos de compuerta acumulados durante la ejecución, normalizados por el conteo de tokens, más la entropía de la compuerta).
- Mapeo: Se entrena un modelo de regresión de cresta ( $R64(\tau) = g_\theta(\text{routing}(\tau))$ ) para mapear este espectro de enrutación a los 64 ejes de J64.
- Entrenamiento: El mapa se calibra contra J64 por sí solo, sin utilizar etiquetas de resultado (corrección). Se ajusta una vez por modelo/ajuste de esfuerzo y luego se congela.
Eficiencia: R64 añade una sobrecarga insignificante (agregación de características y una cabeza de regresión ligera) en comparación con el costo de una pasada completa hacia adelante requerida para J64.

3. Aplicaciones en tiempo de prueba

La telemetría se aplica a dos resoluciones temporales:

Agregada por trayectoria: Para seleccionar la mejor rama entre ejecuciones completadas o ponderar votos en un ensamble de voto por mayoría.
Ventana rodante: Para decisiones en línea durante la generación. Un controlador CUSUM acumula puntuaciones de riesgo de fallo de una ventana de tokens para activar el paro temprano y el re-muestreo.

Contribuciones Clave

J64: Un sistema de coordenadas compacto y legible para los estados de razonamiento latentes que revela distinciones de proceso (ej. esfuerzo vs. dificultad) invisibles en el rastro emitido.
R64: Un proxy de baja sobrecarga que reconstruye la semántica de J64 directamente desde las estadísticas de enrutación de MoE nativas, haciendo que la lectura sea desplegable sin necesidad de acceso a los estados ocultos.
Telemetría accionable: Demostrar que esta lectura mejora las decisiones en tiempo de prueba (selección de ramas, ponderación de votos y parada en línea) y que las ediciones dirigidas al mecanismo de enrutación inducen los comportamientos de razonamiento predichos.

Resultados

1. Legibilidad y Poder Predictivo (RQ1)

Más allá del texto: J64 añade 0.096 a 0.135 de AUC en datos no vistos sobre un modelo base que lee el mismo rastro como ocupación de tokens (agregada de la misma forma), demostrando que captura información no presente en el texto.
Separación Semántica: J64 separa con éxito la "postura" (correlacionada con los ajustes de esfuerzo: Bajo/Medio/Alto) de la "tensión" (correlacionada con la dificultad del problema).
Activación Silenciosa: En un rastro de 23k tokens, 31 de los 64 ejes no tenían palabras de vocabulario de vecino más cercano emitidas, pero sus lecturas continuaron evolucionando, rastreando el proceso de razonamiento.

2. Fidelidad de la Reconstrucción (RQ2)

Correlación: A través de tres modelos (gpt-oss-20b, gpt-oss-120b, Qwen3-30B-A3B) y dos familias, R64 logra una correlación mediana por eje con J64 de 0.69 a 0.86.
Preservación de la Ganancia Predictiva: En gpt-oss-20b, R64 preserva del 95% al 100% de la ganancia predictiva de J64 sobre los modelos base de solo texto.
Especificidad: La correspondencia rastrea la ejecución individual, no solo la pregunta o la longitud del prompt. Mezclar el enrutamiento entre ejecuciones hermanas colapsa la correlación.

3. Rendimiento en Tiempo de Prueba (RQ3 y RQ4)

Selección: J64 mejora la precisión de selección de rama única en +4.7 a +6.9 puntos sobre una elección aleatoria (promediando +5.0 y +4.9 puntos en diversas escalas), con R64 reteniendo +2.5 a +3.8 puntos de esta ganancia.
Votación: La votación ponderada por R64 mejora la votación simple por mayoría en 7 de 8 configuraciones.
Rescate: En preguntas donde la votación por mayoría simple obtiene cero, J64 selecciona una rama correcta el 17.0% de las veces (frente al 8.7% de la elección aleatoria), y R64 logra un 14.1%.
Control en Línea: En una política de parada y re-muestreo acumulativo, J64 mejora la precisión en 1.1 a 5.9 puntos sobre un control de permutación de hermanos. El proxy de solo enrutamiento R64 retiene 0.9 a 3.2 de esos puntos.

4. Intervención Causal (RQ5)

Amplificación: Aumentar los logits de los expertos asociados con un grupo de "división de casos" (identificado por J64) llevó la precisión a 0.000 y causó que las ejecuciones alcanzaran los límites de generación con una enumeración excesiva, confirmando el rol del mecanismo.
Supresión: Suprimir un grupo de expertos sobreutilizados (vinculado a un estado de "estancamiento") acortó las generaciones y reemplazó el tanteo numérico con ejecución simbólica exacta en un problema específico, recuperando la respuesta correcta.

Significancia y Reivindicaciones

El artículo afirma que J64 hace legible el estado del proceso latente, mientras que el enrutamiento lo hace desplegable y accionable.

Interpretabilidad: El trabajo demuestra que los estados de razonamiento internos pueden destilarse en un tablero legible por humanos de 64 ejes, separando el esfuerzo de inferencia de la dificultad del problema y revelando pasos de procesamiento "silenciosos".
Viabilidad de Despliegue: Al reconstruir este estado a partir del enrutamiento de MoE nativo (R64), los autores muestran que se puede obtener una telemetría de razonamiento de alta fidelidad sin el costo computacional de acceder a las activaciones ocultas o realizar segundas pasadas hacia adelante.
Control: La telemetría no es meramente diagnóstica; permite un control efectivo de la asignación de cómputo en tiempo de prueba (detener ramas improductivas tempranamente) y proporciona un vínculo causal entre los mecanismos de enrutamiento de expertos específicos y los comportamientos de razonamiento.

Los autores mantienen la modestia, señalando que su análisis se centra en la competencia matemática y familias de modelos específicas. Reconocen que los ejes no están alineados entre diferentes modelos y que la lectura rastrea el estado del proceso en lugar de predecir el resultado final antes de que se comprometa una respuesta. Se identifica como trabajo futuro la extensión a baselines de texto conscientes de la secuencia, servicio en vivo y dominios más amplios.