Resumen Técnico: SliceGraph: Mapeo de Isómeros de Proceso en el Razonamiento de Cadena de Pensamiento Multi-Ejecución

Declaración del Problema

Los enfoques actuales para el razonamiento de Cadena de Pensamiento (CoT) multi-ejecución, como la auto-consistencia, suelen agregar $N$ trayectorias muestreadas únicamente mediante sus respuestas finales. Esta agregación descarta la estructura interna de cómo estas trayectorias comparten, dividen y vuelven a unirse a través del cálculo intermedio. Los análisis internos existentes a menudo permanecen "dentro de la ejecución", estudiando la convergencia semántica o la geometría específica de pasos dentro de una sola trayectoria, en lugar de examinar la estructura conjunta entre múltiples ejecuciones para el mismo problema. Además, las pipelines basadas en grafos anteriores suelen depender de proyecciones intermedias (por ejemplo, PCA, UMAP, incrustaciones de oraciones) para calcular similitudes de rebanadas. Los autores argumentan que estas proyecciones distorsionan la geometría de la ruta, ya sea comprimiendo conteos de familias distintas o colapsando todo el atlas debido a la saturación temática, oscureciendo así la verdadera estructura multi-ruta del razonamiento.

La pregunta central abordada es: Cuando múltiples CoTs resuelven correctamente el mismo problema, ¿convergen a una única ruta de proceso o forman "isómeros de proceso" distintos: trayectorias que comparten la misma respuesta final pero recorren rutas intermedias diferentes?

Metodología: SliceGraph

Los autores proponen SliceGraph, un objeto de medición post-hoc (no un programa de decodificación) que mapea la geometría del proceso de CoTs muestreados. La metodología consta de cinco capas:

1. Construcción de SliceGraph (El Andamio)

• Entrada: Para una celda problema-modelo dada, se muestrean $N=64$ ejecuciones de CoT.
• Definición de Rebanada: Las activaciones se agregan en filas de 32 tokens y luego se agregan aún más en rebanadas de razonamiento más gruesas (tamaño canónico: 256 tokens, 8 filas).
• Representación: En lugar de incrustaciones de texto o PCA, el método utiliza claves de activación dispersas. Cada rebanada se representa como un conjunto binario de las neuronas MLP activas top-$k$ (identificadas por pares de capa-unidad).
• Construcción del Grafo: Los nodos representan rebanadas. Las aristas se establecen mediante mutual-$k$NN basado en la similitud de Jaccard de los conjuntos de claves de activación dispersas. Esto preserva la estructura no proyectada y de alta dimensión del proceso de razonamiento.

2. Descomposición Estructural

• Componentes Biconectados (BCC): El grafo se descompone en BCC (subgrafos maximales que permanecen conectados después de eliminar cualquier nodo único). Estos representan estados de razonamiento compartidos.
• Puntos de Articulación: Los nodos que conectan BCC actúan como puntos de ramificación donde la población de razonamiento se divide.
• Asignación de Roles: Los bloques (BCC) se asignan roles (por ejemplo, tronco_compartido, cuenca_de_respuesta, punto_de_decisión) basándose en la cobertura de ejecución, tamaño, pureza de respuesta y posición.
• Validación: Dos estudios de anotación a ciegas confirman que los BCC corresponden a nociones humanas de estados de razonamiento compartidos y que los clústeres resultantes se alinean con estrategias de alto nivel compartidas.

3. Familias de Proceso e Isómeros

• Agrupamiento: Las ejecuciones se agrupan en Familias de Proceso basándose en el conjunto de bloques no triviales que visitan, utilizando una similitud de Jaccard ponderada y detección de comunidades Louvain.
• Definición de Isómero de Proceso: Dos ejecuciones de CoT correctas se definen como isómeros de proceso si alcanzan la misma respuesta final normalizada pero pertenecen a diferentes familias de proceso. Esto indica que utilizaron rutas intermedias diferentes para llegar a la misma solución.

4. Campo de Recompensa Sembrado con Etiquetas

• Para analizar el paisaje de valores, un campo de recompensa se difunde sobre la estructura fija del grafo.
• Siembra: Se calcula un valor semilla para cada bloque basado en la tasa de éxito excedente de las ejecuciones que visitan ese bloque.
• Difusión: Esta semilla se propaga mediante un proceso de difusión estilo PageRank.
• Núcleos de Alto Valor: El cuartil superior de los valores positivos del campo define "núcleos de alto valor". Si una celda tiene múltiples núcleos de alto valor desconectados, es "multinúcleo".

5. Dinámica de Estados Tipados

• Las ejecuciones se elevan a un modelo de transición de estados tipados donde los estados se definen por (rol de bloque, bin de tiempo, membresía de núcleo).
• Kernels de Familia: Se estiman kernels de transición para cada familia de proceso.
• Análisis: Los autores comparan estos kernels utilizando la distancia de Variación Total (TV) contra controles nulos (barajado de etiquetas) para determinar si las familias navegan el atlas de manera diferente.

Resultados Clave

1. Validez Estructural y Representación

• Alineación Semántica: Los anotadores humanos confirmaron que las rebanadas dentro del mismo BCC representan la misma operación de razonamiento (acuerdo del 88.9–90.3%) y que las ejecuciones dentro de la misma familia de proceso utilizan la misma estrategia de alto nivel (acuerdo del 94.4%).
• Robustez del Andamio: La similitud de Jaccard de claves de activación dispersas no proyectadas es crítica. PCA e incrustaciones de oraciones (MiniLM) colapsaron la geometría multi-ruta, reduciendo las celdas válidas a casi cero o comprimiendo significativamente los conteos de familias.

2. Prevalencia de Isómeros de Proceso

• Prevalencia Multi-Familia: En el 85.5% de las 954 celdas problema-modelo (a través de tres modelos de 4B/8B en benchmarks de matemáticas/ciencias), los CoT correctos se dividen en múltiples familias de proceso.
• Tasa de Isómeros: Entre pares de ejecuciones correctas normalizadas, el 76.6% son isómeros de proceso (pertenecientes a diferentes familias).
• Estabilidad: Este fenómeno persiste bajo remuestreo de mitades divididas y se mantiene incluso al controlar el número de ejecuciones correctas (por ejemplo, con $m=4$ ejecuciones correctas, la tasa de isómeros permanece en 58.2%).

3. Paisaje de Valores y Navegación

• Estructura Multicuenca: El 67.6% de las celdas evaluables por recompensa exhiben múltiples núcleos de alto valor desconectados.
• Especialización: Las familias de proceso no se duplican meramente entre sí; se especializan sobre huellas de núcleos de alto valor distintos. La puntuación de especialización (midiendo qué tan concentrada está la huella de una familia en núcleos específicos) promedia 0.59.
• Dinámicas Distintas: Los kernels de transición específicos de la familia difieren significativamente. En el 80.9% de las celdas multi-familia, las dinámicas de transición entre familias exceden la distribución nula (barajado de etiquetas), indicando que las familias navegan el mismo atlas utilizando kernels de transición distintos, no solo visitando diferentes estados estáticos.

4. Replicación Trans-Arquitectónica y de Escala

• Replicación: Los hallazgos se mantienen a través de diferentes arquitecturas (DeepSeek-R1-Distill-Llama-8B) y escalas (Qwen3-32B).
• Efectos de Escala: En el modelo más grande Qwen2.5-Math-72B, la tasa multi-familia se atenúa (67.3%) debido a una mayor saturación de precisión (resolución más determinista), pero la geometría cualitativa (especialización, dinámicas distintas) permanece cuando existe diversidad estructural.

Significado y Afirmaciones

El artículo afirma que la agregación de respuestas finales pasa por alto una geometría de proceso multi-ruta estructurada. Al tratar el proceso de razonamiento como un grafo de superposiciones de activaciones en lugar de una bolsa de muestras independientes, SliceGraph revela que:

1. El Isomerismo de Proceso es Común: Las soluciones correctas al mismo problema a menudo siguen rutas intermedias fundamentalmente diferentes (isómeros de proceso).
2. Las Familias de Ruta son Distintas: Estos isómeros no son variaciones aleatorias, sino que forman "familias de proceso" coherentes que se especializan sobre diferentes regiones del paisaje de valores (núcleos de alto valor).
3. Las Dinámicas de Navegación Difieren: Estas familias no solo visitan diferentes estados; recorren el atlas de razonamiento con kernels de transición distintos.

Los autores posicionan a SliceGraph como un objeto de medición para auditar la diversidad de procesos, el colapso y la sobre-concentración, en lugar de una herramienta para impulsar la decodificación. El trabajo sugiere que comprender la "forma" del razonamiento requiere analizar la estructura conjunta de múltiples ejecuciones mediante similitud de claves de activación, evitando las distorsiones introducidas por incrustaciones basadas en proyección.