Resumo Técnico: SliceGraph: Mapeamento de Isômeros de Processo em Raciocínio de Cadeia de Pensamento Multi-execução

Declaração do Problema

As abordagens atuais para raciocínio de Cadeia de Pensamento (CoT) multi-execução, como a auto-consistência, tipicamente agregam $N$ trajetórias amostradas apenas por suas respostas finais. Essa agregação descarta a estrutura interna de como essas trajetórias compartilham, dividem e se reúnem através do cálculo intermediário. As análises internas existentes frequentemente permanecem "dentro da execução", estudando a convergência semântica ou a geometria específica de etapas dentro de uma única trajetória, em vez de examinar a estrutura conjunta entre múltiplas execuções para o mesmo problema. Além disso, pipelines baseados em grafos anteriores frequentemente dependem de projeções intermediárias (por exemplo, PCA, UMAP, embeddings de sentenças) para calcular similaridades de fatias. Os autores argumentam que essas projeções distorcem a geometria da rota, seja comprimindo contagens de famílias distintas ou colapsando todo o atlas devido à saturação temática, obscurecendo assim a verdadeira estrutura multi-rota do raciocínio.

A questão central abordada é: Quando múltiplos CoTs resolvem corretamente o mesmo problema, eles convergem para uma única rota de processo ou formam "isômeros de processo" distintos — trajetórias que compartilham a mesma resposta final, mas percorrem rotas intermediárias diferentes?

Metodologia: SliceGraph

Os autores propõem o SliceGraph, um objeto de medição post-hoc (não um programa de decodificação) que mapeia a geometria do processo de CoTs amostrados. A metodologia consiste em cinco camadas:

1. Construção do SliceGraph (O Andaimagem)

• Entrada: Para uma célula problema-modelo dada, $N=64$ execuções de CoT são amostradas.
• Definição de Fatia: As ativações são agregadas em linhas de 32 tokens, e depois agregadas ainda mais em fatias de raciocínio mais grossas (tamanho canônico: 256 tokens, 8 linhas).
• Representação: Em vez de embeddings de texto ou PCA, o método utiliza chaves de ativação esparsas. Cada fatia é representada como um conjunto binário dos $k$-top neurônios MLP ativos (identificados por pares de camada-unidade).
• Construção do Grafo: Os nós representam fatias. As arestas são estabelecidas via mutual-$k$NN baseada na similaridade de Jaccard dos conjuntos de chaves de ativação esparsas. Isso preserva a estrutura não projetada e de alta dimensão do processo de raciocínio.

2. Decomposição Estrutural

• Componentes Biconectados (BCCs): O grafo é decomposto em BCCs (subgrafos máximos que permanecem conectados após a remoção de qualquer nó único). Estes representam estados de raciocínio compartilhados.
• Pontos de Articulação: Nós que conectam BCCs atuam como pontos de ramificação onde a população de raciocínio se divide.
• Atribuição de Função: Blocos (BCCs) são atribuídos funções (por exemplo, shared_trunk, answer_basin, decision_point) com base na cobertura de execução, tamanho, pureza da resposta e posição.
• Validação: Dois estudos de anotação cegos confirmam que os BCCs correspondem a noções humanas de estados de raciocínio compartilhados e que os clusters resultantes alinham-se com estratégias de alto nível compartilhadas.

3. Famílias de Processo e Isômeros

• Agrupamento: As execuções são agrupadas em Famílias de Processo com base no conjunto de blocos não triviais que visitam, usando uma similaridade de Jaccard ponderada e detecção de comunidades Louvain.
• Definição de Isômero de Processo: Duas execuções de CoT corretas são definidas como isômeros de processo se alcançarem a mesma resposta final normalizada, mas pertencerem a famílias de processo diferentes. Isso indica que usaram rotas intermediárias diferentes para alcançar a mesma solução.

4. Campo de Recompensa Semeado por Rótulo

• Para analisar a paisagem de valor, um campo de recompensa é difundido sobre a estrutura fixa do grafo.
• Semeadura: Um valor de semente é calculado para cada bloco com base na taxa de sucesso excedente das execuções que visitam aquele bloco.
• Difusão: Essa semente é propagada via um processo de difusão estilo PageRank.
• Núcleos de Alto Valor: O quartil superior dos valores positivos do campo define "núcleos de alto valor". Se uma célula tiver múltiplos núcleos de alto valor desconectados, ela é "multinúcleo".

5. Dinâmicas de Estados Tipados

• As execuções são elevadas a um modelo de transição de estados tipados onde os estados são definidos por (função do bloco, bin de tempo, pertencimento ao núcleo).
• Kernels de Família: Kernels de transição são estimados para cada família de processo.
• Análise: Os autores comparam esses kernels usando a distância de Variação Total (TV) contra controles nulos (embaralhamento de rótulos) para determinar se as famílias navegam no atlas de maneira diferente.

Resultados Principais

1. Validade Estrutural e Representação

• Alinhamento Semântico: Anotadores humanos confirmaram que fatias dentro do mesmo BCC representam a mesma operação de raciocínio (88,9–90,3% de concordância) e que execuções dentro da mesma família de processo usam a mesma estratégia de alto nível (94,4% de concordância).
• Robustez do Andaimagem: A similaridade de Jaccard de chave de ativação esparsa não projetada é crítica. PCA e embeddings de sentenças (MiniLM) colapsaram a geometria multi-rota, reduzindo células válidas a quase zero ou comprimindo significativamente as contagens de famílias.

2. Prevalência de Isômeros de Processo

• Prevalência Multi-Família: Em 85,5% das 954 células problema-modelo (através de três modelos 4B/8B em benchmarks de matemática/ciência), CoTs corretos se dividem em múltiplas famílias de processo.
• Taxa de Isômeros: Entre pares de execuções corretas normalizadas, 76,6% são isômeros de processo (pertencem a famílias diferentes).
• Estabilidade: Este fenômeno persiste sob reamostragem de meio-para-metade e mantém-se mesmo ao controlar o número de execuções corretas (por exemplo, em $m=4$ execuções corretas, a taxa de isômeros permanece 58,2%).

3. Paisagem de Valor e Navegação

• Estrutura Multi-Bacia: 67,6% das células avaliáveis por recompensa exibem múltiplos núcleos de alto valor desconectados.
• Especialização: As famílias de processo não apenas se duplicam; elas se especializam sobre pegadas distintas de núcleos de alto valor. A pontuação de especialização (medindo o quão concentrada a pegada de uma família está em núcleos específicos) média 0,59.
• Dinâmicas Distintas: Kernels de transição específicos da família diferem significativamente. Em 80,9% das células multi-família, as dinâmicas de transição entre famílias excedem a distribuição nula (embaralhamento de rótulos), indicando que as famílias navegam no mesmo atlas usando kernels de transição distintos, não apenas visitando estados estáticos diferentes.

4. Replicação Cross-Arquitetura e de Escala

• Replicação: As descobertas mantêm-se através de diferentes arquiteturas (DeepSeek-R1-Distill-Llama-8B) e escalas (Qwen3-32B).
• Efeitos de Escala: No modelo Qwen2.5-Math-72B maior, a taxa multi-família atenua (67,3%) devido à maior saturação de precisão (resolução mais determinística), mas a geometria qualitativa (especialização, dinâmicas distintas) permanece quando existe diversidade estrutural.

Significado e Alegações

O artigo alega que a agregação de respostas finais negligencia uma geometria de processo estruturada multi-rota. Ao tratar o processo de raciocínio como um grafo de sobreposições de ativação em vez de um saco de amostras independentes, o SliceGraph revela que:

1. O Isomerismo de Processo é Comum: Soluções corretas para o mesmo problema frequentemente seguem rotas intermediárias fundamentalmente diferentes (isômeros de processo).
2. Famílias de Rotas são Distintas: Esses isômeros não são variações aleatórias, mas formam "famílias de processo" coerentes que se especializam sobre diferentes regiões da paisagem de valor (núcleos de alto valor).
3. As Dinâmicas de Navegação Diferem: Essas famílias não apenas visitam estados diferentes; elas percorrem o atlas de raciocínio com kernels de transição distintos.

Os autores posicionam o SliceGraph como um objeto de medição para auditoria de diversidade de processo, colapso e super-concentração, em vez de uma ferramenta para impulsionar a decodificação. O trabalho sugere que entender a "forma" do raciocínio requer analisar a estrutura conjunta de múltiplas execuções via similaridade de chave de ativação, evitando as distorções introduzidas por embeddings baseados em projeção.