Directional Reasoning Trajectory Change (DRTC): Identifying Critical Trace Segments in Reasoning Models

Each language version is independently generated for its own context, not a direct translation.

Imagine que você está assistindo a um filme de detetive, mas em vez de ver apenas o final (quem é o culpado), você quer entender exatamente como o detetive chegou àquela conclusão. O filme tem horas de cenas: ele investiga pistas falsas, muda de ideia, volta atrás, fica confuso e, finalmente, tem um "Eureka!".

A maioria das ferramentas atuais para entender Inteligência Artificial (IA) funciona como um holofote que ilumina apenas a última frase do filme: "O culpado é o mordomo!". Mas isso não nos diz por que o detetive decidiu isso. Ele ignorou uma pista? Ele se enganou no meio do caminho? O que fez ele mudar de ideia?

O artigo que você leu apresenta uma nova ferramenta chamada DRTC (Mudança Direcional da Trajetória do Raciocínio). Vamos explicar como ela funciona usando analogias simples:

1. O Problema: O Labirinto do Pensamento

Quando uma IA resolve um problema difícil (como uma questão de matemática), ela não pensa em linha reta. Ela gera um "rastro" longo de pensamentos, como um labirinto.

Ela pode começar a ir para a esquerda, perceber que é um beco sem saída, voltar, tentar a direita, e só então chegar à solução.
As ferramentas antigas tentam analisar todo esse labirinto de uma vez, o que é confuso. Elas não sabem onde o detetive (a IA) tomou a decisão crucial de mudar de direção.

2. A Solução: O "Ponto de Virada" (O Pivot)

A ideia central do DRTC é identificar os Pontos de Virada.

A Analogia do Carro: Imagine que a IA está dirigindo um carro por uma estrada de terra. De repente, ela vê uma placa de "Pare" ou um buraco na pista. Nesse momento, ela freia, olha ao redor e decide virar.
O DRTC é como um detector que identifica exatamente onde esse freio foi apertado e a direção foi mudada. Ele não olha para todo o trajeto, mas foca nos momentos de dúvida ou decisão (chamados de "pivots").

3. A Técnica: O "Bloqueio de Informação" (Intervenção)

Como saber se uma frase antiga no início do texto foi a culpada por essa mudança de direção?

A Analogia do Filtro de Café: Imagine que a IA está lendo um livro e, em um ponto de virada, ela precisa lembrar de algo que leu 10 páginas atrás.
O DRTC faz um experimento: ele "corta" a conexão entre o momento da decisão e aquela página antiga. É como se ele colocasse um filtro de café na mente da IA naquele exato segundo, impedindo que ela "cheire" a informação antiga.
Se, ao bloquear essa informação, a IA muda de ideia ou fica confusa, significa que aquela parte do texto era crucial. Se ela continua igual, aquela parte era apenas "barulho" ou informação desnecessária.

4. O Resultado: O Mapa de Influência

Ao fazer isso em vários pontos de virada, o DRTC cria um mapa de "quem ajudou e quem atrapalhou".

Influência Positiva: São as partes do texto que, quando removidas, fazem a IA perder o rumo. Elas são os "heróis" do raciocínio.
Influência Negativa: São as partes que, se removidas, fazem a IA se sair melhor (porque eram informações confusas ou erradas que a IA estava ignorando, mas que o método detectou como "ruído").

5. A Curvatura: O "Giro do Volante"

O artigo também fala sobre "curvatura".

A Analogia: Pense na IA como um barco navegando. Às vezes, ela vai em linha reta. Outras vezes, ela dá uma guinada brusca para evitar um rochedo.
O DRTC mede o quanto o "volante" girou. Se a IA mudou de ideia bruscamente, a curvatura é alta. Isso ajuda a entender a intensidade da mudança, mesmo que não diga exatamente qual palavra causou isso. É como um termômetro de "choque" no pensamento.

Por que isso é importante?

Antes, sabíamos o que a IA respondeu. Agora, com o DRTC, podemos entender como ela pensou.

Se a IA errar, podemos ver exatamente em qual frase ela se confundiu.
Se a IA acertar, podemos ver quais foram as ideias brilhantes que a levaram lá.
É como ter um "raio-X" do processo de pensamento, permitindo que humanos auditam e confiem mais na IA, sabendo que ela não está apenas "chutando" a resposta, mas seguindo um caminho lógico que podemos rastrear.

Em resumo: O DRTC é um detector de "momentos decisivos" que nos diz quais partes do texto antigo foram realmente importantes para guiar a inteligência artificial até a resposta final, separando o que é essencial do que é apenas ruído.

Each language version is independently generated for its own context, not a direct translation.

Título: Directional Reasoning Trajectory Change (DRTC): Identificando Segmentos Críticos em Trajetórias de Raciocínio

1. O Problema

Os modelos de linguagem modernos (LLMs) de raciocínio resolvem problemas complexos gerando traços longos e não lineares, que incluem retrocesso (backtracking), verificação e mudanças de estratégia.

Limitação das Métodos Atuais: As técnicas de interpretabilidade existentes geralmente destacam tokens correlacionados com a resposta final, mas falham em revelar onde ocorrem as mudanças de raciocínio consequentes, qual contexto anterior as desencadeia causalmente ou se o texto destacado realmente orienta a geração.
Desafio Causal: Editar um traço e manter o texto posterior fixo é "fora de política" (off-policy), enquanto a reamostragem após uma edição gera uma trajetória qualitativamente diferente, dificultando a comparação. Além disso, o processo de raciocínio é dependente do caminho; uma vez que o modelo se compromete a uma linha de pensamento, gerações subsequentes são constrangidas por esse compromisso.
Necessidade: É necessário um método que localize momentos críticos de decisão dentro de um traço realizado e realize testes causais temporais válidos, preservando a trajetória de geração original (on-policy) sem reamostragem.

2. Metodologia: DRTC

O Directional Reasoning Trajectory Change (DRTC) é um framework de causalidade de processo projetado para interpretar raciocínio de longo horizonte a partir de uma única execução (rollout) em política. O método opera em três etapas principais:

A. Descoberta de Pivôs (Pivot Discovery)

O sistema identifica pontos de decisão críticos ("pivôs") onde o modelo pode estar comprometendo, revisando ou redirecionando seu raciocínio.

Sinais Utilizados: Entropia da distribuição de próximos tokens, margem de probabilidade (top-2) e desvio de distribuição local (divergência Jensen-Shannon).
Seleção: São selecionados os $K$ pivôs com maior pontuação de incerteza/desvio, garantindo um espaçamento mínimo para evitar duplicatas.

B. Intervenções Causais no Receptor (Receiver-Side Interventions)

Em cada pivô identificado, o método testa a relevância causal de segmentos anteriores do texto (chunks).

Mecanismo: Aplica-se uma máscara de atenção no receptor apenas no pivô. Isso bloqueia o fluxo de informação de um chunk específico anterior para o pivô, impedindo que o pivô "veja" aquele contexto.
Restrição Crucial: A máscara é aplicada apenas na conexão de atenção (query $\to$ key) naquele pivô específico. O texto gerado (o rollout realizado) permanece fixo; não há reamostragem de tokens subsequentes. Isso cria um contrafactual determinístico local.

C. Atribuição de Trajetória Direcional

O objetivo não é apenas ver se a resposta muda, mas como a direção da probabilidade logarítmica muda.

Direção Global: Define-se uma direção global de rollout ( $g$ ) baseada nos vetores de log-probabilidade dos extremos da sequência de pivôs.
Efeito Local: Para cada intervenção (máscara de um chunk em um pivô), calcula-se a mudança no vetor de log-probabilidade ( $e_{k,i}$ ).
Score DRTC: Projeta-se essa mudança na direção global ( $\delta_{k,i} = \langle e_{k,i}, g \rangle$ $δ_{k, i} = ⟨ e_{k, i}, g ⟩$ ).
- Um $\delta$ positivo indica que o chunk apoia a direção do raciocínio realizado.
- Um $\delta$ negativo indica que o chunk desvia o raciocínio da direção realizada (ou seja, removê-lo alinha melhor o pivô com a trajetória final).
Agregação: Os scores são agregados ponderando pela importância do pivô e por um "portão de relevância" que downweighta intervenções ruidosas.

D. Diagnóstico de Curvatura (Curvature Diagnostics)

Como complemento, o método calcula a mudança no ângulo de curvatura no espaço de logits brutos.

Isso serve apenas como um sinal diagnóstico para entender a geometria da reorientação (intensidade da mudança de direção), mas não é usado para calcular os scores de atribuição causal.

3. Principais Contribuições

Descoberta de Pivôs Localizada: Identifica automaticamente momentos de instabilidade e mudança de estratégia em traços realizados.
Intervenções Causais Válidas Temporalmente: Realiza testes contrafactuais que mantêm a trajetória realizada fixa, evitando o viés de reamostragem.
Atribuição Direcional Sinalizada: Fornece scores que indicam não apenas a magnitude da influência, mas a direção (apoio ou oposição) em relação à trajetória de raciocínio realizada.
Diagnóstico Geométrico: Introduz assinaturas de curvatura para agrupar chunks com respostas de intervenção geométrica similar, fornecendo uma visão compacta da estrutura do raciocínio.

4. Resultados Experimentais

O método foi avaliado em quatro modelos de raciocínio (LFM2.5, Ministral, Phi-4, R1-Distill-Qwen) em tarefas matemáticas (MATH).

Concentração de Influência: A influência causal é altamente concentrada. O coeficiente de Gini varia entre 0.50 e 0.58, e os 5% principais dos chunks respondem por cerca de 23-28% da influência total. Isso refuta a ideia de que "tudo importa igualmente".
Validação por Falsificação (Random Span Falsification):
- Pivôs aprendidos (C8) induzem intervenções significativamente mais fortes do que segmentos aleatórios de mesmo tamanho (C9).
- Em um estudo de escala com 500 problemas MATH, a diferença mediana foi de 0.409, com 355/500 exemplos mostrando efeitos positivos (p = $2.3 \times 10^{-21}$ ).
Invariância da Curvatura: A computação da curvatura é estritamente diagnóstica; a inclusão ou exclusão dela não altera os scores de atribuição DRTC (correlação Spearman = 1.000).
Comparação com Baselines: O DRTC supera ou difere significativamente de métodos baseados em gradiente, oclusão e activation patching, mostrando uma ligação mais forte com a direção do raciocínio realizado.
Ligação com Resultados (Outcome Linkage): Em um subconjunto filtrado, os chunks de maior ranking DRTC degradaram mais a probabilidade da resposta correta (gold answer) quando editados, comparado a controles aleatórios, indicando sensibilidade ao resultado.

5. Significado e Conclusão

O DRTC oferece uma visão causalmente fundamentada de como elementos específicos do contexto orientam as trajetórias de raciocínio em modelos de linguagem.

Interpretabilidade Prática: Permite aos pesquisadores e auditores identificar um "curto-lista" compacto de segmentos de texto que realmente dirigem o raciocínio, separando-os de ruído, hesitações ou desvios exploratórios.
Análise de Circuitos: Os chunks e pivôs identificados pelo DRTC podem servir como sementes para análises de circuitos mais profundas (mecanística).
Limitações: O método foca na redireção direcional em pivôs e não garante mudanças de correção final em todos os cenários. A granularidade atual usa chunks de tamanho fixo, o que pode não capturar a granularidade ideal de todos os raciocínios.

Em suma, o DRTC preenche uma lacuna crítica na interpretabilidade de modelos de raciocínio, movendo-se de análises estáticas de tokens para uma compreensão dinâmica e causal de como o contexto molda a evolução do pensamento do modelo.