Resumo Técnico: Detecção de Cadeia de Pensamento Infiel via Discrepância Interna-Externa Guiada por Circuitos

1. Definição do Problema

O raciocínio em cadeia de pensamento (CoT) permite que Modelos de Linguagem de Grande Escala (LLMs) gerem etapas textuais intermediárias antes de produzir uma resposta final, melhorando significativamente o desempenho em tarefas complexas. No entanto, surge uma questão crítica quando essas trilhas de raciocínio geradas não refletem fielmente o processo de decisão interno real do modelo. Embora os métodos de detecção existentes se concentrem em sinais externos — como plausibilidade textual, consistência de resposta ou intervenções contrafactuais —, eles frequentemente ignoram evidências provenientes do cálculo interno do modelo.

Este artigo aborda dois desafios principais:

1. Desafio 1: Como detectar a infidelidade do CoT utilizando evidências do processo de decisão interno do modelo, em vez de depender exclusivamente da qualidade superficial do raciocínio.
2. Desafio 2: Como explorar sinais de interpretabilidade interna para detecção sem incorrer no custo computacional proibitivo de construir circuitos de raciocínio completos para longas trilhas de CoT.

O objetivo é a detecção ao nível de instância: determinar se uma trajetória de CoT gerada específica $C$ reflete fielmente o processo de raciocínio interno do modelo $R_M(q)$ para uma dada consulta $q$.

2. Metodologia: CIE-SCORER

Os autores propõem o Circuit-guided Internal-External Discrepancy Scorer (CIE-SCORER), um framework que quantifica a infidelidade medindo a discrepância entre a trilha de raciocínio exibida e a trajetória computacional interna do modelo.

2.1 Construção de Circuitos Selecionados por Token

Para abordar o desafio de escalabilidade do rastreamento completo de circuitos, o CIE-SCORER opera ao nível de sentença em vez do nível de token para toda a trilha.

• Seleção de Token: Em vez de rastrear todos os tokens em uma sentença de raciocínio, o método seleciona um conjunto compacto de tokens informativos. Isso é alcançado combinando:
  • Seleção Baseada em Entropia: Identificando tokens com alta incerteza (alta entropia), que são propensos a carregar informações relevantes para o raciocínio.
  • Necessidade Contrafactual: Medindo o impacto causal de um token ao intervir nele (substituindo-o) e observando mudanças tanto no conteúdo semântico da sentença quanto na distribuição preditiva a jusante.
• Grafos de Circuito Comprimidos: Usando os tokens selecionados como âncoras, o método constrói circuitos de atribuição ao nível de sentença por meio de um modelo de substituição baseado em transcodificador. Isso resulta em uma sequência de grafos compactos $G^{circ} = (G^{circ}_1, \dots, G^{circ}_T)$ representando o cálculo interno para cada etapa de raciocínio.

2.2 Representações Internas e Externas

O framework constrói duas representações paralelas para a trilha de raciocínio:

• Representação Interna: A sequência de grafos de circuito ao nível de sentença é codificada em embeddings latentes ($X^{int}$) usando uma Rede Neural de Grafos (GNN). Esses embeddings capturam a trajetória computacional de caixa branca do modelo.
• Representação Externa: As sentenças de raciocínio exibidas são codificadas em embeddings ($X^{ext}$) pela média dos estados ocultos de uma camada intermediária do LLM. Um adaptador MLP leve projeta esses embeddings na mesma dimensionalidade que os embeddings internos.

2.3 Pontuação de Discrepância de Grafos

Ambas as representações são convertidas em grafos de sentença ao nível de trilha ($G^{int}$ e $G^{ext}$) usando uma regra de construção compartilhada. Os nós representam sentenças de raciocínio, e as arestas codificam a progressão temporal e dependências semânticas.

• Distância Fused Gromov–Wasserstein (FGW): A pontuação de infidelidade é calculada como a distância FGW entre os grafos interno e externo. Essa métrica considera conjuntamente:
  • Discrepância de Recursos: Se o conteúdo de uma etapa exibida alinha-se com sua evidência computacional interna.
  • Discrepância Estrutural: Se as dependências entre etapas exibidas correspondem à estrutura de fluxo de informações interna.
• Objetivo de Treinamento: O modelo é treinado com uma perda baseada em margem para minimizar a distância FGW para trilhas fiéis e maximizá-la (além de uma margem $m$) para trilhas infiéis.

3. Contribuições Principais

1. Perspectiva Nova: Este trabalho formula a detecção de infidelidade do CoT a partir de uma perspectiva de discrepância interna-externa guiada por circuitos, representando a primeira integração do cálculo interno do modelo com trilhas de raciocínio externas para análise ao nível de instância.
2. Framework Eficiente (CIE-SCORER): Os autores propõem um método que realiza o rastreamento de circuitos selecionados por token, comprime circuitos ao nível de sentença em embeddings e os compara com representações externas usando a distância FGW. Essa abordagem evita o custo da construção de circuitos completos, preservando sinais internos-chave.
3. Desempenho State-of-the-Art: Experimentos em quatro conjuntos de dados do FaithCoT-Bench demonstram que o CIE-SCORER supera as bases existentes, incluindo métodos baseados em contrafactuais, métodos baseados em logit, abordagens de LLM como Juiz e métodos anteriores baseados em circuitos (CRV).

4. Resultados Experimentais

A avaliação foi conduzida em quatro conjuntos de dados cobrindo raciocínio lógico, factual, matemático e biomédico: LogicQA, TruthfulQA, AQuA e HLE-Bio.

• Desempenho: O CIE-SCORER alcançou as maiores pontuações de Precisão (Accuracy) e F1 em todos os conjuntos de dados. Por exemplo, no conjunto de dados LogicQA, melhorou a Precisão em 11,5 pontos e o F1 em 1,4 pontos sobre a base anterior mais forte.
• Eficiência: Comparado à base CRV, o CIE-SCORER reduziu o uso de pico de memória em 48,3%–55,2% e os tokens rastreados em 62,4%–68,6%. Também alcançou reduções significativas no tempo de execução (por exemplo, 67,6% no TruthfulQA) enquanto melhorava as pontuações F1.
• Estudos de Ablação: Remover a estratégia de seleção de tokens (usando apenas entropia ou apenas pontuações contrafactuais) ou remover o codificador interno GNN resultou em quedas significativas de desempenho, confirmando a necessidade tanto da integração de sinais quanto da modelagem de estrutura de grafos.
• Transferência Cross-Domain: O modelo demonstrou capacidades de transferência significativas, particularmente entre TruthfulQA e LogicQA, sugerindo que as representações de grafos internas aprendidas capturam sinais de fidelidade generalizáveis.

5. Significado e Alegações

O artigo afirma que o CIE-SCORER aborda efetivamente a "ilusão de transparência" do raciocínio CoT combinando explicitamente sinais de interpretabilidade mecânica com trilhas externas.

• Diferenciação de Tipos de Infidelidade: A análise revela que diferentes tipos de infidelidade exibem padrões de incompatibilidade distintos. Raciocínio post-hoc (racionalizar uma resposta pré-determinada) induz principalmente discrepâncias ao nível de recursos (incompatibilidade de conteúdo), enquanto cadeias de raciocínio espúrias (etapas localmente coerentes mas causalmente quebradas) induzem principalmente discrepâncias ao nível de estrutura (incompatibilidade de dependência).
• Escalabilidade: Ao focar o rastreamento de circuitos em tokens informativos em vez de todos os tokens, o método torna a interpretabilidade mecânica viável para longas trilhas de raciocínio, superando um grande gargalo nas abordagens anteriores.
• Confiabilidade: O framework fornece um sinal mais robusto para auditoria do comportamento do modelo do que métricas de nível superficial, pois compara diretamente a "história" que o modelo conta (trilha externa) com o "cálculo" que ele realiza (circuito interno).

Os autores observam que o método requer acesso aos internals do modelo (caixa branca), limitando sua aplicação imediata a modelos de código aberto ou acessíveis, e deixa a avaliação em domínios diversos e configurações multimodais para trabalhos futuros.