Retrieval-Warmed Energy-Based Reasoning: A Five-Arm Ablation Methodology for Diffusion-as-Inference on Structured Reasoning Tasks

Resumo Técnico: Raciocínio Baseado em Energia com Aquecimento por Recuperação

Definição do Problema
Procedimentos de inferência iterativa, como amostradores de difusão e modelos de raciocínio baseados em energia, são cada vez mais "aquecidos" (warm-started) utilizando soluções candidatas recuperadas de uma memória de trajetórias passadas para reduzir as etapas de refinamento. No entanto, quando essas pipelines melhoram ou falham, a origem específica do ganho ou da perda raramente é clara. É ambíguo se as mudanças de desempenho decorrem do conteúdo recuperado ser genuinamente relevante para a tarefa, de um deslocamento de viés (bias shift) na inicialização em direção a uma região melhor (independentemente do conteúdo) ou simplesmente de perturbações estocásticas quebrando um equilíbrio degenerado. Uma única métrica de precisão de ponta a ponta não consegue desmembrar esses efeitos confundidos. Este artigo enquadra a questão como um problema de atribuição de falha explicável para sistemas de raciocínio estruturado, visando localizar qual componente de uma pipeline de raciocínio impulsiona um resultado.

Metodologia
Os autores estudam o Raciocínio Baseado em Energia com Aquecimento por Recuperação (RW-EBR), que combina um modelo de difusão baseado em energia IRED com uma memória de trajetória Modern Hopfield. Para isolar os efeitos da recuperação, eles propõem uma metodologia de ablação de cinco braços que decompõe a pipeline em três componentes distintos de falha:

1. Qualidade da Chave (K): O codificador mapeia entradas para chaves que recuperam valores úteis?
2. Mecanismo de Warm-Start (M): Dado um valor recuperado de qualidade fixa, o loop de inferência o refina em direção ao alvo real?
3. Qualidade do Valor Armazenado (V): O modelo "frio" (não aquecido) produz previsões úteis como futuros warm-starts?

Os cinco braços de ablação são:

• Oracle Alinhado: Utiliza valores de verdade fundamental (ground-truth) recuperados pelo codificador de chave aprendido.
• Oracle Embaralhado: Utiliza valores de verdade fundamental, mas com os pares $(chave, valor)$ permutados entre as consultas, destruindo o alinhamento por grafo, mas preservando a distribuição dos valores.
• Constante Melhor (Best-Constant): Utiliza um valor constante para o warm-start, isolando o efeito do deslocamento de viés.
• Aleatório por Consulta (Per-Query Random): Utiliza inicialização aleatória (uniforme ou Gaussiana) para controlar o warm-start estocástico.
• Cold-Pred Alinhado: A pipeline implementável usando predições frias como valores armazenados.

Esta lógica de diagnóstico é adaptada de frameworks de avaliação de LLM-RAG, mas aplicada aqui à inferência de difusão iterativa.

Configuração Experimental
A metodologia é avaliada em duas tarefas de raciocínio estruturado:

1. Connectivity-2: Predição de alcançabilidade de todos os pares em grafos Erdős–Rényi ($N=12, p=0.2$).
2. Sudoku: Uma tarefa de resolução de puzzle 9x9.

O modelo base é o GraphEBM do IRED. As chaves de recuperação são geradas por um codificador GIN (para conectividade) ou um ResNet (para Sudoku) treinado com perda contrastiva supervisionada. A memória armazena trajetórias populadas durante uma fase de aquecimento. A métrica primária é a acurácia balanceada, com um portão de aceitação específico exigindo um $\Delta$ de acurácia balanceada $\ge -2$ pontos percentuais (pp) em relação à baseline fria para ser considerado um warm-start implementável.

Resultos Principais

• Descobertas de Connectivity-2:

  • Alinhamento como Alavanca Dominante: A oscilação "alinhado-vs-embaralhado-oracle" atinge +35 pp em acurácia balanceada. Isso indica que o alinhamento de valor por grafo é o fator dominante, superando em muito a contribuição do deslocamento de viés (limitado em $\le +8$ pp pelo braço da constante melhor) ou da estocasticidade (os braços aleatórios caíram abaixo do desempenho frio).
  • Falha do Valor Armazenado: Embora o mecanismo oracle (usando a verdade fundamental) alcance um ganho massivo (+22,39 pp), a pipeline implementável usando predições frias falha no portão de aceitação ($\Delta = -4,09$ pp). A decomposição revela que a falha não está no mecanismo ou na recuperação, mas na Qualidade do Valor Armazenado (V). As predições do modelo frio são enviesadas para a classe positiva, e o warm-start com esses valores enviesados amplifica o erro em vez de corrigi-lo.
  • Inversão de Tendência de $\beta$: A temperatura de recuperação ótima ($\beta$) depende da qualidade da memória. Valores de alta qualidade (oracle) beneficiam-se de suavização (menor $\beta$), enquanto valores de baixa qualidade (cold-pred) preferem uma recuperação "peaky" (maior $\beta$) para focar no vizinho "menos pior", embora nenhum dos dois supere o portão de desempenho.

• Descobertas de Sudoku:

  • Falha de Qualidade da Chave (K): Aplicando a mesma lógica de diagnóstico ao Sudoku, a pipeline falha no componente Qualidade da Chave (K). O codificador de chave falha em ultrapassar o portão de razão de qualidade ($\approx 0,42$ vs. o necessário $\ge 0,85$).
  • Teto do Pool de Candidatos: Mesmo com um codificador perfeito, a similaridade do alvo "melhor no lote" (best-in-batch) estabiliza em $\approx 0,30$, indicando um limite fundamental no pool de candidatos ou na definição do alvo para esta configuração. Consequentemente, os componentes de mecanismo de warm-start e valor armazenado não foram avaliados para o Sudoku, pois a falha foi isolada no primeiro componente.

Significância e Alegações
O artigo reivindica três contribuições primárias:

1. Metodologia: Um conjunto de ablação de cinco braços que separa o deslocamento de viés, o warm-start estocástico e o reuso de valor alinhado na inferência de recuperação aquecida iterativa.
2. Efeito de Alinhamento: Evidência empírica em connectivity-2 de que o alinhamento por grafo é a alavanca dominante para o desempenho, isolada via uma oscilação de +35 pp entre as condições de oracle alinhado e embaralhado.
3. Modos de Falha Heterogêneos: Uma demonstração de que o "primeiro componente bloqueador" varia por tarefa. Em connectivity-2, o gargalo é a qualidade do valor armazenado (as predições do modelo frio são insuficientes), enquanto no Sudoku (sob a configuração atual), o gargalo é a qualidade da chave (o codificador não consegue recuperar candidatos suficientemente similares).

Os autores enfatizam que a decomposição nomeia o componente específico responsável pela falha ou sucesso, fornecendo um veredito localizado que pontuações agregadas de ponta a ponta não podem oferecer. Eles declaram explicitamente que a decomposição, o mecanismo de warm-start de ruído parcial (previamente visto no SDEdit) e o limite superior da memória oracle não são primitivas novas; a novidade reside na metodologia de ablação e sua aplicação para revelar esses modos de falha específicos no raciocínio estruturado.