Retrieval-Warmed Energy-Based Reasoning: A Five-Arm Ablation Methodology for Diffusion-as-Inference on Structured Reasoning Tasks

Resumen Técnico: Razonamiento Basado en Energía con Calentamiento por Recuperación

Planteamiento del Problema
Los procedimientos de inferencia iterativa, como los muestreadores de difusión y los modelos de razonamiento basados en energía, se están "precalentando" cada vez más utilizando soluciones candidatas recuperadas de una memoria de trayectorias pasadas para reducir los pasos de refinamiento. Sin embargo, cuando estos procesos mejoran o fallan, la fuente específica de la ganancia o la pérdida rara vez es clara. Es ambiguo si los cambios en el rendimiento provienen de que el contenido recuperado sea genuinamente relevante para la tarea, de un cambio en la inicialización hacia una región mejor independientemente del contenido (desplazamiento de sesgo), o simplemente de perturbaciones estocásticas que rompen un equilibrio degenerado. Una única métrica de precisión de extremo a extremo no puede desentrañar estos efectos confundidos. Este artículo enmarca el problema como uno de atribución de fallos explicable para sistemas de razonamiento estructurado, con el objetivo de localizar qué componente de un proceso de razonamiento impulsa un resultado.

Metodología
Los autores estudian el Razonamiento Basado en Energía con Calentamiento por Recuperación (RW-EBR, por sus siglas en inglés), que combina un modelo de difusión basado en energía IRED con una memoria de trayectoria de Hopfield Moderna. Para aislar los efectos de la recuperación, proponen una metodología de ablación de cinco brazos que descompone el proceso en tres componentes de fallo distintos:

1. Calidad de la Clave (K): ¿El codificador mapea las entradas a claves que recuperan valores útiles?
2. Mecanismo de Calentamiento (M): Dado un valor recuperado de calidad fija, ¿el bucle de inferencia lo refina hacia el objetivo real?
3. Calidad del Valor Almacenado (V): ¿El modelo "frío" (sin calentamiento) produce predicciones útiles como futuros arranques en caliente?

Los cinco brazos de ablación son:

• Oráculo Alineado: Utiliza los valores reales (ground-truth) recuperados por el codificador de claves aprendido.
• Oráculo Mezclado: Utiliza los valores reales pero con las parejas $(clave, valor)$ permutadas entre consultas, destruyendo la alineación por grafo pero preservando la distribución de los valores.
• Constante Óptima: Utiliza un valor constante para el arranque en caliente, aislando el efecto del desplazamiento de sesgo.
• Aleatorio por Consulta: Utiliza una inicialización aleatoria (uniforme o gaussiana) para controlar el calentamiento estocástico.
• Predicción Fría Alineada: El proceso desplegable que utiliza predicciones frías como valores almacenados.

Esta lógica de diagnóstico se adapta de los marcos de evaluación de LLM-RAG, pero se aplica aquí a la inferencia de difusión iterativa.

Configuración Experimental
La metodología se evalúa en dos tareas de razonamiento estructurado:

1. Connectivity-2: Predicción de la conectividad de todos contra todos en grafos de Erdős–Rényi ($N=12, p=0.2$).
2. Sudoku: Una tarea de resolución de acertijos de 9x9.

El modelo base es el GraphEBM de IRED. Las claves de recuperación son generadas por un codificador GIN (para conectividad) o un ResNet (para Sudoku) entrenado con pérdida contrastiva supervisada. La memoria almacena trayectorias pobladas durante una fase de calentamiento. La métrica principal es la precisión balanceada, con una puerta de aceptación específica que requiere un $\Delta$ de precisión balanceada $\ge -2$ puntos porcentuales (pp) respecto al baseline frío para ser considerado un arranque en caliente desplegable.

Resultos Clave

• Hallazgos de Connectivity-2:

  • El Palanca Dominante es la Alineación: El cambio entre el "oráculo alineado y el mezclado" alcanza +35 pp en la precisión balanceada. Esto indica que la alineación de valores por grafo es el factor dominante, superando con creces la contribución del desplazamiento de sesgo (limitado en $\le +8$ pp por el brazo de la constante óptima) o la estocasticidad (los brazos aleatorios cayeron por debajo del rendimiento frío).
  • Fallo del Valor Almacenado: Aunque el mecanismo de oráculo (usando la verdad de campo) logra una ganancia masiva (+22.39 pp), el proceso desplegable que utiliza predicciones frías falla la puerta de aceptación ($\Delta = -4.09$ pp). La descomposición revela que el fallo no está en el mecanismo ni en la recuperación, sino en la Calidad del Valor Almacenado (V). Las predicciones del modelo frío están sesgadas hacia la clase positiva, y el arranque en caliente con estos valores sesgados amplifica el error en lugar de corregirlo.
  • Inversión de la Tendencia de $\beta$: La temperatura de recuperación óptima ($\beta$) depende de la calidad de la memoria. Los valores de alta calidad (oráculo) se benefician del suavizado (menor $\beta$), mientras que los valores de baja calidad (predicción fría) prefieren una recuperación de pico (mayor $\beta$) para enfocarse en el vecino "menos malo", aunque ninguno supera la puerta de rendimiento.

• Hallazgos de Sudoku:

  • Fallo de la Calidad de la Clave: Aplicando la misma lógica de diagnóstico a Sudoku, el proceso falla en el componente de Calidad de la Clave (K). El codificador de claves no logra superar la puerta de ratio de calidad ($\approx 0.42$ frente al requerido $\ge 0.85$).
  • Techo del Pool de Candidatos: Incluso con un codificador perfecto, la similitud del objetivo "mejor en el lote" (best-in-batch) se estanca en $\approx 0.30$, lo que indica un límite fundamental en el pool de candidatos o en la definición del objetivo para esta configuración. En consecuencia, los componentes de mecanismo de calentamiento y de valor almacenado no fueron evaluados para Sudoku, ya que el fallo se aisló en el primer componente.

Significancia y Reivindicaciones
El artículo reivindica tres contribuciones principales:

1. Metodología: Una suite de ablación de cinco brazos que separa el desplazamiento de sesgo, el calentamiento estocástico y la reutilización de valores alineados en la inferencia iterativa con recuperación de información.
2. Efecto de Alineación: Evidencia empírica en connectivity-2 de que la alineación por grafo es la palanca dominante para el rendimiento, aislada mediante un cambio de +35 pp entre las condiciones de oráculo alineado y mezclado.
3. Modos de Fallo Heterogéneos: Una demostración de que el "primer componente que bloquea" varía según la tarea. En connectivity-2, el cuello de botella es la calidad del valor almacenado (las predicciones del modelo frío son insuficientes), mientras que en Sudoku (bajo la configuración actual), el cuello de botella es la calidad de la clave (el codificador no puede recuperar candidatos suficientemente similares).

Los autores enfatizan que la descomposición nombra el componente específico responsable del fallo o el éxito, proporcionando un veredicto localizado que las puntuaciones agregadas de extremo a extremo no pueden ofrecer. Declaran explícitamente que la descomposición, el mecanismo de calentamiento de ruido parcial (visto previamente en SDEdit) y el límite superior de la memoria de oráculo no son primitivas novedosas; la novedad reside en la metodología de ablación y su aplicación para revelar estos modos de fallo específicos en el razonamiento estructurado.