Retrieval-Warmed Energy-Based Reasoning: A Five-Arm Ablation Methodology for Diffusion-as-Inference on Structured Reasoning Tasks

Sintesi Tecnica: Ragionamento basato su Energia con Riscaldamento tramite Recupero (Retrieval-Warmed Energy-Based Reasoning)

Definizione del Problema
Le procedure di inferenza iterativa, come i campionatori di diffusione e i modelli di ragionamento basati sull'energia, vengono sempre più spesso "riscaldate" (warm-started) utilizzando soluzioni candidate recuperate da una memoria di traiettorie passate per ridurre i passi di raffinamento. Tuttavia, quando tali pipeline migliorano o falliscono, la fonte specifica del guadagno o della perdita è raramente chiara. È ambiguo se i cambiamenti di performance derivino dal contenuto recuperato che sia genuinamente rilevante per il compito, da uno spostamento del bias verso una regione migliore indipendentemente dal contenuto (bias shift), o semplicemente da perturbazioni stocastiche che rompono un equilibrio degenerato. Una singola metrica di accuratezza end-to-end non può disaggregare questi effetti confondenti. Questo articolo inquadra il problema come una questione di attribuzione del fallimento spiegabile per sistemi di ragionamento strutturato, con l'obiettivo di localizzare quale componente di una pipeline di ragionamento guidi un risultato.

Metodologia
Gli autori studiano il Retrieval-Warmed Energy-Based Reasoning (RW-EBR), che combina un modello di diffusione basato sull'energia IRED con una memoria di traiettoria Modern Hopfield. Per isolare gli effetti del recupero, propongono una metodologia di ablazione a cinque bracci che decompone la pipeline in tre distinti componenti di fallimento:

1. Qualità della Chiave (K): L'encoder mappa gli input in chiavi che recuperano valori utili?
2. Meccanismo di Warm-Start (M): Dato un valore recuperato di qualità fissa, l'anello di inferenza lo raffina verso il target reale?
3. Qualità del Valore Memorizzato (V): Il modello "freddo" (non riscaldato) produce predizioni utili come futuri warm-start?

I cinque bracci di ablazione sono:

• Aligned Oracle: Utilizza valori di verità fondamentale (ground-truth) recuperati dal key encoder appreso.
• Shuffled Oracle: Utilizza valori di verità fondamentale ma con accoppiamenti $(chiave, valore)$ permutati tra le query, distruggendo l'allineamento per singolo grafo ma preservando la distribuzione dei valori.
• Best-Constant: Utilizza un valore costante per il warm-start, isolando l'effetto dello spostamento del bias.
• Per-Query Random: Utilizza un'inizializzazione casuale (uniforme o gaussiana) per controllare il warm-starting stocastico.
• Aligned Cold-Pred: La pipeline distribuibile che utilizza predizioni fredde come valori memorizzati.

Questa logica diagnostica è adattata dai framework di valutazione LLM-RAG, ma applicata qui all'inferenza di diffusione iterativa.

Configurazione Sperimentale
La metodologia è valutata su due compiti di ragionamento strutturato:

1. Connectivity-2: Predizione della raggiungibilità tra tutte le coppie su grafi di Erdős–Rényi ($N=12, p=0.2$).
2. Sudoku: Un compito di risoluzione di puzzle 9x9.

Il modello base è il GraphEBM di IRED. Le chiavi di recupero sono generate da un encoder GIN (per la connettività) o da una ResNet (per il Sudoku) addestrata con una perdita contrastiva supervisionata. La memoria memorizza le traiettorie popolate durante una fase di warm-up. La metrica primaria è l'accuratezza bilanciata, con un gate di accettazione specifico che richiede un $\Delta$ di accuratezza bilanciata $\ge -2$ punti percentuali (pp) rispetto al baseline freddo per essere considerato un warm-start distribuibile.

Risultati Chiave

• Risultati di Connectivity-2:

  • Leva Dominante è l'Allineamento: Lo scarto "aligned-vs-shuffled-oracle" raggiunge +35 pp in accuratezza bilanciata. Ciò indica che l'allineamento del valore per singolo grafo è il fattore dominante, superando di gran lunga il contributo dello spostamento del bias (limitato a $\le +8$ pp dal braccio best-constant) o della stocasticità (i bracci random sono scesi sotto la performance del modello freddo).
  • Fallimento del Valore Memorizzato: Sebbene il meccanismo oracle (che usa la verità fondamentale) ottenga un enorme guadagno (+22.39 pp), la pipeline distribuibile che utilizza predizioni fredde fallisce il gate di accettazione ($\Delta = -4.09$ pp). La decomposizione rivela che il fallimento non risiede nel meccanismo o nel recupero, ma nella Qualità del Valore Memorizzato (V). Le predizioni del modello freddo sono polarizzate verso la classe positiva e il warm-starting con questi valori distorti amplifica l'errore invece di correggerlo.
  • Inversione del Trend di $\beta$: La temperatura di recupero ottimale ($\beta$) dipende dalla qualità della memoria. I valori di alta qualità (oracle) beneficiano del livellamento/smoothing ( $\beta$ più basso), mentre i valori di bassa qualità (cold-pred) preferiscono un recupero "peaky" ( $\beta$ più alto) per concentrarsi sul vicino "meno peggio", tuttavia nessuno dei due supera la soglia di performance.

• Risultati di Sudoku:

  • Fallimento della Qualità della Chiave: Applicando la stessa logica diagnostica al Sudoku, la pipeline fallisce al componente Qualità della Chiave (K). L'encoder delle chiavi non riesce a superare il gate del rapporto di qualità ($\approx 0.42$ rispetto al richiesto $\ge 0.85$).
  • Cielo della Pool di Candidati: Anche con un encoder perfetto, la similarità del target "best-in-batch" si appiattisce a $\approx 0.30$, indicando un limite fondamentale nella pool di candidati o nella definizione del target per questa configurazione. Di conseguenza, i componenti del warm-start e del valore memorizzato non sono stati valutati per il Sudoku, poiché il fallimento è stato isolato al primo componente.

Significatività e Rivendicazioni
Il paper rivendica tre contributi primari:

1. Metodologia: Una suite di ablazione a cinque bracci che separa lo spostamento del bias, il warm-starting stocastico e il riutilizzo di valori allineati nel ragionamento iterativo con recupero.
2. Effetto di Allineamento: Evidenza empirica su connectivity-2 che l'allineamento per singolo grafo è la leva dominante per la performance, isolata tramite uno scarto di +35 pp tra le condizioni oracle allineata e quella permutata.
3. Modalità di Fallimento Eterogenee: Una dimostrazione che il "primo componente bloccante" varia per compito. Su connectivity-2, il collo di bottiglia è la qualità del valore memorizzato (le predizioni del modello freddo sono insufficienti), mentre per il Sudoku (sotto l'attuale configurazione), il collo di bottiglia è la qualità della chiave (l'encoder non riesce a recuperare candidati sufficientemente simili).

Gli autori sottolineano che la decomposizione nomina il componente specifico responsabile del fallimento o del successo, fornendo un verdetto localizzato che i punteggi aggregati end-to-end non possono offrire. Essi dichiarano esplicitamente che la decomposizione, il meccanismo di warm-start con rumore parziale (precedentemente visto in SDEdit) e il limite superiore della memoria oracle non sono primitivi nuovi; la novità risiede nella metodologia di ablazione e nella sua applicazione per rivelare questi specifici modi di fallimento nel ragionamento strutturato.