CORA-Diff: Confidence-Oriented Residual Acceptance for Efficient Diffusion Language Model Inference

Resumo Técnico: CORA-Diff

Definição do Problema
Modelos de Linguagem de Difusão (DLMs) oferecem o potencial para geração paralela de tokens, contrastando com a natureza sequencial dos modelos autorregressivos. No entanto, os decodificadores de DLM práticos frequentemente dependem de um horizonte de denoising fixo, executando passagens densas de Transformer para cada etapa até que o horizonte seja alcançado. Esta abordagem leva a uma redundância computacional significativa, pois muitas previsões de tokens estabilizam-se cedo na trajetória, mas o decodificador continua a processá-las em passagens densas até que o bloco seja totalmente resolvido. Métodos de aceleração existentes tentam mitigar isso, mas frequentemente dependem de filtros de aceitação aprendidos, modelos de decisão (logits) modificados, modelos de dependência explícitos ou mecanismos especializados de sistema (ex: reutilização de cache). Essas abordagens frequentemente exigem o treinamento de componentes auxiliares ou a alteração do backbone, limitando sua generalidade e facilidade de implantação.

Metodologia: CORA-Diff
Os autores propõem o CORA-Diff (Confidence-Oriented Residual Acceptance for Diffusion Language Models), um método livre de treinamento projetado para identificar e aceitar posições "residuais" — aquelas deixadas não resolvidas pela regra de transferência original — baseando-se exclusivamente em sinais nativos da trajetória.

• Mecanismo Central: O CORA-Diff preserva o backbone original e a regra de transferência original. Ele introduz um mecanismo de gating leve aplicado apenas às posições que a regra original deixa não resolvidas.
• Gating de Sinal Duplo: Um token em uma posição não resolvida é aceito precocemente se satisfizer duas condições derivadas da trajetória de decodificação atual:
  1. Confiança: A probabilidade de predição top-1 ($c^{(s)}_i$) excede um limiar $\delta_p$.
  2. Persistência: A mesma predição top-1 persistiu por um número requerido de etapas consecutivas executadas ($m^{(s)}_i \ge m$).
• Aceitação Residual: Tokens aceitos são fixados em sua predição atual e permanecem visíveis como contexto para as etapas subsequentes, mas são excluídos de novos processos de denoising. O bloco termina antecipadamente assim que todas as posições são resolvidas (seja pela regra original ou pelo gate CORA), pulando as passagens densas restantes.
• Base Teórica: O método fundamenta-se na hipótese de que predições de alta confiança e persistentes são estatisticamente propensas a corresponder ao endpoint denso de horizonte fixo. Os autores derivam um limite de cauda de drift condicional, mostrando que, sob uma suposição de "separação de persistência-drift", a probabilidade de discordância com o endpoint denso diminui exponencialmente com a janela de persistência $m$.
• Calibragem: Os limiares $(\delta_p, m)$ são selecionados em um subconjunto de calibração separado (ex: 1.000 prompts do GSM8K) para minimizar a razão de etapas enquanto restringe a degradação da pontuação da tarefa e a discordância de saída. Uma vez selecionados, esses limiares são congelados para todas as avaliações e transferências entre backbones subsequentes.

Principais Contribuições

1. Aceitação Residual Livre de Treinamento: A introdução de um método que acelera a inferência de DLM sem exigir modelos de aceitação aprendidos, modificações de logits ou mudanças no backbone. Ele depende exclusivamente de sinais nativos de confiança e persistência.
2. Formalização Teórica: A formalização da aceitação precoce através da discordância do endpoint denso, fornecendo uma condição de margem suficiente para concordância e derivando um limite de cauda de drift condicional que explica a confiabilidade das predições persistentes.
3. Terminação Eficiente ao Nível de Bloco: Demonstrar que esta regra leve permite a terminação precoce de blocos de decodificação, reduzindo significativamente o número de etapas densas executadas.

Resultados Experimentais
O método foi avaliado no modelo LLaDA-8B-Instruct em quatro benchmarks (GSM8K, MATH, HumanEval, MBPP) e testado para transferibilidade para o modelo Dream.

• Desempenho de Tempo de Execução (Runtime): O CORA-Diff alcançou o menor tempo de execução medido em todos os oito cenários de comprimento de tarefa (combinações de horizontes de denoising 256/256 e 1024/1024).
  • Sob o protocolo de isolamento de mecanismo de horizonte fixo, alcançou acelerações de 4.34×–9.49× (256/256) e 10.68×–13.14× (1024/1024).
  • Comparado à linha de base de runtime mais próxima (Learn2PD), o CORA-Diff foi 9.1%–30.9% mais rápido.
  • Em implantação ciente de EOS (onde a decodificação para apenas após um token de fim de sequência comprometido), proporcionou acelerações incrementais de 2.70× (GSM8K) e 3.32× (HumanEval) sobre o decoding denso ciente de EOS.
• Qualidade da Tarefa: As pontuações das tarefas igualaram ou excederam o decoding denso em cinco dos oito cenários. A maior queda observada no desempenho foi de 1.22 pontos.
• Transferibilidade: Sem retreinamento, o CORA-Diff transferiu-se para o backbone Dream, alcançando acelerações de 3.18×–3.53× com mudanças insignificantes na pontuação da tarefa (no máximo 0.006).
• Ablação: Experimentos confirmaram que a combinação de confiança e persistência produz melhores trade-offs do que usar apenas um dos sinais.

Significância e Alegações
O artigo afirma que os sinais nativos de confiança e persistência são suficientes na prática para identificar posições residuais que corresponderão ao endpoint denso determinístico. Ao alavancar esses sinais, o CORA-Diff remove uma substancial computação de denoising repetida através de um gate leve e livre de treinamento. O trabalho demonstra que uma aceleração significativa de inferência pode ser alcançada sem o overhead de modelos auxiliares, otimizações específicas de sistema ou modificações no modelo pré-treinado, mantendo a qualidade da tarefa. Os autores posicionam isso como uma abordagem complementar aos aceleradores existentes, focando na conclusão do bloco em vez de apenas na aceitação de tokens ou otimizações de sistema por etapa.