💬 NLP

DIVERSED: Relaxed Speculative Decoding via Dynamic Ensemble Verification

O artigo apresenta o DIVERSED, um método de decodificação especulativa que utiliza um verificador de ensemble dinâmico para relaxar a verificação rígida de tokens, aumentando significativamente a eficiência de inferência sem comprometer a qualidade da geração.

Autores originais: Ziyi Wang, Siva Rajesh Kasa, Ankith M S, Santhosh Kumar Kasa, Jiaru Zou, Sumit Negi, Ruqi Zhang, Nan Jiang, Qifan Song

Publicado 2026-04-10

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Ziyi Wang, Siva Rajesh Kasa, Ankith M S, Santhosh Kumar Kasa, Jiaru Zou, Sumit Negi, Ruqi Zhang, Nan Jiang, Qifan Song

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está escrevendo um livro muito longo e complexo, e tem dois escritores ajudando você:

O "Rascunho Rápido" (Draft Model): Um escritor jovem, veloz e ágil, que joga ideias no papel instantaneamente. Ele é rápido, mas às vezes erra a gramática ou a lógica.
O "Editor Sênior" (Target Model): Um editor experiente, extremamente inteligente e preciso, mas que é lento para pensar e revisar cada palavra.

O método tradicional de Decodificação Especulativa funciona assim:
O escritor rápido joga 5 palavras na mesa. O editor sênior olha para cada uma delas, uma por uma. Se o editor disser "Sim, está perfeito", você aceita as 5 palavras de uma vez. Se o editor disser "Não, essa está errada", você joga fora todas as 5 palavras, mesmo que as primeiras 4 estivessem corretas, e o editor precisa começar a escrever a próxima palavra do zero.

O Problema:
Muitas vezes, o editor sênior é muito exigente. Ele rejeita palavras que, na verdade, não estragariam a história, apenas porque não eram exatamente o que ele teria escrito. Isso faz com que o processo fique lento, porque você está desperdiçando tempo rejeitando coisas que poderiam ser aceitas.

A Solução: DIVERSED (O "Mediador Inteligente")

O artigo apresenta o DIVERSED, que é como se você contratasse um mediador inteligente para ficar entre o escritor rápido e o editor sênior.

1. A Ideia do "Peso Dinâmico" (O Contexto é Tudo)

No método antigo (chamado de "Ensemble Estático"), o mediador usava uma regra fixa: "Sempre confie 50% no rápido e 50% no sênior". O problema é que nem todas as palavras são iguais.

Se o escritor rápido errar um número em uma conta de matemática, é um desastre. O mediador deve confiar 100% no editor sênior aqui.
Se o escritor rápido usar uma palavra bonita para descrever uma paisagem, mas o editor sênior teria usado outra palavra também bonita, não faz sentido rejeitar. O mediador pode confiar mais no rápido aqui.

O DIVERSED é especial porque ele aprende a ajustar essa confiança em tempo real. Ele olha para o contexto da frase e decide:

"Neste momento, a precisão é vital. Vamos ser rigorosos."
"Neste momento, a criatividade é mais importante. Vamos aceitar a sugestão do rápido."

2. A Analogia do Trânsito

Pense no processo de gerar texto como um carro dirigindo em uma estrada cheia de semáforos.

Método Antigo: O carro para em todo semáforo, mesmo que o farol esteja verde para ele passar, só porque o "sistema central" diz para verificar. Isso causa engarrafamento.
DIVERSED: O carro tem um navegador inteligente (o mediador) que sabe: "Neste cruzamento, o trânsito está livre, podemos acelerar e aceitar o caminho sugerido pelo GPS rápido. Naquele outro, onde há uma obra, vamos parar e verificar com o engenheiro sênior."

Isso significa que o carro (o modelo de IA) passa por mais semáforos sem parar, chegando ao destino muito mais rápido, sem sair da rota correta.

3. O Resultado na Prática

Os autores testaram isso em várias tarefas:

Matemática: Onde um erro de cálculo é fatal, o DIVERSED fica rigoroso.
Resumo de Notícias: Onde a essência importa mais que a palavra exata, o DIVERSED é mais flexível e aceita mais sugestões do modelo rápido.

O Ganho:
Com o DIVERSED, o sistema consegue aceitar muito mais palavras sugeridas pelo modelo rápido sem precisar reescrevê-las. Isso reduz o tempo de espera (latência) de forma significativa, tornando a IA muito mais ágil, sem perder a qualidade da resposta final.

Resumo em uma frase:

O DIVERSED é um sistema que ensina a IA a saber quando ser rigorosa e quando ser flexível, aceitando mais "dicas" do modelo rápido para escrever mais depressa, mas sem cometer erros bobos. É como ter um editor que sabe exatamente quando confiar no instinto do escritor rápido e quando chamar o especialista para checar.

Resumo Técnico: DIVERSED

1. O Problema

A inferência de Grandes Modelos de Linguagem (LLMs) é frequentemente limitada por custos computacionais e latência. A Decodificação Especulativa (Speculative Decoding - SD) é uma técnica popular que acelera a inferência utilizando um modelo "rascunho" (pequeno e rápido) para propor múltiplos tokens em paralelo, os quais são então verificados por um modelo "alvo" (grande e preciso).

No entanto, a SD tradicional enfrenta um gargalo:

Verificação Rígida: O método padrão exige que a distribuição de tokens aceitos corresponda exatamente à do modelo alvo (decodificação "lossless"). Isso resulta em uma alta taxa de rejeição de tokens propostos pelo modelo rascunho, mesmo quando esses tokens são plausíveis ou semanticamente corretos.
Limitação de Aceleração: A alta taxa de rejeição limita o ganho de velocidade (speedup) no tempo real (wall-clock time).
Abordagens "Lossy" Existentes: Métodos que relaxam a verificação (aceitando mais tokens com risco de degradação de qualidade) geralmente utilizam pesos de ensemble estáticos (fixos). Isso ignora que a importância de um token varia dependendo do contexto e da tarefa; um erro em um token crítico (ex: em raciocínio matemático) pode ser catastrófico, enquanto em outros contextos pode ser tolerável.

2. Metodologia: DIVERSED

Os autores propõem o DIVERSED (DynamIc VErification RElaxed SpEculative Decoding), um framework de verificação relaxada que utiliza um ensemble dinâmico para equilibrar eficiência e qualidade.

Principais Componentes:

Verificador de Ensemble Dinâmico: Em vez de usar um peso fixo para combinar as distribuições do modelo rascunho ( $q$ $q$ ) e do modelo alvo ( $p$ $p$ ), o DIVERSED aprende um peso $w_t$ $w_{t}$ que é dependente do contexto e do token.
- A distribuição do ensemble é definida como: $\nu_t(x) = w_t p_t(x) + (1 - w_t) q_t(x)$ .
- O peso $w_t$ é calculado por uma "cabeça de ensemble" (uma pequena rede neural feed-forward) que toma como entrada as representações ocultas (hidden states) de ambos os modelos ( $h^q_t$ e $h^p_t$ ).
Treinamento com Aprendizado por Reforço (RL): Como supervisionamento token-a-token é geralmente indisponível, o modelo é treinado para maximizar uma recompensa de nível de sequência (ex: precisão da resposta final em matemática ou ROUGE-2 em resumo).
- O objetivo otimizado é regularizado para equilibrar a recompensa da tarefa e a taxa de aceitação:
  $\mathbb{E}[R(x_{1:T}) + \lambda \sum (1 - TV(q_t, \nu^\theta_t))]$
- O termo de regularização incentiva uma alta taxa de aceitação, enquanto o termo de recompensa garante que a qualidade da geração não seja comprometida.
Inferência: Durante a inferência, o modelo rascunho propõe tokens, o modelo alvo verifica, e a cabeça de ensemble calcula dinamicamente os pesos para aceitar ou rejeitar tokens com base no contexto atual, permitindo uma relaxação agressiva onde é seguro e conservadora onde é necessário.

3. Contribuições Chave

Framework de Verificação Dinâmica: Introdução de um verificador que adapta a estratégia de aceitação de tokens em tempo real, superando as limitações de ensembles estáticos que não conseguem navegar eficientemente pelo trade-off entre velocidade e qualidade em todos os contextos.
Justificativa Teórica Rigorosa:
- Os autores provam que o ensemble estático reside na fronteira de Pareto entre aceitação e viés de distribuição (conforme teorizado por Yin et al., 2024).
- Derivam uma expressão exata para o comprimento esperado de aceitação sem assumir que as probabilidades de aceitação são independentes e identicamente distribuídas (i.i.d.). A análise anterior ignorava o efeito da posição do token na sequência; o novo teorema captura essa dependência sequencial, oferecendo uma caracterização mais precisa da aceleração.
Superioridade Empírica: Demonstração de que o DIVERSED consegue superar a fronteira de Pareto alcançada por métodos de ensemble estático, obtendo maior velocidade sem sacrificar a qualidade da geração.

4. Resultados Experimentais

Os experimentos foram realizados em múltiplos pares de modelos (Llama, Qwen, Gemma) e tarefas (Raciocínio Matemático - GSM8K, Resumo de Notícias - CNNDM/XSum, Programação - MBPP).

Taxa de Aceitação: O DIVERSED consistentemente alcançou taxas de aceitação significativamente mais altas do que a decodificação especulativa padrão, métodos "lossy" existentes e ensembles estáticos.
- Exemplo: No par Llama-3.1-8B/1B, o DIVERSED melhorou a taxa de aceitação em pelo menos 28% em todas as tarefas em comparação com a SD lossy, mantendo a qualidade.
Aceleração (Speedup): Houve uma correlação forte entre o aumento da taxa de aceitação e a redução do tempo de inferência (latência). O DIVERSED reduziu o tempo de processamento por amostra de forma consistente.
Qualidade de Geração: Diferente de métodos que relaxam a verificação de forma cega, o DIVERSED manteve a precisão da tarefa (ex: acurácia em GSM8K, ROUGE-2 em CNNDM) comparável ou até superior aos métodos de linha de base, provando que a relaxação dinâmica preserva a correção semântica.
Análise de Pareto: Gráficos de tempo vs. qualidade mostram que o DIVERSED opera em uma região superior à fronteira de Pareto gerada por ensembles estáticos, oferecendo o melhor equilíbrio entre velocidade e precisão.

5. Significância e Impacto

O trabalho DIVERSED representa um avanço significativo na otimização de inferência de LLMs:

Eficiência Prática: Permite que modelos grandes sejam executados mais rapidamente em hardware limitado, tornando a inferência de LLMs mais acessível e escalável.
Flexibilidade: Demonstra que a verificação de tokens não precisa ser binária (aceitar/rejeitar estritamente) nem fixa. A adaptação contextual é crucial para maximizar a eficiência sem comprometer a inteligência do modelo.
Fundamentação Teórica: A correção das suposições i.i.d. na análise teórica da decodificação especulativa fornece uma base mais sólida para futuras pesquisas em aceleração de inferência.
Generalização: A capacidade de ser treinado em uma tarefa e aplicado a outras (com ajustes) sugere que a relaxação dinâmica é uma estratégia robusta para diversos cenários de aplicação de IA.

Em resumo, o DIVERSED resolve o dilema entre velocidade e qualidade na decodificação especulativa ao substituir regras de verificação rígidas e estáticas por um mecanismo de aprendizado dinâmico, resultando em inferências mais rápidas e inteligentes.