Resumo Técnico: TARQ – Quantização de Reconstrução Consciente da Cauda para ASR Robusta a Palavras Raras

1. Declaração do Problema

Modelos de Reconhecimento Automático de Fala (ASR) de ponta a ponta em grande escala, baseados em arquiteturas Transformer, enfrentam restrições de implantação devido à largura de banda de memória e à capacidade dos dispositivos. A Quantização Pós-Treinamento (PTQ) apenas de pesos é uma estratégia principal de compressão, substituindo matrizes de pesos de precisão completa por aproximações de baixa precisão (por exemplo, 4 bits) enquanto mantém as ativações em ponto flutuante.

No entanto, os métodos existentes de PTQ orientados por dados, amplamente desenvolvidos para Modelos de Linguagem de Grande Escala (LLMs), minimizam uma perda de reconstrução média sobre as posições dos tokens de calibração. Essa média pondera implicitamente as posições pela sua frequência empírica no corpus de calibração. Consequentemente, padrões lexicais frequentes dominam a otimização, enquanto padrões infrequentes (a "cauda lexical") — como nomes, numerais e termos específicos de domínio — recebem massa de calibração desproporcionalmente baixa.

No ASR, esse desalinhamento ponderado pela frequência é crítico. Palavras raras são frequentemente as mais frágeis sob perturbação de quantização, mas as métricas padrão de PTQ obscurecem sua degradação porque a Taxa de Erro de Palavra (WER) agregada é dominada por palavras comuns. O artigo identifica que otimizar o objetivo de reconstrução de forma mais agressiva (por exemplo, aumentando orçamentos de iteração) não resolve essa lacuna; a assimetria reside na própria métrica de calibração, e não na precisão do solucionador.

2. Metodologia: TARQ

Os autores propõem a Quantização de Reconstrução Consciente da Cauda (TARQ), um framework de PTQ sem rótulos que desloca a calibração em direção à cauda lexical sem exigir rótulos de entidades, conjuntos de dados curados ou treinamento adicional. O TARQ opera por meio de dois componentes de forma fechada que reutilizam as estatísticas de segundo momento acumuladas durante uma única passagem de calibração:

A. RAREBAL (Métrica de Calibração Equilibrada para Raras)

O RAREBAL substitui a métrica de calibração padrão ponderada por frequência por uma equilibrada entre comuns e raras.

• Mecanismo: Ele particiona os tokens de calibração em grupos "comuns" e "cauda" com base na raridade lexical (definida por uma pontuação Zipf de wordfreq < 3, ou seja, <1 ocorrência por milhão de palavras).
• Equalização de Traço: Para cada camada Linear $\ell$, um coeficiente escalar $\lambda_\ell$ é calculado para equalizar a massa de traço dos grupos comuns e da cauda:
  $$\lambda_\ell = \frac{\text{tr}(H_{\text{common}}^\ell)}{\text{tr}(H_{\text{tail}}^\ell) + \epsilon}$$
  onde $H$ representa as matrizes de segundo momento por grupo. A nova métrica é $H_{\text{RB}}^\ell = H_{\text{common}}^\ell + \lambda_\ell H_{\text{tail}}^\ell$.
• Efeito: Isso força o objetivo de reconstrução a tratar tokens raros e comuns com importância igual (uma divisão 50/50 na massa de traço), independentemente de sua frequência no corpus.

B. Correção de Resíduo Consistente com a Métrica

Os solucionadores padrão de PTQ (como GPTQ) visitam as camadas sequencialmente, causando um desvio das ativações de entrada em relação à trajetória de precisão completa. Quando a métrica de reconstrução é alterada pelo RAREBAL, esse desvio deve ser corrigido dentro do mesmo framework geométrico.

• Mecanismo: O TARQ calcula uma direção de propagação $D_\ell$ com base no momento cruzado do erro de entrada e na nova métrica $H_{\text{RB}}^\ell$.
• Correção: Um resíduo escalar $\alpha_\ell$ é ajustado via mínimos quadrados unidimensionais para alinhar a varredura sequencial de camadas com o objetivo reequilibrado. O peso alvo é projetado de volta para o reticulado de baixa precisão sob a mesma métrica RAREBAL, garantindo que o solucionador não reverta para a geometria original ponderada por frequência.

3. Contribuições Principais

1. Diagnóstico da Herança de Frequência: Os autores identificam explicitamente que a PTQ baseada em reconstrução herda a distribuição de frequência de tokens do corpus, criando uma escolha de projeto que não se alinha com os riscos sensíveis à cauda no ASR. Eles demonstram que a WER agregada mascara degradação significativa no reconhecimento de palavras raras.
2. Framework TARQ: Introdução de um framework de PTQ que não requer rótulos de entidades ou decodificação de validação. Ele utiliza uma equalização de traço por camada Linear de forma fechada (RAREBAL) e uma correção de resíduo consistente com a métrica.
3. Validação Empírica: Experimentos extensos em oito backbones de ASR (Whisper, Qwen3-ASR, Voxtral), seis conjuntos de dados e seis corpora de calibração.

4. Resultados Experimentais

Avaliado sob quantização W4G128 (pesos de 4 bits, tamanho de grupo 128):

• Melhoria na Rare-WER: O TARQ melhora a média da Taxa de Erro de Palavras Raras (rare-WER) na maioria dos backbones em comparação com as bases de referência (GPTQ, AWQ, OmniQuant, GenPTQ). Por exemplo, no Whisper-base, o TARQ reduz a rare-WER de 47,57% (GPTQ) para 43,96%.
• WER Agregada: O TARQ mantém uma WER simples competitiva ou superior, alcançando a média de WER simples de rank-1 em todos os oito backbones. Ele fecha a lacuna da cauda lexical sem uma compensação na WER simples.
• Estabilidade de Calibração: O TARQ exibe a menor oscilação de rare-WER entre corpora (0,63 pontos percentuais) entre os métodos comparados, demonstrando robustez à escolha do corpus de calibração.
• Transferibilidade: A correção baseada em raridade transfere-se efetivamente para benchmarks ricos em entidades (ProfASR, ContextASR-Speech-En) sem supervisão de entidades, superando as bases de referência nessas tarefas especializadas.
• Recuperação Qualitativa: Estudos de caso mostram que o TARQ preserva com sucesso palavras de referência raras (por exemplo, "marmalades", "dandan", "pewter") que outras bases de referência W4G128 substituem ou degradam.

5. Significado e Alegações

O artigo alega que o TARQ aborda uma limitação fundamental na quantização atual de ASR: o viés implícito em direção a tokens frequentes. Ao reequilibrar a própria métrica de calibração, o TARQ otimiza diretamente para os erros de entidades raras que métodos anteriores ignoram.

• Impacto na Implantação: O TARQ permite a implantação de grandes modelos de ASR em dispositivos com recursos limitados (CPU e GPUs com baixa VRAM) com precisão INT4, preservando a precisão de palavras raras, o que é crítico para domínios envolvendo nomes, termos técnicos e substantivos próprios.
• Mudança Metodológica: O trabalho argumenta que a métrica de calibração, e não apenas o solucionador, dita o compromisso entre a preservação de tokens comuns e raros. Ele demonstra que uma simples equalização de traço sem rótulos pode superar abordagens complexas e pesadas em curadoria de dados.
• Limitações: Os autores observam que o TARQ visa a PTQ de reconstrução orientada por dados e pode não se aplicar diretamente a configurações sem dados ou com quantização de ativações. Eles também reconhecem um modo de falha específico em enunciados muito curtos dominados por um único substantivo próprio raro, onde o reequilíbrio em nível de camada pode substituir o token raro por um vizinho de alta frequência foneticamente similar. Eles sugerem que isso pode ser mitigado via viés contextual no tempo de inferência, uma técnica complementar não combinada neste trabalho.

Em conclusão, o TARQ fornece uma solução robusta, eficiente e sem rótulos para o "problema das palavras raras" no ASR quantizado, oferecendo um passo significativo em direção à implantação de reconhecimento de fala de alta fidelidade em dispositivos de borda.