Resumo Técnico: Quatro sobre Seis (4/6)

Declaração do Problema

À medida que os Modelos de Linguagem de Grande Escala (LLMs) aumentam de escala, há um interesse crescente em formatos numéricos de baixa precisão, como NVFP4, para melhorar a velocidade de treinamento e reduzir o uso de memória. No entanto, a quantização de modelos para NVFP4 permanece desafiadora devido à perda de precisão, que degrada o desempenho do modelo.

O problema central identificado neste trabalho é o tamanho de passo não uniforme inerente aos formatos de ponto flutuante. Diferentemente dos formatos inteiros, o FP4 (especificamente E2M1) possui tamanhos de passo dinâmicos: 0,5 entre 0 e 2, 1 entre 2 e 4 e 2 entre 4 e 6. Na quantização padrão NVFP4 com escala de bloco, os valores são escalonados para a faixa completa de [-6, 6]. Isso cria uma lacuna de quantização significativa para valores próximos ao máximo. Especificamente, quando o valor máximo de um bloco é escalonado para 6, o valor representável FP4 "4" corresponde apenas a 66,6% da magnitude máxima do bloco. Consequentemente, quaisquer valores entre 66,6% e 100% da magnitude máxima do bloco não podem ser representados com precisão, levando a grandes erros de quantização para esses valores próximos ao máximo.

A análise dos autores do Llama-3.1-8B indica que, embora os erros de quantização do fator de escala tenham impacto mínimo, o erro introduzido pelo arredondamento de valores próximos ao máximo (especificamente em torno de um valor escalonado de 5) é o principal motor da degradação de desempenho em modelos quantizados NVFP4.

Metodologia: Quatro sobre Seis (4/6)

O artigo introduz o Quatro sobre Seis (4/6), uma modificação no algoritmo de quantização NVFP4 com escala de bloco projetada para reduzir o erro de quantização para valores próximos ao máximo.

Mecanismo Central

Em vez de escalar uniformemente todos os blocos para o valor máximo FP4 de 6, o 4/6 escala adaptativamente blocos específicos para um máximo de 4.

• NVFP4 Padrão (Escala = 6): Os valores são distribuídos em [-6, 6]. A lacuna entre os valores representáveis 4 e 6 é de 2 unidades.
• 4/6 (Escala = 4): Para blocos selecionados, os valores são distribuídos em [-4, 4]. A lacuna entre os valores representáveis 3 e 4 é de 1 unidade.

Ao sacrificar a capacidade de representar os valores extremos de 5 e 6 em blocos específicos, o método permite uma distribuição mais uniforme de valores representáveis na faixa de 75%–100% da magnitude do bloco. Por exemplo, um valor representando 75% da magnitude máxima de um bloco pode ser representado exatamente como "3" em um bloco de escala 4, enquanto cairia em uma grande lacuna de erro em um bloco de escala 6.

Algoritmo de Escalonamento Adaptativo de Blocos

Como escalar todos os blocos para 4 não é universalmente benéfico (já que reduz a faixa dinâmica do bloco em 50% em comparação com a escala para 6), o método emprega um processo de seleção adaptativa:

1. Quantização Dupla: Para cada bloco, o algoritmo quantiza os valores duas vezes: uma vez com um fator de escala de 6 e uma vez com um fator de escala de 4.
2. Cálculo de Erro: O erro de quantização para ambas as versões é calculado em relação aos valores de alta precisão originais.
3. Regra de Seleção: O algoritmo seleciona a escala (4 ou 6) que minimiza o erro. O artigo avalia três regras de seleção:
   • Erro Máximo Mínimo
   • Erro Absoluto Médio Mínimo (MAE)
   • Erro Quadrático Médio Mínimo (MSE)
   • Descoberta: Para Quantização Pós-Treinamento (PTQ), o MSE produz os melhores resultados. Para Pré-Treinamento, o MAE performa ligeiramente melhor.

Detalhes de Implementação

• Ajuste de Escala de Tensor: Para evitar overflow nos fatores de escala FP8 E4M3 quando um bloco é escalonado para 4 (o que requer um fator de escala 1,5x maior do que um bloco escalonado para 6), a escala global do tensor $\alpha$ é computada usando um valor máximo FP8 de 256 em vez do padrão 448.
• Eficiência de Hardware: O método é implementado usando instruções PTX da GPU NVIDIA Blackwell (família cvt) dentro de um kernel CUDA. Todos os valores intermediários e cálculos de erro são mantidos no arquivo de registro para minimizar a sobrecarga de acesso à memória.
• Sobrecarga: Os autores relatam que o 4/6 adiciona menos de 15% de sobrecarga computacional ao kernel de quantização NVFP4.

Contribuições e Resultados Principais

1. Desempenho de Pré-Treinamento

Os autores avaliaram o 4/6 na arquitetura do modelo Nemotron 3 Nano 30B-A3B usando um conjunto de dados de 1 trilhão de tokens.

• Redução de Perda: O 4/6 trouxe a perda de treinamento 13,0% mais próxima da linha de base BF16 em comparação com a receita padrão de treinamento NVFP4.
• Configuração Ótima: Surpreendentemente, aplicar o 4/6 apenas nas ativações produziu desempenho comparável à aplicação em ativações, pesos e gradientes, enquanto introduzia menos sobrecarga computacional.
• Seleção de Escala: No pré-treinamento, o uso de MAE para seleção de escala superou o MSE.

2. Quantização Pós-Treinamento (PTQ)

O método foi testado nos modelos Llama 3 e Qwen 3 (variando de 1B a 70B parâmetros) nas métricas de perplexidade WikiText-2 e C4, combinado com métodos existentes de PTQ (RTN, GPTQ, AWQ, SmoothQuant).

• Melhoria Geral: O 4/6 melhorou uniformemente as métricas de perplexidade quando combinado com AWQ e SmoothQuant, trazendo a perplexidade de palavras 19,9% e 5,3% mais próximas do desempenho BF16, respectivamente.
• Interação com GPTQ: O 4/6 degradou ligeiramente o desempenho quando combinado com GPTQ na implementação atual, embora os autores observem que modificar o processo de otimização do GPTQ para incorporar o 4/6 poderia gerar melhorias futuras.
• Tarefas de Descendente: Em tarefas como BoolQ, ARC-Easy, ARC-Challenge e HellaSwag, o 4/6 melhorou o desempenho médio das tarefas em quase todos os casos quando combinado com AWQ e SmoothQuant.

3. Eficiência

A implementação é projetada para aceleradores de hardware modernos (NVIDIA Blackwell), garantindo que os benefícios da redução do erro de quantização não sejam negados por sobrecarga computacional excessiva.

Significado e Alegações

O artigo afirma que o 4/6 é uma modificação leve e eficiente no algoritmo de quantização NVFP4 que aborda a fraqueza específica dos formatos de ponto flutuante em relação a valores próximos ao máximo.

• Precisão vs. Sobrecarga: Ele alcança ganhos significativos de precisão (mais próximos das linhas de base BF16) com sobrecarga computacional mínima (<15%), tornando o treinamento NVFP4 mais viável sem recorrer a fases de "cura" caras ou fallbacks de alta precisão.
• Compatibilidade com Hardware: O método é nativamente compatível com as GPUs NVIDIA Blackwell atuais, aproveitando o suporte de hardware existente para NVFP4.
• Aplicabilidade Geral: Embora focado no NVFP4, o conceito de escalonamento adaptativo de blocos é apresentado como uma técnica geral para melhorar a representação de valores próximos ao máximo em formatos de ponto flutuante com escala de bloco, embora os autores observem que não é diretamente aplicável ao MXFP4 devido a diferenças na precisão do fator de escala (FP8 E8M0 vs. E4M3).

Os autores concluem que o 4/6 representa um passo à frente na tornar o treinamento e a inferência FP4 de baixa precisão práticos para LLMs em grande escala, aproximando o desempenho das linhas de base de alta precisão enquanto mantém os benefícios de velocidade e memória da quantização.