Resumo Técnico: QWHA - Adaptação Walsh-Hadamard Consciente de Quantização para Ajuste Fino Eficiente em Parâmetros em Modelos de Linguagem de Grande Escala

1. Declaração do Problema

A implantação de Modelos de Linguagem de Grande Escala (LLMs) enfrenta um duplo desafio: reduzir os custos de inferência por meio da quantização e diminuir a sobrecarga de treinamento via Ajuste Fino Eficiente em Parâmetros (PEFT). Embora a Adaptação Consciente de Quantização para PEFT (QA-PEFT) vise combinar esses benefícios, as abordagens existentes enfrentam limitações significativas.

Os métodos atuais de QA-PEFT dependem predominantemente da Adaptação de Baixo Rango (LoRA). Embora eficaz, a LoRA sofre de capacidade representacional limitada devido às suas restrições rígidas de rank. Alternativas recentes que utilizam Transformadas Relacionadas a Fourier (FT) oferecem poder representacional superior ao treinar coeficientes esparsos no domínio da transformada. No entanto, a aplicação direta de adaptadores baseados em FT a modelos quantizados frequentemente resulta em desempenho inferior comparado à QA-PEFT baseada em LoRA. Isso ocorre porque:

1. Falha na Inicialização: Os adaptadores baseados em FT existentes carecem de estratégias de inicialização eficazes para compensar erros de quantização antes do ajuste fino. Identificar o conjunto esparso ótimo de parâmetros para aproximar uma matriz é um problema NP-difícil, e a seleção aleatória ou baseada em magnitude frequentemente falha em capturar erros críticos induzidos por valores atípicos (outliers).
2. Sobrecarga Computacional: Adaptadores baseados em FT convencionais (por exemplo, usando DFT, DCT ou DHT) requerem transformadas duplas (dimensões de entrada e saída) e operações complexas de kernel, levando a custos computacionais significativos que anulam os ganhos de eficiência da quantização.
3. Sensibilidade a Outliers: Os erros de quantização em LLMs são fortemente influenciados por outliers (pesos com magnitudes excepcionalmente grandes). As bases sinusoidais padrão usadas em DCT/DHT são suaves e lutam para representar eficientemente as transições abruptas desses outliers.

2. Metodologia: QWHA

Os autores propõem o QWHA (Adaptação Walsh-Hadamard Consciente de Quantização), um framework que integra um adaptador baseado em Transformada Walsh-Hadamard (WHT) com um novo esquema de inicialização consciente de quantização.

2.1 Design do Adaptador: Adaptação Walsh-Hadamard (WHA)

Diferentemente dos adaptadores baseados em FT convencionais que aplicam transformadas tanto nas dimensões de entrada quanto de saída ($\Delta W = H'^{-1} F H^{-1}$), o QWHA emprega uma formulação de transformada única:
$$\Delta W = F H^{-1}$$
Onde:

• $H$ é uma matriz de Transformada Walsh-Hadamard (WHT) predefinida.
• $F$ é uma matriz de coeficientes esparsos treinável construída a partir de um vetor de valores $c$ e uma lista de índices $E$.
• $H^{-1}$ é a WHT inversa.

Vantagens Chave da WHT:

• Concentração de Energia: O kernel WHT consiste exclusivamente em entradas $\pm 1$, formando funções de base de onda quadrada com transições abruptas. Essa propriedade estrutural alinha-se melhor com a distribuição de cauda pesada dos erros de quantização (outliers) em comparação com as bases sinusoidais suaves de DCT ou DHT. A análise empírica mostra que a WHT concentra a maioria da energia do erro em menos coeficientes, permitindo uma reconstrução precisa com parâmetros limitados.
• Eficiência Computacional: O kernel WHT permite computação recursiva rápida usando apenas adições e subtrações, eliminando multiplicações de matriz. Isso reduz significativamente a sobrecarga computacional em comparação com DCT/DHT, que frequentemente requerem operações complexas ou manipulação de componentes imaginários.

2.2 Inicialização Consciente de Quantização

Para abordar a lacuna de inicialização em adaptadores baseados em FT, o QWHA introduz uma estratégia de inicialização em dois estágios: AdaAlloc (Alocação Adaptativa) e Refinamento.

1. AdaAlloc (Seleção de Parâmetros):

   • Em vez de seleção aleatória ou seleção simples baseada em magnitude (que pode levar a matrizes de baixo rank ao agrupar parâmetros em poucos canais), o AdaAlloc aloca o orçamento de parâmetros $p$ através dos canais de saída proporcionalmente às magnitudes de seus erros de ativação.
   • Isso garante que canais com maiores erros de quantização recebam mais parâmetros, mantendo ao mesmo tempo um limite inferior de parâmetros por canal para garantir uma estrutura de adaptador de rank completo.
   • Dentro de cada canal, os coeficientes de maior magnitude são selecionados para atingir efetivamente o erro.

2. Refinamento (Atribuição de Valores):

   • Após selecionar as localizações dos parâmetros, os valores não são simplesmente tomados de uma solução densa. Em vez disso, um problema de mínimos quadrados é resolvido para refinar os valores ($c$) com base nos vetores de base selecionados.
   • Esta etapa leva em conta as interações entre os vetores de base selecionados, minimizando o erro de saída da camada ($\|\Delta W_Q X - F H^{-1} X\|_F^2$) de forma mais eficaz do que a atribuição direta de valores.

3. Contribuições Principais

• Adaptador WHA: Introdução de um adaptador baseado em WHT de transformada única que oferece maior capacidade representacional do que a LoRA e tratamento superior de outliers em comparação com adaptadores baseados em DCT/DHT.
• AdaAlloc e Refinamento: Um esquema de inicialização tratável que resolve o problema de aproximação esparso NP-difícil alocando adaptativamente parâmetros para canais propensos a erros e refinando valores para minimizar o erro de inicialização.
• Eficiência Computacional: Demonstração de que o kernel WHT e o design de transformada única reduzem substancialmente a latência de treinamento e inicialização em comparação com adaptadores baseados em FT existentes, alcançando velocidades comparáveis à LoRA.

4. Resultados Experimentais

Os autores avaliaram o QWHA nos modelos LLaMA-3.1-8B, LLaMA-3.2-3B e Mistral-7B-v0.3 nos benchmarks CSQA (QA de senso comum) e GSM8k (raciocínio matemático) sob quantização de 2 bits, 3 bits e 4 bits.

• Precisão: O QWHA supera consistentemente as bases de comparação mais avançadas, incluindo QA-PEFT baseada em LoRA (CLoQ) e adaptadores esparsos/baseados em FT (SHiRA, LoCA, SSH). A diferença de desempenho é mais pronunciada em configurações de baixo bit (2 bits e 3 bits), onde o QWHA alcança 2-3% de maior precisão do que as bases de comparação.
• Eficácia da Inicialização: Estudos de ablação confirmam que tanto o kernel WHT quanto a inicialização AdaAlloc são críticos. Sem inicialização consciente de quantização, adaptadores baseados em FT performam pior do que a LoRA. Com a inicialização do QWHA, eles superam significativamente a LoRA.
• Eficiência:
  • Velocidade de Treinamento: O QWHA alcança acelerações significativas de treinamento sobre adaptadores baseados em FT existentes (por exemplo, SSH, LoCA) devido ao kernel WHT rápido e ao design de transformada única. Em algumas configurações, é comparável à LoRA.
  • Inferência: O QWHA incorre em sobrecarga mínima de inferência (queda de 1,9% na vazão comparado à LoRA) devido à implementação eficiente da WHT, enquanto outros adaptadores baseados em FT sofrem com sobrecarga substancial (queda de aproximadamente 50%).
  • Memória: O QWHA reduz o consumo total de memória em ~13% comparado ao CLoQ durante a inferência, principalmente devido à natureza esparsa do adaptador e operações de dispersão eficientes.

5. Significado e Alegações

O artigo afirma que o QWHA representa um avanço significativo no campo da adaptação eficiente de LLMs, ao conectar com sucesso a lacuna entre alta capacidade representacional e robustez à quantização.

• Superando Limites Representacionais: O trabalho demonstra que adaptadores baseados em FT, quando devidamente inicializados e projetados com WHT, podem superar os limites representacionais de adaptadores de baixo rank sem sacrificar a eficiência.
• Abordando Erros de Quantização: O estudo destaca que a consideração explícita dos efeitos de quantização (especificamente outliers) durante a fase de inicialização é crucial para QA-PEFT. O esquema de inicialização proposto mitiga efetivamente a degradação de precisão tipicamente associada à quantização agressiva.
• Viabilidade Prática: Ao reduzir a sobrecarga computacional de adaptadores baseados em FT para níveis comparáveis à LoRA, o QWHA torna o ajuste fino consciente de quantização de alta capacidade uma opção prática para cenários de implantação com recursos limitados.

Os autores concluem que o QWHA fornece um framework robusto, eficiente e preciso para o ajuste fino de LLMs quantizados, oferecendo uma alternativa viável ao paradigma dominante da LoRA.