Resumo Técnico: Direcionamento de Atenção Guiado por Variedade (MAGS)

Declaração do Problema

Modelos de Linguagem de Grande Escala (LLMs) frequentemente possuem o conhecimento subjacente necessário para tarefas de raciocínio complexo, mas falham em expressar essa capacidade de forma confiável durante a geração. Embora a amostragem repetida do mesmo modelo e prompt possa produzir tanto soluções corretas quanto incorretas, anotações em nível de processo indicam que os erros geralmente surgem em etapas intermediárias de raciocínio, e não devido a uma falta terminal de conhecimento.

Os métodos existentes de direcionamento de ativação em tempo de inferência tentam corrigir esses comportamentos aplicando vetores de correção fixos e pré-calculados ao fluxo residual ou às saídas de atenção. No entanto, essas abordagens sofrem de uma incompatibilidade estrutural crítica com tarefas de raciocínio:

1. Perturbação Indiscriminada: Elas aplicam correções uniformemente, independentemente do estado atual do modelo. Isso corre o risco de corromper etapas que já estão corretas, enquanto falha em interceptar erros que ainda não se manifestaram.
2. Natureza Estática: Elas carecem de mecanismos para detectar quando uma trajetória de raciocínio está desviando em direção a um estado de erro, tratando todas as etapas de geração como igualmente necessitadas de correção.

A hipótese central deste trabalho é que erros de raciocínio se manifestam como um desvio estruturado em um subespaço de baixa dimensão dos espaços de saída de cabeças de atenção individuais. Trajetórias corretas e incorretas ocupam regiões geometricamente separáveis, e a transição de comportamento correto para incorreto segue uma direção específica de baixo posto.

Metodologia: Direcionamento de Atenção Guiado por Variedade (MAGS)

O MAGS é uma intervenção adaptativa, consciente da trajetória e em tempo de inferência, que direciona as saídas das cabeças de atenção apenas quando um desvio de uma "variedade de correção" é detectado. O método opera em três fases:

1. Construção da Variedade de Erro Contrastiva

Durante uma fase de treinamento, o sistema analisa pares contrastivos de traços de raciocínio (mesmo problema, uma solução correta, uma incorreta) para aprender a estrutura geométrica dos erros.

• Vetores de Diferença por Cabeça: Para cada cabeça de atenção $(l, h)$, o sistema computa a ativação média para traços corretos ($\mu_c$) e traços incorretos ($\mu_e$). O vetor de diferença $\delta = \mu_e - \mu_c$ isola o deslocamento direcional atribuível a erros, cancelando características específicas do problema.
• Aprendizado de Subespaço: Ao empilhar esses vetores de diferença em múltiplos problemas e realizar Análise de Componentes Principais (PCA), o MAGS extrai uma base de baixa dimensão $B$ (os $k$-vetores singulares superiores). Essa base abrange o "subespaço de erro"—as direções no espaço de saída da cabeça onde o desvio de correto para incorreto apresenta a maior variância.
• Referência Global: Um centróide global $\mu_c$ é computado a partir de todos os traços corretos para servir como ponto de referência durante a inferência.

2. Detecção de Erro Baseada em Proximidade

Durante a inferência, o MAGS monitora a saída de cabeças de atenção selecionadas em tempo real.

• Pontuação de Proximidade: Para cada etapa de token $t$, o sistema calcula a norma quadrada da projeção da saída da cabeça centralizada no subespaço de erro aprendido:
  $$d_t = \| B(a_t - \mu_c) \|^2$$
  Uma pontuação alta indica que a ativação da cabeça desviou significativamente em direção à variedade de erro.
• Disparo Dinâmico: Um limiar por cabeça $\tau$ é calibrado em traços corretos (por exemplo, definido como um percentil alto de pontuações de trajetórias corretas). Uma correção é aplicada apenas se $d_t > \tau$. Isso garante que etapas já na trajetória correta permaneçam inalteradas.

3. Correção Direcionada

Quando um disparo ocorre, o MAGS aplica uma correção no local à saída da cabeça de atenção antes que ela seja passada para a projeção de saída da camada:
$$\tilde{a}_t = a_t - \alpha B^\top B (a_t - \mu_c)$$
onde $\alpha \in (0, 1]$ é um hiperparâmetro de força de direcionamento.

• Interpretação Geométrica: Esta operação projeta o desvio $(a_t - \mu_c)$ no subespaço de erro e o subtrai, efetivamente descartando o componente de erro enquanto preserva todas as informações no complemento ortogonal (as $(d_h - k)$ dimensões não relacionadas à variedade de erro).
• Preservação de Informação: O método garante que informações não relacionadas à variedade de erro sejam preservadas, evitando a "sobre-correção" observada em métodos estáticos.

Extensão Multi-Objetivo (MAGSu)

Para lidar com objetivos conflitantes (por exemplo, validade sintática vs. afinidade de ligação química), os autores propõem o MAGSu, que aprende variedades independentes para cada objetivo e aplica correções através de conjuntos disjuntos de cabeças, prevenindo interferência entre objetivos de direcionamento.

Contribuições Principais

1. Validação da Hipótese: O artigo fornece evidências empíricas de que erros de raciocínio se manifestam como desvio estruturado em subespaços de baixa dimensão de cabeças de atenção específicas. Experimentos diagnósticos mostram que trajetórias corretas e incorretas são altamente separáveis por esses subespaços, com sinais de erro sendo esparsos e concentrados em cabeças específicas.
2. Mecanismo de Intervenção Adaptativa: O MAGS introduz um gatilho dinâmico baseado em proximidade que aplica correções apenas quando uma cabeça desvia para o subespaço de erro. Isso contrasta com métodos estáticos que aplicam vetores fixos independentemente do estado de ativação atual.
3. Superioridade Empírica: O método supera consistentemente baselines sem direcionamento e abordagens de direcionamento estático existentes (ITI, Direcionamento Angular) em diversos benchmarks.

Resultados Experimentais

Os autores avaliaram o MAGS em três famílias de modelos (Llama-3.1-8B-Instruct, Gemma-4-E4b-it e GPT-OSS-20B) em três domínios:

• Raciocínio Matemático (MATH-500, GSM8K): O MAGS alcançou os maiores ganhos no MATH-500, melhorando a precisão em +5,2% sobre a baseline Llama sem direcionamento e +3,4% sobre a baseline Gemma sem direcionamento. A melhoria foi mais pronunciada em tarefas com derivações multi-etapa onde o acúmulo de erros é provável.
• Geração de Código (HumanEval, MBPP): O MAGS melhorou o HumanEval pass@1 em aproximadamente 4 pontos sobre as baselines sem direcionamento. Notavelmente, métodos estáticos (ITI, Direcionamento Angular) degradaram o desempenho na geração de código, provavelmente devido à interrupção da coerência sintática, enquanto o MAGS evitou isso ao suprimir correções em etapas corretas.
• Geração Molecular (SMILES): Em uma tarefa multi-objetivo exigindo tanto validade sintática quanto alta afinidade de ligação, o MAGSu melhorou com sucesso ambas as métricas simultaneamente. Em contraste, o ITI melhorou a validade, mas degradou significativamente a afinidade de ligação, demonstrando a interferência causada por objetivos entrelaçados no direcionamento estático.
• Fluência e Sobrecarga: O MAGS manteve níveis de perplexidade comparáveis às baselines sem direcionamento, indicando que não distorce a distribuição de geração. A sobrecarga computacional é negligenciável, dominada por operações $O(K \cdot k \cdot d_h)$ por etapa, onde $K$ é o número de cabeças monitoradas.

Significado e Alegações

O artigo alega que o MAGS reformula o direcionamento de ativação como um problema de detecção de desvio em vez de uma tarefa de correção constante. Ao identificar uma base de baixo posto que prevê o início do erro, o MAGS fornece uma estrutura geométrica interpretável que métodos de magnitude escalar não possuem.

Os autores afirmam que:

1. Variedades de Correção são Gerais: A existência de subespaços de baixa dimensão separando comportamentos corretos e incorretos parece ser uma característica geral da geometria de atenção de LLMs, aplicável através de raciocínio, codificação e geração científica.
2. Consciência da Trajetória é Crítica: A correção indiscriminada interrompe etapas válidas de raciocínio. A capacidade de intervir apenas quando um desvio é detectado é o principal motor do desempenho superior do MAGS e de sua robustez à sensibilidade de hiperparâmetros.
3. Restrições Geométricas Previnem Sobre-correção: Ao projetar ativações de volta para o complemento do subespaço de erro, o MAGS preserva as capacidades intrínsecas do modelo enquanto remove apenas os componentes específicos de erro.

O trabalho conclui que, embora o MAGS exija um conjunto de traços contrastivos para ajuste da variedade, oferece uma solução robusta e de baixa sobrecarga para melhorar a consistência de raciocínio em LLMs, superando intervenções estáticas que falham em levar em conta a natureza dinâmica da trajetória de geração.