Resumo Técnico: Adaptive GoGI-Skip

Declaração do Problema

O prompting de Cadeia de Pensamento (CoT) melhora significativamente as capacidades de raciocínio dos Modelos de Linguagem de Grande Escala (LLMs), mas introduz latência de inferência e custos de memória proibitivos devido à geração de traços de raciocínio verbosos e redundantes. Estratégias existentes de compressão enfrentam um compromisso fundamental:

1. Métodos Estáticos de Gradiente/Importância: Abordagens como TokenSkip ou aquelas que dependem de similaridade semântica tratam os tokens de forma independente. Elas frequentemente rompem a lógica sequencial ao remover tokens estruturalmente críticos, mas semanticamente simples (por exemplo, conectores lógicos), ou falham em distinguir entre redundância funcional e elaboração necessária.
2. Poda Baseada em Incerteza: Métodos que dependem exclusivamente de entropia preditiva ou perplexidade capturam ambiguidade local, mas ignoram o objetivo final de correção da resposta. Eles podem reter tokens que são surpreendentes, mas funcionalmente irrelevantes para a solução final.
3. Taxas de Compressão Estáticas: Rácios de compressão fixos não podem acomodar a dificuldade heterogênea das etapas de raciocínio, levando a uma perda excessiva de precisão em tarefas complexas ou a ganhos de eficiência insuficientes em tarefas mais simples.

O desafio central é alcançar um equilíbrio "ótimo de pensamento" onde os modelos raciocinam apenas o estritamente necessário, exigindo um paradigma de compressão que seja tanto consciente do objetivo (alinhado com a correção da resposta) quanto dinamicamente adaptativo (responsivo à complexidade local de raciocínio).

Metodologia: Adaptive GoGI-Skip

Os autores propõem o Adaptive GoGI-Skip, um framework que acopla Importância de Gradiente de Objetivo (GoGI) com Pulo Dinâmico Adaptativo (ADS) para podar traços de CoT sem sacrificar a precisão do raciocínio. O método é implementado via Ajuste Fino Supervisionado (SFT) em traços comprimidos.

1. Importância de Gradiente de Objetivo (GoGI)

Diferentemente de métricas genéricas de importância, o GoGI quantifica a contribuição funcional de um token para a correção da resposta final via sensibilidade do gradiente.

• Definição: Para um token $x_t$ em uma camada alvo $l^*$, a pontuação GoGI $G_t$ é a norma $L_1$ do gradiente da perda de previsão da resposta ($L_{ans}$) em relação ao estado oculto $h_t^{l^*}$:
  $$G_t = \left\| \frac{\partial L_{ans}(A|c; \theta)}{\partial h_t^{l^*}} \right\|_1$$
• Seleção de Camada: A análise empírica mostra que o pico de sensibilidade ocorre em camadas do meio ao final (por exemplo, Camada 23 no Gemma3-4B). O método seleciona uma camada representativa onde o desempenho a jusante é insensível à escolha exata, equilibrando sinais locais e globais.
• Insight: O GoGI identifica tokens que são funcionalmente críticos para a resposta final, mesmo que sejam semanticamente simples, distinguindo-os de tokens que são meramente surpreendentes (alta entropia), mas irrelevantes.

2. Pulo Dinâmico Adaptativo (ADS)

O ADS modula dinamicamente a estratégia de poda com base no contexto de tempo de execução, combinando GoGI com dois mecanismos regulatórios:

• Regulação de Taxa Acionada por Entropia (EDR):
  • Utiliza a entropia preditiva $H_t$ como sinal para densidade de informação e pontos de ramificação.
  • Mapeia $H_t$ para uma taxa de retenção local $\gamma_t$. Alta entropia (incerteza) aciona uma poda conservadora (maior retenção), enquanto baixa entropia permite poda agressiva.
  • Isso ajusta o limiar GoGI dinâmico $\tau_t$ (o percentil de pontuações GoGI exigido para retenção) com base na incerteza local.
• Restrição N Adaptativa (ANC):
  • Para preservar a coerência estrutural, a ANC limita o número de tokens podados consecutivamente ($N_t$).
  • $N_t$ é modulado pela entropia em janela local. Em regiões de alta entropia (transições), $N_t$ é reduzido para impor uma coerência mais estrita, impedindo que o modelo pule conectores lógicos vitais (por exemplo, "portanto") mesmo que suas pontuações GoGI individuais sejam baixas.
  • Isso atua como uma "rede de segurança" para evitar cadeias de raciocínio fragmentadas.

3. Algoritmo de Poda

O algoritmo itera pela sequência de CoT. Um token é retido se:

1. Sua pontuação GoGI ponderada exceder o limiar dinâmico ($G'_t \geq \tau_t$), OU
2. Podá-lo violasse a restrição de pulo consecutivo ($C_{t-1} + 1 \geq N_t$).

As sequências comprimidas resultantes formam um conjunto de dados para SFT, destilando a política de compressão diretamente nos pesos do modelo. Isso permite sobrecarga zero em tempo de execução durante a inferência, pois o modelo simplesmente gera uma sequência mais curta e densa.

Contribuições Principais

1. Design de Framework: Introdução do Adaptive GoGI-Skip, o primeiro framework a acoplar não linearmente o alinhamento de objetivo teleológico (GoGI) com incerteza epistêmica (ADS) para compressão de CoT.
2. Universalidade Zero-Shot: Demonstração de que uma única política de compressão, treinada em apenas 7.472 traços de MATH, transfere-se efetivamente através de benchmarks diversos (AIME, GPQA, GSM8K) e famílias de modelos (Gemma, Qwen) sem ajuste específico para a tarefa.
3. Fronteira Eficiência-Precisão: Alcanço de ganhos significativos de eficiência (>45% de redução de tokens, até 2,0× de aceleração) enquanto mantém ou melhora a precisão original em benchmarks rigorosos, quebrando o compromisso rígido observado em baselines estáticos.

Resultados Experimentais

Avaliado em modelos Gemma3 e Qwen2.5 em AIME 2024/2025, GPQA Diamond e GSM8K:

• Desempenho: O Adaptive GoGI-Skip supera consistentemente baselines estáticos (TokenSkip, Spiritft) e destiladores externos (C3oT).
  • No GSM8K, alcançou 89,9% de precisão (um ganho de 0,3% sobre o original) com 1,9× de aceleração e 45% de redução de tokens.
  • No AIME 2024, manteve 14,1% de precisão (vs. 14,5% original) com 1,7× de aceleração.
  • No GPQA Diamond, alcançou 29,3% de precisão (vs. 29,6% original) com 1,8× de aceleração.
• Generalização: O método escala positivamente com o tamanho do modelo (1B a 12B), sugerindo que modelos maiores exibem uma separação mais distinta entre sinais de raciocínio e ruído.
• Estudos de Ablação: A remoção da regulação dinâmica (ADS) ou da restrição N (ANC) resultou em quedas significativas de precisão, confirmando que a compressão estática não consegue lidar com a complexidade variável de raciocínio. A substituição do GoGI por métricas baseadas em perplexidade (LLMLingua) também degradou o desempenho, validando a superioridade do alinhamento de objetivo baseado em gradiente.

Significado e Alegações

O artigo afirma que a redundância estrutural no raciocínio é uma propriedade aprendível, agnóstica à tarefa e distinta da semântica. Ao ancorar a importância ao gradiente da perda de resposta em vez de perplexidade superficial ou heurísticas estáticas, o método isola sinais dedutivos centrais de conteúdo supérfluo.

Os autores argumentam que a compressão ótima de pensamento exige sinergia entre objetivos teleológicos e incerteza epistêmica. O método proposto oferece um caminho de otimização estável e direto (via SFT) que evita a instabilidade de treinamento e a exploração de recompensas associadas a abordagens de Aprendizado por Reforço (RL). Além disso, serve como um pós-processador complementar para raciocinadores otimizados por RL (como DeepSeek-R1) que produzem traços cada vez mais verbosos, permitindo a implantação eficiente de modelos de alta capacidade sob restrições de infraestrutura fixa, enquanto apoia iniciativas de IA Verde através da redução do consumo de energia.