💬 NLP

SAGE-32B: Agentic Reasoning via Iterative Distillation

Este artigo apresenta o SAGE-32B, um modelo de linguagem com 32 bilhões de parâmetros construído sobre o Qwen2.5-32B, que se especializa em raciocínio agêntico e planejamento de longo alcance por meio de destilação iterativa e uma abordagem de raciocínio inverso, alcançando desempenho superior em benchmarks de múltiplas ferramentas em comparação com modelos de tamanho similar.

Autores originais: Basab Jha, Firoj Paudel, Ujjwal Puri, Ethan Henkel, Zhang Yuting, Mateusz Kowalczyk, Mei Huang, Choi Donghyuk, Wang Junhao

Publicado 2026-04-22

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Basab Jha, Firoj Paudel, Ujjwal Puri, Ethan Henkel, Zhang Yuting, Mateusz Kowalczyk, Mei Huang, Choi Donghyuk, Wang Junhao

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que precisa contratar um assistente pessoal para gerir uma casa complexa cheia de eletrodomésticos, documentos e prazos.

1. O Problema: O Assistente "Tagarela" vs. O Assistente "Operativo"

Até há pouco tempo, as Inteligências Artificiais (como os chatbots que todos usamos) eram como bons conversadores. Se lhes perguntassem "O que achas do tempo?", respondiam de forma fluida e simpática. Mas se lhes dissessem: "Vai verificar a geladeira, se estiver vazia compra leite, depois liga para o correio para enviar um pacote e certifica-te de que a porta está fechada", frequentemente perdiam-se.

Confundiam-se após a segunda etapa.
Inventavam coisas (ex: "Comprei o leite" quando não o tinham feito).
Não sabiam recuperar o erro se algo corresse mal.

Para fazer estas coisas, eram necessários modelos gigantes (como os de 100 mil milhões de "neurónios"), mas eram extremamente caros e lentos, como usar um foguete para ir buscar o jornal.

2. A Solução: SAGE-32B, o "Chefe de Obra"

Os autores criaram SAGE-32B. É um modelo mais pequeno (32 mil milhões de parâmetros), mas foi treinado de forma diferente. Não é um conversador; é um Chefe de Obra.

Não fala para embelezar: O seu objetivo é fazer as coisas.
É especializado: Foi treinado especificamente para usar ferramentas (APIs, bases de dados, código) e para planear tarefas longas.

3. Os Dois Segredos da Magia

A. O Treino "Espelho" (Distilação Iterativa)

Imagine ensinar uma criança a conduzir.

Método antigo: Dás-lhe o volante e dizes "Conduz!". Se errar, ralhas com ela.
Método SAGE (Distilação Iterativa): Usaram um "Mestre" (uma inteligência artificial muito poderosa) que conduziu por conta própria. Depois, cada vez que o Mestre errava, o sistema dizia: "Ei, olha aqui! Erraste ao inserir o código. É assim que devias ter feito".
Fizeram o modelo realizar milhões destas "simulações de erro e correção". O resultado? O SAGE não só sabe fazer as coisas, como sabe reconhecer quando está prestes a errar e corrigir-se a si mesmo antes de cometer o erro. É como um piloto que fez milhões de simulações de aterragem em tempestade.

B. O "Segundo Pensamento" (Raciocínio Inverso)

Esta é a parte mais inovadora.
Normalmente, uma IA pensa de forma linear: "Tenho de fazer A, depois B, depois C". Se A estiver errado, tudo o resto desmorona.
O SAGE tem um "Cérebro Crítico" (chamado Cabeça Meta-Cognitiva) que funciona como um segundo pensamento ou um "advogado do diabo" interno.

Antes de executar uma ação, o SAGE pergunta-se: "Espera, se fizer isto, o que acontece daqui a 10 minutos? É lógico?".
Usa uma técnica chamada "Raciocínio Inverso": em vez de apenas olhar para a frente, imagina o resultado final e verifica se o plano atual realmente leva lá. Se o plano não se sustentar, rejeita-o e tenta outro.
Metáfora: É como quando estás a escrever um email importante. Não o envias logo. Relees, perguntas-te: "Se o destinatário ler isto, entenderá o que quero?". Se a resposta for não, reescreves. O SAGE faz isto em milissegundos.

4. Os Resultados: Mais Rápido, Mais Económico, Mais Confiável

O artigo mostra que o SAGE-32B:

Supera os gigantes: Em tarefas práticas (como resolver problemas de matemática complexos ou usar ferramentas de software), supera modelos muito maiores e mais caros (como GPT-4 Turbo ou Llama-70B).
Poupa dinheiro: Sendo mais pequeno, custa muito menos para executar.
Não se perde: Se uma tarefa exigir 20 etapas, o SAGE chega ao fim sem se perder, enquanto os outros modelos frequentemente travam após a 5ª.

5. Os Limites (Para sermos honestos)

O SAGE não é perfeito para tudo.

Não é um artista: Se pedires para escrever um poema divertido ou para conversar, será rígido e chato. Foi treinado para ser um "trabalhador", não um "poeta".
Perde-se no caos: Se lhe deres instruções confusas ou ambíguas, pode ficar bloqueado. Precisa de regras claras, como um robô numa fábrica.

Em Resumo

O SAGE-32B é como passar de um carro desportivo que vai muito rápido mas é difícil de conduzir (os modelos gigantes) para um todo-o-terreno robusto e fiável. Não é o mais rápido em tudo, mas se tiveres de atravessar um terreno difícil (tarefas complexas, uso de ferramentas, correção de erros), é aquele que chega ao destino sem avariar, gastando menos gasolina.

É a prova de que, para fazer as coisas bem, nem sempre é preciso ser "maior", basta ser mais inteligente sobre como se pensa.

Resumo Técnico: SAGE-32B

1. O Problema

Os Grandes Modelos de Linguagem (LLMs) atuais demonstram capacidades impressionantes em conversas e tarefas de raciocínio de curto prazo. No entanto, sua aplicação como agentes autônomos (sistemas capazes de planejar, executar ferramentas e recuperar-se de erros em horizontes longos) enfrenta desafios significativos:

Fragilidade em Fluxos Multi-etapa: Modelos de ponta frequentemente propagam erros iniciais, levando a falhas catastróficas em workflows complexos.
Custo de Escala: Aumentar o tamanho do modelo (ex: >100B parâmetros) melhora o raciocínio geral, mas impõe custos de inferência proibitivos para loops de agentes de alta frequência.
Falta de Especialização: Modelos existentes (32B ou 70B) são otimizados para diálogo ou seguimento de instruções gerais, não para o rastreamento de estado recursivo e uso rigoroso de ferramentas exigido por agentes.

2. Metodologia e Arquitetura

O SAGE-32B é um modelo de 32 bilhões de parâmetros, baseado no Qwen2.5-32B, mas profundamente modificado para otimização de fluxos de trabalho de agentes.

A. Arquitetura e Mecanismos de Atenção:

Landmark Attention: Para suportar contextos de até 128k tokens, o modelo utiliza uma atenção esparsa onde tokens a cada 64 posições são marcados como "marcos" (Landmarks), reduzindo a complexidade de memória de $O(N^2)$ para $O(N \cdot N/k)$ .
Embeddings Divididos: Utiliza uma estratégia de "Split-Embedding" com matrizes separadas para tokens de linguagem natural e tokens de código/JSON, permitindo alternância dinâmica entre fluxo conversacional e articulação rígida de API.
Unidades Lineares Portadas (SwiGLU): Implementadas nos blocos feed-forward para supressão de ruído no caminho de raciocínio.

B. Pipeline de Treinamento (Iterative Distillation - IDA):
O modelo é refinado através de um processo de três estágios:

Distilação e Amplificação: Criação de um dataset sintético de 5 milhões de trajetórias de agentes complexos, utilizando um modelo "professor" (DeepSeek). Inclui Amostragem de Restrições Negativas para ensinar o modelo a identificar e corrigir erros de sintaxe, chaves hallucinadas e erros lógicos.
Distilação Reflexiva (Stage 2): Um loop de "Rejeição com Feedback" onde o modelo aprende a corrigir seus próprios erros com base em críticas geradas pelo professor, antes mesmo da fase de teste.
Aprendizado por Reforço (RL) para Chamada de Função: Uso de uma variante de PPO (CodePPO) para recompensar a execução bem-sucedida de código e penalizar severamente a hallucinação de parâmetros.

C. Raciocínio Inverso (Inverse Reasoning - IR):
A contribuição central é o mecanismo de Raciocínio Inverso, habilitado por uma Cabeça Meta-Cognitiva (MCH):

Mecanismo: A MCH é uma camada de atenção auxiliar que opera paralelamente à previsão de tokens. Ela gera um "vetor de confiança" para avaliar a consistência lógica de um passo planejado antes de sua execução.
Modo Híbrido: O modelo alterna dinamicamente entre "Modo Rápido" (inferência padrão) e "Modo de Raciocínio" (simulação de olhar à frente). Se a incerteza for alta, o modelo executa uma simulação contrafactual ("E se este passo falhar?") e só compromete o passo se a coerência for mantida.
Teoria: O método introduz um passo de verificação que reduz a taxa de erro efetiva ( $\epsilon'$ ), mitigando a degradação exponencial da probabilidade de sucesso em tarefas longas.

3. Principais Contribuições

Desempenho Superior em Agentes: Demonstra que um modelo de 32B, treinado com feedback rigoroso, supera modelos maiores e mais gerais em benchmarks de uso de ferramentas.
Arquitetura de Raciocínio Inverso: Um mecanismo inovador que prevê falhas de planejamento antes da implementação, melhorando drasticamente as taxas de recuperação de erros.
Análise de Compensação (Trade-off): O modelo aceita uma "taxa de alinhamento" (perda em conhecimento geral) para ganhar controle e confiabilidade em tarefas estruturadas, provando que a especialização supera a escala bruta para agentes.

4. Resultados e Avaliação

O SAGE-32B foi avaliado em benchmarks padrão e internos:

Benchmarks de Raciocínio e Agentes:
- MATH-500: O modelo atingiu 91.8% no modo "Thinking" (com votação majoritária e filtragem de consistência inversa), superando o GPT-4-Turbo (72.6%) e o Llama-3-70B (68.0%).
- AgentBench: Supera modelos base de tamanho similar (Qwen2.5-32B) e o Llama-3-70B em tarefas de uso de múltiplas ferramentas.
- Taxa de Recuperação (IRR): Dobra a capacidade de corrigir erros injetados intencionalmente (76% vs 35% do modelo base).
Desempenho em Chamadas de Ferramentas (ROI):
- Em um conjunto de 500 fluxos de trabalho empresariais, o SAGE-32B alcançou 91.5% de taxa de sucesso, com apenas 2.4% de erros não forçados (hallucinações de sintaxe).
- Custo: Oferece confiabilidade de nível GPT-4 a 1/7 do custo de execução.
Ablação: A remoção da cabeça de Raciocínio Inverso reduziu o desempenho no AgentBench de 64.2% para 51.5%, provando a eficácia do mecanismo.

5. Significado e Limitações

Significado: O trabalho desafia a noção de que apenas modelos massivos podem ser agentes confiáveis. Ele estabelece que metodologias de treinamento estruturadas (Distilação Iterativa + Raciocínio Inverso) são mais críticas para a confiabilidade de agentes do que o aumento de parâmetros. O SAGE-32B é posicionado como uma ferramenta especializada para sistemas autônomos onde a previsibilidade e o uso correto de ferramentas são prioritários.
Limitações:
- Fragilidade em Ambiguidade: O modelo tende a falhar em tarefas criativas abertas, tentando decompor prompts simples em passos desnecessários.
- Overfitting de Domínio: O desempenho cai em domínios não vistos no treinamento (ex: médico ou jurídico), onde pode inventar ferramentas.
- Latência de Contexto: Embora suporte 128k tokens, o processamento linear de históricos longos pode causar timeouts em hardware padrão.

Conclusão: O SAGE-32B representa um avanço na viabilidade econômica e técnica de agentes autônomos, oferecendo uma solução de "meio-termo" que equilibra custo, latência e, crucialmente, a confiabilidade necessária para operações no mundo real.