💬 NLP

Free(): Learning to Forget in Malloc-Only Reasoning Models

O artigo propõe o Free()LM, um modelo que introduz uma capacidade de "autoesquecimento" via um adaptador LoRA para remover informações redundantes durante o raciocínio, evitando a degradação de desempenho em tarefas longas e superando modelos de ponta.

Autores originais: Yilun Zheng, Dongyang Ma, Tian Liang, Jiahao Xu, Xinting Huang, Lihui Chen, Haitao Mi, Yan Wang

Publicado 2026-02-11

📖 3 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Yilun Zheng, Dongyang Ma, Tian Liang, Jiahao Xu, Xinting Huang, Lihui Chen, Haitao Mi, Yan Wang

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

O Problema: O "Cérebro que só Acumula" (O Paradoxo do Pensamento Infinito)

Imagine que você está tentando resolver um problema de matemática super complexo em uma mesa de estudos. À medida que você pensa, você vai escrevendo rascunhos, fazendo cálculos de tentativa e erro, e jogando papéis de lado.

O problema é que, no modelo atual de Inteligência Artificial (como o ChatGPT ou o DeepSeek), a "mesa" da IA funciona de um jeito estranho: ela só sabe colocar coisas em cima da mesa, mas nunca sabe jogar nada no lixo.

Conforme o raciocínio fica mais longo, a mesa vai ficando tão entulhada de papéis velhos, rascunhos errados e cálculos que você já descartou mentalmente, que você acaba perdendo o foco. Você olha para a mesa, se confunde com a bagunça e, de repente, trava. Você não consegue mais resolver o problema porque o "ruído" da bagunça é maior que a sua capacidade de pensar.

Na computação, os autores chamam isso de um motor "malloc-only": ele só sabe "alocar" (reservar espaço), mas não sabe "liberar" (limpar o espaço).

A Solução: O Free()LM (O Poder de Esquecer)

Os pesquisadores da Tencent criaram o Free()LM. A ideia é simples, mas genial: para ser verdadeiramente inteligente, você não precisa apenas de uma memória gigante; você precisa saber o que esquecer.

Eles criaram um "módulo de limpeza" (chamado de Free-Module) que funciona como um assistente pessoal de organização. O processo funciona em um ciclo:

Modo Pensamento: A IA resolve o problema normalmente, escrevendo seus raciocínios.
Modo Faxina: De tempos em tempos, a IA para de pensar e ativa o "assistente de limpeza". Esse assistente olha para toda a "mesa" (o histórico de conversa), identifica quais partes do raciocínio são lixo (tentativas erradas, repetições ou passos que já foram concluídos) e diz: "Ei, pode jogar esses papéis fora!".
Modo Foco: A mesa é limpa, o espaço é liberado e a IA volta a pensar, agora com uma visão clara e sem distrações.

Por que isso é importante? (Os Resultados)

Os resultados foram impressionantes e mostram que "mais pensamento" nem sempre significa "melhor resposta":

Evitando o "Colapso Mental": Em problemas muito longos e difíceis, os modelos comuns chegam a um ponto de "pane total" (acurácia de 0%), onde eles começam a repetir as mesmas palavras sem parar. O Free()LM conseguiu manter a inteligência funcionando, recuperando o desempenho mesmo em tarefas gigantescas.
Mais Inteligência, Menos Lixo: Eles provaram que, ao limpar o rascunho, a IA não só fica mais rápida, como também fica mais precisa. É como se, ao limpar a mesa, você conseguisse enxergar a solução que estava escondida sob a pilha de papéis.
Funciona em qualquer "Tamanho de Cérebro": Não importa se a IA é pequena ou um gigante de supercomputador; o módulo de limpeza funciona em todos os tamanhos.

Resumo da Ópera

A grande lição deste estudo é que a inteligência sustentável não é sobre ter uma memória infinita, mas sobre ter a liberdade de esquecer. Para a IA chegar ao próximo nível de raciocínio humano, ela precisa aprender a arte de fazer uma "limpeza de primavera" no próprio pensamento.

Resumo Técnico: Free()LM

1. O Problema: O Paradoxo do "Malloc-Only"

O artigo identifica uma falha arquitetural fundamental nos modelos de linguagem de grande escala (LLMs) voltados para o raciocínio (como os modelos de test-time compute). Atualmente, esses modelos operam em um regime "malloc-only": eles acumulam continuamente novos tokens de raciocínio (passos lógicos, tentativas, correções) sem qualquer mecanismo para descartar informações obsoletas ou redundantes.

Isso gera um paradoxo: embora o aumento do número de tokens de pensamento (thinking tokens) devesse, teoricamente, melhorar a resolução de problemas complexos, na prática, o excesso de tokens causa degradação de performance ou colapso total do raciocínio (ex: loops repetitivos). O ruído acumulado no contexto acaba "poluindo" a atenção do modelo, impedindo-o de manter o foco na lógica necessária para chegar à solução.

2. Metodologia: O Mecanismo Free()LM

Para resolver isso, os autores propõem o Free()LM, que introduz uma capacidade intrínseca de "auto-esquecimento" através de um módulo plug-and-play chamado Free-Module (implementado via adaptador LoRA).

O modelo opera em um ciclo dinâmico entre dois modos:

Modo de Raciocínio (Unmerged): O modelo funciona como o backbone original, gerando tokens de raciocínio normalmente para resolver o problema.
Modo de Limpeza (Merged): Ao atingir um intervalo de tokens predefinido ( $L_{clean}$ ), o adaptador LoRA é mesclado ao modelo. O foco muda da resolução para a gestão de memória. O modelo escaneia o contexto e gera comandos de poda estruturados em formato JSON (usando prefixos e sufixos como âncoras) para identificar e remover trechos inúteis.

Estratégia de Treinamento:
Como não existem rótulos de "verdade absoluta" sobre o que deve ser esquecido, os autores desenvolveram um pipeline de dados baseado em um mecanismo de recompensa:

Síntese de Dados: Utilizam o Gemini-2.5-Pro para gerar candidatos de poda em trajetórias de raciocínio.
Rejeição por Recompensa: Um candidato de poda só é aceito se o contexto limpo ( $C_{new}$ ) mantiver ou melhorar a precisão do raciocínio em comparação ao contexto original ( $C_{raw}$ ), validado através de múltiplas execuções (rollouts).

3. Principais Contribuições

Arquitetura Plug-and-Play: Introdução do Free-Module (LoRA) que permite a limpeza de contexto sem a necessidade de retreinar o modelo base.
Poda Eficiente baseada em Âncoras: O uso de comandos de prefixo/sufixo permite remover grandes blocos de redundância com um custo computacional mínimo de geração de tokens.
Capacidade de Generalização: O módulo treinado em modelos menores (8B) demonstrou capacidade de ser aplicado em arquiteturas "estranhas" e muito maiores (como DeepSeek-V3.2), funcionando como um "Serviço Universal de Poda de Contexto".

4. Resultados Experimentais

Os experimentos foram realizados em modelos de diversas escalas (de 8B a 685B parâmetros):

Melhoria de Performance: O Free()LM obteve um ganho médio de 3,3% em benchmarks de raciocínio, estabelecendo um novo estado da arte (SOTA) no IMOanswerBench usando o DeepSeek V3.2.
Resgate do Raciocínio de Longo Horizonte: Em tarefas extremamente complexas onde o modelo padrão (Qwen3-235B) sofria um colapso total (0% de precisão) devido ao excesso de tokens, o Free()LM conseguiu restaurar a performance para aproximadamente 50%.
Eficiência de Memória: O método reduziu o uso de cache KV em até 45,6%, o que é crucial para a escalabilidade em sistemas de inferência reais.
Segurança em Tarefas Curtas: Em tarefas que não exigem raciocínio longo, o modelo mantém a paridade com o modelo original, provando que a poda não prejudica o conhecimento geral.

5. Significância e Conclusão

O trabalho propõe uma mudança de paradigma nas leis de escala do test-time compute. A conclusão central é que a inteligência sustentável não depende apenas da capacidade de "pensar" (gerar mais tokens), mas também da liberdade de "esquecer" (limpar o ruído). Ao transformar o gerenciamento de contexto de um processo passivo (append-only) para um processo ativo (malloc + free), o Free()LM permite que modelos de IA realizem raciocínios muito mais longos e profundos sem sucumbir à poluição de informações.