Resumo Técnico: AgentCPM-Report

Declaração do Problema

A pesquisa profunda de caráter aberto exige que agentes naveguem por vastos cenários de informação e sintetizem descobertas em relatórios coerentes e perspicazes. Os modelos de linguagem atuais enfrentam desafios significativos neste domínio, principalmente devido às limitações dos paradigmas existentes:

1. Recuperação-então-Escrita (Retrieval-then-Write): Abordagens iniciais geram conteúdo sequencialmente com base em evidências recuperadas. Embora flexível, isso frequentemente leva à incoerência em horizontes longos.
2. Planejamento-então-Escrita (Plan-then-Write): Estruturas mais recentes (ex: WebWeaver) congelam um esboço abrangente antes da escrita para garantir consistência estrutural. No entanto, este paradigma assume uma completude de informação inicial, o que é frequentemente violado em pesquisas de caráter aberto. Ele separa rigidamente o planejamento da escrita, impedindo que os agentes capturem insights emergentes que só surgem durante o processo de redação. Isso cria um "teto de insight" onde os relatórios são estruturalmente sólidos, mas intelectualmente rasos.
3. Dependência de Grandes Modelos: A construção de esboços iniciais de alta qualidade exige raciocínio forte e conhecimento de domínio, forçando a maioria dos sistemas a depender de modelos fechados ou online. Essa dependência introduz barreiras práticas à implementação, particularmente no que diz respeito à segurança e privacidade ao lidar com dados locais autorais do usuário.

Existe uma necessidade crítica de uma solução totalmente local e em dispositivo que não dependa de modelos externos de grande escala, enquanto supera o teto de insight do planejamento estático.

Metodologia: AgentCPM-Report

Os autores propõem o AgentCPM-Report, um agente de pesquisa profunda leve (8 bilhões de parâmetros) construído sobre um novo framework chamado WARP (Writing As Reasoning Policy - Escrita como Política de Raciocínio).

1. O Framework WARP

O WARP reformula a pesquisa profunda como um processo de refinamento iterativo ao nível de política, onde as decisões de planejamento emergem dinamicamente da própria escrita. Em vez de um blueprint estático, o agente alterna entre dois macroestados:

• Redação Baseada em Evidências (Evidence-Based Drafting): O agente converte planos estruturais em conteúdo fundamentado. Ele utiliza uma estratégia de recuperar-então-escrever, onde as consultas de recuperação são condicionadas à narrativa acumulada para garantir consistência contextual. O conteúdo é baseado em evidências recuperadas para garantir a fidelidade.
• Aprofundamento Dirigido pelo Raciocínio (Reasoning-Driven Deepening): O agente trata o rascunho recém-gerado como uma nova observação para o raciocínio. Ele avalia a densidade semântica e a coerência lógica do rascunho atual para detectar lacunas ou argumentos superficiais. Se a profundidade for insuficiente, o agente decompõe autonomamente seções de alto nível em investigações granulares, atualiza o esboço dinâmico e aciona um ciclo de redação direcionado.

Este loop permite que o agente descubra e preencha lacunas lógicas que emergem apenas durante a articulação de argumentos concretos, espelhando o processo humano de "transformação de conhecimento".

2. Treinamento Agêntico de Múltiplas Etapas

Treinar modelos pequenos (8B) para esse tipo de tomada de decisão de longo horizonte não é trivial devido aos pontos de terminação ambíguos e recompensas esparsas. Os autores introduzem um currículo de três estágios:

• Cold-Start (SFT): Estabelece o seguimento básico de instruções e a adesão ao formato usando dados de trajetória.
• RL de Habilidade Atômica (Atomic Skill RL): Decompõe o objetivo global em habilidades atômicas (Planejamento, Recuperação, Escrita, Tomada de Decisão). O agente é treinado com funções de recompensa específicas para cada habilidade (ex: recall de relevância para recuperação, fidelidade para escrita) para dominar a execução local antes de otimizar a estratégia global.
• RL de Pipeline Holístico (Holistic Pipeline RL): Muda para a otimização de ponta a ponta da qualidade do relatório final (Abrangência, Insight). Este estágio utiliza uma estratégia de poda de trajetória (trajectory pruning strategy) onde modelos professores são forçados a "sobre-expandir" recursivamente. O sistema então identifica retroativamente o ponto de parada ideal com base nos scores do relatório, podando a trajetória para fornecer um sinal de supervisão para a saturação da informação. Isso ensina o agente a terminar com base na qualidade, em vez de imitação arbitrária.

Principais Contribuições

1. Framework WARP: Uma reformulação ao nível de política que intercala redação e aprofundamento, permitindo a evolução dinâmica do esboço e quebrando o teto de insight do planejamento estático.
2. Treinamento Agêntico de Múltiplas Etapas: Uma estratégia de currículo combinando cold-start, RL de habilidade atômica e RL de pipeline holístico, especificamente projetada para lidar com a atribuição de crédito de longo horizonte e recompensas esparsas em modelos pequenos.
3. Poda de Trajetória (Trajectory Pruning): Uma técnica de preparação de dados que resolve o "problema da parada ideal" ao filtrar trajetórias de professores para identificar os rascunhos intermediários de maior qualidade, fornecendo sinais de supervisão mais limpos para decisões de terminação.
4. Solução Local e Preservadora de Privacidade: Um sistema totalmente local usando um modelo de 8 bilhões de parâmetros (MiniCPM4.1-8B) que elimina a necessidade de APIs de código fechado, abordando preocupações de segurança e privacidade.

Resultados Experimentais

O sistema foi avaliado em três benchmarks: DeepResearch Bench (tarefas científicas), DeepConsult (consultas de negócios/financeiras) e DeepResearch Gym (busca de informações gerais).

• Desempenho vs. Sistemas de Código Fechado: O AgentCPM-Report (Pipeline RL) superou sistemas líderes de código fechado, incluindo o Gemini-2.5-Pro-deepresearch, no DeepResearch Bench. Especificamente, alcançou um score de Insight de 52.64 (vs. 49.45 do Gemini) e um score de Abrangência de 50.54 (vs. 49.51 do Gemini). No DeepResearch Gym, alcançou resultados de estado da arte com uma média de 98.48.
• Impacto das Etapas de Treinamento: O desempenho melhorou constantemente do SFT para o Atomic RL e, finalmente, para o Pipeline RL. Por exemplo, no DeepResearch Bench, a métrica de Abrangência subiu de 46.24 (SFT) para 50.54 (Pipeline RL), e o Insight de 48.10 para 52.64.
• Estudos de Ablação:
  • Eficácia do WARP: Mesmo sem treinamento, aplicar o paradigma WARP a um modelo maior (Qwen3-235B) superou o paradigma Plan-then-Write, confirmando que o aprofundamento consciente do rascunho é um motor chave de insight.
  • Profundidade do Aprofundamento: Experimentos mostraram que a qualidade do relatório (Insight e Abrangência) aumenta com os passos de aprofundamento, estabilizando por volta de 9 passos. O agente treinado via Pipeline RL aprendeu a parar próximo a essa profundidade ideal, enquanto os agentes SFT paravam prematuramente.
  • Poda de Trajetória: Modelos treinados em trajetórias podadas superaram significativamente aqueles treinados em trajetórias brutas de professores, validando a eficácia da estratégia de poda no ensino da terminação ideal.

Significância e Alegações

O artigo afirma que o AgentCPM-Report estabelece uma base sólida para a geração de relatórios de pesquisa profunda segura, preservadora de privacidade e totalmente local.

Os autores argumentam que, para tarefas de pesquisa profunda, o gargalo principal não é o tamanho do modelo, mas o design de processos cognitivos e de planejamento eficazes. Ao integrar o paradigma de inferência WARP com o treinamento agêntico de múltiplas etapas, modelos de pequeno porte e código aberto podem alcançar capacidades de pesquisa profunda anteriormente associadas a sistemas proprietários de grande escala. O trabalho demonstra que um design de política especializado pode servir como uma alternativa viável à escala de modelos para avançar as capacidades de pesquisa profunda.

O artigo reconhece limitações, observando que os sistemas atuais dependem de bases de conhecimento textuais (carecendo de dados multimodais ou personalizados) e que a geração de tabelas/figuras continua sendo um desafio para modelos menores devido ao raciocínio estrutural exigido. Sugere-se como trabalho futuro desacoplar a apresentação da geração de conteúdo e expandir as fontes de conhecimento para dados multimodais e pessoais locais.