Resumo Técnico: HMARS

Declaração do Problema

O raciocínio de contexto longo exige que os modelos acessem, recuperem e integrem evidências espalhadas por documentos extensos, diálogos e históricos de interação. As abordagens padrão de Geração Aumentada de Recuperação (RAG) tipicamente reduzem esse desafio a um processo passivo de recuperação de chunks top-$K$ baseado em similaridade de embedding. Os autores argumentam que essa interface passiva é fundamentalmente falha para tarefas de raciocínio complexo porque assume que a relevância é local e estaticamente mensurável. Consequentemente, o RAG frequentemente descarta evidências relevantes antes do início do raciocínio, particularmente quando:

1. Amplitude de Evidência: A informação necessária está espalhada por regiões distantes de um documento, exigindo a integração de muitos chunks não adjacentes.
2. Relevância Dependente de Contexto: Uma passagem torna-se relevante apenas quando interpretada contra um contexto mais amplo ou informações declaradas em outro lugar (por exemplo, uma menção precoce a uma restrição orçamentária tornando-se essencial para uma pergunta posterior sobre habitação), apesar de possuir baixa sobreposição lexical com a consulta.

Soluções existentes, como janelas de contexto maiores, resumos hierárquicos ou leitura sequencial multi-agente, frequentemente permanecem passivas ou centralizadas, falhando em fornecer um verdadeiro sistema de memória onde regiões locais participem ativamente da avaliação condicionada à consulta sem exclusão precoce.

Metodologia: HMARS

Os autores propõem o HMARS (Sistema de Memória Hierárquica Multi-Agente), que trata contextos longos como memória gerenciada em vez de um corpus de recuperação plano. O sistema emprega uma hierarquia de modelos assimétrica ($L_{sub} \ll L_{mid} \ll L_{base}$) e opera em duas fases:

1. Fase de Indexação

• Particionamento: O documento de entrada ou o histórico de interação é particionado em regiões locais delimitadas.
• Sub-Agentes: Cada região é gerenciada por um sub-agente leve ($L_{sub}$). A região é subdividida em páginas de tamanho fixo. Cada sub-agente cria um Cartão de Memória Local contendo um resumo, tópicos, entidades e um índice de páginas. Este cartão expõe o que o sub-agente sabe para o próximo nível sem servir como evidência final.
• Mid-Agentes: Os sub-agentes são agrupados sob mid-agentes ($L_{mid}$). Um mid-agente agrega os cartões de memória de seus sub-agentes atribuídos para construir uma Memória Regional Compartilhada. Isso inclui um resumo de nível regional, um mapeamento de sub-agentes para seus tópicos/entidades e um mecanismo de referência cruzada para rastrear dependências (ex: entidades compartilhadas, atualizações temporais) entre sub-agentes isolados.

2. Fase de Consulta

• Broadcast & Interpretação: Ao receber uma consulta, cada mid-agente interpreta a consulta contra sua memória regional compartilhada. Em vez de tomar decisões de roteamento rígidas, ele gera uma interpretação de consulta de nível regional ($\gamma$) e dicas específicas ($h$) para cada sub-agente.
• Avaliação Local Paralela: Crucialmente, todo sub-agente realiza uma avaliação de suas páginas locais condicionada à consulta em paralelo, guiado pelas dicas do mid-agente. Isso garante que nenhuma região do documento seja descartada por um filtro top-$K$ precoce.
• Recuperação de Evidência Fundamentada: As páginas selecionadas são deduplicadas, ordenadas por offset de token global e reconstruídas em um contexto de evidência fundamentada.
• Raciocínio Final: Um modelo base de fronteira ($L_{base}$) realiza o raciocínio final e a síntese da resposta estritamente sobre as páginas de evidência fundamentada recuperadas.

Principais Contribuições

1. Benchmarks Diagnósticos: Os autores construíram dois benchmarks especificamente projetados para testar a amplitude de evidência e a relevância dependente de contexto, indo além da simples saltos sequenciais:
   • Um Benchmark de Documento Longo derivado do LongBench-v2, filtrando questões que exigem evidências de pelo menos quatro chunks distantes com baixo recall de RAG.
   • Um Benchmark de Memória de Interação Cumulativa inspirado no RealMem, apresentando diálogos de múltiplos turnos onde fatos chave estão espalhados e tornam-se relevantes apenas sob contexto posterior.
2. Enquadramento do Problema: O artigo enquadra as falhas de contexto longo como limitações de acesso à memória baseada em chunks passivos, destacando especificamente a incapacidade do RAG padrão de lidar com ampla cobertura de evidências e relevância dependente de contexto.
3. Arquitetura HMARS: A introdução de um sistema hierárquico que separa o gerenciamento de memória local, a coordenação regional e o raciocínio final, garantindo a consideração de contexto total pelos agentes locais enquanto reserva o modelo de fronteira poderoso para a síntese final.

Resultados Experimentais

O HMARS foi avaliado contra RAG denso (com variados orçamentos e tamanhos de chunk), reranking denso, prompting de contexto total e baselines agenticos (Chain-of-Agents, MemAgent).

• Desempenho: O HMARS alcançou o melhor desempenho geral em ambos os benchmarks. Superou todos os baselines na tarefa de memória de múltiplos turnos e alcançou a maior precisão na maioria das categorias de raciocínio de documentos longos (Síntese, Comparação, Causal, Referência Cruzada).
• Cobertura de Evidência: A análise revelou que o HMARS cobre 99,4% dos chunks de suporte anotados, enquanto variantes de RAG (mesmo com orçamentos altos) cobriram apenas ~57%. Isso confirma que os ganhos do HMARS advêm de recuperar a evidência necessária de forma mais completa, em vez de meramente alterar o prompt da resposta final.
• Eficiência: Apesar de utilizar múltiplas chamadas de modelo, o HMARS oferece um trade-off de precisão-computação superior. Ele alcança maior precisão do que o prompting de Contexto Total (que utiliza os maiores FLOPs) e o RAG de alto orçamento, ao deslocar a computação do caro modelo de fronteira lendo todo o contexto para modelos leves de nível local e médio gerenciando o acesso à memória.
• Estudos de Ablação:
  • Fanout Total: Restringir a participação apenas aos sub-agentes selecionados pelo mid-agente reduziu significamente a precisão, validando a necessidade de cada região local avaliar a relevância.
  • Coordenação de Mid-Agente: Remover a camada de mid-agente degradou o desempenho, particularmente em tarefas de múltiplos turnos, provando a necessidade de contexto regional compartilhado.
  • Alocação de Modelos: Usar um modelo maior para os sub-agentes não proporcionou ganho significativo, apoiando o design assimétrico onde modelos leves gerenciam páginas locais.

Significância e Alegações

O artigo afirma que o raciocínio de contexto longo não deve ser enquadrado unicamente como recuperar mais chunks ou estender janelas de contexto. Em vez disso, argumenta-se pela construção de sistemas de memória que gerenciam, acessam e fundamentam ativamente a evidência através do input.

Os autores asseguram que o HMARS demonstra que:

1. A recuperação top-$K$ passiva falha quando a evidência está espalhada ou é dependente de contexto.
2. Organizar inputs como memória local gerenciada, onde cada região participa da avaliação condicionada à consulta, é mais eficaz do que o processamento centralizado ou sequencial.
3. A alocação assimétrica de modelos permite a consideração de contexto total sem incorrer no custo proibitivo de alimentar todo o contexto a um modelo de fronteira.

O artigo conclui que, embora o HMARS melhore o acesso à evidência, ele não garante recall perfeito, pois os agentes locais ainda podem perder páginas. Além disso, os autores observam que seus benchmarks diagnósticos visam especificamente a amplitude de evidência e a dependência de contexto, e que os benefícios do sistema são mais pronunciados em tarefas de memória de interação cumulativa.