Resumo Técnico: MESA – Seleção de Evidências de Estrutura Adaptativa à Tarefa para Memória de Agentes de Longo Horizonte

1. Formulação do Problema

Agentes de longo horizonte acumulam trajetórias que compreendem centenas de passos intercalados de raciocínio, ação, observação e saída de ferramentas. Responder a uma consulta frequentemente exige a recuperação de evidências enterradas profundamente nesse histórico. Embora os sistemas de memória externa transformem esses históricos em representações estruturadas (ex: resumos, grafos, repositórios vetoriais), as abordagens existentes enfrentam um dilema fundamental:

• Fusão de Todas as Estruturas Fixa: Sistemas que consultam um conjunto estático e exaustivo de visões de memória para cada consulta maximizam o recall, mas inflam as janelas de contexto com ruído redundante ou distrativo, aumentando o custo sem garantir o desempenho.
• Roteamento de Estrutura Única: Sistemas que roteiam cada consulta para uma única estrutura "melhor" limitam a expressividade, impedindo a composição de evidências complementares (ex: combinar resumos de alto nível com passos episódicos exatos) necessárias para tarefas complexas.

Os autores argumentam que a configuração de memória ideal não é nem uma única estrutura, nem a união total, mas uma composição personalizada de múltiplas estruturas de memória que varia dinamicamente com a consulta específica e as demandas da tarefa. No entanto, aprender tal política de seleção é desafiador devido à natureza combinatória dos subconjuntos de estruturas e à falta de rótulos de verdade fundamental para a utilidade por estrutura (supervisão fraca), onde o feedback está disponível apenas no nível da resposta final.

2. Metodologia: O Framework MESA

O artigo propõe o MESA (Multi-structure Evidence Selection for long-horizon Agent), um framework que aprende uma política adaptativa à consulta para selecionar e fundir um subconjunto de estruturas de memória especializadas.

2.1 Construção de Memória Estrutural de Múltiplas Visões

O MESA mantém cinco estruturas de memória independentes e complementares para cada trajetória $\tau_i$, construídas offline:

1. Resumo (S): Uma memória de estado comprimida que preserva mudanças de estado salientes e transições de subobjetivos.
2. Armazenamento Temporal (T): Um armazenamento indexado por turnos que preserva a sequência cronológica exata de ações e observações.
3. Grafo de Conhecimento (G): Um grafo relacional que captura conexões de entidades e elos causais através dos passos.
4. Banco de Dados Vetorial (V): Um índice denso de nível de passo para recuperação por similaridade semântica.
5. Episódico Bruto (R): Janelas sobrepostas não comprimidas da trajetória original para evidências exatas de forma superficial.

2.2 Seleção Dinâmica de Estrutura

Para uma determinada consulta $q_i$ e contexto $c_i$, um seletor $S_\rho$ produz um vetor binário não vazio $z_i \in \{0,1\}^5$, indicando quais estruturas acessar. A evidência recuperada das estruturas selecionadas é composta e enviada a um modelo de resposta congelado $F$ para gerar uma resposta. O objetivo é aprender a política $\rho$ que maximiza a precisão da resposta enquanto minimiza o custo de tokens de evidência.

2.3 Otimização de Harness Guiada por Prioridade

Para aprender $\rho$ sob supervisão fraca (feedback esparso ao nível da resposta), o MESA emprega uma estratégia de Otimização de Harness Guiada por Prioridade:

• Espaço de Busca Restrito: Em vez de buscar em todo o espaço de políticas possíveis, a otimização é restringida a um conjunto de direções de prioridade ($A$). Essas direções definem classes de mecanismos para roteamento, como inferir demanda a partir do tipo de consulta, estimar o valor do backend ou controlar a construção de subconjuntos (ex: prioridade de cardinalidade, seleção de complementaridade).
• Escalonamento Guiado por UCB: O sistema equilibra exploração e explotação usando um escalonador de Upper Confidence Bound (UCB). Cada direção de prioridade atua como um "braço de bandit". O escalonador seleciona direções que historicamente produziram políticas fortes (explotação) ou aquelas que foram avaliadas com menos frequência (exploração).
• Refinamento Iterativo: Um propositor baseado em LLM gera candidatos de política executáveis baseados na direção selecionada e na análise de erro atual. Esses candidatos são ajustados em traços de treinamento, avaliados em um conjunto de validação e a melhor política é selecionada com base em um objetivo regularizado: $J_{val}(\rho) - \lambda C_{val}(\rho)$, onde $C$ é o custo de tokens.

3. Principais Contribuições

1. Formulação do Problema e Análise Empírica: Os autores formalizam a "seleção dinâmica de nível de estrutura" e demonstram, através de um varredura controlada de todos os subconjuntos não vazios de estruturas no AMA-Bench, que:
   • Subconjuntos intermediários (combinações de 2 a 4 estruturas) tipicamente superam estruturas únicas ou a união total.
   • Nenhum conjunto fixo é universalmente ótimo; o melhor subconjunto varia conforme o domínio e a capacidade.
2. O Framework MESA: Um framework inovador que aprende uma política de seleção adaptativa à consulta a partir de feedback esparso ao nível da resposta, utilizando otimização de harness guiada por prioridade e escalonamento UCB, sem modificar os construtores de memória subjacentes ou o modelo de resposta.
3. Validação Empírica: Experimentos extensos mostrando a superioridade do MESA sobre as principais linhas de base (baselines) tanto em tarefas de agentes de longo horizonte quanto em memória conversacional.

4. Resultados Experimentais

Os experimentos foram conduzidos no AMA-Bench (2.496 perguntas em 6 domínios agênticos) e no LoCoMo (memória conversacional de longo prazo).

• Desempenho no AMA-Bench: Usando um backbone Qwen3-32B, o MESA alcançou 65,1% de precisão geral, superando a linha de base mais forte (AMA-Agent) em 8,5% e o leitor de contexto longo em 12,5%. O MESA foi o melhor performer em três das quatro categorias de capacidade de memória: Recall (69,2%), Atualização de Estado (65,8%) e Abstração de Estado (57,8%). Na categoria de Inferência Causal, o MESA alcançou 63,6%, ficando em segundo lugar atrás do AMA-Agent (65,0%).
• Eficiência: O MESA alcançou esses ganhos utilizando 41% menos tokens de evidência (11,0k vs. 18,7k) em comparação com a alternativa de "todas as estruturas", demonstrando que a seleção adaptativa reduz o ruído e o custo.
• Generalização: No LoCoMo, o MESA alcançou um F1 score de 49,0%, superando a linha de base especializada em 1,8%, provando que o framework se estende além de trajetórias de agentes para memória conversacional.
• Estudos de Ablação:
  • Remover o componente de aprendizado (usando seleção aleatória ou zero-shot) resultou em quedas significativas de precisão.
  • Restringir a seleção a uma única estrutura ("Route-to-one") reduziu a precisão para 57,0%, confirmando a necessidade de compor estruturas complementares.
  • Remover a orientação por prioridade ou o escalonamento UCB degradou o desempenho e a estabilidade, destacando a importância da busca estruturada e do equilíbrio de exploração.

5. Significância e Alegações

O artigo afirma que o MESA aborda uma lacuna crítica nos sistemas de memória de agentes: a incapacidade de adaptar dinamicamente as estratégias de acesso à memória às necessidades específicas da consulta. Ao demonstrar que subconjuntos intermediários e adaptativos à tarefa são superiores a estratégias fixas, o trabalho altera o paradigma de "mais memória é melhor" para "a composição certa de memória é melhor".

Os autores enfatizam que o MESA alcança esses resultados aprendendo uma política de seleção que é explícita e interpretável (ex: regras de roteamento baseadas em palavras-chave aprendidas durante a otimização), em vez de um seletor neural de caixa preta. O framework oferece um compromisso prático, melhorando tanto a precisão quanto a eficiência sem exigir o retreinamento dos modelos de linguagem subjacentes ou das pipelines de construção de memória. O artigo conclui que trabalhos futuros devem explorar a otimização conjunta da construção e seleção de memória, bem como a modelagem mais explícita de dependências entre estruturas.