Resumo Técnico: O Hiato de Horizonte em Agentes LLM de Longo Horizonte

Definição do Problema

O artigo identifica uma desconexão crítica nas capacidades atuais de IA, denominada o hiato de horizonte (horizon gap): a distância entre a capacidade de um modelo de linguagem de fronteira em resolver problemas de raciocínio complexos em uma única passagem direta (forward pass) e sua capacidade de completar tarefas de forma confiável ao longo de horas ou exigindo centenas de passos sequenciais quando incorporado em um loop de agente. Enquanto os benchmarks de passo único mostram progresso rápido, agentes implantados frequentemente falham de maneiras específicas de implantação: perdendo o rastro de decisões anteriores, declarando tarefas sem conclusão como completas ou desviando-se de seus objetivos originais.

Os autores argumentam que o vocabulário da área frequentemente confunde três propriedades logicamente independentes, obscurecendo a natureza específica dessas falhas:

1. Longo horizonte (Long-horizon): Uma propriedade da tarefa (o número de decisões sequenciais necessárias).
2. Longo contexto (Long-context): Uma propriedade do modelo (o número de tokens aos quais ele pode atender em uma única passagem).
3. Memória de longo prazo (Long-term memory): Uma propriedade do sistema (se a informação persiste através de passos ou sessões).

O levantamento postula que o hiato de horizonte é o principal gargalo que impede a implantação durável de sistemas de agentes no mundo real.

Metodologia

O artigo apresenta um levantamento sistemático de 1.547 artigos do arXiv publicados entre 2024 e 2026. A construção do corpus envolveu um processo de filtragem rigoroso de dois estágios para abordar a sobrecarga do termo "agente" na literatura:

1. Colheita de Sementes (Seed Harvest): Uma consulta sistemática através de oito fios temáticos (planejamento, memória, execução, treinamento, avaliação, orquestração, acumulação de erro, autocorreção) gerou 1.939 artigos únicos.
2. Filtro de Sangramento (Bleed Filter): Um filtro de dois estágios excluiu 26,8% dos resultados brutos (520 artigos) considerados fora de tópico, removendo principalmente trabalhos de aprendizado por reforço multiagente clássico, manipulação robótica e previsão de séries temporais que não focam em agentes impulsionados por LLM.
3. Suplementação Direcionada: Uma colheita suplementar adicionou 128 artigos especificamente para abordar áreas subcobertas, particularmente em teoria, segurança e supervisão.

O corpus foi classificado em uma taxonomia de seis categorias (Tabela 1) rastreando o ciclo de vida de uma tarefa de longo horizonte, cruzada com um segundo eixo definindo onde o horizonte é carregado:

• Dentro do contexto (Within-context): O histórico completo cabe em uma única passagem direta.
• Dentro da tarefa além do contexto (Within-task-beyond-context): A tarefa excede a janela de contexto, mas permanece um episódio contínuo (via sumarização ou memória externa).
• Transversal à tarefa e persistente (Cross-task-persistent): Informações ou habilidades se acumulam através de episódios ou sessões distintas.

Os autores tratam explicitamente a literatura crítica e diagnóstica (artigos que demonstram que benchmarks ou métodos falham em fazer o que alegam fazer) como um fio de primeira classe ao longo de todo o levantamento, em vez de segregá-la em um capítulo de crítica separado.

Contribuições Principais e Achados Técnicos

1. Planejamento e Decomposição (§3)

O campo mudou de "planejar-então-executar" (decompor uma tarefa totalmente antes de agir) para o planejamento intercalado e abordagens baseadas em busca conforme a incerteza ambiental aumenta.

• Achados: O compromisso precoce com um plano completo é frágil em ambientes imprevisíveis. Métodos como PIVOT (refinando planos via feedback) e Tree of Thoughts (buscando sobre continuações candidatas) mostram que a robustez geralmente vem ao custo de computação.
• Limitação: O fio "transversal à tarefa e persistente" no planejamento está subdesenvolvido; armazenar experiência de planejamento frequentemente se funde com problemas de memória.

2. Memória e Gestão de Contexto (§4)

A memória é organizada ao longo de um equilíbrio fidelidade-persistência:

• No contexto (In-context): Alta fidelidade, mas limitada pelo tamanho da janela; sofre de "rotura de contexto" (context rot), onde a informação degrada ou é perdida no meio de prompts longos.
• Armazenamento Externo (External Store): Ilimitado, mas introduz custos de recuperação e interferência (ex: informações desatualizadas ou irrelevantes). O corpus mostra uma mudança decisiva para o armazenamento externo (294 artigos) sobre a gestão de contexto (103 artigos).
• Pesos (Weights): A informação gravada nos pesos do modelo é durável, mas requer treinamento para ser atualizada e é difícil de auditar.
• Segurança: A memória é identificada como uma nova superfície de ataque, suscetível ao "envenenamento de memória", onde entradas adversariais persistem através das sessões.

3. Controle de Execução e Recuperação (§5)

Esta é a maior categoria (584 artigos). O achado central é que a engenharia de suporte (harness engineering) (orquestração, lógica de recuperação) é frequentemente a restrição limitante para a extensão da tarefa, não a qualidade por passo do modelo subjacente.

• Orquestração: A estratégia dominante de escalonamento é horizontal (dividir tarefas entre múltiplos agentes) em vez de vertical (aprofundar o loop de um único agente).
• Recuperação: A autocorreção intrínseca (sem verificação externa) mostra-se pouco confiável e pode degradar o desempenho. A recuperação eficaz geralmente requer fundamentação externa ou tratamento de exceções estruturado.
• Atribuição: A proporção de artigos de orquestração para artigos de recuperação (aproximadamente 1.4:1) sugere que o campo investe mais em expandir (scaling out) do que em endurecer a correção de erros, apesar das evidências de que esta última é o problema não resolvido mais difícil.

4. Treinamento para Longos Horizontes (§6)

À medida que os horizontes se alongam, a supervisão baseada apenas no resultado (outcome-only supervision — um único prêmio ao final) torna-se esparsa e ruidosa.

• Atribuição de Crédito: O campo está se movendo em direção a modelos de recompensa de processo (PRMs) e atribuição de crédito em nível de segmento para fornecer sinais mais densos.
• Sinais Implícitos: Algoritmos como GRPO, tipicamente descritos como baseados em resultado, são encontrados realizando implicitamente a atribuição de crédito em nível de processo.
• Distinção: O artigo distingue seu escopo da literatura de "autoaperfeiçoamento recursivo"; o foco aqui é treinar uma política para agir ao longo de mais passos, não em um sistema que reescreve seu próprio loop de treinamento.

5. Avaliação e Medição (§7)

Os benchmarks de agentes estão evoluindo mais rápido do que a metodologia para validá-los.

• Crise de Validade: Uma parte significativa da literatura questiona se os benchmarks (ex: SWE-bench) medem capacidade genuína ou artefatos como fraqueza no conjunto de testes, vazamento de dados ou memorização.
• Novas Métricas: O campo está se movendo para diagnósticos de nível de trajetória (analisando o caminho, não apenas o resultado de sucesso/falha) e métricas de tempo humano para completar para medir o horizonte real que um agente pode carregar.
• Avaliação Transversal de Tarefas: Benchmarks que medem o aprendizado entre sessões (ex: SWE-Bench-CL) são raros, mas emergentes.

6. Fundamentos, Limites e Segurança (§8)

Esta seção aborda a falta teórica de um modelo unificado para a degradação de longo horizonte.

• Erro Composto: A degradação real não segue um modelo simples de decaimento exponencial. As falhas são frequentemente bimodais (agentes ou têm sucesso ou derivam catastroficamente) e exibem "coerência tensionada" (sinais de pré-falha).
• Desvio de Objetivo (Goal Drift): Restrições de segurança podem ser silenciosamente apagadas via compactação de contexto, levando ao desvio de objetivo.
• Supervisão: A supervisão humana no loop é inviável para longos horizontes; a literatura propõe frameworks de autonomia em camadas, de conjunto (ensemble) ou dinâmica como alternativas.

Resultados e Significância

O artigo não propõe um novo algoritmo único, mas oferece um mapa estrutural da resposta do campo ao hiato de horizonte. Sua principal significância reside em três áreas:

1. Desambiguação: Esclarece que "longo horizonte", "longo contexto" e "memória de longo prazo" são eixos distintos, argumentando que a confusão entre eles leva a falhas mal diagnosticadas (ex: citar um artigo de janela de contexto para resolver um problema de persistência de memória).
2. O Problema de Atribuição Modelo vs. Suporte (Harness): O levantamento destaca um problema de medição crítico e aberto: atualmente não está claro quanto da capacidade de longo horizonte reside no modelo subjacente versus no "suporte" (harness — andaimes, orquestração, lógica de recuperação) que o envolve. O corpus sugere que o campo está priorizando a engenharia de suporte, mas a fronteira ainda não foi empiricamente resolvida.
3. Viés de Medição Correlacionado: Os autores identificam um risco estrutural onde os sinais de nível de processo usados para treinar agentes de longo horizonte e os sinais usados para avaliá-los repousam sobre pressupostos compartilhados e não verificados sobre o que constitui o "progresso". Se esses pressupostos forem falhos, todo o campo pode estar otimizando para um sinal falso.

Conclusão:
O levantamento conclui que o campo passou da avaliação baseada em resultados para a análise de nível de trajetória como a unidade de análise compartilhada. Embora soluções de engenharia (melhor memória, orquestração e recompensas de processo) estejam avançando, uma teoria preditiva geral da degradação de longo horizonte ainda não existe. Os problemas abertos mais consequentes são o desmembramento da capacidade do modelo da engenharia de suporte e o estabelecimento de sinais independentes e não correlacionados para treinamento e avaliação, a fim de evitar o viés sistêmico.