Resumo Técnico: Viva o Bibliotecário! Um Sub-agente de Busca Persistente para Sistemas de Engenharia de Software Multi-Agente Eficientes em Energia

Declaração do Problema

Embora os Sistemas Multi-Agente (MAS) tenham avançado significativamente a engenharia de software autônoma (SWE), suas crescentes demandas de energia de inferência levantam preocupações sobre sustentabilidade. A literatura existente sobre consumo de energia de LLMs foca majoritariamente em configurações por chamada ou execuções de agente único, falhando em caracterizar as dinâmicas energéticas únicas dos MAS, onde uma única tarefa abrange inúmeras chamadas de LLM através de sub-agentes especializados.

Os autores identificam uma ineficiência crítica nos designs atuais de MAS: geração redundante de tokens de saída. Em arquiteturas existentes, os sub-agentes carecem de memória persistente do histórico de exploração de arquivos entre invocações. Consequentemente, quando um orquestrador emite consultas diferentes, os sub-agentes repetidamente percorrem regiões sobrepostas do repositório e regeneram longos excertos de arquivos. Este ciclo de reexploração amplifica a categoria de tokens mais intensiva em energia: tokens de saída.

A análise empírica revela uma assimetria energética marcante: um token de saída consome 30 a 1.000 vezes mais energia do que um token de entrada ou em cache. Apesar disso, contagens agregadas de tokens e proxies de preços de API frequentemente subestimam o consumo real de energia da GPU porque não levam em conta o custo desproporcional dos tokens de saída gerados pela exploração redundante.

Metodologia

1. Atribuição e Diagnóstico de Energia

Os autores conduziram um estudo de atribuição de energia ao nível de turno no SWE-Bench Verified usando dois sistemas multi-agente (BOAD e HyperAgent) e dois backbones de modelo Qwen3.6 (35B-A3B e 27B) em GPUs NVIDIA A100 e B200.

• Decomposição ao Nível de Token: Eles decomuseram a energia da GPU em três categorias: entrada não em cache ($x_u$), entrada em cache ($x_c$) e saída ($x_o$).
• Análise de Regressão: Um modelo de regressão linear ($E_t = \alpha + \beta_u x_u + \beta_c x_c + \beta_o x_o$) confirmou que os tokens de saída dominam o consumo de energia, com coeficientes ($\beta_o$) variando de 660 a 3.512 mJ/token, comparado a ~0,5–34 mJ/token para tokens de entrada.
• Identificação da Causa Raiz: O estudo rastreou a saída excessiva a "reescritas duplicadas". Sub-agentes frequentemente relembram regiões de arquivos que eles ou outros agentes já haviam inspecionado no mesmo episódio, regenerando o texto completo em suas respostas ao orquestrador.

2. O Sub-agente Bibliotecário

Para abordar isso, os autores propõem o Bibliotecário, um sub-agente de busca persistente projetado para eliminar a exploração redundante e minimizar o volume de saída. Ele é integrado aos MAS existentes substituindo o sub-agente padrão de navegação de código.

Princípios de Design Central:

• Sessão Persistente: Diferentemente dos sub-agentes padrão que iniciam com um contexto fresco, o Bibliotecário mantém uma única sessão de longa duração em todas as invocações dentro de um episódio. Ele retém o trajeto completo de buscas e respostas anteriores.
• Atualidade do Contexto: Para garantir que o histórico esteja alinhado com o estado atual do repositório, cada invocaçã é fornecida com um "relatório de atualidade" listando arquivos e intervalos de linha modificados desde a chamada anterior. O Bibliotecário é instruído a re-percorrer apenas essas regiões modificadas, reutilizando excertos em cache para áreas inalteradas.
• Respostas Apenas com Ponteiros: Em vez de incluir excertos completos de arquivos em sua resposta, o Bibliotecário retorna curtos comandos de visualização (ponteiros para caminhos de arquivo e intervalos de linha). Os excertos de código reais são buscados pela camada de ferramentas do sistema e encaminhados ao orquestrador. Isso reduz drasticamente o volume de tokens gerado pelo próprio LLM.

Estratégia de Integração:
A integração envolve uma "troca de ferramenta" onde a ferramenta de delegação do orquestrador para navegação de código é substituída por uma ferramenta de delegação do Bibliotecário. O plano de solução é reescrito para formular etapas de navegação como consultas de pesquisa em linguagem natural (por exemplo, "Onde o símbolo X está definido?") em vez de exploração aberta. O Bibliotecário é estritamente delimitado à pesquisa de arquivos e código; o raciocínio analítico e a edição permanecem sob a responsabilidade do orquestrador ou de outros agentes especializados.

Principais Resultados

Os autores avaliaram o Bibliotecário no SWE-Bench Verified (500 tarefas) através do BOAD e HyperAgent com backbones Qwen3.6-35B-A3B e Qwen3.6-27B.

• Redução de Energia: O Bibliotecário reduziu o consumo de energia da GPU por episódio em até 25% (por exemplo, de 25,64 kJ para 22,73 kJ para o HyperAgent com 35B-A3B).
• Eficiência de Tokens: A redução foi impulsionada principalmente por uma diminuição nos tokens de saída. Por exemplo, o HyperAgent com Bibliotecário reduziu os tokens de saída de 48,5K para 42,2K por episódio.
• Preservação de Desempenho: Crucialmente, o Bibliotecário preservou ou melhorou a taxa de aprovação de tarefas. Na maioria das configurações, a taxa de aprovação permaneceu comparável ou ligeiramente superior à do MAS de base, demonstrando que as economias de energia não vieram à custa da resolução de tarefas.
• Comparação com Baselines:
  • Métodos de Eficiência de Tokens: Técnicas como "Observação LastN" (truncando histórico) e "Caveman prompting" (comprimindo texto) frequentemente degradaram as taxas de aprovação ou falharam em reduzir a energia tão efetivamente porque forçaram os agentes a reexplorar contexto perdido, inflando os tokens de saída.
  • Variantes Baseadas em Recuperação: Substituir o histórico persistente por contexto baseado em recuperação (BM25 ou embeddings densos) resultou em maior consumo de energia e taxas de aprovação mais baixas, sugerindo que as consultas do orquestrador exigem gerenciamento de contexto ativo e raciocínio que a recuperação simples não pode fornecer.
• Escalabilidade: A redução de energia persistiu através de diferentes dificuldades de tarefas. Embora a frequência de invocação do Bibliotecário tenha aumentado com a complexidade da tarefa, as economias de energia por episódio permaneceram consistentes, e a taxa de aprovação foi mantida mesmo em tarefas mais difíceis.

Significado e Alegações

O artigo afirma identificar e eliminar uma fonte majoritária, anteriormente negligenciada, de desperdício de energia em sistemas multi-agente de SWE. Seu significado reside em três contribuições principais:

1. Descoberta Empírica: Confirma que, em configurações de agentes, tokens de saída dominam o uso de recursos, e que contagens agregadas de tokens são proxies pobres para o consumo real de energia devido ao alto custo marginal da geração de saída.
2. Diagnóstico de Redundância: Diagnostica o sobrecusto energético de designs existentes de MAS como uma consequência de pesquisas de arquivo duplicadas ao longo do ciclo de depuração, uma redundância que nenhum sub-agente existente reconhece.
3. Solução Arquitetural: Propõe o Bibliotecário, um sub-agente de busca persistente que se integra a designs existentes de MAS para fornecer um papel ausente (navegação de repositório com estado). Ao retornar ponteiros em vez de conteúdo e reutilizar histórico, ele minimiza o consumo de energia de hardware enquanto iguala o desempenho de tarefas.

Os autores concluem que minimizar tokens de saída através de busca persistente e com estado é uma estratégia mais eficaz para eficiência energética em agentes de SWE do que simples compressão de prompt ou truncamento de contexto, que frequentemente degradam o desempenho. Eles reconhecem limitações, notando que a solução é atualmente específica para papéis de navegação de código e avaliada em modelos de até 27B parâmetros ativos, deixando a escalabilidade para modelos maiores e papéis orientados à execução como questões em aberto.