Resumo Técnico: HarnessX – Uma Fundição de Harness de Agentes Componível, Adaptável e Evoluível

1. Declaração do Problema

O desempenho dos agentes de IA modernos depende criticamente não apenas do modelo de fundação subjacente, mas do harness de tempo de execução (runtime harness) — o sistema de prompts, ferramentas, memória e fluxo de controle que media como um modelo observa, raciocina e age. O desenvolvimento de harnesses atuais sofre de três deficiências primárias:

1. Estático e Manual: Os harnesses são artefatos bespoke, projetados manualmente. Alterar uma versão de modelo, um conjunto de ferramentas ou um domínio de tarefa exige reimplantação manual, sem um mecanismo para melhoria impulsionada pela experiência.
2. Arquiteturalmente Emaranhado: Componentes como templates de prompt, wrappers de ferramentas e políticas de memória são frequentemente confluídos nos mesmos caminhos de código. Isso torna as modificações frágeis; alterar um componente pode quebrar silenciosamente outros, e o reúso entre domínios é reduzido à cópia em vez da composição.
3. Desconectado do Treinamento do Modelo: Os dados de trajetória coletados durante a otimização do harness são tipicamente descartados. Inversamente, melhorias no modelo não se traduzem em melhorias no harness, criando um "teto de andaime" (scaffolding ceiling), onde o harness não consegue explorar um modelo mais forte, e um "teto de sinal de treinamento" (training-signal ceiling), onde o modelo não consegue aprender com um harness melhor.

2. Metodologia

O HarnessX aborda essas lacunas tratando o harness como um objeto de primeira classe, componível, que pode ser adaptado e evoluído juntamente com o modelo. O framework consiste em três pilares principais:

A. Composição de Harness (A Fundição)

O HarnessX formaliza o harness como uma entidade tipada e substituível composta por processadores anexados a hooks de ciclo de vida.

• Abstração de Processador: Um processador é um componente atômico tipado que consome um evento (ex: StepStartEvent) e gera zero ou mais eventos. Ele suporta cinco resultados: passagem direta (pass-through), transformação, divisão (split), interceptação ou interrupção.
• Taxonomia de Nove Dimensões: O espaço comportamental é organizado em nove dimensões ortogonais:
  1. Seleção de Modelo
  2. Montagem de Contexto
  3. Gerenciamento de Memória
  4. Ecossistema de Ferramentas
  5. Ambiente de Execução
  6. Avaliação e Recompensa
  7. Controle e Segurança
  8. Observabilidade
  9. Ponte de Treinamento
• Álgebra de Substituição: Os harnesses são compostos inserindo processadores em pontos de hook tipados. Isso garante segurança de tipos e permite a definição explícita do escopo das mudanças comportamentais, permitindo o isolamento de variantes.

B. Adaptação de Harness (AEGIS)

AEGIS (Adaptive Evolutionary Governance for Intelligent Systems) é um motor de evolução multiagente baseado em traços, que trata a adaptação do harness como um problema de aprendizado sobre artefatos simbólicos. Ele mapeia a evolução do harness para o Aprendizado por Reforço (RL) via um Espelho Operacional:

• Estado: Configuração do harness + repositório de traços.
• Ação: Edições de nível de código tipadas (prompts, ferramentas, processadores).
• Feedback: Traços de execução e pontuações de verificadores.

O AEGIS emprega um pipeline de quatro estágios impulsionado por um meta-agente LLM:

1. Digester (Digestor): Comprime traços de execução brutos (até ~10M de tokens) em resumos estruturados por tarefa (categorias de falha, componentes implicados).
2. Planner (Planejador): Constrói uma "paisagem de adaptação" para identificar tarefas falhas e tipos de edição não testados, defendendo-se contra a subexploração.
3. Evolver (Evolucionador): Gera candidatos a edições de harness com manifestos de mudança explícitos e testes de fumaça (smoke tests).
4. Critic & Deterministic Gate (Crítico e Gatilho Determinístico): O Crítico avalia os candidatos quanto a efeitos não locais e exploração de recompensa (reward hacking). Um gatilho determinístico impõe a restrição de gangorra (seesaw constraint): um candidato só é implementado se não regredir nenhuma tarefa previamente resolvida (prevenindo o esquecimento catastrófico).

Para lidar com conjuntos de tarefas heterogêneas onde um único harness não pode otimizar todas as tarefas simultaneamente, o HarnessX introduz o Isolamento de Variante (Ensemble Routing), mantendo múltiplas variantes de harness e roteando tarefas para a variante com a maior taxa de sucesso estimada.

C. Co-evolução Harness-Modelo

O HarnessX fecha o ciclo intercalando a evolução do harness com o treinamento do modelo.

• Shared Replay Buffer (Buffer de Replay Compartilhado): Os traços de execução servem a propósitos duplos: evidência diagnóstica para o AEGIS e dados de treinamento para o modelo.
• Cross-Harness GRPO: O modelo é treinado usando Group Relative Policy Optimization (GRPO). As trajetórias são agrupadas por identidade de tarefa através de diferentes versões de harness e checkpoints de modelo. Isso permite que o modelo internalize estratégias que funcionam em diversos scaffolds, quebrando o teto onde um modelo fixo não consegue explorar um melhor harness ou um harness fixo não consegue evocar novas capacidades do modelo.
• Eficiência Off-Policy: O sistema reutiliza os mesmos traços de rollout tanto para a evolução do harness quanto para o treinamento do modelo, não incorrendo em custo adicional de inferência para a atualização do modelo.

3. Principais Contribuições

1. Composição de Harness: Uma formalização do harness como um objeto de primeira classe, tipado, composto por processadores. Uma taxonomia de nove dimensões e álgebra de substituição permitem configuração por tarefa e isolamento de variante de forma segura.
2. Adaptação de Harness (AEGIS): Um motor de evolução baseado em traços que mapeia patologias de RL (reward hacking, esquecimento catastrófico, subexploração) para riscos de design concretos, abordados por um pipeline de quatro estágios com gatilho determinístico.
3. Co-evolução Harness-Modelo: Um loop unificado que intercala o treinamento do modelo com a evolução do harness sobre um buffer compartilhado, permitindo que o agente melhore simultaneamente nos eixos de scaffold (harness) e cognitivo (modelo).
4. Validação Empírica: Avaliação abrangente em cinco benchmarks e três famílias de modelos demonstrando ganhos significativos de desempenho.

4. Resultados Experimentais

Os autores avaliaram o HarnessX através de cinco benchmarks (ALFWorld, GAIA, WebShop, τ 3-Bench, SWE-bench Verified) usando três famílias de agentes-tarefa (Claude Sonnet 4.6, GPT-5.4, Qwen3.5-9B) ao longo de até 15 rodadas de evolução.

• Desempenho Geral: O HarnessX rendeu um ganho absoluto médio de +14,5% em 15 configurações modelo-benchmark, com ganhos individuais variando de 0,0% a +44,0%.
• Escalonamento Inverso: Os ganhos foram maiores onde as linhas de base eram menores. Por exemplo, no ALFWorld, o agente mais fraco (Qwen3.5-9B) melhorou em +44,0% (53,0% → 97,0%), enquanto modelos mais fortes viram ganhos menores. Isso sugere que harnesses evoluídos abordam lacunas comportamentais que modelos mais fracos não conseguem autocorrigir.
• Isolamento de Variante: Em conjuntos de tarefas heterogêneas como o GAIA, uma estratégia de harness único (Global) estagnou (ganho de 0,0% para GPT-5.4) devido a edições conflitantes. O isolamento de variante resolveu isso, alcançando um ganho de +13,6% (87,4% final, sem degradação).
• Co-evolução: Intercalar o treinamento do modelo com a evolução do harness proporcionou um ganho adicional de +4,7% sobre a evolução apenas do harness no GAIA e WebShop, quebrando o "teto de scaffold".
• Análise de Falhas: O sistema detectou e mitigou com sucesso as patologias previstas:
  • Reward Hacking: Detectado via análise de traços (ex: exploração de formato vs. recuperação genuína) e mitigado pela adição de guardas.
  • Esquecimento Catastrófico: Detectado via análise de concentração do Crítico e mitigado por edições estruturais.
  • Subexploração: Diagnosticado pelo decaimento da "precisão de predição de envio" (ship-prediction accuracy) e corrigido mudando de edições de prompt para mudanças estruturais de ferramenta/processador.

5. Significância e Alegações

O artigo afirma que o progresso dos agentes não precisa depender exclusivamente do escalonamento de modelos. Em vez disso, compor e evoluir interfaces de tempo de execução a partir de feedback de execução é um alavancagem acionável e complementar para melhorar o desempenho do agente.

• Alegações Modestas: Os autores declaram explicitamente que a generalização para tarefas não vistas não foi avaliada (todos os ganhos foram medidos no conjunto de evolução). Eles reconhecem que o "Espelho Operacional" é uma heurística de design, não uma garantia formal de convergência.
• Insight Central: O trabalho demonstra que o "andaime" (harness) e o "núcleo" (modelo) são complementares. Um aparato mais afiado (harness) não pode compensar um núcleo fraco, nem um núcleo mais forte pode compensar um aparato que nunca o evoca. A co-evolução visa esse gargalo.
• Mudança de Engenharia: O HarnessX propõe uma mudança de harnesses manuais e estáticos para um modelo de fundição onde os harnesses são tipados, substituíveis e continuamente otimizados via um loop de feedback, tratando o harness como um componente aprendível junto com os pesos do modelo.