Resumo Técnico: BONSAI – Busca em Árvore Guiada pela Evoluibilidade sobre Habilidades

1. Definição do Problema

O artigo aborda o desafio de otimizar habilidades (skills) para agentes congelados (frozen agents). Uma "habilidade" é definida como um documento em linguagem natural (atuando como um manual de campo, em vez de um simples modelo de template de prompt) que guia um LLM congelado (cujos pesos não podem ser atualizados). Como o agente não pode aprender com a experiência, qualquer capacidade que lhe falte deve ser codificada no texto da habilidade.

A abordagem padrão para a otimização de habilidades envolve um loop iterativo: editar a habilidade com base nas falhas do agente, testar em tarefas de validação e reter as edições que melhoram a pontuação. Os autores identificam um ponto cego crítico neste método: uma única pontuação de validação não consegue distinguir entre um documento que repousa em um platô amplo (robusto a novas edições) e um que está no topo de um pico estreito (sobreajustado e frágil). Um documento em um pico estreito pode pontuar alto, mas é um beco sem saída, pois edições subsequentes tendem a quebrar as capacidades existentes. Métodos existentes carecem de uma forma de medir a "evolubilidade" de uma região de habilidade — a capacidade de produzir variações viáveis sob mutação — sem incorrer em custos computacionais extras.

2. Metodologia: BONSAI

O BONSAI (Bonsai Optimisation via Natural-language Search and Adaptive Iteration) reformula a otimização de habilidades como uma Busca em Árvore de Monte Carlo (MCTS) guiada pela evolubilidade, em vez de apenas pelo fitness imediato.

Componentes Principais

• Modelos: Dois modelos congelados são utilizados.
  • Performer (Executor): O agente congelado (ex: granite-4.1-30b) que executa as tarefas com base na habilidade.
  • Optimizer (Otimizador): Um segundo modelo congelado (ex: DeepSeek-V3.2) que reescreve a habilidade com base nas falhas do performer.
• Estrutura de Árvore: As habilidades são organizadas em uma árvore onde a raiz é um documento semente. Cada aresta representa uma mutação (uma reescrita reflexiva) do nó pai. Esta estrutura impõe uma topologia de vizinhança ao espaço de documentos.

Métricas Chave

• Fitness ($v(n)$): A pontuação de validação do documento no nó $n$.
• Evolubilidade ($Q(n)$): Definida como o fitness esperado da vizinhança mutacional de uma habilidade. É estimada pela média do fitness da linhagem do nó (o próprio nó mais todos os seus descendentes).
  $$Q(n) = \frac{1}{m(n)} \sum_{s \in L(n)} v(s)$$
  onde $L(n)$ é a linhagem e $m(n)$ é a contagem de membros pontuados.
• Fragilidade ($\sigma(n)$): A lacuna entre o fitness atual e a evolubilidade: $\sigma(n) = v(n) - Q(n)$.
  • $\sigma > 0$: Indica um pico sobreajustado e frágil (a pontuação atual é maior que a média da vizinhança).
  • $\sigma \le 0$: Indica uma região evoluível (a vizinhança sustenta ou melhora a pontuação atual).

Algoritmo de Busca

A busca procede em iterações usando uma regra de seleção de Limite de Confiança Superior (UCB):
$$U(s) = v(s) + \lambda(Q(s) - v(s)) + c\sqrt{\frac{\ln N(p)}{N(s)}}$$

• Explotação (Exploitation): O termo $\lambda(Q(s) - v(s))$ direciona a busca para regiões com alta evolubilidade. Quando $\lambda=1$, a busca prioriza $Q(s)$ (evolubilidade) em vez do fitness bruto $v(s)$.
• Exploração (Exploration): O termo UCB padrão garante que ramos fracos sejam revisitados.
• Aceitação: Um filho proposto é aceito apenas se melhorar estritamente um pequeno minibatch de treinamento (Eq. 4).
• Backup: Filhos aceitos atualizam as estatísticas da linhagem ($N$, $m$, $W$). Mutações rejeitadas atualizam apenas a contagem de visitas $N$, evitando que reescritas falhas deprimam artificialmente a estimativa de evolubilidade de uma região.
• Alargamento (Widening): Os nós possuem uma capacidade subclínica de filhos baseada no número de amostras pontuadas, garantindo que a busca permaneça profunda em vez de larga.

Enxertia (Grafting - Operador Opcional)

Para abordar a fragmentação de capacidades entre diferentes ramos da árvore, o BONSAI inclui um operador de enxertia (graft). Se um nó $A$ carece de uma capacidade que um nó $B$ de outra linhagem possui (determinado pela comparação de pontuações por tarefa nos dados de treinamento), o otimizador é solicitado a reescrever $A$ para incorporar a técnica de $B$. O doador $B$ atua como evidência, não como ancestralidade, e não recebe atualizações de visita.

Entrega (Shipping)

Ao esgotar o orçamento, o BONSAI entrega o único documento com a maior pontuação de validação ($\arg\max v(n)$), não aquele com a maior evolubilidade. Isso garante que o resultado final seja o melhor documento de desempenho encontrado, enquanto a evolubilidade serve meramente como um mecanismo de direcionamento para o orçamento de busca.

3. Principais Contribuições

1. Evolubilidade como Métrica de Direcionamento: Os autores identificam a robustez sob mutação (evolubilidade) como a propriedade crítica para a otimização de habilidades, distinguindo-a do fitness presente.
2. Estimativa Sem Custo Adicional: Eles propõem um método para medir a evolubilidade ($Q$) que incorre em zero chamadas extras de modelo. Ele reutiliza as pontuações de fitness já pagas durante a busca para estimar a qualidade da vizinhança mutacional.
3. Estrutura de Busca Baseada em Árvore: O BONSAI converte uma coleção não ordenada de candidatos em um espaço de busca estruturado onde propriedades de vizinhança podem ser medidas e otimizadas via MCTS.
4. Transferência de Capacidade Assimétrica: A introdução do operador de enxertia permite a transferência de capacidades específicas entre linhagens sem fundir documentos, abordando o problema de habilidades que divergem em capacidade.

4. Resultados Experimentais

O framework foi avaliado em três benchmarks usando um performer de 30B congelado e um otimizador DeepSeek-V3.2.

• SpreadsheetBench: O BONSAI melhorou o documento semente em 5,71 pontos de precisão e superou o baseline GEPA, que possui orçamento equivalente, em 2,14 pontos. Com a Enxertia habilitada, atingiu 25,00% de precisão.
• SearchQA: O BONSAI melhorou o semente em 6,57 pontos e superou o GEPA em 0,71 pontos (79,00% vs 78,29%).
• LiveMathematicianBench: O BONSAI alcançou 64,91% de precisão, superando o semente (28,23%) por uma margem ampla e vencendo o GEPA em 8,77 pontos.
• Comparação com SkillOpt: Em todos os benchmarks, o BONSAI superou o segundo baseline, SkillOpt, por uma média de 3,97 pontos. Os autores atribuem a deficiência do SkillOpt à sua etapa de agregação, que comprime edições sem visualizar as trajetórias subjacentes.
• Ablação (Evolubilidade vs. Ganancioso/Greedy): Quando o sinal de seleção foi alterado para fitness puramente ganancioso ($\lambda=0$), o desempenho caiu significativamente em todos os benchmarks (ex: -7,02 pontos no LiveMathematicianBench), confirmando que o direcionamento pela evolubilidade é o principal motor do sucesso.

5. Significância e Alegações

O artigo afirma que o BONSAI consegue direcionar o orçamento de busca para regiões do espaço de habilidades que continuam a gerar melhorias, em vez de ficar preso em picos estreitos e sobreajustados. Ao tratar a evolubilidade como uma propriedade distinta do fitness, o método evita o "ponto cego" da otimização padrão baseada em pontuação.

Os autores enfatizam que este aumento de desempenho é alcançado sem custo adicional além do loop padrão de "aceitar se for melhor", pois a métrica de evolubilidade é derivada dos dados de busca já existentes. O framework demonstra que, para agentes congelados, o "terreno" do espaço de habilidade (sua capacidade de evoluir) é tão importante quanto a "elevação" atual (pontuação). Os resultados sugerem que organizar a otimização de habilidades como uma busca em árvore guiada pela robustez mutacional produz uma generalização superior em tarefas não vistas em comparação com abordagens de evolução de prompt reflexiva ou estados treináveis.