Learning to Rewrite Tool Descriptions for Reliable LLM-Agent Tool Use

1. Declaração do Problema

O artigo identifica um gargalo crítico no desenvolvimento de agentes de Modelos de Linguagem de Grande Escala (LLM): embora as arquiteturas de agentes (modelos, prompting, ajuste fino) tenham melhorado, o desempenho estagna devido a interfaces de ferramentas de baixa qualidade.

• O Problema Central: As descrições de ferramentas existentes são escritas para desenvolvedores humanos, tolerando ambiguidades e assumindo conhecimento de fundo que os agentes não possuem. À medida que os catálogos de ferramentas crescem (centenas de APIs), essas ambiguidades se acumulam, fazendo com que os agentes falhem na seleção de ferramentas e na construção de parâmetros.
• Limitações das Soluções Atuais:
  • Pipelines por Ferramenta: Métodos como DRAFT ou Play2Prompt exigem a execução de uma pipeline multiestágio (síntese de consultas, execução do agente, coleta de rastros, anotação) para cada nova API. Isso é operacionalmente caro e não escalável.
  • Falta de Generalização: Esses métodos otimizam ferramentas isoladamente, falhando em aprender padrões transferíveis do que torna uma descrição eficaz. Eles não conseguem generalizar para ferramentas não vistas sem reexecutar a pipeline cara.
  • Dependência de Rastros: Muitas abordagens dependem de rastros de execução para identificar erros, mas os rastros não estão disponíveis para novas ferramentas no momento da implantação (constrangimentos de cold-start, privacidade ou segurança).

2. Metodologia: Trace-Free+

Os autores propõem o Trace-Free+, um framework que trata a otimização de interfaces como uma capacidade aprendível e transferível, em vez de uma tarefa de engenharia por ferramenta.

A. Hipótese Central

Descrições eficazes de ferramentas seguem um conjunto limitado e reutilizável de padrões de interface (por exemplo, definição de escopo, restrições de parâmetros, dependências entre ferramentas). Em vez de adaptar o agente a cada ferramenta, o sistema aprende a reescrever as ferramentas para um formato consistentemente interpretável pelos agentes.

B. Framework de Aprendizado de Currículo

Para resolver a tensão entre a necessidade de supervisão rica (rastros) para treinamento e a ausência de rastros na implantação, o Trace-Free+ emprega Aprendizado de Currículo:

1. Fase Rica em Rastros: O treinamento começa com exemplos que incluem rastros de execução (resumos de sucesso/fracasso). O modelo aprende o mapeamento entre modos de falha específicos (por exemplo, "o parâmetro ip causou erro") e as correções necessárias na descrição.
2. Fase Livre de Rastros: A proporção de exemplos livres de rastros (entrada: esquema + descrição original; saída: descrição aprimorada) aumenta gradualmente. O modelo é forçado a internalizar os padrões aprendidos na primeira fase e aplicá-los usando apenas o esquema da ferramenta, mimetizando as condições de implantação.
3. Resultado: O modelo aprende a inferir restrições (por exemplo, intervalos válidos, formatos obrigatórios, exclusões de escopo) diretamente do esquema, sem precisar de histórico de execução.

C. Pipeline de Síntese de Dados

Para suportar esse aprendizado, os autores construíram um conjunto de dados em grande escala a partir de APIs do mundo real (ToolBench) por meio de uma pipeline de três estágios:

1. Anotação de Sementes: Um anotador agentic valida a saúde da API e coleta exemplos iniciais de chamadas.
2. Síntese de Consultas Consciente de Dependências: O sistema gera consultas multi-etapa que expõem deficiências de interface, encadeando APIs com base em históricos reais de chamadas.
3. Melhoria de Descrição em Dois Estágios:
   • D1: Aplica diretrizes gerais de documentação à descrição original.
   • D2: Refina D1 usando regras extraídas de rastros de falha (via RIMRULE), codificando restrições específicas como formatos de valor e pré-condições.
   • Nota: D2 serve como o alvo "padrão ouro" para o modelo, mas o modelo é treinado para gerar descrições de qualidade D2 sem ver os rastros durante a inferência.

3. Contribuições Principais

1. Framework Trace-Free+: Uma abordagem de aprendizado de currículo que transfere supervisão do treinamento rico em rastros para a implantação livre de rastros, permitindo melhoria zero-shot de descrições de ferramentas para APIs não vistas.
2. Conjunto de Dados em Grande Escala: Um conjunto de dados de alta qualidade de interfaces de ferramentas derivado de APIs do mundo real, apresentando consultas multi-etapa sintetizadas e descrições aprimoradas (D2) que codificam padrões generalizáveis.
3. Desempenho de Ponta (SOTA): O método alcança resultados SOTA em múltiplos benchmarks (StableToolBench, RestBench, BFCLv2) sem re-treinamento nos domínios de teste.

4. Resultados Experimentais

O artigo avalia o Trace-Free+ em três dimensões:

• Generalização Livre de Rastros:

  • Intra-Domínio (StableToolBench): O Trace-Free+ supera significativamente as linhas de base (D0, D1, EasyTool) em consultas multi-etapa (G2+G3), melhorando o sucesso no nível da consulta em 11,1 pontos em relação às descrições originais (D0).
  • Inter-Domínio: Ele generaliza para domínios não vistos (RestBench: TMDB/Spotify; BFCLv2) sem re-treinamento, mostrando melhorias relativas de até +51,3% sobre D0.
  • Agnóstico ao Modelo: As melhorias transferem-se entre diferentes modelos de agentes (GPT-4.1, Claude Sonnet 4.5, Gemini-3-pro-preview), elevando o SOTA no BFCLv2 em 1,43 pontos puramente por meio de melhores interfaces.

• Robustez de Escala:

  • Em experimentos escalando catálogos de ferramentas para 150+ candidatos, o Trace-Free+ reduziu a degradação da precisão em 29,23% em comparação com D0.
  • Ele melhorou o sucesso médio no nível da consulta em 60,89% em catálogos grandes, demonstrando que limites de escopo claros e restrições de parâmetros são cruciais para filtrar ruído em grandes espaços de busca.

• Amplificação do Ajuste Fino de Agentes:

  • O Trace-Free+ atua como um "multiplicador de força". Quando combinado com o ajuste fino de agentes, produz ganhos complementares.
  • Em configurações inter-domínio, onde o ajuste fino sozinho mostrou transferência limitada (apenas +1,0% de ganho), combiná-lo com Trace-Free+ resultou em um ganho de +16,3%, provando que a otimização de interface aborda modos de falha que o treinamento do modelo não consegue resolver.

5. Significado e Impacto

• Mudança de Paradigma: O artigo argumenta que a qualidade da interface é um eixo subexplorado para a melhoria de agentes. Em vez de apenas tornar os agentes "mais inteligentes", tornar as ferramentas "mais claras" gera ganhos massivos de eficiência.
• Escalabilidade: Ao remover a necessidade de coleta e execução de rastros por ferramenta, o Trace-Free+ torna a integração de ferramentas viável para ambientes empresariais com mudanças frequentes de API, cenários de cold-start ou restrições estritas de privacidade.
• Internalização de Padrões: O trabalho demonstra que LLMs podem aprender padrões abstratos e reutilizáveis de design de interface (por exemplo, "parâmetros devem ser emparelhados", "intervalos devem ser explícitos") e aplicá-los a ferramentas totalmente novas, indo além da simples engenharia de prompts ou otimização isolada de ferramentas.

Em conclusão, o Trace-Free+ fornece uma solução escalável e pronta para implantação para melhorar a confiabilidade de agentes LLM, transformando a forma como as descrições de ferramentas são geradas, mudando de correções reativas por ferramenta para generalização aprendida e proativa.