Model-Adaptive Tool Necessity Reveals the Knowing-Doing Gap in LLM Tool Use

Resumo Técnico: A Necessidade de Ferramentas Adaptativa ao Modelo Revela a Lacuna entre Saber e Agir no Uso de Ferramentas por LLMs

Declaração do Problema

Os Modelos de Linguagem de Grande Escala (LLMs) estão cada vez mais sendo implantados como agentes autônomos que devem decidir entre responder a consultas diretamente ou invocar ferramentas externas (por exemplo, calculadoras, APIs de busca). Pesquisas anteriores sobre o uso adaptativo de ferramentas trataram predominantemente a "necessidade de ferramentas" como uma propriedade estática e agnóstica ao modelo, tipicamente anotada por juízes humanos ou LLMs robustos. Essa abordagem assume que uma consulta é inerentemente dependente ou independente de ferramentas, independentemente das capacidades específicas do modelo.

No entanto, na implantação no mundo real, a necessidade de ferramentas é fundamentalmente matizada devido à divergência das fronteiras de capacidade entre diferentes modelos. Um problema solucionável por um modelo de última geração usando apenas seus pesos internos pode exceder as capacidades de um modelo menor ou mais fraco, tornando o uso de ferramentas estritamente necessário para o último, mas redundante para o primeiro. Consequentemente, anotações estáticas falham em caracterizar com precisão quando um LLM específico necessita genuinamente de assistência externa. Além disso, trabalhos existentes não diagnosticaram suficientemente por que os modelos falham em invocar ferramentas quando necessário, ou as invocam desnecessariamente, apesar de possuírem potencialmente o conhecimento interno para fazê-lo.

Metodologia

Os autores propõem um framework fundamentado na necessidade de ferramentas adaptativa ao modelo e em uma decomposição em duas etapas do processo de uso de ferramentas.

1. Definição de Necessidade de Ferramentas Adaptativa ao Modelo:
   Em vez de rótulos estáticos, a necessidade de ferramentas ($n_f(x)$) é definida empiricamente com base no desempenho de um modelo específico $f$. Os autores realizam $N$ execuções de inferência independentes na temperatura $T$ sem acesso a ferramentas.

   • Se o modelo responder consistentemente corretamente em todas as $N$ execuções, a consulta é considerada desnecessária de ferramentas ($n_f(x) = 0$).
   • Se o modelo falhar pelo menos uma vez, a consulta é considerada necessária de ferramentas ($n_f(x) = 1$).
     Essa definição captura a confiabilidade sob incerteza, reconhecendo que um modelo que apenas ocasionalmente tem sucesso sem ferramentas ainda se beneficia de assistência externa.

2. Decomposição em Duas Etapas (Cognição vs. Execução):
   O processo de uso de ferramentas é modelado como $x \to z_f(x) \to a_f(z_f(x))$, onde:

   • Cognição ($z_f$): A representação interna do modelo sobre se uma ferramenta é necessária.
   • Execução ($a_f$): A decisão real de emitir tokens que acionam a ferramenta.
     O erro de ponta a ponta é decomposto na discrepância entre a necessidade real e a cognição, e na discrepância entre a cognição e a execução.

3. Interpretabilidade Mecanística via Sondagem:
   Os autores empregam sondagem linear em estados ocultos de LLMs para analisar ambas as etapas:

   • Sonda de Cognição: Treina um classificador linear ($w_c$) para prever o rótulo de necessidade adaptativa ao modelo a partir dos estados ocultos.
   • Sonda de Ação: Treina um classificador linear ($w_a$) para prever o comportamento real de chamada de ferramenta.
   • Análise Geométrica: A similaridade de cosseno entre $w_c$ e $w_a$ é calculada através das camadas e posições de tokens para determinar se a crença interna e a intenção de execução estão alinhadas.

4. Rastreamento de Trajetória:
   Amostras são rastreadas através do processo em duas etapas para atribuir erros. Uma amostra é categorizada com base em se o erro ocorre na etapa de cognição, na etapa de execução ou em ambas.

Configuração Experimental

• Modelos: Quatro LLMs distintos foram avaliados: Qwen3-8B, Qwen3-4B, Llama-3.1-8B-Instruct e Llama-3.2-3B-Instruct.
• Conjuntos de Dados:
  • Aritmética: 4.000 instâncias variando de adição simples a operações complexas de múltiplos passos envolvendo módulo e precedência de operadores.
  • QA Factual: TruthfulQA (817 instâncias) projetada para testar a confiabilidade factual.
• Avaliação: Os modelos foram testados com acesso a ferramentas (calculadora para aritmética, API de busca para QA). Comportamentos de chamada de ferramenta foram coletados usando decodificação gulosa.

Resultados Principais

1. Discrepância Substancial entre Necessidade e Ação:
   Usando a definição adaptativa ao modelo, os autores encontraram discrepâncias significativas entre quando as ferramentas são realmente necessárias e quando os modelos as invocam.

   • Aritmética: As taxas de discrepância variaram de 26,5% a 54,0%.
   • QA Factual: As taxas de discrepância variaram de 30,8% a 41,8%.
   • Os modos de falha dominantes variaram por modelo e domínio; alguns modelos usaram ferramentas em excesso (chamando-as quando capazes de responder diretamente), enquanto outros as usaram em quantidade insuficiente (falhando em chamar ferramentas quando lhes faltava conhecimento interno).

2. Decodificabilidade Linear de Cognição e Ação:

   • Cognição: As representações internas da necessidade de ferramentas são linearmente decodificáveis a partir dos estados ocultos, particularmente nas camadas do meio ao final. No entanto, a separabilidade é dependente da tarefa, sendo mais forte na aritmética (onde a dificuldade correlaciona-se com a estrutura superficial) do que na QA factual.
   • Ação: A decisão de chamar uma ferramenta também é altamente linearmente decodificável, frequentemente abrangendo amplas regiões de camadas e posições de tokens.

3. A Lacuna de Ortogonalidade:
   Embora as sondas de cognição e ação sejam individualmente eficazes, seus vetores de direção ($w_c$ e $w_a$) tornam-se quase ortogonais nas camadas finais do token da última consulta (o regime que impulsiona a geração do próximo token). Isso indica que o sinal interno que reconhece a necessidade de uma ferramenta está geometricamente desacoplado do sinal que dispara a chamada da ferramenta no momento crítico da decisão.

4. Localização da Falha (A Lacuna entre Saber e Agir):
   O rastreamento de trajetória revelou que a maioria das discrepâncias de ponta a ponta origina-se na etapa de execução (transição cognição $\to$ ação), e não na etapa de cognição.

   • A maioria dos erros ocorre quando o modelo identifica corretamente a necessidade de uma ferramenta internamente (cognição correta), mas falha em traduzir isso na ação sintática de chamar a ferramenta.
   • Essa discrepância persiste mesmo quando a confiança interna do modelo em sua avaliação de necessidade é alta (próxima de 0 ou 1), sugerindo que o problema não é incerteza, mas uma falha em traduzir a conscientização em ação.

Significado e Contribuições

O artigo afirma fazer as seguintes contribuições:

• Redefinir a Necessidade de Ferramentas: Introduz uma definição de necessidade de ferramentas adaptativa ao modelo, fundamentada no desempenho empírico, desafiando a dependência de anotações estáticas e agnósticas ao modelo.
• Quantificar a Discrepância Comportamental: Demonstra empiricamente discrepâncias substanciais (até 54%) entre a necessidade real de ferramentas e as ações observadas de chamada de ferramenta em múltiplos modelos e domínios.
• Insight Mecanístico: Através da sondagem de representações, mostra que, embora tanto a necessidade de ferramentas quanto a intenção de execução sejam linearmente decodificáveis, suas representações tornam-se quase ortogonais no regime de última camada e último token.
• Diagnosticar a "Lacuna entre Saber e Agir": Identifica que o principal gargalo no uso de ferramentas por LLMs não é o reconhecimento de quando as ferramentas são necessárias, mas a tradução desse reconhecimento em ação.

Os autores concluem que melhorar agentes autônomos de LLMs requer não apenas aprimorar a meta-cognição interna, mas especificamente superar a "lacuna entre saber e agir" para garantir que a autoconsciência se traduza de forma confiável na execução correta.