🤖 AI

Controlling Tool Use with Heading-Specific Activation Steering

Este artigo demonstra que, embora os vetores de direção extraídos de âncoras de cabeçalho possam controlar efetivamente a invocação de ferramentas em modelos de linguagem de grande escala, a análise geométrica revela que esses vetores carecem da estrutura linear limpa típica de conceitos paramétricos, exibindo, em vez disso, alinhamentos bimodais difusos e assinaturas distintas para diferentes tipos de ferramentas que refletem a natureza não paramétrica de ferramentas externas.

Autores originais: Yuqi Chen, Vincent Siu, Yang Liu, Dawn Song, Chenguang Wang

Publicado 2026-07-08

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Yuqi Chen, Vincent Siu, Yang Liu, Dawn Song, Chenguang Wang

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine um modelo de linguagem grande (LLM) como um chef brilhante e conhecedor que memorizou milhões de receitas (conhecimento paramétrico). No entanto, este chef também tem uma gaveta cheia de ferramentas externas: um mecanismo de busca, uma calculadora e um telefone para ligar para o cliente em busca de esclarecimentos.

O problema é que esse chef às vezes fica um pouco ansioso. Mesmo quando sabe a resposta de memória, ele pode entrar em pânico e pegar a calculadora ou ligar para o cliente desnecessariamente. Isso desperdiça tempo, custa dinheiro e atrasa as coisas.

Este artigo investiga uma maneira de "direcionar" o cérebro do chef para que ele pare essas ações desnecessárias sem precisar treinar o chef do zero. Aqui está o detalhamento de sua descoberta:

1. O "Semáforo" no Cérebro

Os pesquisadores descobriram que, quando o modelo está prestes a decidir: "Devo usar uma ferramenta?" ou "Devo apenas pensar sobre isso?", existe um momento específico em seu processamento interno (logo antes de escrever um cabeçalho como ### Code ou ### Search) onde uma decisão é tomada.

Eles descobriram um "vetor de direcionamento" — pense nisso como um empurrão mágico ou um sinal de semáforo — que vive dentro do cérebro do modelo exatamente nesse momento.

O Empurrão: Se você adicionar este sinal específico ao cérebro do modelo, ele atua como uma placa de "Pare", efetivamente dizendo ao modelo: "Não use a ferramenta; apenas pense".
O Empurrão Reverso: Se você remover este sinal (projetando a atividade do cérebro na direção oposta), ele atua como um sinal de "Siga", fazendo o modelo usar ferramentas com mais frequência do que o normal.

Isso é surpreendente porque as ferramentas não estão "codificadas rigidamente" na memória do modelo como os fatos; elas existem apenas no contexto da conversa. No entanto, o modelo ainda possui um sinal interno estável para quando ele acha que precisa delas.

2. O "Efeito Goldilocks" (Funciona Melhor para Matemática)

Os pesquisadores testaram isso em três tipos de tarefas:

Matemática: Estes são problemas que o chef geralmente consegue resolver com seu próprio cérebro (memória).
Tempo: Estes exigem a busca de dados atuais (como "Que horas são em Tóquio agora?").
Intenção: Estes exigem que o modelo peça detalhes ausentes ao usuário (como "Que cor você deseja?").

O Resultado:

Em Matemática, o sinal de "Pare" funcionou maravilhosamente. O chef parou de pegar a calculadora para adições simples e resolveu apenas mentalmente. As respostas continuaram corretas, mas o uso de ferramentas caiu drasticamente.
Em Tempo e Intenção, o sinal de "Pare" foi forte demais. Quando disseram ao chef "Não use ferramentas", o chef parou de verificar a hora ou de pedir detalhes, e as respostas tornaram-se erradas.

A Lição: O direcionamento funciona muito bem quando o modelo não deveria estar usando ferramentas, mas é perigoso usá-lo cegamente quando o modelo precisa de ferramentas para obter a resposta correta.

3. O "Mapa Bagunçado" (A Geometria é Estranha)

Normalmente, quando cientistas encontram um "conceito" dentro de um cérebro de computador (como "honestidade" ou "recusa"), ele se parece com uma linha limpa e reta em um mapa. Se você se mover ao longo dessa linha, o comportamento muda de forma previsível.

No entanto, os pesquisadores descobriram que o sinal de "Uso de Ferramenta" é bagunçado.

A Analogia: Imagine tentar encontrar a direção "Norte" em um mapa. Para a "Honestidade", o Norte é uma seta reta. Para o "Uso de Ferramenta", o Norte parece uma nuvem de névoa com dois clusters diferentes. O cérebro do modelo não tem um botão único e limpo de "Eu preciso de uma ferramenta". Em vez disso, ele tem uma coleção espalhada e nebulosa de sinais que só parecem uma decisão quando você amplia a visão.
Ferramentas Diferentes, Mapas Diferentes: O sinal interno para "Busca" é bastante diferente do sinal para "Perguntar ao Usuário". Eles não se sobrepõem muito. É como se o chef tivesse um conjunto de nervos completamente diferente para ligar para um cliente do que para usar uma calculadora.

4. Por que Funciona se o Mapa é Bagunçado?

Este é o maior mistério que o artigo deixa em aberto. Mesmo que o mapa interno de "Uso de Ferramenta" seja nebuloso e espalhado, o "empurrão mágico" ainda funciona perfeitamente para impedir o modelo de usar ferramentas.

Os autores sugerem que é porque o modelo toma sua decisão em um "gargalo" muito específico — o momento em que ele tem que escrever o cabeçalho (como ### Code). Mesmo que o caminho para essa decisão seja bagunçado, atingir esse gargalo específico com o empurrão certo é suficiente para mudar o resultado.

Resumo

O artigo prova que você pode controlar se uma IA usa ferramentas externas ajustando um sinal específico em seu cérebro no momento em que ela decide agir.

Boa notícia: Você pode impedi-la de perder tempo com ferramentas que não precisa (como em matemática).
Má notícia: Se você desligar o sinal demais, ela para de usar ferramentas que realmente precisa (como verificar a hora).
A Reviravolta: O mecanismo interno para essa decisão é bagunçado e espalhado, não uma linha reta e limpa, o que o torna uma parte única e complexa de como a IA pensa.

Resumo Técnico: Controle de Uso de Ferramentas via Direcionamento de Ativação Baseado em Cabeçalhos

Declaração do Problema

Modelos de Linguagem de Grande Escala (LLMs) aumentados por ferramentas estendem suas capacidades além do conhecimento paramétrico ao integrar ferramentas externas (ex: busca na web, execução de código). No entanto, um modo de falha persistente é o uso excessivo de ferramentas (tool overuse), onde os modelos invocam ferramentas desnecessariamente mesmo quando o raciocínio interno é suficiente. Isso leva ao aumento da latência, custo e potencial propagação de erros.

Estratégias de mitigação existentes tipicamente exigem retreinamento caro ou operam na interface de saída, falhando em abordar o processo de decisão latente dentro das ativações internas do modelo. Um desafio fundamental surge porque, ao contrário de conceitos como sentimento ou veracidade, que são codificados nos pesos do modelo durante o treinamento, as ferramentas existem inteiramente no contexto durante a inferência. Consequentemente, as suposições padrão da hipótese de representação linear e da engenharia de representação — onde conceitos possuem um lastro paramétrico estável — não se aplicam diretamente. O artigo investiga se as decisões de uso de ferramentas possuem uma representação interna estável que possa ser extraída e manipulada, apesar de sua natureza não paramétrica.

Metodologia

Os autores propõem um método de intervenção leve em tempo de inferência chamado Direcionamento de Ativação Baseado em Cabeçalhos (Heading-Specific Activation Steering). A abordagem baseia-se em trajetórias de geração estruturadas onde o modelo emite raciocínio intermediário usando cabeçalhos de seção explícitos (Âncoras de Cabeçalho) como ### Reasoning, ### Code, ### Search e ### AskUser.

1. Construção do Vetor de Direcionamento

O método constrói vetores de direcionamento específicos para cada ferramenta analisando os estados ocultos nas posições de tokens correspondentes a esses Âncoras de Cabeçalho.

Coleta de Dados: Os autores coletam trajetórias multi-turno rotuladas contendo cabeçalhos de ferramentas específicos.
Extração de Estado: Estados ocultos são extraídos de uma camada específica $l^*$ no token correspondente ao marcador de âncora ### para o estado de ### Reasoning e para o estado do cabeçalho da ferramenta alvo (ex: ### Code).
Cálculo de Delta: Para cada trajetória, um delta de direcionamento é computado como a diferença entre o estado oculto médio dos âncoras de raciocínio e o estado oculto médio dos âncoras de ferramentas:
$\Delta^{(l)}_{k,i} = \bar{h}^{(l)}_{R,i} - \bar{h}^{(l)}_{k,i}$
Agregação de Vetores: Esses deltas são calculados pela média em múltiplas trajetórias para formar o vetor de direcionamento final $v^{(l)}_k$ . Essa média ao nível de amostra evita o viés para trajetórias com maior frequência de ocorrências de âncoras.

2. Mecanismos de Intervenção

Os vetores extraídos são aplicados nos passos de formação do Âncora de Cabeçalho durante a inferência usando dois mecanismos distintos:

Adição de Ativação (Supressão): O vetor de direcionamento é adicionado ao estado oculto para deslocá-lo para longe da representação de invocação da ferramenta:
$\tilde{h}^{(l^*)}_t = h^{(l^*)}_t + \alpha v^{(l^*)}_k$
(onde $\alpha=1$ ).
Ortogonalização (Amplificação): O estado oculto é projetado para ser ortogonal ao vetor de direcionamento, removendo o componente supressivo para incentivar o uso da ferramenta:
$\tilde{h}^{(l^*)}_t = h^{(l^*)}_t - \text{proj}_{v^{(l^*)}_k}(h^{(l^*)}_t)$

Resultados Principais

O estudo avalia cinco modelos de instrução de código aberto (Mistral-7B, Llama-3.1-8B, Mistral-Nemo, Mistral-Small, Llama-3.1-70B) em três domínios: Matemática (raciocínio paramétrico suficiente), Tempo (requer informações atualizadas) e Intenção (requer esclarecimento do usuário).

1. Controle Causal Bidirecional

Supressão: A adição de ativação reduziu significativamente as taxas de invocação de ferramentas. No domínio de Matemática, o uso de ferramentas foi suprimido para níveis próximos de zero (ex: de 3,90 para 0,56 chamadas por prompt para o Mistral-7B) com apenas quedas modestas na precisão da tarefa, indicando que muitas chamadas de ferramentas neste domínio eram redundantes.
Amplificação: A ortogonalização aumentou consistentemente o uso de ferramentas acima da linha de base em todos os modelos e domínios. No entanto, esse aumento artificial não melhorou o desempenho da tarefa e frequentemente degradou a precisão, sugerindo que o modelo base já mantém um equilíbrio interno parcial e que remover o vetor de supressão leva ao uso excessivo.
Especificidade de Domínio: A supressão foi mais eficaz em Matemática, mas degradou em domínios de Tempo e Intenção, onde a recuperação externa ou o esclarecimento são genuinamente necessários. Nesses domínios, suprimir o uso de ferramentas levou a quedas significativas de desempenho, confirmando que a intervenção respeita a necessidade de ferramentas quando o conhecimento paramétrico é insuficiente.

2. Irregularidade Geométrica

Ao contrário da "estrutura linear limpa" observada em conceitos com lastro paramétrico (como recusa ou veracidade), a análise geométrica dos vetores de uso de ferramentas revelou:

Alinhamento Bimodal Difuso: Os passos de invocação de ferramentas exibiram uma distribuição de similaridade de cosseno bimodal difusa em relação ao vetor de supressão, em vez do alinhamento negativo consistente previsto por contas de codificação linear.
Baixa Sobreposição entre Ferramentas: Diferentes tipos de ferramentas (Code, Search, AskUser) recrutaram dimensões de características internas amplamente distintas com baixa sobreposição de Jaccard (ex: ~0,04–0,06 para sobreposição tripla).
Desacoplamento de Decodificabilidade e Controle: No modelo Llama-3.1-70B, uma sonda linear supervisionada pôde separar perfeitamente os estados de ### Code de ### Reasoning (AUROC 1.000), mas a direção identificada pela sonda foi muito menos eficaz para suprimir causalmente o uso de ferramentas do que o vetor de diferença média. Isso sugere que a direção mais causalmente eficaz para o controle é geometricamente distinta da direção que é mais linearmente decodificável.

3. Robustez

A intervenção mostrou-se sensível ao esquema, mas não apenas à string de superfície literal. Ao testar com transferência de formato cruzado (Markdown para JSON) e renomeação de cabeçalhos, o efeito de supressão persistiu mesmo quando a palavra literal "Code" estava ausente, embora o efeito tenha sido assimétrico e dependente do esquema.

Significância e Alegações

O artigo afirma ser um dos primeiros a aplicar o direcionamento de ativação a um comportamento que é explicitamente não paramétrico por construção. A principal significância reside em demonstrar que:

O Controle Causal Existe: Apesar da falta de codificação paramétrica para ferramentas nos pesos do modelo, vetores de direcionamento ancorados por cabeçalhos podem exercer controle causal bidirecional sobre o comportamento de invocação de ferramentas.
Geometria Não Paramétrica: As propriedades geométricas dos vetores de direcionamento de uso de ferramentas diferem fundamentalmente das propriedades de conceitos com lastro paramétrico. A irregularidade geométrica observada (alinhamento difuso, baixa sobreposição) é hipotetizada como uma consequência prevista da natureza não paramétrica das ferramentas, distinguindo-as de conceitos como sentimento ou recusa.
Utilidade Prática: O método oferece um mecanismo sem parâmetros em tempo de inferência para mitigar o uso excessivo de ferramentas, particularmente em domínios onde o raciocínio paramétrico é suficiente, sem o custo de retreinamento.

Os autores concluem que, embora a eficácia causal do direcionamento seja clara, a relação entre essa eficácia e a irregularidade geométrica observada permanece uma questão aberta, potencialmente ligada à estrutura de dependência de múltiplos turnos das trajetórias aumentadas por ferramentas.