🤖 machine learning

Predicting Future Behaviors in Reasoning Models Enables Better Steering

Este artigo propõe o Future Probe Controlled Generation (FPCG), um método de direcionamento em nível de texto que utiliza sondas de ativação treinadas para prever resultados comportamentais futuros a partir de etapas intermediárias de raciocínio, permitindo, assim, o controle eficaz de grandes modelos de raciocínio com degradação mínima da qualidade da saída em comparação ao direcionamento de ativação tradicional.

Autores originais: Evgenii Kortukov, Piotr Komorowski, Florian Klein, Paula Engl, Gabriele Sarti, Seong Joon Oh, Sebastian Lapuschkin, Wojciech Samek

Publicado 2026-06-10

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Evgenii Kortukov, Piotr Komorowski, Florian Klein, Paula Engl, Gabriele Sarti, Seong Joon Oh, Sebastian Lapuschkin, Wojciech Samek

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você tem um robô muito inteligente e falante que está tentando resolver um problema ou responder a uma pergunta. Às vezes, esse robô fica confuso ou decide fazer algo que você não queria (como ser rude, mentir ou quebrar regras).

Por muito tempo, os cientistas tentaram consertar isso olhando para os "pensamentos" do robô depois de ele já ter falado em voz alta. Eles diziam: "Ah, vejo que ele acabou de dizer algo ruim. Vamos empurrar o cérebro dele na direção oposta para impedir isso".

O problema com esse método antigo é que é como tentar guiar um carro puxando o volante depois que você já bateu em uma árvore. Isso frequentemente faz com que as respostas do robô soam estranhas, quebradas ou sem sentido.

Este artigo apresenta uma nova maneira de guiar o robô: O Método "Olhar para o Futuro" (Future Gaze).

Veja como ele funciona, dividido em etapas simples:

1. O Jeito Antigo: Olhando pelo Espelho Retrovisor

Os pesquisadores chamam o método antigo de "Detecção".

A Analogia: Imagine um segurança que só verifica sua identidade depois que você já passou pela porta. Quando o segurança te vê, você já está lá dentro. Se ele tentar te puxar de volta, é uma situação bagunçada e caótica.
A Ciência: Os métodos antigos olham para o texto que o modelo já gerou para encontrar "comportamentos ruins". Eles então tentam forçar o modelo a mudar seus sinais cerebrais ocultos com base nesse texto passado. O artigo mostra que isso frequentemente estraga a qualidade da resposta porque o modelo fica confuso sobre o que acabou de dizer.

2. A Nova Descoberta: A Bola de Cristal

Os pesquisadores descobriram que o cérebro do robô possui, na verdade, um segundo tipo de sinal que funciona como uma bola de cristal.

A Analogia: Antes mesmo de o robô dizer uma palavra, ele está executando secretamente uma simulação em sua cabeça. É como um jogador de xadrez pensando: "Se eu mover este peão aqui, posso perder o jogo em três jogadas". O robô sabe o que pretende fazer antes mesmo de dizer.
A Ciência: Eles encontraram "Recursos de Predição" (Prediction Features). Estes são sinais ocultos no cérebro do modelo que preveem a probabilidade futura de um comportamento (ex: "Há 90% de chance de esta frase ser rude"). Esses sinais existem antes do texto ruim ser escrito.

3. O Novo Método: "Geração Controlada por Sonda de Futuro" (FPCG)

Em vez de puxar o volante após uma batida, este método verifica o GPS antes do carro se mover.

Como funciona:
1. O robô está prestes a escrever a próxima frase.
2. Em vez de apenas escrever uma frase, o robô rapidamente elabora várias opções diferentes (como um escritor fazendo um brainstorming de três maneiras diferentes de dizer "Olá").
3. A "Bola de Cristal" (esta nova sonda) olha para cada rascunho e pergunta: "Se escolhermos esta frase, qual é a probabilidade de o resto da conversa dar errado?".
4. O sistema escolhe a frase que leva ao melhor resultado futuro.
5. O robô escreve essa frase e repete o processo para a próxima.

Por que isso é melhor?

Sem Batidas: Como o robô escolhe o melhor caminho antes de se comprometer com ele, ele não precisa desfazer seus erros depois. As respostas permanecem de alta qualidade e naturais.
Funciona Quando Outros Falham: O artigo testou isso em situações complicadas onde o antigo método do "Espelho Retrovisor" quebrava o robô completamente (tornando-o um amontoado de palavras sem sentido). O novo método da "Bola de Cristal" manteve o robô funcionando suavemente.

A Grande Conclusão

O artigo prova que prever o futuro é diferente de detectar o passado.

Jeito Antigo: "Vejo que você está sendo rude, então pare!" (Tarde demais, causa o caos).
Novo Jeito: "Vejo que você está prestes a ser rude, então vamos escolher uma frase diferente em vez disso." (Previne o problema, mantém tudo fluido).

Ao usar os próprios sinais de "planejamento futuro" do robô, podemos guiá-lo para ser mais seguro e útil sem fazer com que ele pareça uma máquina quebrada.

Resumo Técnico: Prever Comportamentos Futuros em Modelos de Raciocínio Permite um Melhor Direcionamento

Declaração do Problema

Modelos de Raciocínio Grandes (LRMs) implantados frequentemente exibem comportamentos inesperados, necessitando de mecanismos de controle robustos. Embora o direcionamento de ativação em tempo de teste (test-time activation steering) — intervir nas representações ocultas para controlar saídas — tenha mostrado promessa, ele frequentemente sofre de uma limitação crítica: a degradação da qualidade da saída e das capacidades do modelo.

Os autores argumentam que os métodos de direcionamento existentes dependem implicitamente de características de detecção (detection features), que são representações internas que identificam comportamentos já presentes no texto gerado. No entanto, os LRMs mantêm uma distribuição sobre múltiplas respostas futuras possíveis durante seu raciocínio de Cadeia de Pensamento (CoT), muitas vezes antes de verbalizarem uma decisão. O artigo postula que basear o direcionamento em características que detectam comportamentos passados é um alvo de intervenção subótimo porque essas características são previsores pobres de resultados comportamentais futuros. Consequentemente, o direcionamento baseado em características de detecção força o modelo a desviar de sua variedade natural de geração (natural generation manifold), levando a saídas incoerentes ou de baixa qualidade.

Metodologia

1. Análise da Dinâmica da Distribuição de Comportamento

O estudo primeiro estabelece que os LRMs frequentemente exibem "incerteza comportamental", onde um único prompt pode levar a múltiplos resultados comportamentais dependendo do caminho de raciocínio. Usando análise de reamostragem, os autores rastreiam como a probabilidade de um comportamento específico evolui frase a frase durante o raciocínio CoT. Eles descobrem que, para exemplos incertos, o modelo converge para uma decisão final durante o processo de raciocínio, em vez de pré-determinarla.

2. Distinguindo Características de Detecção vs. Predição

A principal contribuição teórica é a identificação de duas classes distintas de características internas:

Características de Detecção: Ativações que sinalizam que um comportamento já ocorreu no texto (tipicamente extraídas de respostas finais).
Características de Predição: Ativações que codificam a tendência do modelo de agir de determinada maneira no futuro, derivadas de etapas intermediárias de raciocínio.

Para validar isso, os autores treinaram Sondas Lineares (e Sondas MLP) nas ativações do fluxo residual ao final de cada frase para prever a probabilidade de um comportamento futuro.

Sondas de Predição: Treinadas em ativações de CoT intermediárias para prever probabilidades de comportamento futuro. Estas alcançaram alta precisão (64%–91% de precisão binarizada) em prever se um comportamento ocorreria.
Sondas de Detecção: Treinadas em ativações da resposta final para detectar o comportamento. Quando usadas para prever resultados futuros (com base em etapas intermediárias), essas características tiveram desempenho significativamente inferior, confirmando que as características de detecção e predição são distintas e não coincidem.

3. Geração Controlada por Sonda de Futuro (FPCG)

Baseando-se na existência de características de predição, os autores propõem a Geração Controlada por Sonda de Futuro (FPCG), um algoritmo de direcionamento de nível de texto. Diferente do direcionamento de ativação, que modifica o fluxo residual dos tokens gerados, o FPCG opera da seguinte forma:

Geração de Candidatos: Em cada etapa de raciocínio (frase), o modelo gera $M$ frases candidatas.
Pontuação: As ativações do modelo para cada frase candidata (até o fim da frase) são extraídas.
Predição: Uma sonda treinada prevê a probabilidade do comportamento desejado (ou indesejado) futuro para cada candidato.
Seleção: O candidato que maximiza (ou minimiza) a probabilidade prevista do comportamento alvo é selecionado.
Iteração: O processo se repete para a próxima frase.

Esta abordagem permite que o modelo "escolha" o caminho que se alinha ao comportamento desejado enquanto permanece na variedade natural de dados, pois a seleção é baseada no próprio planejamento probabilístico do modelo, em vez de adição externa de vetores.

Resultados Principais

Precisão de Predição

Sondas lineares treinadas em ativações intermediárias previram com sucesso as probabilidades de comportamento futuro com alta precisão. A precisão binarizada (prevendo se um comportamento é mais provável do que não) variou de 64% a 91% em vários modelos (DeepSeek-R1-Distill-Llama-8B, Qwen3-14B, gpt-oss-20b, QwQ-32B) e conjuntos de dados (Myopic Reward, Refusal, Prompt Injection, etc.). Isso confirma que as representações internas contêm sinais fortes sobre tendências comportamentais futuras.

Desempenho de Direcionamento e Qualidade

Os autores avaliaram o FPCG contra o direcionamento de ativação padrão de Diferença de Médias (Difference-in-Means):

Controle de Comportamento: O FPCG conseguiu deslocar frações de comportamento significativamente em todos os modelos e conjuntos de dados testados (ex: reduzindo o comportamento "Myopic Reward" de 46,2% para 5,1% no DeepSeek-R1).
Qualidade da Saída: Crucialmente, o FPCG induziu quase nenhuma degradação na qualidade da saída. A fração de gerações filtradas devido a violações de formato ou incoerência permaneceu próxima de zero (0–3% na maioria dos casos). Em contraste, o direcionamento de ativação causou degradação significativa na qualidade, com até 18% das gerações sendo filtradas e aumento da perplexidade em 9 de 12 cenários.
Perplexidade: O direcionamento de ativação aumentou a perplexidade da geração na maioria dos cenários, sugerindo que ele empurra as ativações para fora da variedade natural de dados. O FPCço aumentou a perplexidade em apenas um de 12 cenários.
Direcionabilidade: No modelo gpt-oss-20b, o direcionamento de ativação falhou completamente (quebrando a geração) em tarefas de Refusal, Prompt Injection e Wealth Seeking, enquanto o FPCG direcionou esses comportamentos com sucesso sem perda de qualidade.

Significância e Alegações

O artigo afirma que distinguir entre características de detecção de comportamento e de predição de comportamento é essencial para o controle eficaz de LRMs.

Insight Conceitual: O estudo fornece evidências de que os LRMs mantêm uma distribuição probabilística de comportamentos futuros internamente, representada por características distintas daquelas que detectam o texto realizado.
Utilidade Prática: Ao visar características de predição via FPCG, é possível direcionar o comportamento do modelo com alta força preservando a qualidade da saída, superando a principal limitação dos métodos atuais de direcionamento de ativação.
Complementaridade: O FPCG é apresentado como um método complementar aos existentes, capaz de direcionar em cenários onde métodos baseados em ativação falham ou degradam o desempenho.

Os autores concluem que compreender a evolução das representações internas do planejamento para a verbalização permite um controle mais matizado e eficaz dos comportamentos de LRMs.