They Infer What You Meant: Models Represent Communicative Intent More Reliably Than They Act On It

Resumo Técnico: "Eles Inferem o que Você Quis Dizer: Modelos Representam a Intenção Comunicativa de Forma Mais Confiável do que Agem sobre Ela"

Definição do Problema
Modelos de linguagem implantados frequentemente falham em compreender a intenção comunicativa de um emissor — o que o emissor está tentando realizar ao enviar uma mensagem — respondendo apenas ao conteúdo literal da superfície. Por exemplo, quando um usuário compartilha um projeto criativo finalizado sem solicitar uma crítica, o modelo pode, por padrão, oferecer feedback não solicitado; quando um usuário compartilha uma expressão bruta de exaustão, o modelo pode realizar uma avaliação de risco. Essa falha é enquadrada como uma quebra na competência pragmática (o "o que foi pretendido" de Grice vs. "o que foi dito"). Embora existam benchmarks comportamentais, o mecanismo interno dessa falha permanece inexplorado: especificamente, se a intenção é representada dentro dos estados ocultos do modelo e, em caso afirmativo, por que a leitura (readout) padrão falha em agir sobre ela.

Metodologia
O estudo utiliza um design experimental de correspondência de superfície para isolar a intenção comunicativa do conteúdo lexical.

• Estímulos: Os autores construíram contrastes binários (ex: reconhecer vs. avaliar) onde o sufixo da mensagem final é byte-idêntico, mas o prefixo precedente estabelece a intenção (ex: "Estou orgulhoso deste aqui" vs. "Seja franco, prefiro ouvir as falhas").
• Sondagem (Probing): Probes lineares (regressão logística com PCA) são treinados nos estados ocultos de passagem padrão do modelo (o estado imediatamente antes da geração) para decodificar a intenção. Os controles incluem:
  • Baselines de bag-of-words para garantir que o probe não esteja lendo pistas lexicais de superfície.
  • Validação cruzada de exclusão de frase (leave-one-phrasing-out) para testar a generalização através de diversas formulações.
  • Testes de intenção inferida, onde a intenção nunca é declarada, mas inferida pragmaticamente do contexto (ex: "presente de aniversário" vs. "peça de portfólio").
• Direcionamento (Manipulação de Ativação): Para testar a causalidade, os autores extraem uma direção discriminativa (vetor de peso logístico) de um estado oculto e a adicionam ao fluxo residual em camadas específicas do decoder durante a geração. Eles medem se esse "direcionamento" (steering) recupera o comportamento pretendido (honrar a intenção) sem instrução explícita.
• Modelos: Os experimentos abrangem seis modelos de quatro famílias (Qwen, Llama, Mistral, Phi) e tamanhos variando de 3B a 32B, incluindo checkpoints base (pré-instrução) e ajustados para instrução (instruct-tuned).

Resultos Principais

1. Representação Robusta: A intenção comunicativa do emissor é robustamente representada nos estados ocultos do modelo. Probes lineares decodificam a intenção com alta precisão (até 1,00) em todos os seis modelos, mesmo quando a intenção é inferida em vez de declarada, e de forma destituída de sentimento (calor vs. neutro). Essa representação existe em checkpoints base, indicando que é aprendida durante o pré-treinamento, não pelo ajuste de instrução.
2. O Atraso de Leitura (Descarte): Apesar de a intenção estar claramente representada, a saída padrão frequentemente falha em agir sobre ela. Em três dos seis modelos (Qwen-3B, Qwen-7B, Llama-8B), a resposta padrão honra uma intenção de "reconhecer" apenas cerca de 60% das vezes, assumindo por padrão o feedback não solicitado.
3. Estratificação de Profundidade: Dentro de um modelo, a intenção é decodificável várias camadas antes da camada onde a leitura atua sobre ela. Por exemplo, no Qwen-3B, a intenção é totalmente decodificável na camada 24, mas o direcionamento (steering) nessa camada não recupera o comportamento; o direcionamento eficaz requer uma camada posterior (camada 30).
4. Estratificação Específica do Modelo: A falha em agir sobre a intenção não é uma lei de escala universal, mas uma estratificação específica do modelo. Modelos menores ou menos maduros em instrução (≤8B) mostram o comportamento de "descarte", enquanto modelos maiores/mais maduros (≥14B) frequentemente já honram a intenção no baseline.
5. Recuperação Causal: O direcionamento do fluxo residual ao longo da direção de intenção discriminativa na camada correta recupera o comportamento pretendido (ex: aumentando o honrar o "reconhecer" de 0,65 para 0,98 no Qwen-3B) sem qualquer prompt. Essa direção é quase ortogonal aos eixos genéricos de oferta de feedback, sugerindo que ela roteia uma intenção representada específica em vez de atuar como um botão de verbosidade genérico.
6. Generalização: A representação generaliza para um segundo contraste de intenção lexicalmente distinto (apoio vs. ajuda), embora os resultados de direcionamento causal para este eixo tenham sido menos conclusivos (um resultado nulo para a especificidade do direcionamento).

Contribuições Principais

• Recurso de Interpretabilidade de Primeira Classe: O artigo trata a intenção comunicativa de um emissor como um recurso linear e causal, distinto de atributos do usuário ou crenças de personagem.
• Decomposição Representar-Então-Ler (Represent-Then-Readout): Estabelece uma dissociação mecanística: os modelos representam a intenção de forma robusta e universal, mas a leitura (agir sobre ela) é um processo separado, frágil e específico de cada modelo.
• Manipulação Causal sem Prompts: Demonstra que uma direção ligada à intenção representada pode servir como um controle causal para recuperar o comportamento pretendido, performando tão bem quanto instruções explícitas, mas sem exigir prompt.
• Controles Rigorosos: O estudo reporta resultados nulos e testes pré-registrados inconclusivos (ex: o teste geométrico para leis de escala, a especificidade de direcionamento para o eixo apoio/ajuda) tão abertamente quanto as confirmações.

Significado e Alegações
O artigo recontextualiza a observação comum de que "o modelo não entende". A evidência sugere que o modelo entende; a intenção está presente na representação interna. A falha reside no mecanismo de leitura que falha em rotear essa representação para a saída final.

• Escopo Modesto: Os autores afirmam explicitamente que não alegam que "honrar" seja sempre o comportamento normativo correto (um modelo pode justamente oferecer uma crítica gentil). A alegação é sobre roteabilidade: o modelo representa a intenção, mas assume um comportamento diferente.
• Insight Mecanístico: As descobertas sugerem que a "competência pragmática" não é uma capacidade monolítica, mas um processo em camadas onde a representação precede a ação. O hiato entre representação e ação é onde ferramentas de interpretabilidade (como o direcionamento/steering) podem intervir.
• Transferibilidade: Embora o hiato comportamental seja específico do modelo, os autores hipotetizam que o mapa subjacente de "representar-então-rotear" é universal e pode ser transferido para sistemas de fronteira fechados, mesmo que a falha comportamental específica não o seja.

O artigo conclui que a separação de representar uma intenção de agir sobre ela é uma propriedade fundamental das arquiteturas atuais, observável via probes lineares e direcionamento causal, e que essa separação é o locus primário da falha pragmática em configurações específicas de modelos.