Test, then Route: How Language Models Execute In-Context Conditional Rules Across Models and Languages

Resumo Técnico: Testar, depois Rotear: Como Modelos de Linguagem Executam Regras Condicionais em Contexto

Problema
Modelos de Linguagem de Grande Escala (LLMs) frequentemente executam regras condicionais em contexto da forma "se $P(x)$ então $A$, senão $B$". Uma questão fundamental na interpretabilidade mecanística é se o modelo monta um circuito de tempo de execução composto por módulos separáveis para testar o predicado $P(x)$ e rotear a resposta apropriada ($A$ ou $B$), ou se esses processos estão emaranhados em um único mecanismo indivisível. Embora avaliações comportamentais possam confirmar que um modelo segue uma regra, elas não conseguem distinguir essas estruturas organizacionais internas. Diferente dos circuitos armazenados nos pesos (ex: Identificação de Objeto Indireto) que são pré-treinados e reutilizáveis, os condicionais em contexto exigem que o circuito seja montado no tempo de inferência com base no conteúdo dinâmico do prompt.

Metodologia
Os autores propõem um novo design experimental usando patching de ativação para desmembrar o "teste" (avaliação do predicado) do "roteamento" (seleção da resposta).

1. Design de Quatro Doadores: A inovação central é um conjunto de quatro prompts doadores que criam um "desacordo" entre o valor de verdade do predicado e a palavra da resposta.

   • BASE: Regra padrão, predicado VERDADEIRO $\rightarrow$ Resposta $A$.
   • O-DONOR: Regra padrão, predicado FALSO $\rightarrow$ Resposta $B$ (inverte o resultado).
   • MAP-DONOR: Regra invertida ("se $P(x)$ então $B$, senão $A$"), predicado VERDADEIRO $\rightarrow$ Resposta $B$ (inverte o mapeamento, mantém o predicado VERDADEIRO).
   • MAP-NULL: Regra invertida, predicado FALSO $\rightarrow$ Resposta $A$ (inverte o mapeamento, mantém o predicado FALSO).
   • Lógica: Em MAP-DONOR e MAP-NULL, o valor de verdade e a palavra da resposta apontam para rótulos opostos. Ao realizar o patching de uma camada do fluxo residual de um doador para uma execução base, os pesquisadores podem determinar se aquela camada carrega a condição (segue o valor de verdade) ou a resposta (segue a palavra).

2. Métricas:

   • Probabilidade de Inversão (Flip Probability): Mede se o patching causa o modelo a produzir a resposta do doador, limitado por um limiar de massa de rótulo ($\ge 0,30$) para evitar artefatos de colapso de distribuição.
   • Fração de Recuperação do Swing ($R$): Uma métrica graduada que mede o quanto um patch move a diferença de logit da base em direção à do doadora.
   • Controles de Transferência: Para distinguir um módulo de roteamento real de um readout específico de token, os autores treinam um subespaço de baixo rank (DAS-lite) em um par de rótulos (ex: dog/cat) e testam sua capacidade de inverter um par retido (ex: fox/owl). Eles também testam a transferência translinguística.

3. Escopo Experimental:

   • Modelos: Três modelos de pesos abertos de duas famílias: Gemma-3-4B, Gemma-3-12B e Qwen3-8B.
   • Idiomas: Seis idiomas (Inglês, Chinês, Hindi, Indonésio, Tâmil, Sinhala) abrangendo quatro escritas.
   • Controles: Um banco de itens fixo de 250 itens compartilhado entre todas as células; os rótulos de resposta ($dog/cat$) são mantidos em escrita Latina para isolar a compreensão da regra dos efeitos de tradução.

Principais Resultados

1. Predicado Modular-TESTE:

   • Em todas as 18 células experimentais (3 modelos $\times$ 6 idiomas), uma banda residual de meio de empilhamento distinta (ex: camadas 21–22 na Gemma-3-4B) carrega o valor de verdade do predicado.
   • O patching desta banda com o O-DONOR (que inverte o valor de verdade) roteia a resposta com probabilidade $\approx 1,0$.
   • O patching da mesma banda com o MAP-DONOR (que inverte o mapeamento mas mantém o valor de verdade) deixa a resposta inalterada ($\approx 0,0$).
   • Este isolamento se mantém em cinco famílias diferentes de predicados (limiares numéricos, pertinência a conjuntos, início por vogal) e uma variante de três saídas, confirmando que o módulo computa um valor de verdade abstrato, não uma regra específica.

2. ROTEAMENTO Não-Separável:

   • A fase de ROTEAMENTO (onde o valor de verdade é mapeado para a palavra da resposta) não mostra um subespaço separável e transferível.
   • Embora um subespaço aprendido possa inverter perfeitamente um par de rótulos treinado (Precisão de Intercâmbio $\approx 1,00$), ele falha em transferir para um novo par de rótulos (Precisão $\approx 0$) em todos os modelos.
   • Transferência Translinguística: Na Gemma-3-4B, a direção aprendida para um par fixo (dog/cat) transfere quase perfeitamente ($\approx 0,98$) para o mesmo par em outros idiomas (Tâmil, Chinês). Isso indica que a direção é vinculada ao token (específica aos tokens da resposta) em vez de um mecanismo de roteamento abstrato.
   • Na Qwen3-8B, a direção é específica para o par e ortogonal ao readout, mas ainda assim não transferível para novos pares.

3. Fronteira de Estágio:

   • Os experimentos revelam uma fronteira de estágio nítida (ex: $L_{22} \to L_{23}$ na Gemma-3-4B). Abaixo desta fronteira, os patches seguem a condição; acima dela, os patches seguem a palavra da resposta.
   • O âncora de TESTE é invariante ao idioma e localizado em uma profundidade relativa consistente. O início do ROTEAMENTO varia conforme o modelo e o idioma, sugerindo que o readout cristaliza mais tarde no empilhamento.

Significância e Alegações
O artigo alega uma assimetria fundamental em como os LLMs executam condicionais em contexto:

• O Teste é Modular: A avaliação do predicado é um módulo computacionalmente separável, localizável e portátil; ele carrega um valor de verdade abstrato que pode ser sobrescrito para direcionar a decisão do modelo.
• O Roteamento é Emaranhado: O mecanismo de roteamento não é um módulo abstrato e reutilizável. Em vez disso, parece ser uma direção de leitura vinculada ao token (ou uma direção específica do par) que está emaranhada com o vocabulário específico da resposta. Ele não generaliza através de diferentes pares de rótulos.

Implicações:

• Direcionamento (Steering): O direcionamento ao nível do predicado (modificando o valor de verdade) deve ser mais portátil entre prompts e conjuntos de vocabulário do que o direcionamento ao nível da resposta.
• Auditoria: A banda de TESTE separável oferece um "gancho de monitoramento" para detectar discrepâncias entre julgamento/ação antes que a saída final seja emitida.
• Compreensão Mecanística: As descobertas desafiam a suposição de que todos os comportamentos em contexto dependem de circuitos reutilizáveis armazenados nos pesos; em vez disso, a montagem em tempo de execução envolve fases distintas onde apenas a fase de "teste" é modular.

Limitações
Os autores observam que seus resultados são específicos para modelos de pesos abertos e tarefas sintéticas controladas com rótulos latinos de um único token. Eles não alegam que essas descobertas se estendam a modelos de fronteira proprietários, condicionais em escritas nativas ou conclusões de texto livre. A natureza "emaranhada" do roteador é precisa para as configurações testadas, mas pode não se generalizar para todas as tarefas de roteamento.