Resumo Técnico: "Como X, Faça Y: Como Persona e Tarefa se Combinam em LLMs Ajustados por Instrução"

Declaração do Problema

Modelos de Linguagem de Grande Escala (LLMs) ajustados por instrução lidam robustamente com prompts na forma "Como X, faça Y", onde uma especificação de persona ($X$) é combinada com uma especificação de tarefa ($Y$). No entanto, o mecanismo interno pelo qual essas duas especificações distintas são causalmente integradas no fluxo residual do modelo permanece pouco compreendido. Especificamente, não está claro onde, ao longo dos eixos de camadas e posições, essa combinação é simples o suficiente para ser aproximada aditivamente, e se o estado composto resultante pode ser reconstruído ou manipulado por meio de intervenções no fluxo residual.

Metodologia

O artigo emprega uma estrutura de intervenção causal para decompor as ativações do fluxo residual de modelos ajustados por instrução. A metodologia central envolve:

1. Decomposição do Prompt: Para cada par persona-tarefa, os autores constroem uma grade $2 \times 2$ de prompts:
   • Baseline-Baseline ($BB$): Nenhuma persona específica, tarefa baseline.
   • Apenas Persona ($XB$): Persona específica, tarefa baseline.
   • Apenas Tarefa ($BY$): Persona baseline, tarefa específica.
   • Persona Mais Tarefa ($XY$): Persona específica, tarefa específica.
2. Decomposição Residual: Em camadas e posições de sequência específicas, os autores definem:
   • Efeito puro de persona: $\Delta X = h_{XB} - h_{BB}$
   • Efeito puro de tarefa: $\Delta Y = h_{BY} - h_{BB}$
   • Efeito combinado: $\Delta XY = h_{XY} - h_{BB}$
   • Termo de interação: $Inter = \Delta XY - \Delta X - \Delta Y$
3. Substituição Causal: Os autores testam a hipótese de que $\Delta XY \approx \Delta X + \Delta Y$ substituindo o estado oculto limpo $XY$ pela previsão aditiva ($h_{BB} + \Delta X + \Delta Y$).
4. Métricas de Avaliação:
   • KL Causal: A divergência de Kullback-Leibler entre a saída do modelo após a substituição e a continuação limpa $XY$ (sobre uma janela de 10 tokens). Um KL baixo indica que a aproximação aditiva é causalmente suficiente.
   • Alinhamento Geométrico: Similaridade de cosseno entre $\Delta XY$ e $\Delta X + \Delta Y$, e entre $\Delta X$ e $\Delta Y$.
   • Verificação Comportamental: Um teste baseado em marcadores que pontua a presença de conteúdo específico da persona (por exemplo, "escalabilidade" para uma persona de engenheiro) em gerações gananciosas de 80 tokens.
5. Modelos e Grades: Os experimentos foram conduzidos em Gemma-2-2B-IT, Qwen-2.5-1.5B-Instruct e Qwen-2.5-3B-Instruct. Duas grades de prompts foram utilizadas: uma grade curta de 12 células (4 personas, 3 tarefas) e uma grade longa de persona de 48 células (8 personas de múltiplas frases, 6 tarefas diversas).

Principais Resultados

1. Composição Aditiva Localizada

O artigo identifica uma região específica onde a combinação persona-tarefa é causalmente simples e aproximadamente aditiva:

• Localização: A região abrange o último token do prompt ($p_{last}$) e os dois primeiros tokens gerados ($g_1, g_2$), especificamente dentro de uma faixa de camadas iniciais a médias.
• Evidência: Nesta região, a substituição da previsão aditiva ($h_{BB} + \Delta X + \Delta Y$) pelo residual limpo produz saídas a jusante com divergência KL muito baixa (por exemplo, KL mediano de 0,0004 na camada 6 para Gemma-2-2B-IT em $p_{last}$).
• Geometria: Os vetores $\Delta X$ e $\Delta Y$ são parcialmente separáveis (baixa similaridade de cosseno entre eles), e o termo de interação, embora não negligenciável em norma, não rotaciona o vetor combinado significativamente para longe da soma aditiva.
• Robustez: Este "regime aditivo localizado" mantém-se através de diferentes escalas de modelo (1,5B a 3B), diferentes arquiteturas (Gemma vs. Qwen) e em ambas as grades curta e longa de persona.

2. Fidelidade Comportamental

A substituição aditiva preserva o conteúdo semântico da persona.

• Ao substituir a previsão aditiva em $p_{last}$ (camada 14), o modelo gera saídas contendo marcadores específicos da persona em taxas comparáveis à condição limpa (58,3% vs. 66,7% para "Qualquer marcador presente").
• Crucialmente, simplesmente subtrair a contribuição da persona ($\Delta X$) em um único local ($p_{last}$) não remove os marcadores da persona (62,5% de presença), indicando que o conteúdo da persona não está localizado em um único vetor residual, mas é distribuído.

3. O Limite da Aditividade

O artigo estabelece um limite nítido para a aproximação aditiva:

• Falha de Injeção no Hospedeiro: Substituir a previsão aditiva em cache por um prompt de hospedeiro baseline (onde o texto da persona é removido) falha em recuperar o comportamento completo condicionado à persona. A lacuna KL permanece grande (KL mediano ~2,84 vs. 3,05 para baseline), recuperando apenas uma pequena fração do comportamento alvo.
• Limite Multicamada: Fixar a previsão aditiva através de múltiplas camadas (até 22 camadas) não melhora o resultado e eventualmente degrada o desempenho, pois impede a propagação direta natural.
• Conclusão: O regime aditivo local captura a composição do próximo passo (como o modelo transita do prompt para a resposta), mas não accounta para o mecanismo completo de geração de múltiplos tokens, que depende de atenção de volta às posições do texto da persona ao longo de todo o prompt.

Principais Contribuições

1. Localização da Composição: O artigo caracteriza a região específica (camadas iniciais/médias na transição de prompt para resposta) onde as especificações de persona e tarefa se combinam de maneira causalmente simples e aditiva.
2. Decomposição de Efeitos: Fornece uma explicação em nível de fluxo residual que separa efeitos puros de persona, efeitos puros de tarefa e sua interação, demonstrando que, embora a interação exista, a soma aditiva é um forte preditor do estado composto na região identificada.
3. Distinção entre Mecanismos Locais e Distribuídos: O trabalho esclarece que, enquanto a composição de persona e tarefa é localmente aditiva no ponto de formação da resposta, a geração de conteúdo condicionado à persona é um mecanismo distribuído que depende da atenção ao contexto completo do prompt, o qual não pode ser substituído por um único vetor residual.

Significado e Alegações

O artigo afirma fornecer uma explicação em nível de fluxo residual de onde o prompting de papel é causalmente simples o suficiente para ser aproximado aditivamente e onde essa história termina.

• Modéstia: Os autores afirmam explicitamente que não reivindicam "encerramento em nível de circuito" (identificação de neurônios ou pesos específicos) nem propõem uma ferramenta de direção para controle. O objetivo é a caracterização, não o controle.
• Generalidade: As descobertas mantêm-se através de diferentes famílias de modelos e complexidades de prompts, sugerindo uma propriedade generalizável de modelos ajustados por instrução sobre como integram papel e tarefa.
• Limitação: O artigo reconhece que a análise está restrita à região próxima à formação da resposta e não caracteriza o mecanismo distribuído completo necessário para a manutenção de persona de longo horizonte.

Em resumo, o artigo demonstra que prompts "Como X, faça Y" criam um regime aditivo localizado perto da transição de entrada para saída, mas a geração completa condicionada à persona depende de um mecanismo de atenção mais amplo e distribuído que resiste à substituição residual simples.