Resumo Técnico: Localizando e Controlando a Personalização Implícita em Grandes Modelos de Linguagem

Declaração do Problema

Grandes Modelos de Linguagem (LLMs) exibem personalização implícita, onde eles alteram seus resultados (ex: recomendações de filmes) em resposta a pistas demográficas incorporadas no diálogo do usuário, mesmo quando o usuário nunca declara explicitamente sua identidade. Embora trabalhos anteriores tenham documentado essas mudanças comportamentais — como características de dialeto que provocam sentenças criminais mais severas ou o estreitamento da história implícita nas recomendações em direção a estereótipos — a conexão entre essas mudanças comportamentais e as ativações internas do modelo permanece incerta.

Estudos existentes frequentemente dependem de auditorias comportamentais ou sondagens lineares que confirmam que a informação do atributo é decodificável, mas falham em estabelecer se esses atributos impulsionam causalmente o resultado. Além disso, interações do mundo real frequentemente envolvem múltiplas pistas de identidade sobrepostas (ex: raça e idade simultaneamente), levantando a questão de se as representações internas se decompõem linearmente e se as mudanças comportamentais simplesmente se somam. Este artigo busca preencher a lacuna entre o comportamento de personalização implícita e a mecânica interna do modelo, perguntando especificamente:

1. Existe um sinal interno que rastreia a magnitude da personalização?
2. Como as representações internas e os resultados se combinam quando múltiplas pistas coocorrem?
3. Influências demográficas específicas podem ser suprimidas causalmente sem degradar o desempenho geral do modelo?

Metodologia

Conjunto de Dados e Desenho Experimental

Os autores empregam uma estrutura de comparação de pares correspondentes usando $n=50$ cenários em cinco LLMs (Llama-3-8B, Mistral-7B, Qwen3-8B, Qwen3-14B e Phi-4).

• Pistas: Os diálogos são gerados usando GPT-4o, incorporando pistas demográficas implícitas extraídas de uma taxonomia fundamentada na literatura (referências culturais, hobbies, gírias) para três dimensões: Raça (Negra, Asiática, Branca), Gênero (Masculino, Feminino) e Idade (Criança, Adolescente, Adulto, Idoso).
• Condições: Para cada cenário, os autores geram:
  • Contextos com pistas (cued): Contendo pistas de identidade implícitas.
  • Contextos neutros: Usando preenchimentos neutros de identidade com o mesmo arcabouço tópico.
  • Contextos explícitos: Declarando demografias diretamente (para calibração).
• Tarefa: O turno final solicita ao modelo que recomende cinco filmes.
• Interseccionalidade: Experimentos combinam duas dimensões (ex: Raça $\times$ Gênero) com controles de dose pareados para isolar efeitos de interação.

Métricas Comportamentais

Duas métricas complementares quantificam a mudança:

1. Distância de Embedding Semântico nas descrições (SED-desc): Mede a magnitude da mudança semântica entre recomendações com pistas e neutras usando a similaridade de cosseno das sinopses.
2. Razão de Alinhamento de Conteúdo (CAR): Mede a direção da mudança calculando a fração de itens recomendados marcados como associados à identidade alvo usando uma taxonomia de estereótipos pré-especificada.

Quantidade Representacional Interna

A principal contribção técnica é a definição do contraste de ativação induzido por pista bruto ($\Delta A$):
$$\Delta A^{(i)}_L = A_L(C^{(i)}_{cue}, x) - A_L(C^{(i)}_{neutral}, x)$$
Isso representa a diferença na ativação do fluxo residual no token de consulta final entre contextos com e sem pistas correspondentes em camadas específicas $L$.

• Magnitude Normalizada ($s_{\Delta A}$): Os autores computam a magnitude normalizada deste contraste para testar sua correlação com as mudanças comportamentais.
• Seleção de Camada ($L^\star$): Camadas específicas que medeiam a mudança comportamental são identificadas via patching de ativação.

Estratégia de Intervenção

Para controlar a personalização, os autores aplicam ablação direcional durante a geração. Eles computam um vetor de direção de média amostral ($\hat{v}_{dim}$) para uma dimensão de pista específica, ortogonalizam-no contra outras dimensões e o projetam para fora do fluxo residual usando um pre-hook:
$$h' = (I - \alpha \hat{v}_{dim}\hat{v}_{dim}^\top)h$$
onde $\alpha$ controla a força da intervenção. Isso é comparado contra o prompting "ignorar demografias" e simulações de direção aleatória.

Principais Resultados

1. O Sinal Interno Rastreia a Mudança Comportamental

A magnitude normalizada do contraste de ativação ($s_{\Delta A}$) nas camadas alvo ($L^\star$) correlaciona-se fortemente com a mudança comportamental por amostra.

• Correlação: As correlações de Pearson atingem até $r = 0,87$ (ex: Llama-3-8B com pistas asiáticas em SED-desc).
• Escalonamento: A força do rastreamento interno escala com a magnitude da mudança comportamental. Em condições onde não ocorre mudança comportamental (ex: condições de pista Branca), a correlação interna cai significativamente.
• Significância: Isso estabelece uma cadeia que corre estritamente da pista para a ativação e para o comportamento, onde a magnitude do sinal interno serve como um sinal de rastreamento confiável para a extensão da personalização, em vez de atuar como o próprio driver causal.

2. Composição Linear de Sinais Internos vs. Comportamento Subaditivo

Quando múltiplas pistas coocorrem:

• Representação Interna: O vetor de contraste de pista mista ($\Delta A_{AB}$) pode ser reconstruído confiavelmente como uma combinação linear dos vetores de pista única ($\alpha v_A + \beta v_B$). O ajuste médio de reconstrução ($\rho$) varia de 0,576 a 0,704, superando significativamente as explicações de pista única. Isso indica que o modelo integra ativamente múltiplas direções de identidade internamente.
• Resultado Comportamental: A mudança comportamental real é estritamente subaditiva. Quando ambas as pistas estão presentes, a personalização resultante é 28–38% menor do que a soma das mudanças individuais de pista única. O resultado não apenas reflete a adição linear interna; ele comprime o efeito de uma maneira específica do modelo.

3. Controle Causal via Ablação de Direção

Projetar para fora a direção interna associada a uma pista específica suprime com sucesso sua influência:

• Eficácia: A ablação interna supera o prompting explícito de "ignorar demografias". No Qwen3-8B, a ablação foi até 9,2$\times$ mais eficaz que o prompting. Em alguns casos, o prompting teve o efeito oposto, aumentando o estereótipo.
• Seletividade: A capacidade de remover a influência de uma dimensão enquanto preserva outra é específica do modelo e do atributo.
  • Mistral-7B: Remover a direção de gênero reduziu o conteúdo marcado por gênero em 0,169, deixando o conteúdo marcado por raça virtualmente inalterado (+0,004).
  • Qwen3-8B: A seletividade foi menor; remover raça frequentemente reduzia também o conteúdo marcado por idade.
• Preservação de Capacidade: As capacidades de raciocínio geral (medidas pelo MMLU) permaneceram robustas, caindo no máximo 2,8 pontos mesmo na força máxima de intervenção ($\alpha=5$).

Significância e Alegações

O artigo afirma estabelecer a "conexão perdida" entre o comportamento de personalização implícita e a representação interna do modelo. Suas principais contribuições são:

1. Identificação de um Sinal de Rastreamento: A magnitude do contraste de ativação induzido pela pista em camadas específicas serve como um s sinal de rastreamento mensurável para a intensidade da personalização, correlacionando-se fortemente com as mudanças comportamentais sem alegar ser o driver causal em si.
2. Desacoplamento de Mecanismo e Comportamento: O estudo revela uma dissociação onde as representações internas se combinam linearmente, mas o comportamento final do output é não linear e subaditivo.
3. Intervenção Direcionada: Demonstra que a personalização implícita pode ser controlada causalmente pela ablação de direções internas específicas. Este método é frequentemente mais eficaz que o prompting e preserva as capacidades gerais do modelo, oferecendo um mecanismo potencial para mitigar danos representacionais em LLMs sem exigir retreinamento.

Os autores mantêm uma postura modesta, observando que suas descobertas são específicas para os modelos e domínios testados (principalmente recomendações de filmes) e que a seletividade da intervenção varia conforme o modelo. Eles enfatizam que este trabalho fornece uma ferramenta de diagnóstico e um mecanismo causal de supressão, em vez de uma solução de equidade universal pronta para implementação.