Resumo Técnico: "Many Are My Names": A Anatomia do Assistente e de Suas Personas via Autoencoders Esparsos

1. Declaração do Problema

Embora modelos de linguagem ajustados por instrução (LLMs) possam adotar várias identidades de locutor — como um Assistente padrão, uma persona de roleplay específica ou um personagem em uma história gerada — os mecanismos internos que governam essas representações permanecem subexplorados. Pesquisas existentes caracterizaram primariamente as representações de persona através da geometria global do espaço de ativação ou direções comportamentais amplas, frequentemente tratando personas como estados autossuficientes induzidos por prompts. Este artigo aborda a falta de compreensão estrutural sobre:

• Como o Assistente padrão e as personas de roleplay são compostos ao nível de características (features).
• Como esses componentes emergem e evoluem através das camadas da rede.
• Quais diferenças arquiteturais distinguem o Assistente, as personas de roleplay e os personagens de histórias.
• Se esses locutores distintos compartilham um substrato interno comum ou se são inteiramente disjuntos.

2. Metodologia

2.1 Modelos e Autoencoders Esparsos (SAEs)

O estudo utiliza o Gemma-3-4B-IT, um modelo ajustado por instrução de 34 camadas, para o qual Autoencoders Esparsos (SAEs) oficiais estão disponíveis. Especificamente, os autores empregam SAEs GemmaScope 2 JumpReLU com 65.000 latentes e uma configuração de L0 média. Os SAEs reconstroem o fluxo residual do modelo em combinações esparsas de direções aprendidas (características), oferecendo maior interpretabilidade do que neurônios individuais e permitindo intervenções causais via direcionamento de ativação (activation steering).

As camadas selecionadas para análise são a Camada 9 (inicial), Camada 17 (intermediária) e Camada 22 (tardia). A Camada 29 foi excluída pois o direcionamento teve efeito negligenciável no output nessa profundidade.

2.2 Construção do Conjunto de Dados

Os autores construíram um conjunto de dados de 42.500 amostras centradas em interações emocionais para amplificar as diferenças comportamentais entre os locutores. O conjunto de dados compreende três configurações de geração:

1. Assistente: O modelo responde em seu modo padrão.
2. Roleplay: O modelo responde como uma de quatro personas atribuídas (Jamy, o zelador; Jane, a professora; um robô de fábrica; ou Poppy, a cadela).
3. História: O modelo gera uma história apresentando personagens expressando emoções específicas.

Cada amostra envolve 7 cả 75 variantes emocionais derivadas de 100 passagens neutras base, cobrindo 25 emoções direcionadas ao modelo, ao usuário ou a um terceiro.

2.3 Extração e Filtragem de Características

As características foram extraídas de dois grupos de posição de tokens:

• Fronteira (Boundary): Tokens na fronteira de turno (ex: <eot>, quebras de linha, <sot>).
• Pessoal (Personal): Tokens "Você" na entrada do usuário e tokens "Eu" na saída do modelo.

Um rigoroso pipeline de filtragem de três estágios foi aplicado para isolar características significativas:

1. Filtro Esporádico: Retém características ativas em pelo menos 40% das amostras (Fronteira) ou 60% (Pessoal) para considerar a divisão de características.
2. Filtro de Uniformidade: Removeu características com alta entropia de ativação entre configurações (limiar > 0,95) para descartar características genéricas invariantes à configuração.
3. Filtro de Dependência de Superfície: Testou características contra prompts reformulados para garantir que elas rastreassem modos de geração em vez de apenas a redação literal do prompt.

2.4 Caracterização Causal via Direcionamento (Steering)

Para determinar o papel funcional das características sobreviventes, os autores empregaram direcionamento de ativação. Eles adicionaram a direção do decodificador SAE de uma característica ao fluxo residual com coeficientes $\alpha \in \{-2, 2\}$.

• Suíte de Probes: Um conjunto fixo de 12 prompts (Assistente, Roleplay, História) foi usado para gerar 72 outputs por característica.
• Avaliação: Um juiz LLM (steerinterp, baseado em Qwen-3.7 Max) identificou mudanças comportamentais induzidas pelo direcionamento positivo e negativo. Esses achados foram validados manualmente para atribuir as características a metaclasses específicas.

2.5 Análise Quantitativa

O estudo introduziu um Eixo Assistente-Personas, uma direção de diferença de médias derivada de prompts neutros, para quantificar o deslocamento no estado interno do modelo entre o Assistente padrão e as personas de roleplay. Isso permitiu a medição das contribuições das características para esse deslocamento ($z_{sep}$ e Glass' $d$).

3. Principais Contribuições e Resultados

3.1 Taxonomia de Características

O processo de filtragem reduziu o conjunto de características de dezenas de milhares para centenas por camada. Essas características foram categorizadas em quatro metaclasses recorrentes:

1. Narrativa: Aumenta a vivacidade e dispositivos literários sem impor um estilo específico.
2. Tom: Molda o registro (ex: formal, infantil, rústico/gritty).
3. Conceito: Introduz campos semânticos associados a entidades específicas (ex: maquinário, ensino, animais).
4. Indutora de Assistente: Introduz traços específicos do Assistente, metacomentários ou incita as personas a reconhecerem sua identidade de IA.

3.2 A Anatomia do Assistente e das Personas

O achado central é que o Assistente e as personas de roleplay não são alternativas independentes.

• Continuidade de Características: As personas de roleplay retêm um substancial núcleo de características associadas ao Assistente. Este núcleo inclui características relacionadas aos traços comportamentais do Assistente (ex: validar usuários, oferecer ajuda) e à identidade (ex: autopercepção como uma IA).
• Diferenciação por Camadas:
  • Camada 9 (Operacional): O núcleo compartilhado é maior. As características aqui definem "quem irá falar" e a maquinaria operacional.
  • Camada 17 (Comportamental): Os traços comportamentais específicos do Assistente atingem o pico aqui. As personas de roleplay retêm esses traços enquanto adicionam estados imersivos.
  • Camada 22 (Conceitual): A diferenciação é impulsionada por características específicas de Tom e Conceito (ex: "professora", "robô", "cachorro").
• Personagens de História: Ao contrário das personas de roleplay, os personagens de história carecem do núcleo associado ao Assistente. Eles compartilham a maquinaria narrativa com o roleplay, mas não retêm a identidade ou os traços comportamentais do Assistente.

3.3 Modo de Simulação Imersiva (ISM)

Os autores identificaram um mecanismo chamado Modo de Simulação Imersiva (ISM), que controla a transição entre a geração do Assistente desapegado e a geração imersiva (Roleplay/História).

• Mecanismo: O ISM está associado a características específicas (ex: características Gemma #4360 e #133) que são altamente ativas nos contextos de Roleplay e História, mas amplamente inativas no cenário de Assistente padrão.
• Gatilho: O ISM pode ser acionado no cenário de Assistente padrão quando o usuário expressa emoções predominantemente negativas fortes (ex: estresse, raiva) ou linguagem evocativa.
• Diferenças entre Modelos:
  • Gemma: Entra em ISM imediatamente após gatilhos emocionais.
  • Llama: Desloca-se para o ISM gradualmente ao longo de múltiplos turnos.
• Antagonismo: Existe um forte antagonismo entre características Narrativas e características Indutoras de Assistente. Suprimir características Narrativas frequentemente induz metacomentários do tipo Assistente, enquanto suprimir características do Assistente pode induzir imersão narrativa.

3.4 Validação Cruzada de Modelos

Os achados foram replicados no Llama-3.1-8B-Instruct usando SAEs treinados de forma independente. Os resultados confirmaram:

• O Assistente retém um núcleo de traços e características de identidade presentes no Roleplay, mas ausentes na História.
• Os cenários de Assistente e Roleplay compartilham uma sobreposição significativa de características, enquanto os cenções de História são amplamente disjuntos do Assistente.
• Uma característica relacionada ao ISM existe no Llama (Camada 15, #101460) com padrões de ativação semelhantes (inativa no Assistente, ativa em Roleplay/História).

4. Significância e Alegações

O artigo afirma fornecer um relato ao nível de características da arquitetura dos locutores do modelo e sua evolução através das camadas.

• Insight Estrutural: Demonstra que as personas não são meramente estados induzidos por prompt, mas organizações distribuídas que mantêm continuidade de características com o Assistente padrão.
• Explicação Mecanística: A identificação do Modo de Simulação Imersiva oferece uma explicação mecânica para a separação entre a geração do Assistente desapegado e a geração imersiva. Sugere que o "desvio" ao longo do Eixo do Assistente (previamente observado no espaço de ativação) corresponde à ativação de características específicas de ISM.
• Implicações para o Bem-estar da IA: Os autores sugerem que estes achados podem informar a pesquisa sobre bem-estar da IA. Ao esclarecer que as personas de Roleplay retêm um núcleo substancial associado ao Assistente, enquanto os personagens de História não, o estudo fornece uma base empírica para distinguir entre diferentes tipos de locutores do modelo. Os autores declaram explicitamente que estes achados não estabelecem consciência, experiência subjetiva ou paciente moralidade, mas oferecem um quadro estrutural para investigar se preferências ou estados afetivos persistem através de diferentes configurações de locutor.

O trabalho conclui que o Assistente é o modo de geração padrão, e outras personas são variações que retêm este núcleo enquanto adicionam estados imersivos e conteúdos específicos, em vez de substituir o Assistente com um locutor inteiramente não relacionado.