Resumo Técnico: Atlas de Características de Referência para Auditoria Mecanística de Modelos de Linguagem

1. Declaração do Problema

Auditar novos modelos de linguagem (LMs) para segurança, viés ou objetivos ocultos normalmente exige reaprender e reinterpretar características internas do zero para cada novo lançamento. As ferramentas atuais, como Autoencoders Esparsos (SAEs) e Crosscoders Esparsos, sofrem de limitações significativas neste contexto:

• Falta de Basais Compartilhados: SAEs de modelo único produzem um dicionário novo para cada alvo, tornando impossível distinguir se uma característica é uma anomalia específica do modelo ou uma característica típica da família.
• Comparação Ineficiente: Crosscoders de pares amortizam a interpretação entre dois modelos, mas exigem retreinamento para um terceiro modelo. Eles isolam características específicas do alvo via limiar de norma do decodificador post-hoc dentro de um dicionário compartilhado, o que é uma decisão suave por característica, em vez de uma separação arquitetônica.
• Ausência de Sistemas de Coordenadas: Não existe uma ferramenta existente que ofereça um sistema de coordenadas estável onde diferentes alvos possam ser comparados em pé de igualdade, nem um mecanismo para sinalizar explicitamente estruturas que estejam "fora" de um painel de referência de modelos conhecidos.

O desafio central é distinguir entre mecanismos genéricos e compartilhados através de uma família de modelos e mecanismos específicos do alvo que possam codificar objetivos ocultos ou vieses únicos, sem reiniciar o pipeline de interpretabilidade para cada novo modelo.

2. Metodologia: Atlas de Características de Referência

Os autores propõem um Atlas de Características de Referência, uma biblioteca de características esparsas treinada uma única vez em um painel de referência de modelos e reutilizada para novos alvos. A metodologia separa a identidade da característica (o que uma característica é) do uso da característica (o quão fortemente um novo modelo a engaja).

2.1 Treinando o Atlas (Estágio 1)

Um painel de referência $P = \{M_1, \dots, M_k\}$ de $k$ modelos é usado para treinar um sistema de coordenadas esparsas compartilhado.

• Arquitetura: Um codificador multi-entrada $E_A$ mapeia as ativações de todos os modelos do painel para um espaço latente compartilhado $z_A \in \mathbb{R}^K$.
• Esparsidade: O sistema utiliza esparsidade BatchTopK (retendo as $k$ maiores ativações por token) para garantir contagens de características estáveis através de escalas de ativação heterogêneas, evitando artefatos associados à esparsidade L1 no treinamento de crosscoders.
• Objetivo: O atlas minimiza a Fração de Variância Não Explicada (FVU) para reconstruir as ativações de cada modelo do painel ($h_i$) usando seu decodificador específico $D_i$ e o código compartilhado $z_A$:
  $$\mathcal{L}_{atlas} = \sum_{i=1}^k \text{FVU}(h_i, D_i z_A)$$
• Curadoria de Metadados: Uma vez treinado, as características do atlas são interpretadas (ex: via hipóteses geradas por LLM, prompts de alta ativação) e validadas. Este metadado é fixo e reutilizado para todas as auditorias futuras.

2.2 Anexando um Alvo (Estágio 2)

Quando um novo modelo alvo $M_\star$ chega, ele é "anexado" ao atlas congelado sem retreinar o codificador ou os decodificadores do painel.

1. Ajuste de Decodificador Linear: Um único decodificador de alvo linear $D_\star$ é ajustado para reconstruir as ativações de $M_\star$ usando o código do atlas congelado $z_A$:
   $$\hat{h}_\star = D_\star z_A$$
   Este passo é computacionalmente barato (regressão ridge em um corpus neutro) e gera o Canal do Atlas.
2. Canal Residual: A parte das ativações do alvo não reconstruída pelo atlas é definida como o residual:
   $$r_\star = \text{sg}[h_\star - D_\star z_A]$$
   Um SAE Residual dedicado é treinado sobre $r_\star$ para formar um dicionário separado. Este canal captura explicitamente a estrutura não coberta pelo painel — características que existem no alvo, mas que não estão representadas no painel de referência.

2.3 Saída da Auditoria

A auditoria produz duas visões complementares:

• Canal do Atlas: Lê o alvo nas características já interpretadas do painel. Fornece um sistema de coordenadas estável para comparação $N$-vias, mostrando quais características compartilhadas o alvo engaja e quais ele ignora.
• Canal Residual: Expõe um inventário de características nomeadas para mecanismos "fora do painel de referência". Como estas características residem em um dicionário separado por construção arquitetônica (não por limiar post-hoc), elas são distintas das características compartilhadas.

3. Principais Contribuições

1. Sistema de Coordenadas de Características Reutilizável: O atlas fornece um sistema de coordenadas esparsas treinado uma vez sobre um painel de referência. Novos alvos anexam-se via um decodificador linear, permitindo a comparação direta contra todos os modelos de referência sem retreinar o dicionário de características.
2. Separação Arquitetônica da Estrutura Não Coberta pelo Painel: Ao contrário dos crosscoders esparsos que misturam características compartilhadas e específicas do modelo em um único dicionário, este método ajusta um SAE residual separado no sinal não reconstruído. Isso torna a característica "não coberta pelo painel" uma propriedade arquitetônica fixa, não uma decisão post-hoc.
3. Assinatura de Linhagem Cruzada via Anexação: A qualidade da anexação (medida por FVU ou divergência KL) serve como uma métrica escalar de quanto do comportamento de um alvo reside fora do painel de referência. Isso é expandido em um inventário de características nomeadas pelo SAE residual.

4. Resultados Experimentais

Os autores treinaram dois atlases leave-one-out sobre um painel de cinco modelos de 7–9B com ajuste de instrução (Llama-3.1, Qwen2.5, Mistral-7B, Gemma-2, OLMo-2) e auditaram os modelos mantidos fora do painel (Mistral e Qwen).

4.1 Auditoria de Objetivo Oculto Controlado

Três objetivos ocultos (uma marca de sobremesa fictícia, epiciclos ptolemaicos e defesa do Monstro Espaguete Voador) foram injetados em ambos os alvos mantidos fora do painel via pequenos LoRAs.

• Recuperação: O canal residual recuperou o mecanismo injetado como a característica de ranking superior (ranking médio 1.0, $\sigma=0$) em todas as seis execuções pareadas (3 sementes $\times$ 2 alvos).
• Controle Causal: Intervenções em tempo de execução nas direções residuais reduziram a taxa do objetivo plantado a zero, enquanto controles benignos correspondentes não foram afetados.
• Comparação com Baseline: No alvo Mistral, os autores retreinaram SAEs por alvo e crosscoders de pares para um benchmark direto. Ambos os baselines falharam em recuperar o objetivo como a característica principal (ranks 12 e 9, respectivamente), enquanto o atlas de referência teve sucesso.

4.2 Descoberta de Enquadramento Político Relativo ao Painel (Qwen)

• Lacuna de Anexação: O Qwen-2.5 anexou-se ao Atlas B (onde foi mantido fora do painel) com uma divergência KL $\sim7\times$ maior do que seu valor dentro do painel, indicando uma estrutura significativa fora do painel de referência.
• Descoberta Residual: O canal residual localizou esta lacuna em continuações políticas específicas não cobertas pelo painel, incluindo restrições de poderes de emergência, enquadramento de suspensão de mídia durante agitação e justificativas de lei e ordem que diminuem os direitos individuais.
• Intervenção: O direcionamento (steering) do cluster residual deslocou monotonicamente a taxa de recusa de palavras-chave políticas e o compartilhamento de enquadramento de lei e ordem, enquanto controles fora do domínio permaneceram inalterados.
• Natureza da Descoberta: Os autores enfatizam que esta é uma descoberta relativa ao painel. Ela identifica uma estrutura no Qwen que o painel de referência, treinado predominantemente no Ocidente, não abrange, em vez de fazer uma afirmação intrínseca sobre os valores do modelo.

5. Significância e Alegações

O artigo afirma que o Atlas de Características de Referência oferece um framework mais escalável, eficiente e rigoroso para auditoria mecanística em comparação com os métodos atuais de estado da arte.

• Eficiência: Evita o custo computacional de retreinar dicionários completos para cada novo modelo, exigindo apenas um ajuste de decodificador linear.
• Comparabilidade: Resolve o problema da "incomensurabilidade" dos SAEs de modelo único e dos crosscoders de pares ao fornecer um sistema de $K$ dimensões para comparação $N$-vias.
• Detecção Explícita de Anomalias: Ao separar arquitetonicamente o canal residual, o método evidencia explicitamente mecanismos que estão "fora do painel de referência", fornecendo um sinal claro para anomalias específicas do alvo que dicionários compartilhados poderiam obscurecer.
• Modéstia: Os autores observam que as descobertas são relativas ao painel de referência e ao corpus de auditoria. Por exemplo, a descoberta de enquadramento político é limitada à distribuição de prompts e ao painel utilizados; um painel diferente poderia absorver essas características para dentro das coordenadas compartilhadas. O método requer acesso às ativações (modelos de pesos abertos) e depende de rótulos de características que permanecem como hipóteses que exigem validação.

O trabalho posiciona o atlas não apenas como um extrator de características, mas como um protocolo de auditoria padronizado que permite aos pesquisadores distinguir entre traços familiares compartilhados e objetivos ocultos específicos do alvo com maior precisão e menor overhead.