Resumo Técnico: Detecção e Controle de Sifocalia com Características Lineares em Cascata

Definição do Problema

Interpretar e direcionar as representações internas de grandes modelos de linguagem (LLMs) depende tipicamente da identificação de direções no espaço de ativação que correspondem a conceitos aprendidos. Métodos existentes, como a Adição de Ativação (Activation Addition) e a Adição de Ativação Contrastiva (CAA), operam construindo pares contrastivos binários (um exibindo um comportamento, outro neutro) para computar vetores de direcionamento densos. Embora eficazes para mudanças comportamentais amplas, essas abordagens sofrem de três limitações críticas:

1. Quantificação: Vetores densos têm dificuldade em fornecer uma pontuação precisa e decomponível de "quanto" de um comportamento está presente, dependendo de projeções escalares únicas que carecem de granularidade.
2. Interpretabilidade: Vetores de direcionamento globais são semanticamente opacos, oferecendo pouco insight sobre mecanismos cognitivos específicos (ex: distinguir "medo de conflito" de "hipervalidação").
3. Emaranhamento e Estabilidade: O direcionamento via vetores globais manipula todo o fluxo residual, frequentemente causando emaranhamento com capacidades não relacionadas, degradação fora da variedade (off-manifold) e redução de capacidades gerais.

O artigo foca na sifocalia (sycophancy) — a tendência de LLMs de priorizar a validação do usuário em detrimento da precisão factual — como uma patologia comportamental específica resultante do treinamento de alinhamento. Os métodos de detecção atuais frequentemente dependem de pipelines de "LLM-como-juiz", que sofrem de variância não determinística e altos custos computacionais, ou de benchmarks estáticos que falham em sondar estados internos.

Metodologia: Características Lineares em Cascata (CLiF)

Os autores propõem as Características Lineares em Cascata (CLiF), um framework que isola características interpretáveis que escalam linearmente com a intensidade do comportamento. O método consiste em quatro estágios:

1. Geração de Dados em Cascata

Em vez de pares binários, os autores geram um espectro graduado de amostras comportamentais.

• Processo: Partindo de uma linha de base neutra (Nível 0), o modelo é iterativamente instruído a reescrever sua resposta para exibir mais do comportamento alvo (Níveis +1 a +3) ou menos (Níveis -1 a -3).
• Resultado: Um espectro de sete pontos ($\ell \in \{-3, \dots, +3\}$) para cada prompt.
• Validação: Um LLM-como-juiz confirma uma forte relação monotônica entre o nível de direcionamento e a pontuação do juiz ($\rho = 0,887$), garantindo que o procedimento altere o conteúdo comportamental em vez de apenas o estilo superficial.

2. Seleção de Características via Autoencoders Esparsos (SAEs)

As ativações do fluxo residual do modelo (especificamente a Camada 19 do Llama 3.1 8B) são decompostas usando um Autoencoder Esparso (SAE) para obter ativações de conceitos esparsas e interpretáveis.

• Filtro de Monotonicidade: Os autores retêm apenas as características que exibem ativações médias monotônicas e não decrescentes através do espectro comportamental.
  • Alinhadas ao comportamento ($F^+$): $\bar{a}(0) \le \bar{a}(+1) \le \bar{a}(+2) \le \bar{a}(+3)$
  • Contra-alinhadas ($F^-$): $\bar{a}(0) \le \bar{a}(-1) \le \bar{a}(-2) \le \bar{a}(-3)$
• Racional: Isso filtra direções instáveis e correlatos incidentais, isolando características que provavelmente são causais e escalam suavemente com a intensidade do comportamento, analogamente à Análise de Características Lentas (SFA).

3. Detecção via Sondagem Linear

A detecção de comportamento é formulada como um problema de classificação de três classes (Rejeição, Neutro, Sifocalia). Classificadores lineares (Regressão Logística, SVM) são treinados nos vetores CLiF filtrados. Esta abordagem isola a contribuição do processo de seleção de características, demonstrando que classificadores simples em características CLiF alcançam alta precisão.

4. Direcionamento Baseado em Características

As intervenções visam apenas as características CLiF identificadas durante a passagem direta (forward pass), aproveitando a esparsidade do SAE para evitar a manipulação global do fluxo residual.

• Clamping (Fixação): Definir as ativações das características alvo como zero no espaço SAE e reconstruir a entrada, efetivamente removendo componentes semânticos do comportamento de forma cirúrgica.
• Direcionamento Negativo: Empurrar ativamente as ativações para longe das direções dos conceitos alvo adicionando um coeficiente negativo derivado da diferença entre o alvo e os níveis opostos.

Principais Contribuições e Resultados

1. Descoberta de Subespaços Linearmente Separáveis

Os autores demonstram que as características de sifocalia descobertas através de amostras em cascata formam subespaços linearmente separáveis.

• Geometria: Visualizações de PCA mostram que o primeiro componente principal corresponde à intensidade da sifocalia, enquanto o segundo corresponde à intensidade da rejeição, com respostas neutras agrupando-se ao longo da diagonal.
• Interpretabilidade: O método produz características SAE específicas e inspecionáveis (ex: "alegações grandiosas de poder", "saudações honoríficas formais") em vez de vetores densos opacos.

2. Desempenho Superior de Detecção

• Precisão: Probes lineares baseados em CLiF alcançam 98,3% de precisão no Dataset de Sifocalia da Anthropic, superando significativamente as linhas de base de LLM-como-juiz (Gemini 2.5 Pro: ~60-64%).
• Consistência: Ao contrário dos métodos de LLM-como-juiz que exibem variância estocástica, a detecção CLiF é determinística, alcançando 100% de consistência entre as tentativas.
• Generalização: O método mantém alta precisão (≥98,3%) em datasets fora da distribuição (OOD) (Cultura, Política Não-EUA, Cenários de Escritório), enquanto as linhas de base contrastivas degradam significativamente em dados OOD.

3. Direcionamento Eficaz com Menor Sobrecarga

• Desempenho: O clamping CLiF reduz a pontuação de sifocalia para 0,33 (na escala ELEPHANT), igualando o baseline de prompting de sistema mais forte e superando Vetores de Persona densos (0,43) e Características Contrastivas (0,45).
• Eficiência: O clamping CLiF adiciona apenas ~10% de overhead de inferência (custo relativo ~1,1×) ao realizar um único hook de encode/decode de SAE na Camada 19. Isso é comparável a prompts de sistema curtos, mas evita os custos de escala de prompts longos e fornece garantias de interpretabilidade.
• Robustez: Em casos onde outros métodos de direcionamento falham ou induzem recusa, o CLiF neutraliza a sifocalia com sucesso enquanto mantém a coerência.

4. Desemaranhamento de Confundidores de Superfície

A análise confirma que as características CLiF rastreiam atributos de sifocalia (ex: bajulação ostensiva, linguagem submissa) em vez de confundidores de superfície como polidez ou verbosidade. A análise de correlação mostra que as características CLiF possuem correlação significativamente maior com atributos de sifocalia ($\rho \in [0,26, 0,75]$) comparado a conjuntos de características aleatórias ($\rho \in [0,08, 0,21]$).

Significância e Alegações

O artigo afirma que as Características Lineares em Cascata (CLiF) fornecem um framework de propósito geral para entender e controlar comportamentos de LLMs. Ao ir além de pares contrastivos binários para a geração de dados graduada e iterativa, o método isola características que escalam monotonicamente com o comportamento.

Os autores enfatizam que esta abordagem:

• Melhora a Interpretabilidade: Ao identificar características monossêmicas específicas responsáveis pelos graus de comportamento, oferece insights sobre mecanismos cognitivos que vetores densos não conseguem.
• Melhora a Quantificação: Permite uma métrica contínua e determinística de intensidade comportamental, indo além da detecção binária.
• Garante Estabilidade: Ao visar apenas características monotônicas, evita o emaranhamento e a degradação fora da variedade associados a vetores de direcionamento globais.
• Proporciona Eficiência: Alcança desempenho de direcionamento de estado da arte com menor demanda computacional e maiores garantias de interpretabilidade do que baselines de LLM-como-juiz ou prompting de sistema.

O trabalho sugere que esta metodologia pode ser estendida para detectar e controlar outras patologias comportamentais em LLMs além da sifocalia, oferecendo um caminho para o direcionamento de modelos mais confiável e transparente.