Circuit Fingerprints: How Answer Tokens Encode Their Geometrical Path

Resumo Técnico: Circuit Fingerprints (Impressões Digitais de Circuitos)

O artigo propõe uma nova perspectiva na interpretabilidade mecânica de Transformers, unificando dois campos que antes eram tratados separadamente: a descoberta de circuitos (identificar quais componentes realizam um cálculo) e o direcionamento de ativações (activation steering, controlar o comportamento do modelo).

1. O Problema

Tradicionalmente, a pesquisa em interpretabilidade divide-se em:

• Descoberta de Circuitos: Busca identificar subredes causais através de intervenções (como activation patching) ou aproximações de gradiente. É um processo computacionalmente caro e focado em "ler" o modelo.
• Direcionamento de Ativações: Busca controlar o comportamento do modelo injetando vetores em seu espaço de representação. É um processo focado em "escrever" no modelo.

A lacuna de pesquisa era entender se essas duas operações operam no mesmo espaço estrutural ou se são métodos distintos para fenômenos diferentes.

2. Metodologia: A Hipótese da Impressão Digital de Circuito

Os autores propõem a Hipótese da Impressão Digital de Circuito (Circuit Fingerprint Hypothesis): os tokens de resposta (o output que o modelo produz), quando processados isoladamente, codificam geometricamente o caminho computacional que os gerou. Em outras palavras, a representação de um token como "Paris" carrega a "assinatura" do circuito que o produz.

A metodologia divide-se em duas operações duais:

A. Leitura (Atribuição Geométrica):
Para descobrir o circuito sem usar gradientes ou intervenções causais exaustivas, o método utiliza o alinhamento geométrico:

1. Extração de Direções de Resposta: Calcula-se a diferença de ativação entre dois tokens de resposta contrastantes ($a^+$ e $a^-$) no último nível do modelo ($\Delta r(L)$).
2. Medição de Contribuição de Componentes: Em vez de apenas projetar a saída no fluxo residual, o método transforma a direção alvo para o "espaço nativo" de cada componente (cabeças de atenção ou MLPs) para evitar ruído de projeção.
3. Descoberta de Bordas (Edge-level): Utiliza uma decomposição de Valores de Shapley para atribuir importância aos canais de Query (Q), Key (K) e Value (V) de cada cabeça de atenção, permitindo rastrear como a informação flui de um componente para outro através do fluxo residual.

B. Escrita (Direcionamento Geométrico):
Se a direção identifica o circuito, ela também pode ser usada para manipulá-lo. Os autores extraem subespaços de intervenção a partir de protótipos de tokens de resposta e aplicam essas direções para alterar o comportamento do modelo (ex: mudar o tom emocional de um texto).

3. Principais Contribuições

1. Unificação Teórica: Demonstra que a interpretabilidade (leitura) e a controlabilidade (escrita) são faces da mesma estrutura geométrica.
2. Eficiência de Descoberta: Propõe um método de descoberta de circuitos baseado apenas em alinhamento geométrico, comparável em eficácia aos métodos baseados em gradiente (como EAP-IG), mas sem a necessidade de retropropagação (backpropagation).
3. Descoberta via Engenharia de Prompt: Demonstra que é possível descobrir circuitos de características específicas (como "emoção" ou "persona") apenas usando instruções de prompt, sem a necessidade de conjuntos de dados específicos para a tarefa.

4. Resultados

• Descoberta de Circuitos: Em benchmarks como IOI (Indirect Object Identification), SVA (Subject-Verb Agreement) e MCQA (Multiple-Choice QA), o método Circuit Fingerprint (CF) obteve métricas de fidelidade (CPR e CMD) comparáveis aos métodos de estado da arte baseados em gradiente em quatro famílias de modelos (GPT-2, Qwen, Llama, OPT).
• Direcionamento de Emoção: O método de direcionamento geométrico superou o instruction prompting tradicional. Em testes de classificação de emoção, o direcionamento alcançou 69,8% de precisão, contra 53,1% do uso de prompts de instrução, mantendo a precisão factual (aprox. 89,6%).
• Consistência Causal: O método de escrita mostrou-se capaz de suprimir respostas corretas em testes de IOI de forma similar ao activation patching, validando que as direções extraídas são estruturais e não apenas correlações superficiais.

5. Significância

O trabalho altera o paradigma da interpretabilidade mecânica ao sugerir que os circuitos dos Transformers não são apenas grafos causais abstratos, mas estruturas geométricas fundamentais codificadas no espaço de ativação. Isso simplifica o conjunto de ferramentas de interpretabilidade: em vez de métodos separados para entender e controlar modelos, uma única análise geométrica permite realizar ambas as tarefas.