🤖 machine learning

Comparing Linear Probes with Mahalanobis Cosine Similarity

Este artigo prova teoricamente e valida empiricamente que a similaridade de cosseno de Mahalanobis em relação a uma sonda de referência fora da distribuição prediz linearmente a AUROC fora da distribuição de uma sonda linear sob suposições gaussianas, oferecendo uma alternativa superior à similaridade de cosseno padrão para comparar sondas.

Autores originais: Zhuofan Josh Ying, Peter Hase, Nikolaus Kriegeskorte

Publicado 2026-06-19

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Zhuofan Josh Ying, Peter Hase, Nikolaus Kriegeskorte

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

A Visão Geral: Por que algumas "Sondas" funcionam e outras não?

Imagine que você tem uma máquina gigante e complexa (como um Grande Modelo de Linguagem) que pensa em uma linguagem de números e padrões que não conseguimos ver facilmente. Os pesquisadores usam "sondas lineares" para espiar dentro dessa máquina. Pense em uma sonda como o feixe de uma lanterna. Você aponta o feixe em uma direção específica para ver se a máquina está "pensando" em um conceito específico, como "Esta frase é verdadeira?" ou "Esta pessoa é do sexo masculino?".

O problema é que essas lanternas são frágeis. Um feixe que funciona perfeitamente em uma sala (os dados de treinamento) pode se apagar no momento em que você entra em uma sala ligeiramente diferente (novos dados). Os pesquisadores querem encontrar uma maneira de prever se uma lanterna funcionará em uma nova sala apenas observando como ela foi construída.

O Jeito Antigo vs. O Jeito Novo

Para comparar duas lanternas (sondas), os pesquisadores geralmente medem o ângulo entre elas usando a Similaridade de Cosseno Euclidiana.

A Analogia: Imagine que você está comparando duas agulhas de bússola. O método antigo apenas olha para o ângulo entre as agulhas, tratando cada direção no mapa como igualmente importante.
A Falha: Isso é como comparar bússolas em um mapa onde algumas direções são "pegajosas" (difíceis de atravessar) e outras são "escorregadias" (fáceis de atravessar). Se você ignorar as partes pegajosas, sua comparação estará errada.

Os autores propõem um novo método chamado Similaridade de Cosseno de Mahalanobis (MCS).

A Analogia: Isso é como comparar agulhas de bússola usando óculos especiais que levam em conta a "pegajosidade" do terreno. Ele sabe que algumas direções nos dados são mais importantes (onde os dados realmente variam) e outras são apenas ruído. Ele pesa a comparação com base na própria forma dos dados.

A Grande Descoberta: Uma Linha Perfeita

Os autores descobriram algo surpreendente:
Quando compararam uma sonda treinada em dados antigos com uma sonda treinada em novos dados usando este novo método "consciente do terreno" (MCS), o resultado foi uma linha perfeitamente reta.

A Analogia: Imagine que você tem uma régua (MCS) que mede o quão semelhantes são duas lanternas. Se você usar esta régua, pode prever exatamente quão bem a lanterna funcionará na nova sala (seu "Desempenho de Generalização").
O Resultado: O artigo mostra que, se o escore MCS for alto, o desempenho é alto. Se o escore MCS for baixo, o desempenho é baixo. Essa relação é tão forte que parece uma linha reta desenhada com uma régua (matematicamente, um $R^2$ de 0,98, que é quase perfeito).
O Contraste: Se eles usassem o antigo método de "apenas ângulo" (Euclidiano), os pontos estariam espalhados por toda parte, como uma nuvem bagunçada, tornando impossível prever o desempenho.

Por que isso acontece? (A Magia das "Curvas em S")

O artigo explica por que essa linha reta existe usando um pouco de matemática, mas aqui está a versão simples:

A Razão Sinal-Ruído (SNR): Pense nisso como o quão alto o "sinal da verdade" é em comparação ao "ruído" nos dados.
Duas Formas Diferentes:
- O Desempenho (o quão bem a sonda funciona) segue um formato de S (uma curva sigmoide). Ele começa devagar, acelera e depois estabiliza.
- O Escore MCS também segue um formato de S, mas é um tipo de curva ligeiramente diferente.
O Cancelamento: Quando você combina esses dois formatos de S, eles se cancelam! A "curva" em um formato anula a "curva" do outro.
- A Analogia: Imagine que você está subindo uma colina que curva para a esquerda, mas você também está andando sobre uma esteira que curva para a direita exatamente na mesma taxa. O resultado é que você se move em uma linha perfeitamente reta.

Devido a esse "cancelamento" matemático, a relação entre o escore de similaridade e o desempenho real torna-se uma linha reta.

Quando a Regra Quebra?

Os autores também testaram quando essa linha perfeita quebra, o que nos ajuda a entender os limites da regra:

Mapa Errado (Covariância Errada): Se você usar o antigo método de "apenas ângulo" (ignorando o terreno), a linha desaparece. Você deve usar o mapa "consciente do terreno".
Bússola Ruim (Sondas Não-Fisher): Se a sonda não for construída usando o método matemático ideal (como uma simples "diferença de médias" em vez de um método mais sofisticado), a linha fica bagunçada.
Sinal Minúsculo (Pequena Distância de Fisher): Se o sinal for tão fraco que as "curvas em S" ainda não começaram a curvar, a relação não é linear. (No entanto, nos modelos que eles testaram, o sinal era forte o suficiente para que isso não acontecesse).
Equipes Desbalanceadas: Se um grupo de dados é enorme e o outro é minúsculo (como 99% gatos e 1% cachorros), a linha inclina e quebra.

Resumo

O Problema: É difícil dizer se uma ferramenta (sonda) funcionará em novos dados apenas olhando para ela.
A Solução: Usar a Similaridade de Cosseno de Mahalanobis, que leva em conta a forma e a "pegajosidade" dos dados.
O Resultado: Este método cria uma linha reta quase perfeita entre o escore de similaridade e o desempenho real.
A Conclusão: Você não precisa testar a sonda em novos dados para saber se ela funcionará. Você só precisa medir sua similaridade com uma sonda de referência usando esta régua específica "consciente do terreno".

O artigo prova isso matematicamente e mostra que funciona em diferentes modelos de IA, diferentes camadas dentro desses modelos e muitos tipos de tarefas (como verificar a veracidade ou o gênero). Transforma um problema bagunçado e imprevisível em uma linha limpa e previsível.

Resumo Técnico: Comparando Sondas Lineares com Similaridade de Cosseno de Mahalanobis

Declaração do Problema

Sondas lineares são ferramentas padrão na pesquisa de interpretabilidade para extrair conceitos de representações de redes neurais. No entanto, o comportamento de transferência de suas sondas é notoriamente frágil; sondas treinadas em dados de distribuição interna (ID) frequentemente falham em generalizar para cenários de distribuição externa (OOD), mesmo sob mudanças sutis como negação ou alterações de formatação de prompt. Um desafio crítico é determinar quais sondas irão generalizar e entender por que sondas que parecem semelhantes em uma distribuição divergem em outra.

Os métodos atuais para comparar sondas dependem tipicamente da similaridade de cosseno euclidiana (ECS). Contudo, a ECS trata todas as dimensões igualmente, ignorando o fato de que apenas as dimensões onde os dados realmente variam significamente impactam o desempenho da sonda. Embora Ying et al. (2026) tenham observado empiricamente que a similaridade de cosseno de Mahalanobis (MCS) — que repondera o produto interno pela covariância dos dados OOD — prevê linearmente o AUROC OOD ( $R^2=0,98$ ) para conjuntos de dados de veracidade, essa descoberta carecia de uma explicação teórica e não havia sido validada em diversos modelos, camadas ou domínios de conceitos.

Metodologia

Os autores propõem um arcabouço teórico e empírico para explicar e validar a relação entre a MCS e o desempenho de generalização OOD.

Arcabouço Teórico

O artigo deriva uma relação de forma fechada entre o AUROC OOD de uma sonda e sua MCS em relação a uma sonda de referência treinada em dados OOD. A derivação baseia-se em três suposições estatísticas padrão:

Classes Balanceadas: $Pr(Y=0) = Pr(Y=1) = 0,5$.
Gaussianidade de Projeção: A projeção do vetor de características sobre qualquer direção de sonda segue uma distribuição Gaussiana para cada classe.
Estrutura de Covariância: A covariância total ( $\Sigma_{tot}$ ) é decomposta na covariância agrupada dentro da classe ( $\Sigma_{pool}$ ) e no componente entre classes.

Sob essas suposições, os autores provam que:

AUROC é uma função de formato sigmoide da razão sinal-ruído (SNR) da sonda, $s$ : $AUROC = \Phi(s/\sqrt{2})$ .
MCS (especificamente contra a direção do discriminante de Fisher) é uma função de formato de sinal suave (soft-sign) de $s$ : $MCS \approx s/\sqrt{4+s^2}$ (no limite de uma grande distância de Fisher $z_{max}$ ).

O insight teórico central é que a composição dessas duas funções cancela suas respectivas não-linearidades (a sigmoide e o soft-sign), resultando em uma relação quase linear entre o AUROC e a MCS. A inclinação dessa linha é teoricamente prevista como aproximadamente $1/\sqrt{\pi}$ quando a distância de Fisher é grande.

Avaliação Empírica

Os autores estendem a validação empírica desta relação através de:

Modelos: Llama-3.3-70B, Llama-3.1-8B e Qwen2.5-7B.
Camadas: Diversas camadas (ex: 20, 33, 50, 65) dentro do Llama-70B.
Domínios: 24 conjuntos de dados abrangendo veracidade, classificação de gênero e benchmarks gerais de NLP.
Baselines: Comparação contra a Similaridade de Cosseno Euclidiana (ECS) padrão e uso de diferentes estimadores de covariância (total vs. agrupada).

Principais Contribuições

Prova Teórica de Linearidade: O artigo fornece uma prova de forma fechada demonstrando que, para classes balanceadas e com projeção Gaussiana, o AUROC OOD e a MCS são linearmente relacionados. Isso explica a correlação quase perfeita ( $R^2 \approx 0,98$ ) observada anteriormente.
Caracterização de Modos de Falha: A teoria prevê explicitamente as condições sob as quais essa linearidade se quebra, as quais foram verificadas empiricamente:
- O uso de covariância agrupada ( $\Sigma_{pool}$ ) em vez de covariância total ( $\Sigma_{tot}$ ) destrói a linearidade.
- Pequenas distâncias de Fisher ( $z_{max}$ ) resultam em inclinações específicas da tarefa, em vez de uma linha universal.
- O desbalanceamento de classes aumenta a inclinação.
- Sondas que divergem significativamente da direção de Fisher (ex: sondas simples de diferença de médias) apresentam degradação da linearidade.
Generalização Empírica: O estudo valida a linearidade MCS-AUROC através de uma ampla gama de modelos, camadas e domínios de conceitos, alcançando $R^2 > 0,93$ em todas as condições testadas. Em contraste, o desempenho da ECS cai significativamente, com $R^2$ tão baixo quanto 0,06 em benchmarks gerais de NLP.
Robustez a Estimadores: Os autores demonstram que o resultado se mantém para covariância de amostra completa, shrinkage de Ledoit-Wolf, mas falha com aproximações diagonais, confirmando a necessidade da estrutura de covariância fora da diagonal.

Resultados

Alto Poder Preditivo: Em todos os 8 cenários experimentais (variando modelos, camadas e domínios), o ajuste linear do AUROC OOD contra a MCS produz $R^2 \geq 0,93$ .
Superioridade sobre a ECS: A ECS apresenta desempenho consistentemente inferior, com valores de $R^2$ variando de 0,057 (NLP Geral) a 0,723 (Gênero), enquanto a MCS mantém alto poder preditivo.
Alinhamento Teórico: As inclinações empíricas das curvas AUROC-MCS alinham-se de perto com a inclinação central teórica de $1/\sqrt{\pi} \approx 0,564$ . Desvios ocorrem principalmente nas caudas de saturação (valores altos de AUROC/MCS), o que é consistente com a teoria.
Verificação de Modo de Falha: Simulações e experimentos com dados reais confirmam que a linearidade degrada quando as suposições são violadas (ex: usar $\Sigma_{pool}$ reduz o $R^2$ de 0,98 para 0,83; usar sondas de diferença de médias reduz para 0,79).

Significância e Alegações

O artigo alega que a Similaridade de Cosseno de Mahalanobis oferece uma alternativa fundamentada teoricamente e consciente da tarefa à similaridade de cosseno euclidiana para comparar sondas lineares.

Mecanismo: Diferente da ECS, que trata todas as dimensões igualmente, a MCS repondera o produto interno pela covariância dos dados OOD, comparando efetivamente as sondas no subespaço que realmente importa para a tarefa específica.
Utilidade Preditiva: A relação linear permite que pesquisadores prevejam o desempenho de generalização (AUROC OOD) de uma sonda treinada em dados ID simplesmente medindo sua MCS em relação a uma sonda de referência treinada em dados OOD (ou um proxy para a direção de Fisher).
Implicações Mais Amplas: Os autores sugerem que esta abordagem pode beneficiar outros métodos de interpretabilidade que dependem atualmente de similaridade de cosseno, como comparação de vetores de direção (steering vectors), alinhamento de características de SAE e agrupamento de direções de conceitos.
Limitações: Os autores observam que o método requer dados OOD rotulados para estimar a covariância e a direção de referência (não é livre de rótulos para a distribuição alvo). Além disso, a teoria é calibrada para sondas do tipo Fisher (Regressão Logística, LDA); o desempenho degrada para sondas de diferença de médias. A avaliação está atualmente limitada à classificação binária em características de fluxo residual de LLMs autorregressivos.

Em resumo, o trabalho estabelece que o sucesso da MCS em prever a generalização de sondas não é uma coincidência, mas uma consequência da interação geométrica entre razões sinal-ruído, projeções Gaussianas e métricas de similaridade conscientes da covariância.