Hypothesis-Driven Feature Manifold Analysis in LLMs via Supervised Multi-Dimensional Scaling

1. Problema e Motivação

A hipótese da representação linear sugere que Modelos de Linguagem (LLMs) codificam conceitos como direções em seu espaço latente, formando variedades (manifolds) multidimensionais organizadas. Trabalhos anteriores focaram em identificar geometrias específicas para características individuais (ex: dias da semana formando círculos, números formando linhas), mas enfrentam limitações críticas:

• Falta de Generalização: Métodos existentes (como PCA, LDA, PLS) impõem suposições estruturais fixas, dificultando a comparação quantitativa entre hipóteses geométricas concorrentes.
• Detecção Incerta: Não se sabe se ou como os LLMs utilizam essas variedades durante o raciocínio, nem como detectá-las de forma confiável.
• Raciocínio Temporal: LLMs frequentemente falham em tarefas de raciocínio temporal, e há uma lacuna na análise mecânica das estruturas atômicas que suportam esse raciocínio.

O objetivo do artigo é preencher essa lacuna propondo um método para testar, comparar e validar hipóteses sobre a geometria das representações internas dos modelos.

2. Metodologia: SMDS (Supervised Multi-Dimensional Scaling)

Os autores introduzem o SMDS, um método agnóstico ao modelo para avaliar e comparar hipóteses de variedades de características.

• Conceito Central: O SMDS reframing a identificação de uma variedade de características como um problema de seleção de modelos. Em vez de descobrir uma estrutura cegamente, o método testa hipóteses geométricas pré-definidas pelo usuário.
• Funcionamento:
  1. Definição de Hipóteses: O usuário define uma função de distância $d(y_i, y_j)$ baseada em rótulos $y$ (ex: distância em um círculo para datas, distância linear para anos).
  2. Projeção Linear: O algoritmo aprende uma projeção linear $W$ que mapeia os estados ocultos de alta dimensão do modelo ($X$) para um espaço de baixa dimensão, minimizando a diferença entre as distâncias projetadas e as distâncias ideais definidas pela hipótese.
  3. Métrica de Avaliação (Stress): Utiliza uma variante supervisionada da métrica de stress normalizada para quantificar o ajuste (goodness-of-fit) entre a projeção recuperada e a geometria hipotética. Quanto menor o stress (ou maior o $-\log S$), melhor a hipótese.
• Vantagem sobre Métodos Existentes: Diferente do PCA (que busca variância máxima) ou LDA (que busca separação de classes), o SMDS permite testar explicitamente geometrias complexas como círculos, semicírculos, logarítmicas e aglomerados (clusters), fornecendo uma base quantitativa para escolher a melhor estrutura.

3. Configuração Experimental

• Tarefa: Raciocínio temporal de curto prazo (QA), incluindo ordenação de eventos, estimativa de durações e identificação de recência.
• Dados: Cinco conjuntos de dados sintéticos cobrindo datas, durações, eventos notáveis, periodicidade e horários do dia, com variações de contexto (ex: focar em estação vs. temperatura).
• Modelos: Três famílias de modelos (Llama, Qwen, Gemma) em diferentes tamanhos (2B a 70B), incluindo versões base e instruídas (Instruct).
• Análise: Extração de ativações em três pontos: final da expressão temporal ($te$), final do prompt ($lp$) e token de resposta ($a$).

4. Principais Resultados e Contribuições

O estudo apresenta três descobertas fundamentais (F1, F2, F3):

F1: Estruturas Intuitivas e Consistentes entre Modelos

• As entidades temporais formam variedades com estruturas geométricas intuitivas que correspondem às propriedades semânticas dos conceitos:
  • Cíclicas: Datas do ano e horas formam estruturas circulares.
  • Lineares/Logarítmicas: Durações e anos históricos formam linhas ou progressões logarítmicas.
  • Aglomerados (Clusters): Estações do ano ou categorias discretas formam clusters.
• Robustez: Essas estruturas são consistentes através de diferentes arquiteturas, tamanhos de modelo (de 3B a 70B) e entre versões base e instruídas. Isso sugere uma convergência em como o conhecimento é codificado.

F2: Adaptação Dinâmica ao Contexto e Tarefa

• Os LLMs reconfiguram ativamente a geometria das variedades dependendo da tarefa e do prompt.
• Exemplo: No mesmo contexto de datas, se a pergunta for "Qual é a data mais antiga?" (requer ordenação circular), a variedade é circular. Se a pergunta for "Qual pessoa nasceu no verão?" (requer classificação), a variedade se transforma em clusters lineares separáveis.
• Isso demonstra que a estrutura não é estática, mas adaptativa ao fluxo de informação e à necessidade de raciocínio.

F3: Uso Ativo das Variedades para Raciocínio

• Evidências causais confirmam que os modelos utilizam ativamente essas estruturas:
  1. Intervenção Causal: Adicionar ruído gaussiano ao subespaço da variedade (identificado pelo SMDS) degrada significativamente o desempenho do modelo, enquanto ruído em subespaços aleatórios não tem efeito.
  2. Correlação com Desempenho: Existe uma correlação positiva significativa entre a qualidade da variedade (baixo stress) e a precisão do modelo na tarefa de raciocínio. Modelos que formam variedades bem estruturadas performam melhor.

Extensões

• Raciocínio Espacial: O método foi aplicado a dados geográficos (lat/long), onde o SMDS identificou corretamente uma variedade esférica, superando projeções planas.
• Variedades Multidimensionais: Foi demonstrada a capacidade de reconstruir variedades 2D combinando múltiplas características (ex: duração + dia do ano).

5. Significado e Conclusão

O trabalho oferece uma nova lente para a interpretabilidade mecânica de LLMs:

• Mecanismo de Raciocínio: Os autores propõem um pipeline de raciocínio baseado em entidades, onde o modelo: (1) representa propriedades em locais coerentes de uma variedade; (2) aplica transformações guiadas pelo contexto; (3) seleciona a saída baseada na representação transformada.
• Ferramenta Metodológica: O SMDS estabelece um novo padrão para análise de variedades, tratando a descoberta de estrutura como um problema de seleção de hipóteses testáveis, superando as limitações de métodos não supervisionados tradicionais.
• Implicações: A descoberta de que os modelos "convergem" para geometrias específicas e que essas geometrias são causalmente relevantes para o raciocínio sugere que a organização estrutural do conhecimento é fundamental para a inteligência dos LLMs, indo além da simples memorização estatística.

Em resumo, o artigo demonstra que "a forma acontece" (shape happens): a geometria das representações internas não é um artefato, mas uma característica funcional essencial que os modelos utilizam ativamente para realizar raciocínio complexo.