Resumo Técnico: A Escala Determina se os Modelos de Linguagem Organizam a Geometria da Representação para Previsão

Declaração do Problema

Nos modelos de linguagem (LMs), o conteúdo semântico de uma representação é determinado pela geometria de seu espaço de representação — especificamente, as distâncias entre pontos, e não suas ativações absolutas. Embora as ferramentas existentes caracterizem a forma dessa geometria (por exemplo, posto, decaimento espectral, convergência entre modelos), elas não abordam a questão funcional: para que essa geometria está organizada?

Quadros teóricos sugerem que as representações devem se organizar em torno da tarefa preditiva do modelo, especificamente a matriz de desincorporação $W_U$, que mapeia estados ocultos para a distribuição do próximo token. No entanto, permanece uma questão empírica se as camadas intermediárias alinham suas estruturas de distância com esse subespaço de leitura. Métricas atuais, como a Lente de Logit (que testa a decodabilidade de pontos individuais) ou métricas espectrais (que descrevem a forma da variedade), não capturam se o arranjo geométrico das distâncias está funcionalmente orientado para a previsão. Além disso, não se sabe se essa organização é mantida uniformemente em todas as camadas e escalas de modelos.

Metodologia: PGA de Subespaço

Os autores introduzem o Alinhamento Geométrico-Preditivo de Subespaço (Subspace PGA), uma métrica projetada para quantificar o grau em que a estrutura de distância de uma camada se alinha com a leitura preditiva do modelo.

1. Definição do Subespaço de Leitura: A matriz de desincorporação $W_U$ é decomposta via Decomposição em Valores Singulares (SVD). Os $k$ primeiros vetores singulares à direita definem o subespaço de leitura ($V_k$), representando as direções no espaço oculto que $W_U$ amplifica mais para produzir previsões.
2. Preservação de Distância: Para uma dada camada $\ell$, os autores computam distâncias cosseno entre pares de estados ocultos no espaço completo $d$-dimensional ($d_{full}$) e no subespaço de leitura projetado ($d_{proj}$).
3. Distribuição Nula: Para isolar a contribuição específica da leitura, os autores comparam a correlação de Spearman entre $d_{full}$ e $d_{proj}$ contra uma distribuição nula. Essa nulidade é gerada projetando os mesmos estados ocultos em 100 subespaços aleatórios de $k$ dimensões amostrados uniformemente da Grassmanniana.
4. Cálculo do Z-Score: O PGA de Subespaço é definido como o z-score:
   $$PGA(\ell) = \frac{\rho_{leitura} - \mu_{nulo}}{\sigma_{nulo}}$$
   Um $z$ positivo alto indica que a geometria está organizada para previsão (a leitura preserva mais estrutura do que subespaços aleatórios). Um $z \approx 0$ implica nenhum alinhamento especial, e $z < 0$ implica que a leitura está menos alinhada com a estrutura de distância do que subespaços aleatórios.
5. Correção de Anisotropia: Para evitar que a direção de variância dominante (que infla a similaridade cosseno) confunda a métrica, os autores aplicam centralização da média seguida de CCR-1 (remoção do componente principal líder) antes de computar as distâncias.

Principais Resultados

O estudo avalia sete modelos Pythia (de 70M a 6,9B parâmetros) e três modelos de famílias cruzadas (OLMo, Phi, Gemma).

1. Organização Dependente da Escala

• Modelos Grandes ($d \ge 2048$): Esses modelos mantêm forte organização preditiva ao longo de todas as camadas intermediárias. Os z-scores permanecem significativamente positivos (atingindo picos de $z=9–24$ nas camadas médias), indicando que a estrutura de distância está consistentemente alinhada com o subespaço de leitura.
• Modelos Pequenos ($d \le 1024$): Esses modelos exibem um regime de "desvio". Embora estabeleçam organização preditiva cedo no treinamento e nas camadas iniciais, eles perdem progressivamente esse alinhamento em camadas tardias, mas não finais (por exemplo, camadas 20–23 no Pythia-410M). Nessas "zonas de colapso", os z-scores caem significativamente (por exemplo, para $-32$), indicando que a estrutura de distância se torna desalinhada com a leitura, mesmo enquanto a perda de validação do modelo continua a melhorar.
• Recuperação: Em modelos pequenos, a camada final recupera o alinhamento, projetando a geometria de volta para o subespaço de leitura antes da saída.

2. Mecanismo: Trade-off de Capacidade e Mascaramento

A perda de organização em modelos pequenos não é uma destruição de informação preditiva, mas um efeito de mascaramento causado por restrições de capacidade.

• Migração da Direção Dominante: Nas camadas tardias de modelos pequenos, a direção de maior variância no fluxo residual (PC1) gira para longe do subespaço de leitura em direção a direções "escuras" (ortogonais a $W_U$).
• Mascaramento: Como a direção de variância dominante carrega a maior parte da estrutura de distância, subespaços aleatórios (que capturam uma fração dessa variância) acabam preservando a estrutura de distância tão bem quanto, ou melhor do que, o subespaço de leitura. Isso faz com que o z-score caia.
• Restauração: Remover os primeiros componentes principais (CCR-5 ou CCR-10) restaura z-scores positivos em todas as camadas de modelos com $d \ge 768$. Isso confirma que a estrutura preditiva estava intacta, mas obscurecida por algumas direções dominantes irrelevantes para a previsão.

3. Independência de Métricas Espectrais e Perda

• Cegueira Espectral: Métricas espectrais padrão (RankMe, $\alpha$-ReQ, isotropia, número de condição) falham em detectar essa distinção. Nas zonas de colapso de modelos pequenos, as métricas espectrais permanecem estáveis ou planas, enquanto o PGA de Subespaço oscila por mais de 40 desvios padrão.
• Insensibilidade à Perda: As curvas de perda de validação são quase idênticas entre modelos pequenos e grandes, falhando em capturar a reorganização geométrica ocorrendo nas camadas intermediárias.

4. Convergência Cross-Arquitetura

O subespaço de leitura concentra estrutura convergente entre arquiteturas. Ao comparar diferentes modelos (por exemplo, Pythia vs. OLMo), a correlação de Spearman das distâncias entre pares é maior no subespaço de leitura de 100 dimensões do que no espaço completo ou em subespaços aleatórios. Isso sugere que o que modelos treinados independentemente concordam geometricamente está especificamente ligado à função preditiva.

5. Utilidade Downstream

Em modelos grandes, camadas com altos z-scores de PGA de Subespaço também produzem maior precisão para sondas lineares em tarefas downstream (AG News). Em modelos pequenos, a precisão da sonda permanece alta mesmo na "zona de colapso" onde $z$ é negativo, provando ainda mais que os recursos subjacentes são preservados, mas meramente desalinhados com a interface de leitura.

Significado e Alegações

O artigo afirma que a escala determina não apenas quão bem um modelo prevê, mas como sua geometria de representação é organizada para fazê-lo.

• Dois Regimes Geométricos: Os autores identificam um regime "direto" (modelos grandes) onde a geometria permanece alinhada com a previsão, e um regime de "desvio" (modelos pequenos) onde camadas tardias roteiam temporariamente o cálculo através de direções irrelevantes para a previsão antes de corrigir na saída.
• Orientação Funcional: O estudo desloca o foco da caracterização da forma da geometria de representação para a compreensão de sua orientação funcional. Demonstra que a geometria pode ser altamente estruturada, mas funcionalmente desalinhada com o objetivo do modelo.
• Limitações das Métricas Atuais: O trabalho destaca que curvas de perda e métricas espectrais são insuficientes para diagnosticar a organização funcional de representações intermediárias. O PGA de Subespaço fornece uma métrica livre de tarefas e compatível com dimensionalidade para detectar esses fenômenos.
• Capacidade vs. Arquitetura: O fenômeno é atribuído à capacidade representacional (largura) e não a especificidades arquitetônicas, pois é observado em diferentes famílias de modelos quando as dimensões são pequenas.

Os autores concluem que o "desvio" em modelos pequenos é um efeito colateral da capacidade limitada forçando uma colisão entre direções de cálculo intermediárias e direções alinhadas à leitura, em vez de uma estratégia de roteamento explicitamente aprendida. Essa distinção é invisível aos sinais de treinamento padrão, mas crítica para entender a mecânica interna dos modelos de linguagem.