Categorical Perception in Large Language Model Hidden States: Structural Warping at Digit-Count Boundaries

Resumo Técnico: Percepção Categórica em Estados Ocultos de Grandes Modelos de Linguagem

1. Problema e Contexto

A Percepção Categórica (PC) é um fenômeno fundamental na psicologia perceptual, onde estímulos que variam continuamente ao longo de uma dimensão física são percebidos como pertencentes a categorias discretas, com uma discriminabilidade aprimorada nas fronteiras entre essas categorias. Tradicionalmente, a PC foi estudada em sistemas biológicos (fala, cores, expressões faciais), onde a geometria representacional interna é inferida indiretamente através de comportamentos (identificação e discriminação).

O problema central abordado neste estudo é: A assinatura completa da percepção categórica (incluindo distorção geométrica, identificação e discriminação) emerge nos estados ocultos de Grandes Modelos de Linguagem (LLMs) ao processar números arábicos, e essa distorção é impulsionada pelo aprendizado semântico ou por descontinuidades estruturais no formato de entrada (tokenização)?

O estudo investiga se as transições estruturais (como a mudança de dígitos de 9 para 10) são suficientes para criar uma "distorção" geométrica nos vetores de representação dos modelos, independentemente de o modelo possuir conhecimento explícito sobre a categoria numérica.

2. Metodologia

O autor aplicou uma metodologia de psicofísica formal aos estados ocultos de seis modelos de linguagem de cinco famílias arquitetônicas diferentes (Llama-3, Mistral, Gemma, Qwen, Phi-3.5), variando de 3.8B a 9.2B parâmetros.

Desenho Experimental:

• Domínio Principal (Números): Transições de contagem de dígitos (fronteiras em 10 e 100).
  • Condição 10: Valores de 4 a 20 (transição 9→10).
  • Condição 100: Valores de 70 a 130 (transição 99→100).
• Controles:
  • Controle Não-Fronteira: Valores centrais (ex: 15, 150) para verificar se a distorção é específica da fronteira.
  • Domínio de Temperatura: Fronteira linguística "quente/frio" (~22°C) sem descontinuidade de tokenização (ex: "21" e "23" são tokenizados da mesma forma).
  • Remapeamento de Tokens Nômade (Nonce): Tokens sem significado ("glorp", "blicket") mapeados para posições ordinais, com e sem contexto de ordem explícito.
• Paradigmas de Análise:
  1. Análise de Similaridade Representacional (RSA): Comparação de Matrizes de Dissimilaridade Representacional (RDMs) empíricas com modelos teóricos (Contínuo/Logarítmico vs. Aditivo Categórico vs. Multiplicativo).
  2. Identificação e Discriminação: Tarefas de escolha forçada para medir a capacidade do modelo de classificar e distinguir números.
  3. Gradiente de Precisão: Medição da densidade local da representação (inverso da distância entre estados adjacentes).
  4. Intervenção Causal (Activation Patching): Modificação direta dos estados ocultos para testar a relevância causal da geometria categórica no comportamento de saída.

3. Principais Contribuições

1. Evidência Geométrica Direta: Demonstra que a distorção geométrica da PC ocorre em 100% das camadas principais de todos os modelos testados, algo impossível de observar diretamente em sistemas biológicos.
2. Dissociação Estrutura-Comportamento: Identifica dois tipos distintos de PC:
   • PC Clássica: O modelo distorce a geometria e consegue identificar explicitamente a categoria (ex: Gemma, Qwen).
   • PC Estrutural: O modelo distorce a geometria na fronteira, mas não consegue relatar a distinção categórica em tarefas de identificação (ex: Llama, Mistral, Phi).
3. Origem Estrutural vs. Semântica: Prova que a PC em LLMs é impulsionada primariamente por descontinuidades no formato de entrada (tokenização, contagem de caracteres) e não pelo aprendizado de categorias semânticas.
4. Dissociação Camada-Geometria-Função: Revela que a camada com a geometria mais legível (pico de similaridade representacional) não é necessariamente a camada onde a computação funcional ocorre.

4. Resultados Chave

• Dominância do Modelo Aditivo (H1): O modelo CP-Aditivo (distância logarítmica + um "boost" constante na fronteira) ajustou-se melhor à geometria representacional do que o modelo puramente contínuo em 100% das camadas principais de todos os modelos. A fronteira adiciona uma distância constante, não uma escala proporcional.
• Especificidade da Fronteira: O efeito foi observado apenas nas transições estruturais (10 e 100). Nas posições de controle (15, 150) e no domínio de temperatura (sem descontinuidade de tokenização), o modelo contínuo superou o modelo categórico.
• Dissociação Identificação-Geometria (H8):
  • Modelos como Gemma e Qwen mostraram funções de identificação abruptas (PC Clássica).
  • Modelos como Llama, Mistral e Phi exibiram distorção geométrica forte, mas funções de identificação planas (PC Estrutural). Isso prova que a geometria categórica existe independentemente da capacidade de reportar a categoria.
• Controle de Tokens Nômade (E10): Tokens sem significado com contexto de ordem geraram um efeito de PC muito fraco (3-10x menor que números reais). Isso indica que a informação ordinal sozinha é insuficiente; a descontinuidade estrutural (mudança no número de tokens/caracteres) é o amplificador crítico.
• Intervenção Causal (E5): Ao "patchar" (modificar) os estados ocultos na direção da categoria:
  • Camadas Iniciais: Alterações causaram mudanças grandes e dependentes da dose na confiança da discriminação.
  • Camadas Tardias (Pico de Geometria): Alterações tiveram efeito negligenciável na saída, apesar da geometria ser mais legível nessas camadas.
  • Conclusão: A computação funcional ocorre nas camadas iniciais, enquanto a geometria "cristaliza" em camadas tardias que são causalmente inertes para a decisão.

5. Significado e Implicações

• Para a Ciência Cognitiva: O estudo fornece uma "prova de existência" computacional de que a percepção categórica pode surgir puramente de restrições no formato de representação (descontinuidades estruturais), sem necessidade de aprendizado de categorias semânticas. Isso apoia teorias estruturais de PC e desafia a visão de que a PC requer necessariamente aprendizado de categorias.
• Para Interpretabilidade de IA:
  • Geometria vs. Função: A camada com a representação mais clara de um conceito não é necessariamente a camada que realiza o trabalho computacional. Analistas não devem assumir que a legibilidade geométrica equivale à relevância funcional.
  • Dissociação Estrutura-Comportamento: Um modelo pode ter uma estrutura interna altamente categórica sem exibir comportamento categórico explícito. A avaliação de modelos deve ir além de tarefas de superfície (como prompts de chat) e examinar a geometria interna.
• Mecanismo de Tokenização: A descoberta de que a transição de dígitos (9→10) cria uma fronteira perceptiva robusta sugere que a tokenização não é apenas um pré-processamento técnico, mas molda fundamentalmente a "psicologia" e a percepção do modelo sobre o mundo.

Em suma, o artigo estabelece que descontinuidades estruturais no formato de entrada são suficientes para produzir a assinatura geométrica completa da percepção categórica em LLMs, independentemente do conhecimento semântico explícito, revelando uma profunda dissociação entre como os modelos representam o mundo e como eles se comportam em relação a ele.