Characterizing Human Semantic Navigation in Concept Production as Trajectories in Embedding Space

Resumo Técnico: Caracterização da Navegação Semântica Humana como Trajetórias no Espaço de Embeddings

1. Problema e Motivação

As representações semânticas humanas são frequentemente modeladas como espaços de conhecimento estruturados e dinâmicos. A recuperação de conceitos envolve uma "navegação" por esse espaço, onde o indivíduo equilibra a exploração (mudança de subcategorias) e a exploração (geração de itens dentro de uma subcategoria).

• Limitações Atuais: Os métodos tradicionais de análise de fluência verbal e listagem de propriedades dependem de pipelines manuais intensivos (como a codificação de agrupamento e troca de Troyer et al., 1997), que são heterogêneos, difíceis de comparar entre estudos e não capturam a granularidade passo a passo do processo de busca.
• Oportunidade: Modelos de linguagem (LLMs) e embeddings de texto oferecem uma alternativa escalável. No entanto, a maioria das abordagens anteriores trata os embeddings como pontos estáticos independentes, ignorando a natureza cumulativa e dependente do contexto da memória de trabalho humana durante a geração de conceitos.

2. Metodologia

O artigo propõe um framework que modela a produção de conceitos como trajetórias contínuas em um espaço de embeddings, capturando a dinâmica da busca semântica através de métricas geométricas e cinemáticas.

• Construção de Trajetórias Cumulativas:

  • Diferente de abordagens que calculam embeddings independentes para cada palavra, o método utiliza embeddings cumulativos. O vetor $x_t$ no tempo $t$ representa o embedding do prefixo acumulado (itens 1 até $t$).
  • Isso permite que o modelo capture dependências de longo prazo e o contexto histórico da busca, simulando a memória de trabalho humana.
  • Foram utilizados modelos de transformer modernos (OpenAI text-embedding-3-large, Google text-embedding-004, Qwen3-Embedding-0.6B) e uma linha de base com fastText (não cumulativo).

• Métricas de Navegação (Inspiradas na Física):
  O framework extrai cinco métricas principais para caracterizar a trajetória:

  1. Distância para o Próximo (Distance to Next): Distância cosseno entre embeddings consecutivos normalizados. Mede a magnitude do "salto semântico" entre itens.
  2. Entropia: Entropia de Shannon aproximada baseada na binarização das distâncias (acima/abaixo da mediana). Quantifica a imprevisibilidade e variabilidade da dinâmica de busca.
  3. Velocidade ($v_t$): Diferença vetorial entre embeddings consecutivos. Captura a direção e magnitude do movimento no espaço.
  4. Aceleração ($a_t$): Diferença entre vetores de velocidade consecutivos. Mede a mudança na direção ou velocidade, indicando instabilidade na estratégia de busca (ex: mudanças bruscas de tópicos).
  5. Distância ao Centróide: Distância cosseno de cada item ao centroide (média) de todos os embeddings únicos do participante para aquele conceito. Mede a dispersão global da busca em relação à tendência central.

• Dados e Análise Estatística:

  • Datasets: Quatro conjuntos de dados em diferentes idiomas (Espanhol, Inglês, Italiano, Alemão) cobrindo:
    • Neurodegenerativo: Pacientes com Parkinson (PD), Demência Frontotemporal (bvFTD) e controles.
    • Fluência de Palavrões: Geração de palavrões vs. categorias normais.
    • Listagem de Propriedades: Tarefas em Italiano e Alemão com 10 categorias semânticas.
  • Análise: Uso de Modelos Lineares Mistos Generalizados (GLMMs) para avaliar efeitos de grupo e conceito, ajustando para variabilidade individual e repetição de medidas.

3. Contribuições Principais

1. Framework de Navegação Semântica: Introdução de uma abordagem baseada em trajetórias cumulativas que supera a visão estática de embeddings, alinhando-se melhor com os processos cognitivos de memória de trabalho.
2. Métricas Cinemáticas Semânticas: Proposição de um conjunto de métricas (velocidade, aceleração, entropia) que oferecem uma visão granular e contínua da dinâmica de busca, complementando as métricas binárias tradicionais de agrupamento/troca.
3. Validação Multilíngue e Multimodelo: Demonstração de que a abordagem é robusta através de diferentes idiomas e arquiteturas de modelos (causais vs. bidirecionais), sugerindo que a geometria subjacente da navegação semântica é uma propriedade convergente.
4. Aplicabilidade Clínica e Cognitiva: Estabelecimento de um pipeline automatizado para diferenciar grupos clínicos e tipos de conceitos com intervenção humana mínima.

4. Resultados Chave

• Dataset Neurodegenerativo:
  • Pacientes (PD e bvFTD) apresentaram maior distância para o próximo, maior velocidade e maior aceleração em comparação aos controles saudáveis. Isso indica uma trajetória mais volátil, com "saltos" semânticos erráticos e mudanças bruscas de direção.
  • Maior entropia nos pacientes, sugerindo uma busca menos previsível e mais desorganizada.
  • Menor distância ao centróide nos pacientes, indicando que, apesar da volatilidade local, a busca global estava mais restrita a um espaço semântico menor (menos dispersão global), possivelmente devido à perda de traços sensorimotores e funções executivas.
• Dataset de Palavrões (Swear Fluency):
  • Palavrões exibiram os maiores valores de velocidade, aceleração e entropia, indicando uma exploração semântica altamente variável dentro de um espaço restrito.
  • A distância ao centróide foi menor para palavrões em comparação a animais, sugerindo que a categoria de palavrões é semanticamente mais compacta e centralizada, mas explorada com alta variabilidade direcional.
• Datasets Italiano e Alemão:
  • As métricas cinemáticas conseguiram discriminar categorias semânticas específicas (ex: "Pássaro" vs. "Veículo"), revelando estruturas informacionais distintas dependendo do contexto linguístico.
• Comparação de Modelos:
  • As métricas locais (velocidade, aceleração, distância ao próximo) apresentaram alta correlação entre os diferentes modelos de embedding, indicando robustez.
  • A distância ao centróide mostrou baixa correlação entre modelos, pois depende da geometria global específica de cada espaço de embedding (anisotropia), tornando-a sensível ao modelo escolhido.
• Cumulativo vs. Não-Cumulativo:
  • Para trajetórias longas (Neurodegenerativo, Palavrões), a abordagem cumulativa foi superior, capturando padrões semânticos mais amplos.
  • Para trajetórias curtas (Italiano/Alemão), a abordagem não-cumulativa (estática) às vezes performou melhor, pois a pouca quantidade de contexto não justificava a agregação cumulativa.

5. Significado e Impacto

Este trabalho estabelece uma ponte fundamental entre a modelagem cognitiva humana e as representações aprendidas por máquinas.

• Pesquisa Clínica: Oferece uma ferramenta automatizada e escalável para estratificação de distúrbios neurológicos (como Parkinson e demência), detectando assinaturas cinemáticas de disfunção executiva que podem passar despercebidas por métodos tradicionais.
• Análise Translinguística: Demonstra que a estrutura da navegação semântica pode ser quantificada de forma consistente através de idiomas e culturas, permitindo comparações cruzadas.
• Cognição Artificial: Abre caminho para testar hipóteses sobre como agentes de IA (LLMs) navegam em espaços semânticos em comparação com humanos, possibilitando a avaliação de "cognição artificial" baseada em dinâmicas de trajetória.
• Eficiência: Substitui pipelines laboriosos de codificação manual por uma análise computacional direta, facilitando a reprodutibilidade e a aplicação em grandes conjuntos de dados.

Em suma, o artigo propõe que a semântica humana não é apenas um conjunto de pontos estáticos, mas um movimento dinâmico que pode ser rigorosamente medido e analisado através de ferramentas de física e geometria aplicadas a espaços de embeddings.