Resumo Técnico: Grafos Semânticos Centrados na Palavra para o Rastreamento Interpretável de Sentidos Diacrônicos

Problema

A mudança semântica — a transformação dos significados das palavras ao longo do tempo devido a fatores culturais, tecnológicos e sociais — é um desafio central na linguística histórica e no processamento de linguagem natural (PLN). Embora abordagens computacionais recentes tenham avançado na detecção de mudanças semânticas, os métodos existentes enfrentam limitações significativas na representação da polissemia (palavras com múltiplos significados).

• Abordagens de Embeddings Estáticos: Métodos que dependem de embeddings de palavras estáticos (ex: Word2Vec) comprimem múltiplos sentidos em um único vetor. Essa agregação dificulta o desmembramento de mudanças específicas de cada sentido, pois o modelo não consegue distinguir entre uma mudança no sentido dominante versus o surgimento de um novo.
• Abordagens de Embeddings Contextuais: Embora modelos contextuais (ex: BERT, RoBERTa) possam representar múltiplos sentidos, eles tipicamente exigem a agregação de representações de tokens em inventários de sentidos discretos via agrupamento (clustering) ou classificação supervisionada. Isso introduz desafios relativos à comparabilidade ao longo do tempo, sensibilidade ao número de clusters e a confusão entre similaridade de uso e relação semântica.
• Lacuna de Interpretabilidade: Muitos métodos existentes dependem de inventários de sentidos predefinidos (como o WordNet) ou produzem derivações vetoriais de "caixa preta" que carecem de explicações estruturais transparentes sobre como os sentidos evoluem.

Os autores argumentam que há necessidade de um framework que represente o significado da palavra de forma relacional, capture a dinâmica da polissemia sem inventários predefinidos e ofereça interpretabilidade tanto ao nível do sentido quanto ao nível da palavra.

Metodologia

O artigo propõe um framework de grafo semântico centrado na palavra que integra similaridade distributiva estática com substitutibilidade lexical contextual para modelar a evolução do sentido. A metodologia procede em quatro estágios:

1. Construção de Grafos Semânticos Centrados na Palavra

Para uma palavra alvo $w$ em um recorte temporal específico $t$, os autores constroem um grafo $G^t_w = (N^t_w, E^t_w)$ integrando duas fontes complementares de evidência semântica:

• Vizinhos Distributivos (Estáticos): Utilizando um modelo Skip-gram (Word2Vec) treinado no corpus do recorte temporal, selecionam-se as $k_i$ palavras com maior similaridade de cosseno para $w$. Estas capturam associações lexicais globais.
• Vizinhos de Substituição (Contextuais): Um modelo de linguagem mascarada RoBERTa, ajustado (fine-tuned) no mesmo corpus, prevê substitutos para ocorrências mascaradas de $w$. O conjunto de substitutos preditos de topo forma o conjunto de substituição, capturando significados condicionados ao uso.
• Expansão do Grafo: O vizinhança inicial é a união desses dois conjuntos. O grafo é então expandido camada por camada (até a profundidade $L$) para capturar associações indiretas. Arestas são adicionadas entre nós se eles compartilham relações distributivas ou de substituição.

2. Identificação de Comunidades de Sentido via Conectividade Periférica

Para identificar sentidos distintos sem realizar o agrupamento de vetores de embedding diretamente, os autores analisam o grafo periférico ($G^t_{w,per}$), que é o grafo original com o nó central alvo $w$ e suas arestas incidentes removidos.

• Componentes Conectados: Os componentes conectados do grafo periférico são definidos como comunidades de sentido ($C^t(w)$).
• Racional: Como o nó central conecta trivialmente todos os vizinhos, sua remoção revela a estrutura subjacente onde os vizinhos se agrupam com base na similaridade semântica mútua. Componentes desconectados no grafo periférico representam sentidos distintos e coexistentes (polissemia), enquanto um único componente grande sugere um significado unificado.

3. Alinhamento Temporal e Refinamento

Para rastrear sentidos ao longo do tempo, o framework alinha os clusters de $t$ com os de $t-1$ (ou períodos anteriores) com base na sobreposição de nós:

• Estratégia de Alinhamento: Um cluster $C^t_i$ é alinhado ao cluster $C^{t-1}_j$ que maximiza a interseção de seus conjuntos de nós.
• Alinhamento Histórico: Para lidar com sentidos que reemergem, o alinhamento também pode buscar em qualquer recorte temporal anterior $k < t$.
• Refinamento: Clusters que não persistem por pelo menos dois períodos de tempo são fundidos em um cluster residual para filtrar ruído efêmero ou picos de uso transitórios.

4. Estimativa de Distribuição de Uso de Sentido

A frequência de um sentido é estimada pela massa de cluster normalizada. O tamanho de um cluster (número de nós) em relação ao tamanho total do grafo fornece uma distribuição de probabilidade sobre os sentidos ($P^t(C_i | w)$), permitindo o rastreamento da dominância, alargamento ou estreitamento de sentidos ao longo do tempo.

Principais Contribuições

1. Representação Unificada Baseada em Grafos: O artigo introduz um novo framework que combina similaridade distributiva estática e substitutibilidade contextual em uma única estrutura de grafo, evitando as falhas de abordagens puramente baseadas em vetores ou puramente baseadas em inventários.
2. Rastreamento de Sentido Interpretável: Ao definir sentidos como componentes conectados em um grafo periférico, o método fornece uma explicação estrutural transparente para a polissemia e mudança semântica sem depender de inventários de sentidos predefinidos.
3. Alinhamento Diacrônico sem Alinhamento de Espaço Vetorial: A abordagem rastreia a continuidade do sentido através da sobreposição de nós, em vez de exigir o alinhamento complexo de espaços de embedding entre diferentes períodos de tempo.
4. Análise Granular de Mudança Semântica: O framework distingue diferentes tipos de mudança semântica, incluindo substituição de sentido impulsionada por eventos, mudanças graduais de associação e estabilidade semântica.

Resultados e Estudo de Aplicação

O framework foi aplicado a um corpus diacrônico de artigos da New York Times Magazine (1980–2017), focando em três palavras alvo com perfis semânticos contrastantes: trump, god e post.

• Trump (Substituição Impulsionada por Eventos):
  • Década de 1980: O grafo mostrou uma estrutura densa e coesa correspondente ao sentido literal de "jogo de cartas" (baixa polissemia).
  • Décadas de 1990–2000: O grafo expandiu-se e fragmentou-se, revelando comunidades desconectadas relacionadas a negócios e setor imobiliário (carreira de Donald Trump), indicando um período de alta polissemia.
  • 2015–2017: O grafo passou por uma reconfiguração substantiva. O sentido literal do jogo de cartas desapareceu da vizinhança, sendo totalmente substituído por uma comunidade política (candidato, campanha). Isso demonstrou uma substituição completa de sentido impulsionada por eventos históricos.
• God (Estabilidade Semântica):
  • O grafo permaneceu estruturalmente consistente ao longo do tempo, com altas similaridades entre nós e sem o surgimento de comunidades desconectadas.
  • O agrupamento periférico gerou muitos pequenos clusters, mas estes eram semanticamente homogêneos e altamente interconectados, sugerindo que representam facetas de um único sentido subjacente em vez de significados distintos. Isso destaca a capacidade do método em distinguir entre verdadeira polissemia e sobre-segmentação.
• Post (Mudança Gradual de Associação):
  • A palavra exibiu vizinhanças estáveis até aproximadamente 2005–2010.
  • Subsequentemente, o grafo expandiu-se para incluir nós relacionados à comunicação digital (ex: twitter, video, email). Diferente de trump, isso não foi uma substituição de um sentido antigo, mas um alargamento de associações conforme a tecnologia se integrava à linguagem cotidiana.

Significância e Alegações

Os autores posicionam este trabalho como um passo em direção a uma análise semântica interpretável e transparente.

• Interpretabilidade: Ao contrário das derivações de vetores de "caixa preta", a estrutura do grafo permite que pesquisadores inspecionem visual e estruturalmente como os sentidos emergem, coexistem e desaparecem.
• Sem Inventários Predefinidos: O método permite que as estruturas de sentido surjam dinamicamente a partir da evidência do corpus, evitando o viés de dicionários fixos ou a sensibilidade aos hiperparâmetros de agrupamento.
• Dinâmica da Polissemia: O framework captura com sucesso a "dinâmica da polissemia" das palavras, mostrando como os padrões de conectividade (densos vs. desconectados) refletem o grau de polissemia.
• Escopo Modesto: O artigo nota explicitamente que este é um estudo de aplicação, não uma avaliação de benchmark. Enfatiza a interpretabilidade e os insights qualitativos ganhos com o framework em vez de reivindicar desempenho quantitativo superior em benchmarks padrão. Os autores reconhecem limitações quanto à sensibilidade a hiperparâmetros e potenciais vieses do corpus (ex: o foco editorial da NYT Magazine).

Em conclusão, o artigo demonstra que grafos semânticos centrados na palavra oferecem uma representação compacta e flexível para explorar a evolução do sentido, modelando com sucesso trajetórias contrastantes de mudança semântica sem depender de inventários de sentido externos.