Resumen Técnico: Grafos Semánticos Centrados en la Palabra para el Seguimiento Diacrónico Interpretable de Sentidos

Planteamiento del Problema

El cambio semántico —la transformación de los significados de las palabras a lo largo del tiempo debido a factores culturales, tecnológicos y sociales— es un desafío central en la lingüística histórica y el procesamiento del lenguaje natural (NLP). Si bien los enfoques computacionales recientes han avanzado en la detección del cambio semántico, los métodos existentes enfrentan limitaciones significativas para representar la polisemia (palabras con múltiples significaciones).

• Enfoques de Embeddings Estáticos: Los métodos que dependen de embeddings de palabras estáticos (por ejemplo, Word2Vec) comprimen múltiples sentidos en un único vector. Esta agregación dificulta la separación de los cambios específicos de cada sentido, ya que el modelo no puede distinguir entre un cambio en el sentido dominante frente a la emergencia de uno nuevo.
• Enfoques de Embeddings Contextuales: Aunque los modelos contextuales (por ejemplo, BERT, RoBERTa) pueden representar múltiples sentidos, típicamente requieren la agregación de representaciones de tokens en inventarios de sentidos discretos mediante clustering o clasificación supervisada. Esto introduce desafíos relacionados con la comparabilidad a través del tiempo, la sensibilidad al número de clusters y la confusión entre la similitud de uso y la relación semántica.
• Brecha de Interpretabilidad: Muchos métodos existentes dependen de inventarios de sentidos predefinidos (como WordNet) o producen derivas vectoriales de "caja negra" que carecen de explicaciones estructurales transparentes sobre cómo evolucionan los sentidos.

Los autores argumentan que existe la necesidad de un marco que represente el significado de las palabras de manera relacional, capture la dinámica de la polisemia sin inventarios predefinidos y ofrezca interpretabilidad tanto a nivel de sentido como de palabra.

Metodología

El artículo propone un marco de grafos semánticos centrados en la palabra que integra la similitud distributiva estática con la sustituibilidad léxica contextual para modelar la evolución de los sentidos. La metodología procede en cuatro etapas:

1. Construcción de Grafos Semánticos Centrados en la Palabra

Para una palabra objetivo $w$ en un intervalo de tiempo específico $t$, los autores construyen un grafo $G^t_w = (N^t_w, E^t_w)$ integrando dos fuentes complementarias de evidencia semántica:

• Vecinos Distribucionales (Estáticos): Utilizando un modelo Skip-gram (Word2Vec) entrenado en el corpus del intervalo de tiempo, se seleccionan las $k_i$ palabras con la mayor similitud de coseno con $w$. Estos capturan asociaciones léxicas globales.
• Vecinos de Sustitución (Contextuales): Un modelo de lenguaje enmascarado RoBERTa, ajustado (fine-tuned) en el mismo corpus, predice sustitutos para las ocurrencias enmascaradas de $w$. El conjunto de los $k_c$ sustitutos predichos forma el conjunto de sustitución, capturando significados condicionados por el uso.
• Expansión del Grafo: El vecindario inicial es la unión de estos dos conjuntos. El grafo se expande entonces capa por capa (hasta una profundidad $L$) para capturar asociaciones indirectas. Se añaden aristas entre nodos si comparten relaciones distributivas o de sustitución.

2. Identificación de Comunidades de Sentido mediante Conectividad Periférica

Para identificar sentidos distintos sin realizar clustering de vectores de embedding directamente, los autores analizan el grafo periférico ($G^t_{w,per}$), que es el grafo original con el nodo central objetivo $w$ y sus aristas incidentes eliminados.

• Componentes Conexos: Los componentes conexos del grafo periférico se definen como comunidades de sentido ($C^t(w)$).
• Racional: Dado que el nodo central conecta trivialmente a todos los vecinos, su eliminación revela la estructura subyacente donde los vecinos se agrupan basándose en su relación semántica mutua. Los componentes desconexos en el grafo periférico representan sentidos distintos y coexistentes (polisemia), mientras que un único componente grande sugiere un significado unificado.

3. Alineación Temporal y Refinamiento

Para rastrear los sentidos a través del tiempo, el marco alinea los clusters del tiempo $t$ con aquellos de $t-1$ (o periodos anteriores) basándose en la superposición de nodos:

• Estrategia de Alineación: Un cluster $C^t_i$ se alinea con el cluster $C^{t-1}_j$ que maximiza la intersección de sus conjuntos de nodos.
• Alineación Histórica: Para manejar sentidos que reaparecen, la alineación también puede buscar en cualquier intervalo de tiempo previo $k < t$.
• Refinamiento: Los clusters que no persisten durante al menos dos periodos de tiempo se fusionan en un cluster residual para filtrar el ruido efímero o los picos de uso transitorios.

4. Estimación de la Distribución de Uso de los Sentidos

La frecuencia de un sentido se estima mediante la masa de cluster normalizada. El tamaño de un cluster (número de nodos) relativo al tamaño total del grafo proporciona una distribución de probabilidad sobre los sentidos ($P^t(C_i | w)$), permitiendo el seguimiento de la dominancia, expansión o estrechamiento de los sentidos a lo largo del tiempo.

Contribuciones Clave

1. Representación Unificada Basada en Grafos: El artículo introduce un marco novedoso que combina la similitud distributiva estática y la sustituibilidad contextual en una única estructura de grafo, evitando los problemas de los enfoques puramente basados en vectores o puramente basados en inventarios.
2. Seguimiento de Sentidos Interpretable: Al definir los sentidos como componentes conexos en un grafo periférico, el método proporciona una explicación estructural y transparente para la polisemia y el cambio semántico sin depender de inventarios de sentidos predefinidos.
3. Alineación Diacrónica sin Alineación de Espacio Vectorial: El enfoque rastrea la continuidad de los sentidos a través de la superposición de nodos en lugar de requerir la compleja alineación de espacios de embedding a través de diferentes periodos de tiempo.
4. Análisis Granular del Cambio Semántico: El marco distingue entre diferentes tipos de cambio semántico, incluyendo el reemplazo de sentido impulsado por eventos, los cambios graduales de asociación y la estabilidad semántica.

Resultados y Estudio de Aplicación

El marco se aplicó a un corpus diacrónico de artículos de New York Times Magazine (1980–2017), centrándose en tres palabras objetivo con perfiles semánticos contrastantes: trump, god y post.

• Trump (Reemplazo Impulsado por Eventos):
  • Década de 1980: El grafo mostró una estructura densa y cohesiva correspondiente al sentido literal del "juego de cartas" (baja polisemia).
  • Décadas de 1990–2000: El grafo se expandió y fragmentó, revelando comunidades desconectas relacionadas con los negocios y los bienes raíces (la carrera de Donald Trump), lo que indica un periodo de alta polisemia.
  • 2015–2017: El grafo sufrió una reconfiguración sustantiva. El sentido literal del juego de cartas desapareció del vecindario, siendo reemplazado enteramente por una comunidad política (candidato, campaña). Esto demostró un reemplazo completo de sentido impulsado por eventos históricos.
• God (Estabilidad Semántica):
  • El grafo se mantuvo estructuralmente consistente a lo largo del tiempo con altas similitudes entre nodos y sin la emergencia de comunidades desconectas.
  • El clustering periférico produjo muchos clusters pequeños, pero estos eran semánticamente homogéneos y altamente interconectados, lo que sugiere que representan facetas de un único sentido subyacente en lugar de significados distintos. Esto resalta la capacidad del método para distinguir entre la verdadera polisemia y la sobresegmentación.
• Post (Cambio Gradual de Asociación):
  • La palabra exhibió vecindarios estables hasta aproximadamente 2005–2010.
  • Posteriormente, el grafo se expandió para incluir nodos relacionados con la comunicación digital (por ejemplo, twitter, video, email). A diferencia de trump, esto no fue un reemplazo de un sentido antiguo, sino una expansión de las asociaciones a medida que la tecnología se integraba en el lenguaje cotidiano.

Significado y Reivindicaciones

Los autores posicionan este trabajo como un paso hacia un análisis semántico interpretable y transparente.

• Interpretabilidad: A diferencia de las derivas vectoriales de "caja negra", la estructura del grafo permite a los investigadores inspeccionar visual y estructuralmente cómo surgen, coexisten y desaparecen los sentidos.
• Sin Inventarios Predefinidos: El método permite que las estructuras de sentido emerjan dinámicamente de la evidencia del corpus, evitando el sesgo de diccionarios fijos o la sensibilidad de los hiperparámetros de clustering.
• Dinámica de la Polisemia: El marco captura con éxito la "dinámica de la polisemia" de las palabras, mostrando cómo los patrones de conectividad (densos vs. desconexos) reflejan el grado de polisemia.
• Alcance Modesto: El artículo señala explícitamente que este es un estudio de aplicación más que una evaluación de referencia (benchmark). Enfatiza la interpretabilidad y los conocimientos cualitativos obtenidos del marco en lugar de reclamar un rendimiento cuantitativo superior en estándares de detección. Los autores reconocen limitaciones respecto a la sensibilidad a los hiperparámetros y los posibles sesgos del corpus (por ejemplo, el enfoque editorial de NYT Magazine).

En conclusión, el artículo demuestra que los grafos semánticos centrados en la palabra ofrecen una representación compacta y flexible para explorar la evolución de los sentidos, modelando con éxito trayectorias contrastantes de cambio semántico sin depender de inventarios de sentidos externos.