💻 computer science

Examining hate speech infection in social media using range constraints in multidimensional data structures

Este artículo propone una metodología que combina el análisis de series temporales basado en shapelets con estructuras de datos multidimensionales y restricciones de rango para identificar con precisión las ventanas temporales y los patrones de conectividad de los usuarios que impulsan la propagación del discurso de odio en las redes sociales, permitiendo así una detección y mitigación de eventos más efectivas.

Autores originales: Eleanna Kafeza, Christos Makris, Gerasimos Rompolas, Georgios Mavris

Publicado 2026-07-15

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Eleanna Kafeza, Christos Makris, Gerasimos Rompolas, Georgios Mavris

Artículo original bajo licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina las redes sociales como una fiesta gigante y bulliciosa donde todos gritan sus pensamientos. A veces, el ambiente se vuelve amargo, y un tipo específico de "infección tóxica" (el discurso de odio) comienza a propagarse. Los autores de este artículo, Eleanna Kafeza y su equipo, querían descubrir exactamente cuándo comienza esta infección y quién la está propagando, en lugar de simplemente intentar atrapar cada mala palabra que vuela por ahí.

Piensa en la línea de tiempo de un usuario no como una lista de publicaciones, sino como un monitor de ritmo cardíaco. En lugar de mirar las palabras en sí, el equipo convirtió la intensidad emocional de cada usuario en una línea ondulada en un gráfico. Si un usuario publica cosas coléricas y odiosas, su "ritmo cardíaco" tiene picos de energía negativa.

El kit de herramientas del detective: Shapelets y Árboles de Sufijos
Para encontrar a los malos actores, los investigadores utilizaron un truco ingenioso llamado clasificación por shapelets. Imagina que estás buscando una huella dactilar específica en un montón de huellas de pies embarradas. Un "shapelet" es como un fragmento pequeño y distintivo de esa huella que demuestra quién la hizo. En este caso, la "huella dactilar" es un patrón específico de picos emocionales que solo los usuarios de discurso de odio parecen tener.

Pero revisar cada paso frente a cada huella dactilar tomaría una eternidad. Así que el equipo construyó una biblioteca súper rápida llamada Árbol de Sufijos. Piensa en esto como un archivador mágico y organizado donde cada posible patrón de palabras se clasifica instantáneamente. En lugar de leer todos los libros de la biblioteca para encontrar una historia, simplemente le preguntas al gabinete: "¿Dónde está la historia que comienza con 'enojado'?" y este te señala directamente el estante. Esto hizo que su búsqueda fuera increíblemente rápida, convirtiendo una tarea que usualmente toma eras en algo que sucede en un abrir y cerrar de ojos.

El filtro de dos pasos: Tiempo e Influencia
Encontrar el patrón fue solo el primer paso. La verdadera magia ocurrió cuando añadieron dos filtros extra, como un portero revisando dos identificaciones en la puerta: Tiempo e Influencia.

La ventana de tiempo: El equipo se dio cuenta de que el discurso de odio suele explotar justo después de un evento específico, como la noticia de un suceso de última hora. No se limitaron a buscar el mal patrón; preguntaron: "¿Ocurrió este patrón justo ahora?". Al hacer zoom en ventanas de tiempo específicas (como una ventana de 13 horas), pudieron señalar exactamente cuándo comenzó a propagarse la "infección".
La comprobación de influencia: También revisaron qué tan "popular" o "conectado" era el usuario. Encontraron algo sorprendente: el discurso de odio no siempre provenía de las grandes celebridades. De hecho, sospecharon que los usuarios influyentes son baneados rápidamente, por lo que la infección a menudo se propaga a través de usuarios regulares y menos conectados. Utilizaron una herramienta matemática llamada Árbol de Rango 2D para verificar si las publicaciones de un usuario ocurrieron en el momento adecuado y si su nivel de influencia encajaba en un cierto rango.

Lo que dicen los números
El equipo probó esto en un conjunto de datos masivo de tweets recolectados durante un mes (del 1 de febrero de 2022 al 1 de marzo de 2022). Observaron a 3,912 usuarios que publicaron discurso de odio y lo equilibraron con un conjunto de datos de 46,557 tweets de 7,824 usuarios distintos.

Cuando ejecutaron sus experimentos, los resultados fueron prometedores pero específicos a su configuración:

Precisión: Su mejor configuración encontró a los usuarios de discurso de odio con una precisión media de 0.72 y un F1-score medio de 0.84.
Velocidad: Su nuevo método fue increíblemente más rápido que la forma "ingenua" tradicional de hacer las cosas. Mientras que el método antiguo tomó aproximadamente 0.12 × 10⁻² segundos para una prueba pequeña, su nuevo método lo hizo en 2.15 × 10⁻⁶ segundos. A medida que los datos crecieron a 23,800 elementos, su método se mantuvo rápido (alrededor de 2.97 × 10⁻⁶ segundos), mientras que el método antiguo se ralentizó significamente.
El punto ideal: Encontraron que la infección de discurso de odio era más visible en una ventana de tiempo específica de [0, 13] (horas) y entre usuarios en el percentil [0, 17.5] de influencia. Esto sugiere que la infección a menudo comienza con un pequeño grupo de usuarios que no son necesariamente los más famosos, pero que son muy activos durante una crisis específica.

Lo que no reclaman
Es importante notar lo que este artículo no dice. Los autores son cuidadosos al señalar que no están afirmando haber "resuelto" el discurso de odio para siempre. Argumentan explícitamente en contra de confiar únicamente en listas de palabras simples o en mirar solo el texto sin contexto. También señalan que su método funciona mejor cuando tienes condiciones específicas (como un tiempo de evento conocido) para filtrar; no es una varita mágica que encuentra el discurso de odio en el vacío sin ningún dato adicional.

El panorama general
Al convertir el caos emocional en formas de datos organizadas y usar una biblioteca súper rápida para encontrarlas, los autores demostraron que podemos capturar la "infección" del discurso de odio de manera más precisa. Encontraron que, al observar cuándo ocurren los picos de ira y quién los está propagando, podemos identificar la fuente del problema mucho más rápido que antes. Aunque sugieren que esto podría ayudar a las plataformas de redes sociales a tomar medidas inmediatas, lo presentan como una herramienta poderosa en la caja de herramientas, no como una cura definitiva. El objetivo es detectar la chispa antes de que todo el bosque se incendie.

Resumen Técnico: Examen de la Infección de Discurso de Odio en Redes Sociales mediante Restricciones de Rango en Estructuras de Datos Multidimensionales

Planteamiento del Problema
El artículo aborda el desafío de detectar y analizar la "infección" de discurso de odio en plataformas de redes sociales como Twitter. Los autores argumentan que el discurso de odio no es meramente un problema de clasificación estática de publicaciones individuales, sino un fenómeno dinámico impulsado por eventos de intensa carga emocional y propagado a través de redes de usuarios específicas. La literatura existente a menudo se centra en clasificar mensajes de odio de forma aislada o depende de modelos de aprendizaje profundo (por ejemplo, BERT) que, si bien son efectivos, pueden ser difíciles de interpretar y pueden sufrir de sobreajuste de datos. Además, los enfoques tradicionales suelen fallar al no integrar dimensiones críticas como la ventana temporal de un evento y la influencia social de los usuarios involucrados. El problema central es identificar no solo quién publica discurso de odio, sino cuándo y bajo qué condiciones de red (por ejemplo, niveles de influencia) ocurre este comportamiento para facilitar una mitigación inmediata.

Metodología
La metodología propuesta trata la detección de discurso de odio como un problema integrado de "infección", modelando el comportamiento del usuario mediante el análisis de series temporales y utilizando estructuras de datos eficientes para la coincidencia de patrones y la consulta de rangos.

Modelado de Series Temporales de Emoción:
- El comportamiento del usuario se modela como una serie temporal que representa la intensidad de las emociones negativas a lo largo del tiempo.
- Se utiliza el Léxico de Intensidad de Emociones NRC-Canada (NRC-EIL) para identificar palabras negativas (ira, asco, miedo, tristeza) y asignarles puntuaciones de intensidad de valores reales.
- Para cada usuario, se construye una serie temporal donde el valor de cada intervalo de tiempo es la suma de los pesos de las palabras negativas en sus publicaciones durante dicho intervalo.
- Para manejar las variaciones ortográficas, se emplea la distancia de Levenshtein como métrica de disimilitud.
Transformación Simbólica y Reducción de Dimensionalidad:
- Las series temporales continuas se transforman en series temporales simbólicas utilizando la Aproximación de Agregación de Segmentos Simbólicos (SAX).
- El proceso implica la normalización Z, la Aproximación de Agregación por Segmentos (PAA) para segmentar la serie, y el mapeo de segmentos a un alfabeto (por ejemplo, $\Sigma = \{a, b, c, d, e\}$ ) basado en puntos de ruptura. Esto reduce la dimensionalidad preservando la forma general de la curva de intensidad emocional.
Clasificación por Shapelets:
- El estudio emplea una clasificación basada en shapelets, donde los "shapelets" son subsecuencias discriminativas de la serie temporal que actúan como huellas dactilares de los usuarios de discurso de odio.
- En lugar de la distancia euclidiana (inadecuada para datos simbólicos), los autores utilizan la Distancia de Edición con Peso de Alfabeto. Esta métrica asigna pesos a las sustituciones de caracteres según su proximidad en el alfabeto, reflejando la intuición de que las intensidades emocionales similares están más cerca que las distantes.
- Se construye un Árbol de Sufijos Generalizado a partir de la serie temporal simbólica de todos los usuarios para permitir una búsqueda eficiente de estos shapelets.
Restricciones de Rango Multidimensionales:
- Para refinar la identificación de los usuarios de discurso de odio, el marco introduce restricciones de post-procesamiento basadas en el tiempo y la influencia del usuario.
- Restricción de Tiempo: El sistema busca ocurrencias de shapelets dentro de intervalos de tiempo específicos (por ejemplo, durante un evento específico).
- Restricción de Influencia: La influencia del usuario se cuantifica mediante la centralidad de grado ponderado derivada del grafo de retweets. El modelo plantea la hipótesis de que los usuarios individuales menos influyentes pueden ser más propensos a publicar discurso de odio (ya que los usuarios influyentes suelen ser expulsados rápidamente).
- Estructuras de Datos:
  - Se integra un Árbol Binario Balanceado con el árbol de sufijos (mediante el recorrido de la tour de Euler) para manejar eficientemente las consultas de rango 1D en el tiempo.
  - Se añade un Árbol de Rangos 2D para manejar consultas simultáneas en tiempo e influencia.
- Esto resulta en un enfoque híbrido: un clasificador de shapelets identifica a los candidatos potenciales, y las estructuras de datos multidimensionales los filtran según las restricciones temporales y de influencia.

Contribuciones Clave

Representación de Series Temporales: El artículo introduce el uso de series temporales simbólicas para representar la intensidad emocional de la presencia en redes sociales de los usuarios para la detección de discurso de odio.
Clasificación por Shapelets con Árboles de Sufijos: Propone un método de clasificación novedoso que combina el descubrimiento de shapelets con árboles de sufijos generalizados para una recuperación rápida, utilizando la Distancia de Edición con Peso de Alfabeto para series simbólicas.
Marco de Restricciones Multidimensionales: Los autores introducen un marco que extiende la clasificación con la búsqueda de post-procesamiento utilizando estructuras de datos multidimensionales (árboles de sufijos, árboles binarios y árboles de rangos). Esto permite el filtrado simultáneo de usuarios basados en ventanas temporales y métricas de influencia de red.
Interpretabilidad: A diferencia de los modelos de aprendizaje profundo de "caja negra", este enfoque proporciona "huellas dactilares" (shapelets) interpretables y permite la exploración de ventanas de tiempo específicas y rangos de influencia de usuario que activan la difusión del discurso de odio.

Resultados Experimentales

Dataset: El estudio utilizó un conjunto de datos de tweets que contenían la palabra clave "@CNN" de febrero de 2022, lo que resultó en un conjunto equilibrado de 46,557 tweets de 7,824 usuarios.
Comparación con Baselines: Los modelos propuestos se compararon contra clasificadores de shapelets ingenuos (NSC) y varios baselines de aprendizaje profundo (BERT-base-uncased, fBERT, HateBERT).
Desempeño:
- Precisión (Accuracy): La configuración óptima (longitud de shapelet 8, 3 shapelets, distancia de edición 2) alcanzó una precisión media de 0.72 y un F1-score medio de 0.84.
- Escalabilidad: Las estructuras de datos propuestas (SSC, SSCAB, SSCAR) demostraron tiempos de ejecución significativamente menores en comparación con los métodos ingenuos a medida que aumentaba el tamaño del dataset. Por ejemplo, mientras que el enfoque ingenuo escalaba linealmente con el tamaño de los datos, los enfoques basados en árboles de sufijos mantuvieron tiempos de consulta casi constantes o logarítmicos ( $O(n + \log m + k)$ ).
- Análisis Dimensional: Los experimentos identificaron que la difusión del discurso de odio estaba más concentrada en ventanas de tiempo específicas (por ejemplo, [0, 13] horas) y entre usuarios en los percentiles inferiores de influencia (0–17.5%), apoyando la hipótesis de que los usuarios individuales, menos influyentes, impulsan la infección.
Visualización: El análisis de nube de palabras de los usuarios de discurso de odio identificados reveló temas relacionados con política, vacunas y la guerra entre Rusia y Ucrania, confirmando la capacidad del modelo para capturar el discurso negativo contextualmente relevante.

Significancia y Reivindicaciones
El artículo afirma que su significancia radica en proporcionar un enfoque híbrido que combina el poder de reconocimiento de patrones de la clasificación por shapelets con la eficiencia de las estructuras de datos avanzadas para la consulta multidimensional.

Eficiencia: El uso de árboles de sufijos y árboles de rangos permite la identificación rápida de usuarios de discurso de odio que cumplen con condiciones complejas (tiempo e influencia), lo cual es computacionalmente superior a los métodos de fuerza bruta.
Información Accionable: Al aislar las ventanas de tiempo específicas y los niveles de influencia de los usuarios asociados con la "infección" de discurso de odio, la metodología permite a los operadores de redes sociales tomar acciones de mitigación dirigidas (por ejemplo, identificar el evento desencadenante y los grupos de usuarios específicos involucrados) en lugar de depender únicamente de un filtrado de contenido amplio.
Interpretabilidad: El enfoque ofrece un mecanismo transparente para entender por qué un usuario es marcado (mediante el patrón de shapelet específico) y cuándo ocurrió el comportamiento, abordando las limitaciones de "caja negra" del aprendizaje profundo.
Extensibilidad: El marco está diseñado para ser expandido fácilmente para incluir dimensiones adicionales (por ejemplo, otras métricas de red o características de contenido) sin alterar fundamentalmente la lógica central de clasificación.

Los autores mantienen un tono modesto, reconociendo que, si bien los resultados son prometedores, el enfoque depende de un ajuste de parámetros específico y que el trabajo futuro podría explorar estructuras de indexación más complejas (como los árboles de sufijos de propiedades) para optimizar aún más el rendimiento de espacio y tiempo.

Más como este