ChildGuard: A Specialized Dataset for Combatting Child-Targeted Hate Speech

Resumen Técnico: ChildGuard: Un Conjunto de Datos Especializado para Combatir el Discurso de Odio Dirigido a Niños

Planteamiento del Problema
La industria de la salud mental enfrenta crecientes preocupaciones con respecto al discurso de odio dirigido a niños en las redes sociales. La exposición a dicho contenido durante etapas críticas del desarrollo puede conducir a resultados psicológicos adversos, incluyendo angustia emocional, ansiedad, aislamiento social y reducción de la autoestima. Sin embargo, los sistemas de detección de discurso de odio existentes y sus conjuntos de datos son predominantemente centrados en adultos. Típicamente modelan la relación entre el contenido textual ($X$) y las etiquetas de discurso de odio ($Y \in \{0, 1\}$) sin considerar las características específicas de la edad ($A$). En consecuencia, estos sistemas carecen de las representaciones dedicadas necesarias para detectar eficazmente el discurso de odio que tiene como objetivo a los niños, cuya resiliencia emocional y madurez cognitiva difieren significativamente de las de los adultos.

Metodología
Los autores presentan ChildGuard, un conjunto de datos en inglés a gran escala diseñado para cerrar esta brecha. La metodología abarca la recolección, filtración y anotación de datos:

• Recolección de Datos: Se recolectaron aproximadamente 580,000 instancias de texto bruto de tres plataformas principales donde los niños participan activamente: Reddit, X (anteriormente Twitter) y YouTube. La recolección utilizó APIs públicas (PRAW, Tweepy, YouTube Data API v3) y, cuando fue necesario, scripts personalizados (BeautifulSoup, Selenium) para navegar las restricciones de profundidad de los hilos. Se utilizó un léxico de palabras clave relacionadas con la infancia (por ejemplo, "niño", "adolescente", "pañal", "escuela") para filtrar el contenido relevante.
• Filtración: Un flujo de trabajo de múltiples etapas eliminó el texto que no fuera inglés, el spam, los duplicados (mediante hashing SHA-256) y las instancias con menos de 10 tokens o exceso de emojis/URLs. Este proceso retuvo 469,910 instancias para la anotación.
• Anotación: Tres anotadores experimentados etiquetaron manualmente las instancias retenidas. Cada instancia recibió:
  • Una etiqueta de discurso de odio ($Y \in \{0, 1\}$).
  • Una etiqueta de grupo de edad ($A \in \{\text{niño pequeño}, \text{pre-adolescente}, \text{adolescente}\}$), correspondiente a menores de 11, 11–12, y 13–17 años, respectivamente.
  • Una categoría de subconjunto ($S \in \{\text{léxico}, \text{contextual}\}$). El subconjunto léxico (194K instancias) se enfoca en el vocabulario e insultos directos, mientras que el subconjunto contextual (157K instancias) captura características a nivel de discurso, sarcasmo y referencias indirectas.
• Privacidad: Antes de la anotación, toda la Información de Identificación Personal (PII) fue anonimizada utilizando el modelo NER de spaCy y reglas de regex, reemplazando los identificadores con tokens con hash SHA-256.

Contribuciones Clave

1. Conjunto de Datos ChildGuard: La introducción de un conjunto de datos a gran escala que contiene 351,877 instancias anotadas, siendo el primero en combinar contenido centrado en la infancia con anotaciones específicas de grupos de edad y una distinción entre discurso de odio léxico y contextual.
2. Evaluación Comparativa Empírica: El artículo proporciona una evaluación exhaustiva de modelos recientes basados en transformadores (DeBERTa-v3-large, ModernBERT, RoBERTa-large, HateBERT) y Modelos de Lenguaje Extensos (GPT-4o, GPT-4.5, Claude-3.7 Sonnet, Gemini-2.5 Pro, DeepSeek-V3) en este dominio específico.

Resultados
La evaluación en el conjunto de prueba reservado revela desafíos significativos en la detección del discurso de odio dirigido a niños:

• Rendimiento General: El modelo con mejor desempeño, GPT-4.5, alcanzó una puntuación Macro-F1 de 82.07% en el conjunto de datos completo.
• Varianza por Grupo de Edad: El rendimiento disminuyó consistentemente a medida que la edad del objetivo era menor. Las puntuaciones de GPT-4.5 bajaron a 79.41% para pre-adolescentes y 79.24% para niños pequeños, lo que indica que el discurso de odio dirigido a demografías más jóvenes contiene características más sutiles y dependientes del contexto.
• Léxico vs. Contextual: Los modelos funcionaron significativamente mejor en el subconjunto léxico (85.11% Macro-F1 para GPT-4.5) en comparación con el subconjunto contextual (79.24%), lo que resalta la dificultad de detectar la hostilidad indirecta y el abuso a nivel de discurso.
• Análisis de Errores: Las principales fuentes de clasificación errónea fueron el odio implícito (31.4%), la dependencia del contexto (25.8%) y la ambigüedad de la edad (18.9%).
• Generalización entre Subconjuntos: Los modelos tuvieron dificultades para generalizar entre subconjuntos; al transferir de instancias léxicas a contextuales, el rendimiento de GPT-4.5 cayó a 74.88%.

Significancia y Reivindicaciones
El artículo afirma que ChildGuard aborda una escasez crítica de recursos para la industria de la salud mental, proporcionando una base necesaria para el desarrollo de sistemas de detección de discurso de odio enfocados en la infancia. Los autores enfatizan que los sistemas actuales de vanguardia, aunque logran un éxito moderado, siguen siendo insuficientes para esta aplicación específica debido a su incapacidad para manejar los matices específicos de la edad y el contexto implícito. El conjunto de datos sirve como un punto de referencia para motivar el desarrollo de modelos que puedan considerar mejor la relación entre el contenido textual, la información del grupo de edad y las etiquetas de discurso de odio, yendo más allá de las formulaciones tradicionales de $P(Y|X)$ hacia marcos de trabajo más complejos y conscientes de la edad.

Limitaciones
Los autores señalan que el conjunto de datos está limitado al contenido en inglés de tres plataformas específicas. Las anotaciones de los grupos de edad se infieren de pistas textuales en lugar de datos demográficos verificados, y algunas instancias que involucran odio implícito siguen siendo inherentemente ambiguas. Además, los resultados de la evaluación comparativa están restringidos a los modelos evaluados, dejando arquitecturas más amplias y entornos multilingües para investigaciones futuras.