Cultural Targets, Structural Frames, Binding Morals: A Cross-Lingual Audit of Online Hate in Multicultural Singapore

Resumen Técnico: Objetivos Culturales, Marcos Estructurales, Morales de Vinculación

Planteamiento del Problema
La investigación sobre el odio en línea se ha centrado tradicionalmente en contextos de un solo idioma y una sola plataforma, abordando principalmente la detección desde la perspectiva del emisor. Dos cuestiones críticas siguen sin explorarse suficientemente: (1) si los componentes estructurales del odio (objetivos, marcos de amenaza, fundamentos morales) se comparten entre los públicos lingüísticos coexistentes dentro de una misma sociedad, o si son culturalmente idiosincrásicos; y (2) si el odio que produce una comunidad es el mismo odio que su audiencia amplifica. Además, el campo enfrenta un desafío metodológico: los Modelos de Lenguaje Extensos (LLM) utilizados como anotadores suelen discrepar sobre la prevalencia absoluta del odio, lo que hace que las comparaciones translingüísticas de tasas brutas sean poco fiables.

Metodología
El estudio utiliza un corpus centrado en Singapur de 2025, que comprende 31.0 millones de elementos en Facebook, Reddit y YouTube. El conjunto de datos incluye 1.76 millones de comentarios que mencionan once grupos externos (out-groups) relevantes para Singapur (p. ej., ciudadanos de la RPC, trabajadores migrantes, grupos religiosos, LGBTQ) en inglés, chino simplificado y malayo.

• Pipeline de Anotación: Los autores emplean un proceso de clasificación de dos etapas. La Etapa 1 utiliza un filtro léxico y de prototipos de alta recuperación (recall). La Etapa 2 emplea una decisión de odio binaria aislada utilizando LLMs, con hipótesis nulas explícitas (p. ej., menciones neutrales, crítica de políticas) para evitar inflar la prevalencia. La confirmación requiere el consenso de dos prompts redactados de forma independiente.
• Evaluación de Modelos (Benchmarking): Ocho LLM de código abierto fueron evaluados frente a un conjunto de oro "duro" de 211 elementos adjudicados por humanos. Se encontró que los techos de acuerdo son bajos ($\kappa \approx 0.42$), lo que indica que la prevalencia absoluta está mal definida a nivel del anotador. En consecuencia, el estudio adopta Phi-4 (14B de parámetros) como el etiquetador principal debido a su equilibrio superior de precisión (0.95), Coeficiente de Cohen $\kappa$ (0.91) y recuperación (1.00) en una verificación manual independiente. Todos los hallazgos se replican utilizando un segundo modelo independiente (Qwen2.5) para asegurar la robustez.
• Análisis: El análisis se centra en comparaciones estructurales relativas en lugar de tasas absolutas. Mide la divergencia translingüística utilizando la $V$ de Cramér y la distancia de variación total a través de cuatro ejes: Saliencia del Objetivo, Marco de Amenaza, Fundamento Moral y Emoción. La significancia estadística se prueba mediante pruebas $\chi^2$ con control FDR de Benjamini–Hochberg. La resonancia (amplificación) se modela mediante comparaciones pareadas dentro de hilos en Facebook, controlando el hilo, la longitud y el tiempo.

Contribuciones Clave

1. Contingencia Cultural por Capas: El artículo propone una tesis falsable de que el odio en línea está estructurado por la contingencia cultural. Demuestra que la divergencia translingüística disminuye monótonamente a medida que se pasa de qué se odia (objetivos) a cómo se encuadra (amenazas) y a por qué se odia (fundamentos morales).
2. Disociación Producción-Resonancia: El estudio pone de relieve el lado de la recepción del odio, mostrando que la amplificación de la audiencia es selectivamente nativista y no sigue linealmente los volúmenes de producción.
3. Validez de la Medición: Establece que, para constructos disputados como el odio, la prevalencia absoluta no está bien definida entre los anotadores de LLM (con un techo de $\kappa \approx 0.42$). El artículo argumenta que reportar la estructura relativa es la unidad de análisis primaria, tratando las tasas absolutas solo como rangos calibrados.

Resultos

• Objetivos (Culturalmente Específicos): La saliencia de los objetivos varía significamente según el idioma ($V=0.25$). El discurso en inglés es amplio (centrado en musulmanes, RPC, LGBTQ); el discurso en chino se centra en el eje local-chino/RPC; el discurso en malayo se enfoca en la religión y el LGBTQ.
• Marcos de Amenaza (Estructurales): Aunque los objetivos difieren, el mapeo entre los objetivos y los marcos de amenaza es robusto. Los grupos religiosos se encuadran mediante amenazas religiosas; los migrantes/nacionales extranjeros mediante amenazas económicas, de seguridad o de reemplazo; y los chinos locales mediante el poder político. La hostilidad anti-musulmana muestra la mayor invariancia translingüística.
• Fundamentos Morales (Casi Universales): La gramática moral del odio es altamente compartida entre idiomas ($V=0.08$). El odio es impulsado predominantemente por fundamentos morales de vinculación (Santidad/55–75%, Lealtad, Autoridad) en lugar de fundamentos individualistas (Equidad).
• Expresión: El odio es impulsado por el desprecio (94–96% en todos los idiomas) y la ira, con deshumanización frecuente (21–25%). Es principalmente un agravio de grupo externo (anti-inmigración) más que uno anti-sistema; las posturas anti-inmigración y anti-establecimiento están asociadas negativamente.
• Resonancia: Los comentarios de odio son, por lo general, amplificados menos que las menciones neutrales. Sin embargo, la amplificación es selectivamente nativista: el odio anti-CECA, anti-RPC y contra trabajadores migrantes es preferencialmente amplificado, mientras que el odio contra grupos religiosos y LGBTQ es suprimido.
• Reactividad a Eventos: El volumen de odio no presenta picos significativos alrededor de los principales eventos de Singapur de 2025 (p. ej., elecciones, incidentes raciales), lo que sugiere una base constante en lugar de una volatilidad impulsada por eventos.

Significancia y Reivindicaciones
El artículo sostiene que tratar el "odio en línea" como una prevalencia única y monolítica oscurece una estructura estratificada. El hallazgo central es que, si bien los objetivos del odio son seleccionados localmente y culturalmente plásticos, la gramática del odio (los marcos de amenaza y los fundamentos morales de vinculación) es compartida translingüísticamente.

Esto tiene implicaciones directas para la moderación de contenido translingüística:

• Transferencia de Políticas: Los detectores o políticas basados en marcos de amenaza tienen más probabilidades de transferirse entre idiomas que aquellos basados en objetivos específicos, que requieren localización.
• Objetivos de Moderación: Reducir la producción de odio es distinto de reducir su alcance. Dado que la amplificación es selectivamente nativista, las estrategias de moderación deben considerar que la audiencia filtra el odio de manera diferente a como este es producido.
• Rigor Metodológico: El estudio advierte contra la dependencia exclusiva de métricas de prevalencia absoluta de los LLM, abogando por un análisis estructural relativo y una calibración anclada en humanos.

Los autores mantienen un alcance modesto, señalando que sus hallazgos son específicos del contexto de Singapur (una sociedad, un año) y que su corpus carece de actores (analiza comentarios, no usuarios). Enfatizan que sus lentes teóricos se utilizan de forma descriptiva, no causal.