Cultural Targets, Structural Frames, Binding Morals: A Cross-Lingual Audit of Online Hate in Multicultural Singapore

Resumo Técnico: Alvos Culturais, Estruturas de Enquadramento, Morais de Vinculação

Definição do Problema
A pesquisa sobre o ódio online tem se concentrado tradicionalmente em contextos de língua única e plataforma única, abordando primariamente a detecção sob a perspectiva do remetente. Duas questões críticas permanecem subexploradas: (1) se os componentes estruturais do ódio (alvos, enquadramentos de ameaça, fundamentos morais) são compartilhados entre públicos linguísticos coexistentes dentro de uma mesma sociedade, ou se são culturalmente idiossincráticos; e (2) se o ódio que uma comunidade produz é o mesmo ódio que seu público amplifica. Além disso, o campo enfrenta um desafio metodológico: os Grandes Modelos de Linguagem (LLMs) utilizados como anotadores frequentemente divergem sobre a prevalência absoluta do ódio, tornando as comparações translinguais de taxas brutas pouco confiáveis.

Metodologia
O estudo utiliza um corpus centrado em Singapura de 2025, compreendendo 31,0 milhões de itens no Facebook, Reddit e YouTube. O conjunto de dados inclui 1,76 milhão de comentários mencionando onze grupos externos (out-groups) salientes em Singapura (ex: nacionais da RPC, trabalhadores migrantes, grupos religiosos, LGBTQ) em inglês, chinês simplificado e malaio.

• Pipeline de Anotação: Os autores empregam um processo de classificação em duas etapas. A Etapa 1 utiliza um filtro léxico e de protótipo de alta revocação. A Etapa 2 emprega uma decisão binária de ódio isolada usando LLMs, com hipóteses nulas explícitas (ex: menções neutras, crítica a políticas) para evitar a inflação da prevalência. A confirmação requer o consenso entre dois prompts redigidos de forma independente.
• Benchmarking de Modelos: Oito LLMs de código aberto foram testados contra um conjunto "gold" de 211 itens adjudicados por humanos. Os tetos de concordância foram baixos ($\kappa \approx 0,42$), indicando que a prevalência absoluta é mal definida ao nível do anotador. Consequentemente, o estudo adota o Phi-4 (14B parâmetros) como o rotulador principal devido ao seu equilíbrio superior de precisão (0,95), Cohen's $\kappa$ (0,91) e revocação (1,00) em uma verificação manual independente. Todos os achados são replicados usando um segundo modelo independente (Qwen2.5) para garantir a robustez.
• Análise: A análise foca em comparações estruturais relativas em vez de taxas absolutas. Mede a divergência translingual usando o $V$ de Cramér e a distância de Variação Total através de quatro eixos: Salicidade do Alvo, Enquadramento de Ameaça, Fundamento Moral e Emoção. A significância estatística é testada usando testes $\chi^2$ com controle de FDR de Benjamini–Hochberg. A ressonância (amplificação) é modelada via comparações pareadas dentro de threads no Facebook, controlando por thread, comprimento e tempo.

Principais Contribuições

1. Contingência Cultural em Camadas: O artigo propõe uma tese falsificável de que o ódio online é estruturado pela contingência cultural. Demonstra que a divergência translingual diminui monotonicamente à medida que se move do que é odiado (alvos) para como é enquadrado (ameaças) para o porquê é odiado (fundamentos morais).
2. Dissociação Produção-Ressonância: O estudo destaca o lado da recepção do ódio, mostrando que a amplificação do público é seletivamente nativista e não acompanha linearmente os volumes de produção.
3. Validade de Medição: Estabelece que, para construtos contestados como o ódio, a prevalência absoluta não é bem definida entre anotadores de LLM (estagnando em $\kappa \approx 0,42$). O artigo argumenta a favor do relato da estrutura relativa como a unidade primária de análise, tratando as taxas absolutas apenas como intervalos calibrados.

Resultos

• Alvos (Culturalmente Específicos): A saliência dos alvos varia significativamente por língua ($V=0,25$). O discurso em inglês é amplo (focando em muçulmanos, RPC, LGBTQ); o discurso em chinês centra-se no eixo local-chinês/RPC; o discurso em malaio foca em religião e LGBTQ.
• Enquadramentos de Ameaça (Estruturais): Embora os alvos difiram, o mapeamento entre alvos e enquadramentos de ameaça é robusto. Grupos religiosos são enquadrados via ameaças religiosas; migrantes/nacionais estrangeiros via ameaças econômicas, de segurança ou de substituição; e o grupo local-chinês via poder político. A hostilidade anti-muçulmana mostra a maior invariância translingual.
• Fundamentos Morais (Quase Universais): A gramática moral do ódio é altamente compartilhada entre as línguas ($V=0,08$). O ódio é predominantemente impulsionado por fundamentos morais de vinculação (Santidade/55–75%, Lealdade, Autoridade) em vez de fundamentos individualizantes (Justiça/Fairness).
• Expressão: O ódio é movido pelo desprezo (94–96% entre as línguas) e pela raiva, com frequente desumanização (21–25%). É primariamente uma queixa de grupo externo (anti-imigraçãoção) em vez de uma queixa anti-sistema; posturas anti-imigração e anti-estabelecimento são negativamente associadas.
• Ressonância: Comentários odiosos são geralmente amplificados menos do que menções neutras. No entanto, a amplificação é seletivamente nativista: o ódio anti-CECA, anti-RPC e anti-trabalhador migrante é preferencialmente amplificado, enquanto o ódio contra grupos religiosos e LGBTQ é suprimido.
• Reatividade a Eventos: O volume de ódio não apresenta picos significativos em torno de grandes eventos de 2025 em Singapura (ex: eleições, incidentos raciais), sugerindo uma base estável em vez de volatilidade impulsionada por eventos.

Significância e Alegações
O artigo alega que tratar o "ódio online" como uma prevalência única e monolítica obscurece uma estrutura em camadas. O achado central é que, embora os alvos do ódio sejam selecionados localmente e culturalmente plásticos, a gramática do ódio (os enquadramentos de ameaça e os fundamentos morais de vinculação) é compartilhada translinguisticamente.

Isso tem implicações diretas para a moderação de conteúdo translingual:

• Transferência de Política: Detectores ou políticas baseados em enquadramentos de ameaça têm maior probabilidade de transferência entre línguas do que aqueles baseados em alvos específicos, que exigem localização.
• Objetivos de Moderação: Reduzir a produção de ódio é distinto de reduzir seu alcance. Como a amplificação é seletivamente nativista, as estratégias de moderação devem considerar que o público filtra o ódio de forma diferente de como ele é produzido.
• Rigor Metodológico: O estudo alerta contra a dependência exclusiva de métricas de prevalência absoluta de LLMs, defendendo a análise estrutural relativa e a calibração ancorada em humanos.

Os autores mantêm um escopo modesto, observando que seus achados são específicos ao contexto de Singapura (uma sociedade, um ano) e que o corpus é sem atores (analisando comentários, não usuários). Eles enfatizam que suas lentes teóricas são usadas de forma descritiva, não causal.