💬 NLP

The Enforcement and Feasibility of Hate Speech Moderation on Twitter

Este estudo auditou a moderação de discurso de ódio no Twitter, revelando que a persistência desse conteúdo não se deve a limitações técnicas, mas sim a escolhas institucionais, demonstrando que uma redução significativa na exposição dos usuários é economicamente viável através de um pipeline híbrido de IA e revisão humana.

Autores originais: Manuel Tonneau, Dylan Thurgood, Diyi Liu, Niyati Malhotra, Victor Orozco-Olvera, Ralph Schroeder, Scott A. Hale, Manoel Horta Ribeiro, Paul Röttger, Samuel P. Fraiberger

Publicado 2026-04-15

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Manuel Tonneau, Dylan Thurgood, Diyi Liu, Niyati Malhotra, Victor Orozco-Olvera, Ralph Schroeder, Scott A. Hale, Manoel Horta Ribeiro, Paul Röttger, Samuel P. Fraiberger

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

O Grande Experimento: Quem Limpa a Casa?

Imagine que o Twitter (agora X) é uma praça pública gigante, onde milhões de pessoas falam ao mesmo tempo. Infelizmente, nessa praça, há um grupo de pessoas gritando insultos, ameaças e ódio contra outros grupos (o que chamamos de "discurso de ódio").

Os donos da praça (a plataforma) têm um manual de regras dizendo: "Se alguém gritar ódio, a gente para, expulsa ou silencia a pessoa". Mas a pergunta que os pesquisadores fizeram foi: Eles realmente estão seguindo as regras? E, se não estão, é porque é impossível fazer isso ou porque eles simplesmente não querem?

Para descobrir, os pesquisadores fizeram um "corte" na praça. Eles pegaram todas as mensagens postadas em um único dia (24 horas) em 8 idiomas diferentes. Foi como tirar uma foto instantânea de tudo o que aconteceu naquele dia. Depois, eles analisaram 540.000 dessas mensagens com ajuda de humanos treinados para identificar o ódio.

Aqui estão os principais achados, explicados de forma simples:

1. A "Faxina" que Não Acontece

Depois de esperar 5 meses, os pesquisadores voltaram para ver o que tinha acontecido com aquelas mensagens de ódio.

O Resultado: 80% das mensagens de ódio ainda estavam lá.
A Analogia: Imagine que você vê alguém jogando lixo no chão da praça. Você avisa o zelador. Cinco meses depois, o lixo ainda está lá, e o zelador nem sequer olhou para ele. Pior: mensagens de ódio violento (que pedem para machucar alguém) tinham a mesma chance de serem removidas do que uma mensagem comum e inofensiva.
A Conclusão: Não é que o sistema não saiba o que é ódio; é que ele não está priorizando a limpeza. Curiosamente, mensagens sobre golpes (scams) ou conteúdo adulto eram removidas muito mais rápido. O sistema parece escolher o que limpar com base em outras coisas, não no perigo real.

2. O Robô que Confunde "Briga de Vizinho" com "Guerra Civil"

A plataforma usa robôs (Inteligência Artificial) para tentar achar o ódio automaticamente.

O Problema: Se você deixar o robô sozinho, ele comete muitos erros. Ele confunde xingamentos comuns (como "você é um idiota") com discurso de ódio (como "você deve morrer por ser de tal religião").
A Analogia: É como ter um detector de metais na porta de um estádio. Se você o deixar muito sensível, ele vai tocar o alarme para cada moeda, chave ou cinto do público, impedindo a entrada de milhões de pessoas inocentes. Se você o deixar menos sensível, ele deixa entrar os bandidos com armas.
O Pulo do Gato: O robô não é bom em decidir o que é ódio, mas é excelente em organizar a fila. Ele consegue pegar as mensagens mais prováveis de serem ódio e colocá-las no topo da lista para um humano olhar. É como um assistente que separa as cartas urgentes da pilha de propaganda.

3. O Dinheiro e a Escolha Política

A parte mais interessante é sobre o custo e a vontade de fazer a limpeza.

A Simulação: Os pesquisadores simularam um sistema onde humanos olham apenas as mensagens que o robô marcou como "provavelmente ódio".
O Custo: Eles descobriram que, para reduzir em 80% a quantidade de pessoas que veem esse ódio na praça, a empresa precisaria gastar cerca de 3% de todo o dinheiro que ganha por ano contratando mais moderadores.
A Comparação: As leis atuais (na Europa e no Reino Unido) dizem que, se a empresa não limpar a praça, ela pode ser multada em 6% a 10% do seu lucro anual.
A Lição: Pagar para limpar a praça (3%) é mais barato do que pagar a multa por não limpar (10%).
Conclusão Final: O problema não é que é tecnicamente impossível ou financeiramente inviável limpar a praça. O problema é que a empresa escolheu não gastar esse dinheiro. Eles preferem arriscar a multa ou manter o caos, talvez porque o ódio gera engajamento (briga atrai olhares) e eles não querem perder esse lucro.

Resumo em uma frase

O estudo mostra que o Twitter pode e tem dinheiro para limpar a maior parte do ódio da plataforma, mas escolhe não fazer isso, deixando a maioria das mensagens de ódio violento online, não por falta de tecnologia, mas por falta de vontade política e priorização de recursos.

1. Problema e Contexto

O discurso de ódio online está associado a danos sociais substanciais, incluindo deterioração da saúde mental e violência offline. Embora as plataformas de mídia social enfrentem pressão contínua de legisladores e do público para combater esse conteúdo, existem lacunas críticas no conhecimento sobre:

Consistência da Aplicação: Até que ponto as políticas de discurso de ódio são realmente aplicadas em escala global?
Viabilidade Técnica e Econômica: É tecnicamente e financeiramente viável aumentar a aplicação dessas políticas para reduzir significativamente a exposição dos usuários?

Estudos anteriores são limitados por amostras de conveniência (focando apenas em tweets removidos ou usuários suspensos), falta de acesso a dados representativos e concentração em contextos anglófonos e dos EUA.

2. Metodologia

Os autores realizaram a primeira auditoria global da aplicação e viabilidade da moderação de discurso de ódio no Twitter (agora X), utilizando dados coletados antes da aquisição por Elon Musk, quando o acesso a dados públicos era mais amplo.

Coleta de Dados: Um snapshot completo de 24 horas de todos os tweets públicos globais publicados em 21 de setembro de 2022 (aproximadamente 375 milhões de tweets).
Amostragem Representativa: Foram extraídas amostras estratificadas cobrindo 8 idiomas principais (Árabe, Inglês, Francês, Alemão, Indonésio, Português, Espanhol, Turco) e 4 países de língua inglesa (EUA, Índia, Nigéria, Quênia).
- Total de tweets analisados: 540.000.
- Amostragem incluiu: amostras aleatórias (30.000 por idioma/país) e amostras ponderadas por engajamento (15.000 por idioma/país).
Anotação Humana:
- 36 anotadores nativos classificaram os tweets em três categorias mutuamente exclusivas: Ódio, Ofensivo e Neutro, alinhados à Política de Conduta Odiosa do Twitter na época.
- Subclassificação de conteúdo de ódio em Violento (chamadas para dano físico, extermínio) e Não Violento.
- Total de 1,6 milhão de rótulos gerados.
Medição de Aplicação (Enforcement): Reconsulta das contas e tweets 5 meses após a publicação (fevereiro de 2023) para medir taxas de remoção e suspensão.
Avaliação de IA e Simulação:
- Avaliação de modelos de detecção automática (supervisionados e LLMs como GPT-5.1) em dados reais.
- Simulação de um pipeline de moderação Humano-AI para estimar a redução de exposição ao ódio sob diferentes cenários de recursos humanos e custos.

3. Principais Contribuições e Resultados

A. Baixa Aplicação e Falta de Priorização

Taxa de Remoção: Apenas 20,2% dos tweets classificados como de ódio foram removidos em 5 meses. Quando se considera apenas suspensões de contas (ação inequívoca da plataforma), a taxa cai para 9,2%.
Ineficácia na Severidade: Tweets com discurso de ódio violento não têm maior probabilidade de serem removidos do que tweets não violentos ou até mesmo tweets neutros. O coeficiente estatístico para ódio violento vs. remoção foi insignificante ( $\beta = -0.02, p = 0.84$ ).
Inversão de Prioridades: Conteúdos como golpes (scams) e material adulto foram removidos muito mais agressivamente do que o discurso de ódio.
Engajamento e Visibilidade: Contrariando a lógica de priorizar o conteúdo mais visível, tweets de ódio com maior engajamento inicial tinham menor probabilidade de serem removidos. Não há evidências de "downranking" (redução de visibilidade) sistemático para conteúdo violento.
Desigualdades Geográficas e Linguísticas: Existem disparidades significativas. Usuários que falam Árabe têm 12 pontos percentuais a menos de chance de suspensão em comparação com falantes de Inglês, enquanto usuários indonésios têm taxas mais altas. Isso reflete uma alocação desigual de recursos de moderação.

B. Limitações da Detecção Automática (IA)

Precisão vs. Revocação: Modelos de IA puros não conseguem distinguir com precisão discurso de ódio de conteúdo ofensivo sem gerar um número massivo de falsos positivos (precisão baixa).
Capacidade de Classificação (Ranking): Embora não consigam classificar perfeitamente, os modelos supervisionados conseguem ranquear o conteúdo de ódio no topo da distribuição de pontuação. Cerca de 50% dos tweets de ódio estão no top 3,2% das pontuações. Isso sugere que a IA é eficaz como ferramenta de triagem, mas não como decisor final.

C. Viabilidade Econômica da Moderação Humano-AI

Simulação de Recursos: A capacidade atual de moderação (baseada em relatórios de transparência de 2023) é insuficiente para reduzir substancialmente a exposição ao ódio.
Custo de Redução de Exposição: A simulação mostra que reduzir 80% do engajamento com discurso de ódio (focando nos tweets com maior pontuação combinada de ódio e engajamento) é financeiramente viável.
- O custo estimado seria de 2,9% da receita global anual do Twitter (baseado em 2022).
- Este valor está abaixo das multas máximas impostas por regulamentos como o Digital Services Act (DSA) da UE (6% da receita) e o Online Safety Act do Reino Unido (10% da receita).
Conclusão de Viabilidade: A persistência do discurso de ódio não é causada por limitações técnicas ou financeiras insuperáveis, mas sim por escolhas institucionais na alocação de recursos.

4. Significado e Implicações

Escolhas Institucionais vs. Limitações Técnicas: O estudo refuta a narrativa de que a moderação em escala é impossível devido à tecnologia. O problema é a priorização: as plataformas não estão alocando recursos suficientes para o conteúdo mais prejudicial.
Papel da IA: A IA deve ser usada para triagem (identificar candidatos prováveis), mas a decisão final e a nuance contextual devem permanecer com humanos para evitar erros de classificação e garantir a precisão.
Regulação: Os resultados fornecem uma base empírica para reguladores. Mostram que o custo de cumprir as obrigações de moderação (reduzir 80% da exposição) é menor do que as penalidades financeiras atuais, sugerindo que as multas são economicamente viáveis para forçar a mudança de comportamento das plataformas.
Desigualdade Global: A moderação é desproporcionalmente fraca em idiomas não europeus e em países do Sul Global, exacerbando danos nessas comunidades.

Em resumo, o artigo demonstra que a redução substancial da exposição ao discurso de ódio é tecnicamente possível e economicamente factível, mas exige um investimento sustentado em sistemas de moderação centrados no ser humano e uma realocação de recursos que priorize o conteúdo mais prejudicial, independentemente do idioma ou da localização geográfica.