Aligning Implied Statements for Implicit Hate Speech Generalizability with Context-Bounded Semi-hard Negative Mining

Resumo Técnico: Alinhamento de Enunciados Implícitos para Generalização de Discurso de Ódio Implícito com Mineração de Negativos Semi-difíceis com Limite de Contexto

Definição do Problema
Classificar o discurso de ódio implícito continua sendo um desafio significativo porque a intenção de ódio é frequentemente mascarada através de insinuações, sarcasmo, eufemismos e perguntas retóricas, em vez de insultos explícitos. Consequentemente, características textuais de superfície são frequentemente insuficientes para a detecção. Um desafio secundário é a sobreposição semântica: postagens que visam o mesmo grupo demográfico frequentemente compartilham conteúdo tópico, apesar de terem rótulos diferentes (ódio vs. não-ódio), o que obscurece as fronteiras de decisão.

Abordagens anteriores de aprendizado contrastivo supervisionado (SCL), como IMPCON e SHAREDCON, tentam abordar isso atraindo as postagens em direção aos seus enunciados implícitos anotados por humanos ou clusters semânticos compartilhados. No entanto, o SCL padrão trata a maioria dos outros exemplos no lote (batch) como negativos. Em conjuntos de dados de ódio implícito, muitos vizinhos próximos diferem apenas ligeiramente em intenção; repelir esses "falsos negativos" pode distorcer vizinhanças locais, levar ao sobreajuste (overfitting) em atalhos específicos do conjunto de dados e dificultar a generalização entre domínios.

Metodologia
Os autores propõem o IMPSH (Ódio Implícito com mineração semi-difícil), um framework baseado em tripletos projetado para melhorar a generalização, focando o aprendizado em "confusões próximas" em vez de repelir todos os não-positivos. O método otimiza conjuntamente uma perda de entropia cruzada padrão ($L_{CE}$) e uma perda de tripletos ($L_{triplet}$).

1. Construção de Pares Positivos:

   • IMPSH: Para postagens de ódio, o par positivo é formado pela postagem e seu enunciado implícito anotado por humanos. Para postagens de não-ódio, utiliza aumento de dados (substituição de sinônimos) para criar um par positivo.
   • AUGSH: Uma variante de ablação que utiliza positivos baseados em aumento para todas as instâncias (tanto de ódio quanto de não-ódio) para isolar a contribuição da supervisão do enunciado implícito.

2. Mineração de Negativos Semi-difíceis com Limite de Contexto:
   Em vez de tratar todos os exemplos de rótulo oposto em um lote como negativos, o framework seleciona um negativo semi-difícil. Este negativo deve:

   • Pertencer ao rótulo oposto.
   • Estar mais distante do âncora do que o par positivo ($d_{pos} < d_{neg}$).
   • Ainda cair dentro de uma margem específica ($d_{neg} < d_{pos} + \alpha$).

   Isso garante que o modelo foque as atualizações em casos realistas e confundíveis (quase-acertos) sem repelir excessivamente conteúdos amplamente similares que possam compartilhar tópicos, mas diferir em intenção.

3. Objetivo de Treinamento:
   A perda final é $L = L_{CE} + \lambda L_{triplet}$, onde a perda de tripletos utiliza a seleção baseada em margem descrita acima.

Principais Contribuições

• Framework de Triplet com Mineração Semi-difícil: Os autores introduzem um framework que evita a estratégia "repelir-todos" do SCL padrão, utilizando em vez disso a mineração de negativos semi-difíceis com limite de contexto para separar instâncias semanticamente próximas com rótulos opostos.
• Variantes IMPSH e AUGSH: A proposta inclui dois objetivos específicos: IMPSH (alavancando enunciados implícitos onde disponíveis) e AUGSH (dependendo exclusivamente de aumento). Este design permite uma análise do sinal específico adicionado pelas anotações de implicação.
• Avaliação Abrangente: Os métodos são avaliados em três conjuntos de dados (IHC, SBIC, DYNAHATE) usando backbones BERT e HATEBERT, com análise cobrindo desempenho intra-domínio, transferência entre datasets e geometria de representação (alinhamento e uniformidade).

Resultos
O artigo reporta resultados em várias configurações de treinamento e teste (ex: treinar no IHC, testar no SBIC ou DYNAHATE):

• Transferência entre Datasets: O IMPSH demonstra um forte desempenho em cenários de transferência. Quando treinado no IHC com HATEBERT, o IMPSH alcança os melhores resultados em ambos os alvos de transferência (SBIC e DYNAHATE). Ao treinar no SBIC, o IMPSH iguala ou supera baselines fortes (como SHAREDCON e IMPCON) em várias configurações de transferência, particularmente para o DYNAHATE.
• Desempenho Intra-domínio: Os resultados são mais mistos para avaliação intra-domínio. Em algumas configurações (ex: IHC com BERT), o IMPSH não supera o baseline mais forte (SHAREDCON). Os autores observam uma tensão onde os objetivos que melhor separam o dataset de origem podem diferir daqueles que melhor preservam o significado sob mudanças entre datasets.
• Análise de Representação:
  • Alinhamento: O IMPSH alcança o melhor alinhamento (pares positivos mais coesos) em quatro de seis configurações de treino-teste, indicando um agrupamento eficaz de pares semanticamente relacionados.
  • Uniformidade: O IMPSH mantém uma dispersão global competitiva, alcançando a melhor uniformidade em três de seis configurações, incluindo ambas as transferências para o DYNAHATE.
  • Visualização: Projeções t-SNE mostram que, enquanto baselines como o IMPCON fragmentam as fronteiras de classe em clusters centrados no alvo, o IMPSH mantém uma separação global mais clara entre as classes "Ódio" e "Não-Ódio" através dos domínios.
• Estudos de Caso: A análise de vizinhos mais próximos revela que o IMPSH agrupa com sucesso temas de ódio coerentes (ex: contextos misóginos ou homofóbicos), mas ainda pode falhar devido ao viés de tópico (onde tópicos compartilhados sobrepõem a postura) ou laços lexicais superficiais.

Significância e Alegações
O artigo alega que o IMPSH fornece um mapeamento mais estável, do tipo bijetivo, de postagens para suas insinuações subjacentes em comparação com o aprendizado de representação baseado em clustering tradicional. Ao separar explicitamente instâncias semanticamente próximas com rótulos opostos através da mineração com limite de contexto, o método mitiga a volatilidade inerente ao clustering não supervisionado e reduz a dependência de atalhos específicos de datasets.

Os autores posicionam o IMPSH não como um substituto dominante para todo o trabalho anterior, mas como um objetivo complementar que oferece uma separação superior em cenários de cross-data. Eles reconhecem limitações, incluindo a sensibilidade a hiperparâmetros de margem, a dependência de anotações de enunciados implícitos e ganhos modestos sobre baselines fortes em certas configurações intra-domínio. O trabalho enfatiza que, embora o método melhore a generalização, ele não elimina as dificuldades fundamentais da detecção de ódio implícito, como o ruído de anotação e a complexidade das pistas pragmáticas.