AIWizards at MULTIPRIDE: A Hierarchical Approach to Slur Reclamation Detection

1. Problema e Contexto

O artigo aborda o desafio central da detecção automática de discurso de ódio em redes sociais: a reivindicação de insultos (slur reclamation). Palavras historicamente ofensivas podem ser usadas de forma neutra, positiva ou de afirmação de identidade por membros de grupos minoritários (especificamente a comunidade LGBTQ+), tornando a classificação puramente lexical insuficiente.

O problema é agravado pela ambiguidade pragmática: o mesmo termo pode ser um insulto ou um sinal de solidariedade dependendo do contexto social e da identidade do autor. A tarefa Subtask B da competição MultiPRIDE (EVALITA 2026) oferece uma oportunidade única para resolver isso, fornecendo não apenas o texto do tweet, mas também a biografia do usuário, permitindo que os modelos incorporem contexto de nível de autor.

2. Metodologia

Os autores propõem uma abordagem hierárquica e modular baseada em um modelo de duplo codificador (dual-encoder), fundamentada na hipótese de que membros da comunidade LGBTQ+ têm maior probabilidade de usar certos insultos de forma reivindicada.

A arquitetura e o processo de treinamento são divididos em três etapas principais:

A. Codificador de Usuário (User Encoder) e Rótulos Proxy

• Objetivo: Criar uma representação latente que capture sinais sociolinguísticos relacionados à identidade LGBTQ+.
• Abordagem: Como não há rótulos de identidade verídicos disponíveis, os autores utilizam um LLM (DeepSeek-V3.2) para gerar rótulos proxy fracos (weak supervision). O LLM analisa a concatenação do tweet e da biografia do usuário para inferir se há sinais de afiliação ou solidariedade ao grupo.
• Treinamento: Um codificador BERT é fine-tuned para prever esses rótulos proxy, aprendendo representações latentes focadas no perfil do usuário.

B. Codificador de Texto (Text Encoder)

• Um segundo codificador BERT (inicializado com pesos pré-treinados para detecção de discurso de ódio) é responsável por analisar o conteúdo linguístico local do tweet.

C. Fusão Hierárquica (Gated Fusion)

• As representações finais dos dois codificadores ($h_{text}$ e $h_{user}$) são combinadas através de um mecanismo de portão aprendido (learned gating mechanism).
• O vetor de portão ($g$) é calculado dinamicamente para cada instância, permitindo que o modelo balanceie a confiança entre o conteúdo textual e o contexto do usuário:
  $$h_{fused} = g \odot h_{text} + (1 - g) \odot h_{user}$$
• Isso permite que o modelo adapte sua decisão: confiar mais no perfil do usuário quando o texto é ambíguo, ou priorizar o texto quando o insulto é claramente hostil.

3. Contribuições Principais

1. Framework Modular: Propõe uma arquitetura que separa explicitamente a modelagem de contexto sociolinguístico (usuário) da modelagem de padrões de linguagem abusiva, permitindo extensões futuras (ex: multimodalidade).
2. Uso de Rótulos Proxy via LLM: Demonstra a viabilidade de usar LLMs para gerar sinais de afiliação de grupo a partir de biografias e textos, utilizando-os como supervisão fraca para induzir representações úteis sem violar a privacidade ou afirmar identidades como "verdade absolutas".
3. Abordagem Hierárquica: Valida a decomposição do problema em duas etapas (inferência de identidade -> detecção de reivindicação) como uma estratégia viável para tarefas de NLP sensíveis ao contexto.

4. Resultados

Os experimentos foram conduzidos em datasets de Italiano e Espanhol.

• Desempenho: O modelo proposto de duplo codificador alcançou desempenho estatisticamente equivalente ao baseline forte (fine-tuning direto de BERT) em ambas as línguas.
  • Italiano: F1 Macro ~0.88 (Dual Encoder) vs 0.90 (Baseline).
  • Espanhol: F1 Macro ~0.64 (Dual Encoder) vs 0.67 (Baseline).
• Análise de Significância: Não houve melhoria estatisticamente significativa nas métricas agregadas em comparação ao baseline, mas o modelo provou que a complexidade adicional não degrada a precisão.
• Disparidade Linguística: O modelo italiano teve desempenho superior ao espanhol. Os autores atribuem isso às diferenças nas arquiteturas base (o modelo italiano usou SetFit, otimizado para poucos exemplos e pré-treinado em tarefas de ódio), e não a fatores linguísticos intrínsecos.
• Análise de Erros: O modelo falhou ocasionalmente em tweets claramente hostis que continham termos de insulto, sugerindo que os sinais do usuário às vezes dominam indevidamente o mecanismo de portão, ignorando o contexto imediato de hostilidade.

5. Significado e Conclusão

O trabalho não busca necessariamente superar o estado da arte (SOTA) em métricas brutas, mas sim estabelecer um paradigma metodológico.

• Validação do Conceito: Demonstra que é possível integrar contexto de nível de usuário (biografias) em modelos de detecção de discurso de ódio sem sacrificar a acurácia, validando a hipótese de que a identidade do autor é um sinal crucial para distinguir insultos de reivindicações.
• Direção Futura: O framework modular sugere que a incorporação de sinais contextuais adicionais (como redes sociais ou dados multimodais) e o refinamento dos mecanismos de fusão podem levar a melhorias futuras.
• Ética: Os autores enfatizam o uso ético dos dados, utilizando os rótulos de identidade apenas como sinais contextuais fracos para aprendizado de representação, evitando a classificação direta de atributos protegidos dos usuários.

Em resumo, o artigo oferece uma solução elegante e extensível para um problema complexo de NLP, onde o contexto social é tão importante quanto o conteúdo textual.