Resumo Técnico: Rótulos ou Entrada? Repensando a Aumentação na Detecção de Ódio Multimodal

Declaração do Problema

O discurso de ódio online, particularmente na forma de memes multimodais, apresenta um desafio social significativo devido à sua dependência de interações sutis entre texto e imagem, humor e contexto cultural. Embora os modelos de visão-linguagem (VLMs) recentes mostrem promessa, eles enfrentam limitações de implantação devido aos altos custos de inferência e falhas persistentes em conteúdos nuances ou implícitos. Além disso, os conjuntos de dados existentes frequentemente sofrem com artefatos estruturais, como formatos baseados em templates e supervisão inconsistente, o que pode reforçar vieses culturais e levar a correlações espúrias (por exemplo, associar características visuais específicas ao ódio, independentemente da legenda).

A questão central de pesquisa aborda se melhorar as estratégias de prompting (aumentação de rótulos) ou refinar os dados subjacentes (aumentação de entrada) é mais eficaz do que os baselines padrão para a classificação de conteúdo de ódio multimodal. Os autores visam preencher a lacuna entre a complexidade do dano online e a supervisão limitada fornecida pelos conjuntos de dados atuais, explorando especificamente como modelos pequenos podem ser aprimorados sem depender da inferência dispendiosa de grandes modelos.

Metodologia

O estudo propõe e avalia duas estratégias complementares usando o dataset Facebook Hateful Memes (contendo aproximadamente 12,9K pares de imagem-legenda).

1. Otimização de Prompt (Aumentação de Rótulo)

Esta abordagem trata o prompting como um espaço de design multivariado para enriquecer os sinais de supervisão.

• Design Experimental: Um design fatorial completo ($3 \times 2 \times 2$) variando:
  • Modalidade de Aprendizado: Ajuste fino (fine-tuning) apenas de texto vs. ajuste fino/prompting multimodal.
  • Estrutura do Prompt: Simples (instrução direta) vs. Baseada em categorias (definindo subtipos como misoginia ou xenofobia).
  • Formato do Rótulo: Binário (Ódio/Não Ódio) vs. Escalonado (pontuação de ódio de 0 a 9).
• Implementação: Um modelo professor (GPT-4o-mini) gera rótulos escalonados (0–9) para os dados de treinamento com base em prompts estruturados. Esses rótulos "suaves" são usados para realizar o ajuste fino tanto de grandes modelos multimodais (InternVL2 4B) quanto de modelos unimodais menores (BERT, RoBERTa). Rótulos incorretos inconsistentes com a verdade fundamental (ground truth) binária são filtrados.

2. Aumentação de Dados Multimodais (Aumentação de Entrada)

Esta abordagem busca melhorar a robustez do modelo gerando memes contrafactualmente neutros para reduzir correlações espúrias entre texto e imagem.

• Alvo: Foca especificamente em memes "NH" (Imagem Não-Odiosa + Legenda Odiosa), onde o plano de fundo visual é benigno, mas o texto induz ao ódio.
• Pipeline: Um sistema multiagente envolvendo:
  1. Atribuição: Um classificador zero-shot (Qwen2.5-14B) identifica memes onde a legenda é a principal fonte de ódio.
  2. Extração de Contexto: Um VLM (InternLM-XComposer-2.5-7B) gera uma descrição do plano de fundo da imagem, excluindo o texto sobreposto.
  3. Neutralização: Um modelo generativo (GPT-4o-mini) reescreve a legenda odiosa em uma legenda neutra, condicionada à descrição do plano de fundo para garantir coerência semântica.
  4. Regeneração: Um modelo de renderização (Gemini 2.0 Flash) sobrepõe a nova legenda neutra ao layout original da imagem.
• Resultado: O pipeline gerou 2.479 memes contrafactualmente neutros, que foram fundidos ao dataset original para criar um conjunto de treinamento "Estendido".

Principais Contribuições

1. Extensão do Dataset: A criação de um novo benchmark consistindo de 2.479 memes contrafactualmente neutros projetados para avaliar a robustez contra correlações espúrias entre texto e imagem.
2. Framework de Prompt Estruturado: Uma demonstração de que o design de prompt, frequentemente negligenciado em tarefas de visão-linguagem, impacta significativamente o desempenho. O estudo mostra que prompts estruturados e baseados em categorias são cruciais para anotações escalonadas e granulares, enquanto prompts simples bastam para tarefas binárias.
3. Pipeline de Mitigação de Viés (Debiasing): Uma prova de conceito de um pipeline multiagente para gerar variantes de memes semanticamente coerentes e não odiosas. Isso serve como uma estratégia para mitigar o viés e melhorar a generalização sem gerar novo conteúdo prejudicial.

Resultados e Análise

Descobertas de Otimização de Prompt

• Utilidade do Prompt: Para classificação binária, prompts simples superaram prompts baseados em categorias em modelos unimodais menores. No entanto, para rótulos escalonados (nuances), prompts baseados em categorias melhoraram significativamente o desempenho em ambos os modelos, unimodais e multimodais.
• Prompting vs. Fine-tuning: No dataset escalonado, o prompting do modelo grande InternVL2 com definições de categoria alcançou um F1-score de 64,74, sendo competitivo com e ligeiramente superior ao melhor resultado de ajuste fino (63,28). Isso sugere que, para detecção de ódio granular, o zero-shot prompting bem estruturado pode rivalizar com o ajuste fino em dados aumentados.
• Robustez Unimodal: Modelos unimodais padrão (BERT, RoBERTa) utilizaram efetivamente o contexto categórico para melhorar o desempenho quando os rótulos foram escalonados em vez de binários.

Descobertas de Aumentação Multimodal

• Ganhos de Desempenho: O treinamento no dataset estendido (original + contrafactuais) rendeu ganhos modestos de acurácia (<1%), mas melhorias notáveis nos F1-scores ponderados, indicando melhor tratamento de desequilíbrio de classes e casos de borda.
  • Modelos de Texto: O F1 do RoBERTa melhorou de 47,18 para 52,54 (+5,36).
  • Modelos Multimodais: O Qwen2-VL (7B) alcançou o maior desempenho geral, subindo de 69,59 para 71,31 F1.
• Capacidades Zero-Shot: VLMs maiores (ex: Qwen2-VL 7B) demonstraram uma robustez zero-shot notável (F1: 69,13), comparável ao seu desempenho de ajuste fino. Por outro lado, modelos menores (SmolVLM 2B) dependeram fortemente do ajuste fino, mostrando uma lacuna significativa de desempenho entre os cenários zero-shot e de ajuste fino.

Avaliação da Qualidade dos Dados

• Confiabilidade dos Rótulos: A avaliação humana dos rótulos escalonados mostrou uma taxa de concordância de 92,5%, confirmando a confiabilidade das anotações geradas por máquina, embora divergências tenham persistido em casos de ódio indireto ou dependente de contexto.
• Qualidade da Aumentação: A avaliação humana dos 2.479 memes neutros confirmou alta qualidade em termos de formatação, alinhamento de plano de fundo e coerência de legenda. No entanto, um pequeno subconjunto de erros (ex: legendas ausentes, deriva semântica ou inconsistências visuais) destacou a necessidade de validação manual em pipelines automatizados.

Significância e Alegações

O artigo argumenta que a detecção robusta de ódio multimodal requer atenção tanto ao enquadramento da tarefa (design de prompt) quanto à integridade dos dados (aumentação).

• Caminho Prático: O trabalho oferece uma rota prática para sistemas mais robustos e implantáveis que não dependem exclusivamente de inferência de grandes modelos caros. Demonstra que modelos pequenos podem ser fortalecidos através de prompts estruturados e aumentação de dados direcionada.
• Aumentação Ética: Ao gerar memes contrafactualmente neutros em vez de novo conteúdo odioso, os autores fornecem um método eticamente fundamentado para refinar as distribuições de treinamento e reduzir a dependência excessiva de correlações espúrias.
• Nuance sobre Binário: O estudo enfatiza que ir além da classificação binária para rótulos escalonados, apoiados por prompting estruturado, permite uma compreensão mais matizada do conteúdo nocivo, particularmente para memes culturalmente enraizados.

Os autores concluem que, embora seus métodos mostrem promessa, trabalhos futuros devem abordar a escala do pipeline de aumentação para ambientes culturalmente diversos e resolver desafios remanescentes na preservação de contexto.