Gender Disparities in LLM-Based Intimate Partner Violence Detection

Resumo Técnico: Disparidades de Gênero na Detecção de Violência de Parceiro Íntimo Baseada em LLMs

Definição do Problema
A Violência de Parceiro Íntimo (VPI) é uma questão crítica de saúde pública que afeta indivíduos em todas as configurações de gênero. Embora as mulheres sofram VPI em taxas desproporcionalmente maiores, os homens também sofrem de VPI tanto em relacionamentos homoafetivos quanto heteroafetivos, frequentemente enfrentando barreiras significativas para buscar ajuda devido às expectativas de gênero em torno da masculinidade. À medida que os Grandes Modelos de Linguagem (LLMs) são cada vez mais implantados para fornecer suporte e informações em domínios sensíveis, há uma preocupação de que esses modelos, treinados em vastos corpora da internet, possam absorver e reproduzir vieses sociais. Especificamente, este estudo investiga se os LLMs exibem vieses perceptivos baseados em gênero ao avaliar cenários de VPI, potencialmente levando a uma validação diferencial de vítimas com base na configuração de gênero do díade vítima–agressor.

Metodologia
Os pesquisadores empregaram um design experimental contrafactual para isolar a influência do gênero nos julgamentos do modelo, mantendo o conteúdo narrativo constante.

• Coleta de Dados: O estudo utilizou 475 narrativas díades únicas da comunidade do Reddit r/relationship_advice. Esses posts foram selecionados com base em critérios rigorosos: eles devem envolver exatamente duas partes com papéis de vítima e agressor claramente identificáveis e marcadores de gênero explícitos (Masculino ou Feminino). A distribuição original incluiu 29 díades Feminina–Feminina (F/F), 228 Feminina–Masculino (F/M), 202 Masculino–Feminina (M/F) e 16 Masculino–Masculino (M/M).
• Geração Contrafactual: Para criar um conjunto de avaliação equilibrado, os autores realizaram um procedimento de troca de gênero em cada um dos 475 posts. Para cada post original, quatro versões foram geradas correspondendo a todas as possíveis configurações de gênero (F/F, F/M, M/F, M/M), onde a primeira posição denota a vítima (Autor do Post Original) e a segunda denota o agressor. Isso resultou em um conjunto de dados final de 1.900 amostras (475 posts × 4 condições).
• Avaliação do Modelo: Quatro LLMs de última geração foram avaliados: GPT-5o, Gemini 3, Llama 4 e Grok 3. Cada modelo analisou todos os 1.900 exemplos usando um questionário estruturado fundamentado em frameworks estabelecidos de VPI (ex: o Escritório de Mulheres Contra a Violência do Departamento de Justiça dos EUA). O questionário avaliou seis dimensões principais:
  1. IS_REL: A relação é romântica?
  2. IS_IPV: A VPI está presente?
  3. HAS_INTENT: O agressor demonstra intenção de exercer poder e controle?
  4. IS_CHEATING: Infidelidade é descrita?
  5. Subtipos de Abuso: Presença de abuso emocional, psicológico, físico, sexual, financeiro e facilitado pela tecnologia.
     Os modelos responderam com "sim", "não" ou "incerto" para as variáveis primárias e "sim/não" binário para os subtipos.
• Análise Estatística: Como não havia anotações de verdade fundamental (ground-truth) disponíveis, o estudo utilizou a Taxa de Rótulo Positivo (PLR) como uma métrica descritiva. Para isolar rigorosamente os efeitos de gênero, uma regressão logística de efeitos mistos foi realizada. O modelo controlou a variabilidade entre as narrativas originais dos posts usando interceptos aleatórios e modelou o log-odds de uma previsão "sim" com base no gênero da vítima, no gênero do agressor e sua interação.

Resultados Principais
O estudo encontrou variações substanciais nos outputs dos modelos tanto entre diferentes LLMs quanto dentro do mesmo modelo através de diferentes díades de gênero.

• Variação Inter-Modelo: Os modelos diferiram significamente em sua sensibilidade basal. GPT-5o e Grok 3 foram comparativamente conservadores, identificando VPI em aproximadamente 12–20% dos casos. Em contraste, Llama 4 relatou as taxas mais altas (30–40%), e Gemini 3 relatou taxas moderadas (31–36%).
• Variação Díade (Viés de Gênero): Todos os modelos mostraram sensibilidade ao enquadramento de gênero, mesmo quando o conteúdo narrativo permanecia idêntico.
  • Vítimas do Sexo Masculino: A detecção de abuso e de intenção do agressor diminuiu sistematicamente em díades de gênero misto onde a vítima era do sexo masculino (M/F). Por exemplo, a detecção de VPI do Llama 4 caiu de 40,08% em díades F/F para 30,59% em díades M/F. O GPT-5o mostrou uma tendência semelhante, com sua menor taxa de detecção (12,24%) ocorrendo na díade de vítima masculina.
  • Agressoras do Sexo Feminino: A análise de regressão confirmou que a identidade de uma agressora feminina é um preditor negativo consistente do reconhecimento de abuso. Para a variável IS_IPV, a razão de chances (OR) para uma agressora feminina foi significativamente menor que 1 em todos os modelos (ex: GPT-5o OR = 0,504), indicando uma probabilidade reduzida de rotular o comportamento como VPI.
  • Dinâmicas de Mesmo Sexo: Enquanto as díades de gênero misto com vítimas masculinas foram minimizadas, as díades de mesmo sexo feminino (F/F) frequentemente elicitaram maior reconhecimento de abuso, particularmente para abuso emocional e psicológico. Notavelmente, o Llama 4 mostrou um aumento compensatório no reconhecimento de abuso para díades F/F, com razões de chances significativamente elevadas para termos de interação em abuso emocional (OR = 2,366) e abuso facilitado pela tecnologia (OR = 9,316).
• Subtipos de Abuso: As taxas de detecção para abuso físico e sexual permaneceram baixas em todos os modelos (2–6%). No entanto, a detecção de abuso emocional e psicológico mostrou disparidades de gênero significativas, com os modelos geralmente subidentificando esses abusos quando a vítima era do sexo masculino.

Significância e Alegações
O artigo afirma que os LLMs não respondem apenas a pistas comportamentais, mas também a pressuposições de gênero sobre como deve ser uma díade "abusiva". Os achados sugerem que esses modelos reproduzem vieses de gênero presentes em seus dados de treinamento, criando efetivamente um "duplo padrão digital" onde vítimas do sexo masculino em relacionamentos de gênero misto requerem evidências mais fortes para serem reconhecidas como sobreviventes.

Os autores argumentam que esses vieses espelham falhas institucionais documentadas na literatura sociológica, onde sobreviventes do sexo masculino são frequentemente marginalizados. Consequentemente, a implantação de LLMs em contextos de suporte relacionados à VPI sem auditoria cuidadosa e design consciente de viés corre o risco de replicar essas barreiras sistêmicas, podendo falhar em fornecer apoio adequado a sobreviventes do sexo masculino. O estudo conclui que os papéis de gênero moldam significativamente os outputs dos modelos, necessitando de uma avaliação rigorosa antes que tais sistemas sejam usados para intervenções de busca de ajuda sensíveis.