Gender Disparities in LLM-Based Intimate Partner Violence Detection

Resumen Técnico: Disparidades de Género en la Detección de Violencia de Pareja Íntima Basada en LLM

Planteamiento del Problema
La Violencia de Pareja Íntima (VPI) es un problema crítico de salud pública que afecta a individuos de todas las configuraciones de género. Si bien las mujeres experimentan la VPI en tasas desproporcionadamente mayores, los hombres también sufren VPI tanto en relaciones homosexuales como heterosexuales, enfrentando a menudo barreras significativas para buscar ayuda debido a las expectativas de género en torno a la masculinidad. Dado que los Modelos de Lenguaje Extensos (LLM, por sus siglas en inglés) se están desplegando cada vez más para brindar apoyo e información en dominios sensibles, existe la preocupación de que estos modelos, entrenados en masivos corpus de internet, puedan absorber y reproducir sesgos sociales. Específicamente, este estudio investiga si los LLM exhiben sesgos perceptuales basados en el género al evaluar escenarios de VPI, lo que podría conducir a una validación diferencial de las víctimas basada en la configuración de género del díada víctima-perpetrador.

Metodología
Los investigadores emplearon un diseño experimental contrafáctico para aislar la influencia del género en los juicios del modelo manteniendo constante el contenido narrativo.

• Recolección de Datos: El estudio utilizó 475 narrativas díádicas únicas de la comunidad de Reddit r/relationship_advice. Estos posts fueron seleccionados bajo criterios estrictos: debían involucrar exactamente a dos partes con roles de víctima y perpetrador claramente identificables y marcadores de género explícitos (Masculino o Femenino). La distribución original incluyó 29 díadas Femenino–Femenino (F/F), 228 Femenino–Masculino (F/M), 202 Masculino–Femenino (M/F) y 16 Masculino–Masculino (M/M).
• Generación Contrafáctica: Para crear un conjunto de evaluación equilibrado, los autores realizaron un procedimiento de intercambio de género en cada uno de los 475 posts. Para cada post original, se generaron cuatro versiones correspondientes a todas las posibles configuraciones de género (F/F, F/M, M/F, M/M), donde la primera posición denota a la víctima (Autor Original del Post) y la segunda al perpetrador. Esto resultó en un conjunto de datos final de 1,900 muestras (475 posts × 4 condiciones).
• Evaluación del Modelo: Se evaluaron cuatro LLM de última generación: GPT-5o, Gemini 3, Llama 4 y Grok 3. Cada modelo analizó todas las 1,900 muestras utilizando un cuestionario estructurado fundamentado en marcos establecidos de VPI (por ejemplo, la Oficina de Violencia contra la Mujer del Departamento de Justicia de EE. UU.). El cuestionario evaluó seis dimensiones clave:
  1. IS_REL: ¿Es la relación romántica?
  2. IS_IPV: ¿Está presente la VPI?
  3. HAS_INTENT: ¿Demuestra el perpetrador la intención de ejercer poder y control?
  4. IS_CHEATING: ¿Se describe infidelidad?
  5. Subtipos de Abuso: Presencia de abuso emocional, psicológico, físico, sexual, financiero y facilitado por la tecnología.
     Los modelos respondieron con "sí", "no" o "no está claro" para las variables primarias y con "sí/no" binario para los subtipos.
• Análisis Estadístico: Dado que no se disponía de anotaciones de verdad fundamental (ground-truth), el estudio utilizó la Tasa de Etiquetas Positivas (PLR) como métrica descriptiva. Para aislar rigurosamente los efectos de género, se realizó una regresión logística de efectos mixtos. El modelo controló la variabilidad entre las narrativas originales mediante interceptos aleatorios y modeló el log-odds de una predicción "sí" basado en el género de la víctima, el género del perpetrador y su interacción.

Resultados Clave
El estudio encontró una variación sustancial en los resultados de los modelos tanto entre diferentes LLM como dentro de un mismo modelo a través de diferentes díadas de género.

• Variación Inter-Modelo: Los modelos difirieron significativamente en su sensibilidad basal. GPT-5o y Grok 3 fueron comparativamente conservadores, identificando VPI en aproximadamente el 12–20% de los casos. En contraste, Llama 4 reportó las tasas más altas (30–40%), y Gemini 3 reportó tasas moderadas (31–36%).
• Variación Díádica (Sesgo de Género): Todos los modelos mostraron sensibilidad al encuadre de género, incluso cuando el contenido narrativo permanecía idéntico.
  • Víctimas Masculinas: La detección de abuso e intención del perpetrador disminuyó sistemáticamente en las díadas de género mixto donde la víctima era hombre (M/F). Por ejemplo, la detección de VPI de Llama 4 cayó del 40.08% en díadas F/F al 30.59% en díadas M/F. GPT-5o mostró una tendencia similar, con su tasa de detección más baja (12.24%) ocurriendo en la díada de víctima masculina.
  • Perpetradoras Femeninas: El análisis de regresión confirmó que la identidad de una perpetradora femenina es un predictor negativo consistente de la detección de abuso. Para la variable IS_IPV, la razón de momios (OR) para una perpetradora femenina fue significativamente menor a 1 en todos los modelos (por ejemplo, GPT-5o OR = 0.504), indicando una menor probabilidad de etiquetar el comportamiento como VPI.
  • Dinámicas de Mismo Sexo: Mientras que las díadas de género mixto con víctimas masculinas fueron minimizadas, las díadas de mujeres del mismo sexo (F/F) a menudo provocaron una mayor detección de abuso, particularmente para el abuso emocional y psicológico. Notablemente, Llama 4 mostró un aumento compensatorio en la detección de abuso para las díadas F/F, con razones de momios significativamente elevados para los términos de interacción en abuso emocional (OR = 2.366) y abuso facilitado por la tecnología (OR = 9.316).
• Subtipos de Abuso: Las tasas de detección para el abuso físico y sexual se mantuvieron bajas en todos los modelos (2–6%). Sin embargo, la detección de abuso emocional y psicológico mostró disparidades de género significativas, con los modelos generalmente subidentificando estos abusos cuando la víctima era hombre.

Significancia y Reivindicaciones
El artículo sostiene que los LLM no solo responden a señales conductuales, sino también a presuposiciones de género sobre cómo debe ser una díada "abusiva". Los hallazgos sugieren que estos modelos reproducen los sesgos de género presentes en sus datos de entrenamiento, creando efectivamente un "doble estándar digital" donde las víctimas masculinas en relaciones de género mixto requieren evidencia más sólida para ser reconocidas como sobrevivientes.

Los autores argumentan que estos sesgos reflejan fallas institucionales documentadas en la literatura sociológica, donde los sobrevivientes masculinos son a menudo marginados. En consecuencia, el despliegue de LLM en contextos de apoyo relacionados con la VPI sin una auditoría cuidadosa y un diseño consciente del sesgo corre el riesgo de replicar estas barreras sistémicas, pudiendo fallar en proporcionar un apoyo adecuado a los sobrevivientes masculinos. El estudio concluye que los roles de género moldean significativamente los resultados de los modelos, lo que requiere una evaluación rigurosa antes de que tales sistemas se utilicen para intervenciones sensibles de búsqueda de ayuda.