📊 statistics

How Reliable are Fairness Audits with Unreliable Data?

Este artículo introduce una prueba de estrés calibrada con semillas para demostrar que la ausencia de etiquetas protegidas en las auditorías de equidad a menudo no altera significativamente los resultados de mitigación más allá de la variabilidad natural de las semillas, aunque puede exponer modos de falla específicos como el daño interseccional durante la optimización de umbrales, lo que sugiere que los efectos de la ausencia deben reportarse con una calibración y un contexto cuidadosos en lugar de descartarse como fragilidad de la auditoría.

Autores originales: Yash Vardhan Tomar

Publicado 2026-06-09

📖 6 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Yash Vardhan Tomar

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que eres un juez tratando de decidir qué una de cinco diferentes "recetas de equidad" funciona mejor para un modelo de aprendizaje automático. Tu objetivo es asegurar que el modelo trate de manera justa a diferentes grupos de personas (como diferentes razas o géneros).

Para hacer esto, necesitas una Auditoría de Equidad. Esto es como una prueba de sabor donde verificas las predicciones del modelo contra datos reales para ver si hay sesgos. Pero aquí está el truco: a veces, a los datos les faltan los "ingredientes" necesarios para saber a qué grupo pertenece cada quien. Tal vez la gente no llenó el formulario, o los registros se perdieron.

Este artículo plantea una pregunta simple pero crucial: Si nos faltan algunas de estas etiquetas de grupo, ¿podemos seguir confiando en los resultados de nuestra auditoría, o la auditoría simplemente se está rompiendo porque los datos están desordenados?

Aquí está el desglose de lo que los investigadores encontraron, utilizando algunas analogías de la vida cotidiana.

1. El problema del "Ruido": ¿Son los datos faltantes o solo aleatoriedad?

Imagina que estás tratando de elegir al mejor corredor en una carrera.

El Problema: A veces, el cronómetro está ligeramente desfasado, o los corredores comienzan una fracción de segundo más tarde que otros. Incluso si tienes datos perfectos, si corres la carrera dos veces con diferentes condiciones de inicio aleatorias (llamadas "semillas" o seeds en el artículo), podrías elegir un ganador ligeramente diferente cada vez.
La Perspectiva del Artículo: Los investigadores se dieron cuenta de que cuando vemos que una auditoría cambia de opinión debido a que faltan datos, solemos entrar en pánico y pensar: "¡Oh no, los datos faltantes lo rompieron todo!".
La Verificación de la Realidad: Descubrieron que los datos faltantes no en realidad rompen la auditoría tanto como pensamos. De hecho, la auditoría cambia de opinión con la misma frecuencia (o incluso más a menudo) cuando tiene datos perfectos, simplemente debido al ruido aleatorio.
La Analogía: Es como un juez que cambia de opinión sobre el mejor corredor solo porque parpadeó en el momento equivero. El artículo dice: "No culpes a los datos faltantes todavía. Primero, verifica si el juez es solo un caprichoso". Crearon una herramienta de "calibración" para separar el ruido del "juez caprichoso" del daño real causado por los datos faltantes.

2. El "Borde del Precipicio" de la falta de datos

Hay un punto específico donde la auditoría sí se confunde: cuando hay cero etiquetas de grupo disponibles.

Qué sucede: Si no tienes idea de quién pertenece a qué grupo, varias recetas de equidad diferentes terminan haciendo exactamente lo mismo (todas actúan como la versión estándar, no equitativa).
El Resultado: Cuando la auditoría tiene que elegir un ganador entre estas recetas idénticas, simplemente elige uno al azar (como lanzar una moneda o elegir el que aparece primero alfabéticamente). Esto hace que la auditoría parezca inestable, pero en realidad es solo un problema de desempate, no un fallo fundamental del método.

3. La "Trampa Oculta": El peligro interseccional

Este es el hallazgo más importante. Imagina que estás verificando si una escuela es justa.

La Trampa: Verificas si la escuela es justa para "Niños" y si es justa para "Niñas" por separado. Encuentras una receta que hace que las cosas sean justas para ambos grupos individualmente. ¡Celebras!
La Realidad: Pero, ¿qué pasa con las "Niñas Negras"? ¿O los "Hombres Mayores"? El artículo encontró que algunos métodos (específicamente uno llamado Optimización de Umbral o Threshold Optimization) pueden hacer que los grupos individuales se vean geniales mientras que, secretamente, hacen que las cosas sean peores para las combinaciones específicas de grupos (las intersecciones).
La Analogía: Es como un plan de dieta que te ayuda a perder peso en los brazos y las piernas, pero secretamente te hace ganar una cantidad peligrosa de peso en el estómago. La auditoría de "eje único" dice: "¡Buen trabajo!", pero la auditoría "interseccional" dice: "En realidad estás perjudicando a las personas más vulnerables".
El Hallazgo: Los investigadores encontraron que este "daño oculto" ocurre principalmente al usar el método de Optimización de Umbral. Incluso si la auditoría dice que el modelo es justo, este método específico suele ocultar una caída aguda en la precisión para los subgrupos más vulnerables.

4. Los resultados de la "Prueba de Estrés"

Los investigadores ejecutaron su auditoría en datos del mundo real (como predecir ingresos o empleo) y simularon datos faltantes de dos maneras:

Faltantes Aleatoriamente: Como un formulario que se pierde en el correo (sin relación con quién eres).
Faltantes Sistemáticamente: Como un grupo específico de personas que se niegan a responder la pregunta.

El Veredicto:

Buenas Noticias: Mientras tengas algo de datos (incluso un 20% o 40%), las recomendaciones de la auditoría suelen mantenerse estables. No cambian de opinión erráticamente solo porque falten datos.
Malas Noticias: El verdadero peligro no son los datos faltantes en sí mismos; es elegir la receta de equidad equivocada. Si eliges la receta de "Optimización de Umbral", podrías pensar que has resuelto el problema de la equidad, pero en realidad has creado una trampa oculta para los grupos interseccionales.

Resumen: ¿Qué deberías llevarte?

Si estás realizando una auditoría de equidad:

No entres en pánico por los datos faltantes inmediatamente. Primero, verifica si tu auditoría es solo "ruidosa" (cambiando de opinión al azar).
Cuidado con la "Trampa Oculta". Que un modelo parezca justo para la Raza A y el Género B no significa que sea justo para la "Raza A + Género B".
Ten cuidado con la "Optimización de Umbral". Este método específico es excelente para arreglar problemas de grupos únicos, pero es muy bueno ocultando el daño a los grupos interseccionales complejos.
Reporta el panorama completo. No basta con decir "Elegimos el Método X". Necesitas reportar cómo se comporta el método cuando faltan datos, y verificar si está perjudicando a los subgrupos más vulnerables.

En resumen: Los datos faltantes son molestos, pero elegir la herramienta de equidad equivocada es peligroso. El artículo nos da una mejor manera de distinguir la diferencia.

Resumen Técnico: ¿Qué tan fiables son las auditorías de equidad con datos poco fiables?

Declaración del Problema

Las auditorías de equidad son esenciales para el despliegue responsable del aprendizaje automático, pero su fiabilidad bajo la ausencia de etiquetas protegidas sigue sin comprenderse bien. En la práctica, los atributos demográficos (por ejemplo, raza, sexo) suelen estar ausentes debido a la no recolección, el rechazo del usuario o inconsistencias en los registros. Cuando estas etiquetas faltan, los auditores no pueden calcular con precisión las disparidades a nivel de grupo ni seleccionar los métodos de mitigación apropiados.

El desafío central abordado es distinguir entre la inestabilidad de la auditoría causada por la ausencia de datos y la inestabilidad inherente al propio proceso de auditoría (por ejemplo, la variación de semilla a semilla, los métodos candidatos casi equivalentes y la resolución de empates determinista). Sin una línea base para el ruido "ordinario" de la auditoría, un cambio en la recomendación debido a la ausencia de etiquetas puede interpretarse erróneamente como un fallo crítico del marco de auditoría en lugar de un reflejo de la varianza estocástica estándar.

Metodología

Los autores proponen una prueba de estrés calibrada por semilla para aislar los efectos de la ausencia de datos de la propia varianza de la auditoría. La metodología consiste en:

Configuración Experimental:
- Tareas: Cuatro tareas de clasificación binaria del conjunto de datos ACS/Folktables (Ingresos, Empleo, Cobertura Pública, Movilidad).
- Vistas Protegidas: Raza (RAC1P), Sexo (SEX) y su intersección (RAC1P×SEX).
- Métodos Candidatos: Minimización del Riesgo Empírico (ERM), Mezcla de Características (Feature Mixing), Re-ponderación (Reweighing), Mezcla de Grupos Protegidos (Protected-Group Mixing) y Optimización de Umbrales de Igualdad de Oportunidades (Equalized-Odds Threshold Optimization).
- Criterios de Selección: Igualdad de Oportunidades (EO) restringida por precisión, Paridad Demográfica (DP), Precisión del Peor Grupo (WGA) e Interseccionalidad de EO.
Regímenes de Ausencia:
- Oráculo de Etiquetas Completas ( $r_0$ ): Todas las etiquetas protegidas están disponibles.
- Ausencia Completamente al Azar (MCAR): Las etiquetas se ocultan a tasas del 80%, 60%, 50%, 40%, 20%, 10% y 0%.
- Ausencia No al Azar (MNAR): Emparejada con objetivos MCAR específicos (50%, 20%, 10%) con acceso asimétrico a las etiquetas (los grupos mayoritarios retienen una mayor disponibilidad).
- Evaluación: Las etiquetas siempre se conservan para la fase de evaluación para asegurar que las métricas se calculen contra la verdad de campo; la ausencia de datos solo afecta al entrenamiento y a la mitigación de post-procesamiento.
Mecanismo de Calibración:
- Nulo de Par de Semillas (Seed-Pair Null): La auditoría se vuelve a ejecutar con etiquetas completas utilizando diferentes semillas aleatorias ( $s, s'$ ). La frecuencia de los cambios de recomendación entre estas semillas establece una línea base de "suelo de ruido".
- Tasa de Cambio Excedente Emparejada ( $\Delta_c(r)$ ): La diferencia entre la tasa de cambio observada bajo la ausencia de datos y el nulo de par de semillas. Un $\Delta$ positivo indica que la ausencia de datos causa inestabilidad más allá de la varianza normal de la auditoría.
- Pantalla de Regresión Oculta: Comprueba si un método mejora la equidad de un solo eje (por ejemplo, raza o sexo) mientras empeora los resultados interseccionales (por ejemplo, raza×sexo) o la Precisión del Peor Grupo (WGA).
Validación: Un experimento secundario repite la auditoría utilizando un aprendiz base de Bosque Aleatorio (Random Forest) para probar la robustez frente a modelos de mayor varianza.

Resultados Clave

1. La ausencia de datos suele permanecer por debajo del nulo de la semilla

Contrario a la intuición de que la ausencia de etiquetas desestabiliza las auditorías, el estudio encuentra que la ausencia de datos con disponibilidad positiva generalmente no mueve los métodos de mitigación seleccionados más allá del suelo de ruido de la semilla de etiquetas completas.

Tasas de Cambio Brutas: El 37.3% de las comparaciones de etiquetas ausentes resultaron en una selección de método diferente.
Línea Base del Nulo de Semilla: El 53.8% de las comparaciones de pares de semillas con etiquetas completas resultaron en un cambio.
Hallazgo Calibrado: Después de la calibración, la mayoría de los regímenes de ausencia (MCAR y MNAR con >0% de disponibilidad) caen por debajo del suelo de ruido de la semilla. Solo el punto final de 0% (sin etiquetas) excede el suelo de la semilla (+6.3 puntos porcentuales), debido principalmente a la resolución de empates determinista entre candidatos equivalentes a ERM.

2. La composición del conjunto de candidatos importa

La "tasa de cambio" es altamente sensible al conjunto de candidatos. Cuando la auditoría se restringe a {ERM, Reweighing, Threshold Optimization}, la tasa de cambio bruta cae al 33.8% frente a un nulo de semilla del 39.8%. Esto sugiere que la fragilidad aparente es a menudo un artefacto de incluir métodos casi equivalentes que activan reglas de resolución de empates en lugar de un fallo fundamental de la lógica de la auditoría.

3. La optimización de umbrales impulsa el daño interseccional

El fallo de fiabilidad más significativo identificado es la regresión interseccional oculta, donde las ganancias de equidad de un solo eje enmascaran el daño a los subgrupos.

Tasa de Regresión Oculta Global: 69.9% (calibrada contra un nulo de semilla del 55.0%).
Impulsor: La Optimización de Umbrales (Threshold Optimization) es el principal impulsor, con una tasa de regresión oculta del 94.2%. Frecuentemente mejora las métricas de EO de un solo eje mientras causa caídas severas en la Precisión del Peor Grupo (caída mediana de 12.34 pp).
Otros Métodos: Reweighing y Feature Mixing muestran tasas de regresión oculta más bajas (29.6% y 36.2%, respectivamente) y permanecen por debajo del nulo de la semilla cuando se excluye la optimización de umbrales.

4. Robustez ante la varianza del aprendiz base

La validación con un Bosque Aleatorio (mayor varianza que la Regresión Logística) confirmó los hallazgos principales:

Las tasas de cambio estrictas aumentaron ligeramente (de 37.3% a 41.1%), pero el orden relativo de los efectos de la ausencia de datos se mantuvo constante.
El patrón de regresión oculta impulsado por la optimización de umbrales persistió (tasa del 93.5%), confirmando que el modo de fallo es específico del método y no del modelo.

Significado y Reivindicaciones

El artículo argumenta que la ausencia de etiquetas protegidas no debe tratarse como evidencia de la fragilidad de la auditoría sin una calibración adecuada. Los autores afirman:

Necesidad de Calibración por Nulo de Semilla: Los análisis de sensibilidad brutos (por ejemplo, "el método cambió cuando se ocultaron las etiquetas") son engañosos. Las auditorías deben informar si el cambio excede la variación inherente al proceso de auditoría bajo etiquetas completas.
Reporte Contextual: Los informes de auditoría deben incluir:
- Calibración de nulo de semilla: Para distinguir los efectos de la ausencia de datos de la propia varianza de la auditoría.
- Contexto del conjunto de candidatos: Para dar cuenta de los artefactos de resolución de empates.
- Consecuencias interseccionales: Para detectar regresiones ocultas donde las ganancias de un solo eje enmascaran el daño interseccional.
Modos de Fallo Específicos: El estudio identifica la optimización de umbrales como un método de alto riesgo que puede producir regresiones ocultas "por encima del nulo", particularmente cuando las etiquetas son escasas.
Curvas de Disponibilidad Accionables: Las auditorías deben visualizar cómo se comportan los métodos a través de un espectro de disponibilidad de etiquetas, separando los cambios de recomendación de la degradación de las métricas.

En resumen, el trabajo proporciona un marco de diagnóstico para evitar la mala interpretación de los efectos de la ausencia de datos, enfatizando que muchas inestabilidades observadas son artefactos de la varianza estándar de la auditoría o de comportamientos de métodos específicos (como la optimización de umbrales) en lugar de una incapacidad general para auditar bajo la ausencia de datos.