Trade-offs Between Individual and Group Fairness in Machine Learning: A Comprehensive Review

Resumen Técnico: Compensaciones entre la Equidad Individual y de Grupo en el Aprendizaje Automático

Planteamiento del Problema
La equidad algorítmica se ha convertido en una preocupación crítica en los sistemas de toma de decisiones de alto riesgo (p. ej., justicia penal, contratación, atención médica). La literatura se ha bifurcado tradicionalmente en dos nociones distintas y, a menudo, conflictivas de equidad: Equidad de Grupo (GF, por sus siglas en inglés) e Equidad Individual (IF, por sus siglas en inglés).

• La Equidad de Grupo se centra en la paridad de los resultados o de las tasas de error entre subpoblaciones demográficas definidas por atributos sensibles (p. ej., paridad demográfica, igualdad de oportunidades).
• La Equidad Individual enfatiza el trato consistente a individuos similares, independientemente de su pertenencia a un grupo, lo que típicamente se formaliza mediante la continuidad de Lipschitz o métricas de similitud.

Si bien ambas buscan un trato equitativo, son frecuentemente incompatibles matemáticamente. Imponer una estricta paridad de grupo a menudo requiere tratar a individuos similares de manera diferente basándose en su pertenencia a un grupo para corregir desequilibrios distributivos, lo que viola la equidad individual. Por el contrario, imponer una estricta consistencia individual puede preservar o reproducir disparidades a nivel de grupo. Las revisiones existentes tratan principalmente estas nociones de forma aislada o categorizan los métodos según su posición en el flujo de trabajo (pipeline) de ML (pre-, en-, post-procesamiento) sin analizar explícitamente las compensaciones entre la GF y la IF. Este artículo aborda la brecha de revisar sistemáticamente los métodos que gestionan conjuntamente estos objetivos contrapuestos.

Metodología
Los autores realizaron una revisión sistemática de la literatura para identificar estudios que integren explícitamente tanto la GF como la IF dentro de un marco unificado.

• Estrategia de Búsqueda: Se ejecutó una consulta booleana en Web of Science, IEEE y arXiv, combinando términos relacionados con la equidad individual (p. ej., "consistencia", "Lipschitz") y la equidad de grupo (p. ej., "paridad demográfica", "igualdad de oportunidades").
• Criterios de Filtrado: Se seleccionaron únicamente aquellos artículos que formalizaran una optimización conjunta, un conjunto de restricciones o un marco de evaluación que diera cuenta simultáneamente de ambas nociones de equidad. Se excluyeron los artículos que simplemente mencionaban ambos conceptos en su motivación sin una integración técnica.
• Construcción de la Taxonomía: En lugar de depender únicamente de la taxonomía estándar por etapa del flujo de trabajo (pre/en/post-procesamiento), los autores desarrollaron una taxonomía detallada basada en los mecanismos de equidad empleados. Este enfoque agrupa los métodos por cómo formulan y gestionan la compensación entre GF e IF, independientemente de la etapa específica del flujo de trabajo.

Contribuciones Clave y Taxonomía
El artículo proporciona una revisión exhaustiva de los enfoques híbridos de equidad, organizándolos en tres familias mecánicas primarias:

1. Estrategias basadas en la Representación o Modificación de Datos:

   • Transformación de Datos: Modifica los datos de entrada (p. ej., corrección de etiquetas, edición de características) para equilibrar las distribuciones conjuntas de grupos sensibles y resultados, preservando al mismo tiempo las estructuras de vecindad local.
   • Reponderación y Remuestreo: Ajusta los pesos específicos de cada instancia para aproximarse a una distribución objetivo donde los atributos sensibles y los resultados sean independientes, utilizando a menudo valores de Shapley para evaluar las contribcciones individuales a la disparidad.
   • Representación y Embedding: Mapea a los individuos en un espacio latente donde las observaciones similares se agrupan. Esto impone la IF por construcción (indistinguibles dentro de los clústeres) mientras promueve la GF mediante restricciones sobre la recuperabilidad de la representación o la composición de los clústeres.
   • Aumentación y Contraste: Genera muestras sintéticas contrafactuales o de contraste (variando los atributos sensibles) para imponer invariancia o suavidad en las predicciones, abordando tanto la consistencia local como las disparidades de grupo.

2. Estrategias basadas en la Regularización u Objetivos de Optimización:

   • Regularización: Aumenta la función de pérdida con términos que penalizan el comportamiento injusto tanto a nivel de grupo como de individuo (p. ej., $\lambda_{GF}\Phi_{group} + \lambda_{IF}\Psi_{individual}$). Esto permite la navegación de la frontera de Pareto entre precisión, GF e IF.
   • Enfoques basados en Métricas: Incorpora la estructura geométrica directamente en la función de pérdida, penalizando las discrepancias de predicción para pares de individuos considerados similares mediante una métrica predefinida. Esto impone la continuidad de Lipschitz, lo que puede satisfacer indirectamente la equidad de grupo bajo condiciones específicas.
   • Aprendizaje Adversario: Entrena un predictor para minimizar la pérdida de predicción mientras un adversario intenta recuperar los atributos sensibles. Las extensiones incorporan penalizaciones de similitud por pares o pérdidas contrafactuales para asegurar la consistencia local junto con la invariancia de grupo.

3. Estrategias basadas en Ajustes Locales o Post-hoc:

   • Umbralización (Thresholding): Introduce umbrales de decisión específicos de grupo para alinearse con criterios como la igualdad de oportunidades. Las extensiones incorporan métricas de similitud para alinear parcialmente con la IF.
   • Opción de Rechazo (Reject-option): Opera en una "región de ambigüedad" cerca de la frontera de decisión, modificando selectivamente las predicciones para reducir las disparidades y corregir las inconsistencias locales simultáneamente.

Resultados y Observaciones Empíricas
La revisión analizó la literatura seleccionada con respecto a la implementación y la evaluación comparativa (benchmarking):

• Distribución en el Flujo de Trabajo: Los métodos de procesamiento interno (in-processing) son los más prevalentes (60%), seguidos por los de pre-procesamiento (25%) y post-procesamiento (19%).
• Mecanismos Dominantes: La regularización es la sub-taxonomía más común, seguida de los enfoques basados en métricas y el aprendizaje de representaciones.
• Evaluación Comparativa (Benchmarking): Existe una fuerte dependencia de un conjunto estrecho de conjuntos de datos (Adult, COMPAS, German Credit), que aparecen en aproximadamente el 20% de los estudios. Esto plantea preocupaciones sobre la generalizabilidad a dominios de alta dimensión como la Visión Artificial o el Procesamiento de Lenguaje Natural.
• Costo Computacional: La eficiencia computacional rara vez es un enfoque primario. Aunque se señala que algunos métodos son computacionalmente exigentes (p. ej., requieren horas de entrenamiento o reentrenamiento iterativo), pocos proporcionan análisis sistemáticos de las compensaciones entre los objetivos de equidad, la precisión y el costo computacional.
• Reproducibilidad: Solo el 56% de los métodos revisados proporcionan código accesible públicamente, lo que limita la verificación independiente y la adopción práctica.

Significación y Reivindicaciones
El artículo afirma ser la primera revisión sistemática que analiza explícitamente los métodos que gestionan las compensaciones entre GF e IF a través de definiciones, algoritmos y entornos de evaluación. Su significación radica en:

1. Sintetizar Enfoques Híbridos: Va más allá del estudio de la GF y la IF de forma aislada para aclarar cómo pueden operacionalizarse conjuntamente.
2. Clarificar las Compensaciones: Destaca que el conflicto entre estas nociones no es meramente un artefacto técnico, sino que refleja tensiones normativas más profundas, y que los métodos existentes ofrecen diferentes formas de navegar la frontera de Pareto entre ellas.
3. Identificar Brechas: Los autores señalan modestamente que el campo se encuentra en una etapa temprana de madurez. Identifican brechas críticas, incluyendo la falta de evaluación sistemática de los costos computacionales, la escasez de estudios en dominios diversos, la ausencia de orientación sobre la selección de parámetros para restricciones del mundo real y la fuerte suposición de atributos sensibles totalmente etiquetados durante el entrenamiento.
4. Direcciones Futuras: El artículo sugiere que el trabajo futuro debería centrarse en marcos más flexibles (más allá de la paridad rígida), la integración con perspectivas causales y legales, y métodos que operen bajo restricciones realistas (p. ej., datos censurados, interseccionalidad).

Los autores concluyen que, si bien la GF y la IF suelen ser matemáticamente incompatibles, los métodos que gestionan explícitamente estas compensaciones representan un paso crucial hacia una toma de decisiones algorítmica más responsable y transparente, proporcionando una base para diseñar algoritmos que ofrezcan fiabilidad tanto a nivel individual como de grupo.