Position: Beyond Sensitive Attributes, ML Fairness Should Quantify Structural Injustice via Social Determinants

Resumen Técnico: Más allá de los Atributos Sensibles, la Equidad en el ML Debe Cuantificar la Injusticia Estructural mediante los Determinantes Sociales

Planteamiento del Problema
La investigación actual sobre la equidad algorítmica operacionaliza predominantemente la inequidad como discriminación basada en atributos sensibles (por ejemplo, raza, sexo, género). Si bien este enfoque aborda la discriminación a nivel individual, los autores argumentan que no logra capturar la injusticia estructural: las inequidades sistémicas instanciadas a través de los determinantes sociales. Los determinantes sociales son variables contextuales (por ejemplo, la deprivación del vecindario, el financiamiento escolar, la exposición ambiental) que moldean oportunidades y resultados, pero que se definen al nivel de lugares, instituciones o políticas, en lugar de individuos. Los paradigmas técnicos predominantes suelen tratar estos factores contextuales como ruido para ser normalizado o los eliminan por completo durante el procesamiento de datos, dejando así la injusticia estructural invisible. En consecuencia, las estrategias de mitigación centradas únicamente en atributos sensibles pueden introducir inadvertidamente nuevas formas de injusticia estructural o no abordar las causas fundamentales de la disparidad.

Metodología
El artículo emplea un enfoque multifacético que combina el análisis conceptual, el modelado teórico y la validación empírica:

1. Marco Conceptual: Los autores definen los Atributos Sensibles como características individuales intrínsecas y protegidas, y los Determinantes Sociales como variables a nivel de contexto que cumplen tres criterios: (1) definidas al nivel del contexto (por ejemplo, el vecindario), (2) caracterizadas por contenido socioestructural (moldeadas por políticas o asignación de recursos) y (3) que involucran estratificación exógena (agrupaciones que no derivan de rasgos individuales).
2. Modelado Teórico: Se construye un modelo estilizado de admisiones universitarias para analizar la tensión entre la mitigación centrada en atributos sensibles (por ejemplo, cuotas) y la justicia estructural. El modelo incorpora la composición demográfica específica de la región y la dominancia estocástica en la preparación académica para derivar condiciones de forma cerrada bajo las cuales las estrategias de mitigación generan cargas no deseadas.
3. Análisis Empírico (Datos del Censo): Los autores vinculan las Áreas de Microdatos de Uso Público (PUMAs) del Censo de EE. UU. con el Índice de Deprivación del Área (ADI). Visualizan las distribuciones de ingresos para grupos demográficos específicos (por ejemplo, mujeres afroamericanas) a través de diversos niveles de deprivación de área para demostrar cómo los determinantes sociales crean heterogeneidad dentro de los grupos sensibles.
4. Análisis Empírico (Salud): Utilizando registros desidentificados de OSF HealthCare (aproximadamente 54,000 registros de mamografías), los autores analizan los patrones de detección de cáncer de mama. Comparan las edades de detección entre regiones "ricas" y "pobres" (definidas por el ADI) y realizan una simulación semisintética para evaluar cómo las intervenciones de política dirigidas a los determinantes sociales (por ejemplo, mejorar los patrones de detección en regiones pobres) afectan las tasas de detección temprana.
5. Crítica Técnica: El artículo revisa los marcos existentes de equidad causal, demostrando su falta de correspondencia con las estructuras a nivel de comunidad. Argumenta que los grafos causales a nivel individual no pueden representar adecuadamente las influencias bidireccionales entre los individuos y sus comunidades o la naturaleza agregada de los determinantes sociales.

Contribuciones Clave

• Reencuadre de la Equidad: El artículo propone un cambio de auditar la inequidad únicamente como discriminación a lo largo de atributos sensibles hacia la cuantificación de la injusticia estructural mediante determinantes sociales.
• Paradoja Teórica: A través del modelo de admisiones universitarias, los autores demuestran un hallazgo contraintuitivo: la mitigación centrada en atributos sensibles (como las cuotas) es menos propensa a desfavorecer a individuos no protegidos en contextos severamente injustos, pero es cada vez más propensa a generar nuevas formas de injusticia estructural a medida que las condiciones mejoran. Específicamente, tales estrategias pueden imponer umbrales competitivos más altos a solicitantes no protegidos de regiones desfavorecidas que enfrentan barreras contextuales similares a las de los grupos protegidos.
• Evidencia Empírica de Heterogeneidad: El análisis de los datos del Censo y de salud revela que individuos con idénticos atributos sensibles experimentan resultados vastamente diferentes basados en sus determinantes sociales (por ejemplo, el ingreso mediano para las mujeres afroamericanas varía significativamente según el ADI; las edades de detección para las mujeres blancas varían por más de 3 años entre regiones ricas y pobres).
• Crítica de los Paradigmas Actuales: Los autores muestran que los estándares de referencia actuales (por ejemplo, Adult, Folktables) a menudo eliminan variables relacionadas con la dirección, y que los modelos causales típicamente operan a nivel individual, fallando en capturar las fuerzas estructurales a nivel de comunidad.
• Pilares Accionables: El artículo describe tres pilares para el trabajo futuro: (1) Gobernanza de Datos (uso de agregados contextuales respetando la privacidad), (2) Diseño de Métricas (métricas de equidad dinámicas y adaptables al contexto como la "Paridad de Determinantes Sociales"), y (3) Modelado Causal (modelos de múltiples capas que tratan los determinantes sociales como palancas de intervención explícitas).

Resultos

• Teóricos: El Teorema 4.5 establece que las admisiones basadas en cuotas pueden desfavorecer a los solicitantes no pertenecientes a Minorías No Representadas (URM) de regiones pobres más que a los solicitantes URM de regiones ricas, particularmente a medida que la injusticia estructural mejora y la brecha en la preparación académica se reduce.
• Empíricos (Censo): Las distribuciones de ingresos para las mujeres afroamericanas están fuertemente sesgadas hacia ingresos más bajos en los PUMAs de alto ADI (alta deprivación) en comparación con los PUMAs de bajo ADI, a pesar de poseer idénticos atributos sensibles.
• Empíricos (Salud): Incluso dentro de un sistema de salud unificado con directrices uniformes, la edad mediana de la primera detección de cáncer de mama para las mujeres blancas difiere por casi 5 años entre regiones ricas y pobres. Las simulaciones semisintéticas muestran que adoptar patrones de detección "mejorados" (imitando a las regiones ricas) en las regiones pobres aumenta las detecciones tempranas de ~1,367 a ~1,461 por cada 10,000 detecciones, demostrando que las intervenciones estructurales producen ganancias no triviales.
• Técnicos: Imponer la Paridad Demográfica (DP) incluyendo los determinantes sociales como características no reduce consistentemente la disparidad y, en ocasiones, puede empeorar las violaciones observadas cuando los resultados se estratifican por determinantes sociales.

Significancia y Reivindicaciones
El artículo sostiene que el campo de la equidad en el ML debe ir más allá de la "no discriminación" (centrándose en atributos sensibles) para abordar la "justicia estructural". Los autores argumentan que sin auditar y cuantificar la injusticia estructural a través de los determinantes sociales, las estrategias de mitigación corren el riesgo de ser superficiales o incluso contraproducentes. Sostienen que los determinantes sociales no son simplemente "otro" atributo sensible o un proxy de uno, sino que representan palancas estructurales fundamentales que requieren enfoques técnicos distintos, incluyendo nuevos marcos de gobernanza de datos, métricas dinámicas y modelos causales capaces de manejar interacciones a nivel de comunidad. El objetivo final es permitir intervenciones de política que estén mejor informadas por los impulsores sistémicos de la desigualdad en lugar de solo por los resultados demográficos.