Resumen Técnico: Operacionalización de la Equidad bajo Límites de Recursos Rigurosos

Planteamiento del Problema

El despliegue de aprendizaje automático en dominios de alto riesgo (por ejemplo, estratificación de riesgo clínico, justicia penal, suscripción de crédito) enfrenta una desconexión crítica entre las definiciones teóricas de equidad y las realidades operativas. Las intervenciones de equidad existentes suelen asumir recursos ilimitados, empleando umbrales de decisión específicos por grupo que violan las regulaciones contra la discriminación (por ejemplo, la Ley de Igualdad de Oportunidades de Crédito) o recomiendan volúmenes de intervención que exceden los presupuestos factibles.

En escenarios del mundo real, los recursos son finitos (por ejemplo, camas de UCI limitadas, procesos de entrevista fijos). Cuando el número de casos predichos como de alto riesgo supera la capacidad disponible, los heurísticos de equidad estándar suelen colapsar, lo que conduce a una utilidad cercana a cero o al abandono del sistema. Los enfoques actuales luchan por satisfacer conjuntamente tres prioridades operativas en competencia bajo restricciones estrictas de capacidad:

1. Seguridad: Minimizar los falsos negativos (casos de alto riesgo omitidos).
2. Eficiencia: Minimizar los falsos positivos (desperdicio de recursos escasos).
3. Equidad: Garantizar la asignación justa del presupuesto de intervención limitado entre subgrupos demográficos sin violar las prohibiciones legales sobre el trato dispar (umbrales específicos de grupo).

Metodología

Los autores proponen un marco de optimización de umbrales post-hoc y agnóstico al modelo que desacopla explícitamente la puntuación predictiva de la evaluación de la política. El mecanismo central impone un umbral de decisión único y global para garantizar el cumplimiento legal y limitar estrictamente las tasas de intervención.

Formalización

Sea $f(x)$ una función de puntuación de riesgo fija y bien calibrada que produce probabilidades $p(x) \in [0, 1]$. La regla de decisión se define como $d_\tau(x) = \mathbb{I}\{p(x) \geq \tau\}$. El marco busca un umbral óptimo $\tau^*$ que minimice una función de pérdida ética parametrizada $L(\tau)$ sujeta a una restricción de capacidad dura $C$:

$$\tau^* = \arg \min_{\tau \in [0,1]} L(\tau) \quad \text{sujeto a} \quad P(d_\tau(x) = 1) \leq C$$

Donde la pérdida ética es:
$$L(\tau; \alpha, \beta, \gamma) = \alpha \cdot \text{FNR}(\tau) + \beta \cdot \text{FPR}(\tau) + \gamma \cdot \Delta(\tau)$$

• $\alpha, \beta, \gamma$: Pesos contextuales para la seguridad (Tasa de Falsos Negativos), la eficiencia (Tasa de Falsos Positivos) y la equidad (disparidad de subgrupos, operacionalizada como la diferencia absoluta máxima en las Tasas de Verdaderos Positivos).
• $C$: La fracción máxima de intervención permitida.

La Regla de Decisión

El marco define dos umbrales críticos:

1. $\tau_{free}$: El óptimo ético sin restricciones que minimiza $L(\tau)$.
2. $\tau(C)$: El umbral limitado por la capacidad, definido como el cuantil $(1-C)$ de las puntuaciones de riesgo predichas ($F_p^{-1}(1-C)$).

El umbral final desplegado se determina mediante:
$$\tau^* = \max(\tau(C), \tau_{free})$$

Lógica Operativa:

• Si la capacidad es abundante ($\tau(C) \leq \tau_{free}$), las prioridades éticas ($\alpha, \beta, \gamma$) dictan el punto operativo.
• Si la capacidad es restrictiva ($\tau(C) > \tau_{free}$), el sistema adopta por defecto el umbral más estricto basado en la capacidad $\tau(C)$, asegurando la viabilidad independientemente de la ponderación ética.

Propiedades Teóricas

Los autores demuestran varias propiedades analíticas de $\tau^*$:

• Monotonicidad: $\tau^*$ es no creciente con respecto al peso de seguridad $\alpha$ y no decreciente con respecto al peso de eficiencia $\beta$.
• Capacidad Crítica: Existe una capacidad crítica $C^*$ tal que para $C < C^*$, el umbral está determinado enteramente por el límite de recursos, haciendo que los pesos éticos sean irrelevantes para la frontera de decisión final.
• Saturación: Aumentar los pesos de seguridad más allá de cierto punto no produce cambios operativos adicionales cuando las restricciones están activas.

Evaluación Experimental

El marco fue evaluado en tres conjuntos de datos de alto riesgo: ACS Income (predicción de oportunidades), COMPAS (riesgo de reincidencia) y un proxy de Diabetes Clínica (riesgo de reingreso). Los experimentos utilizaron Regresión Logística, Gradient Boosting y Random Forest con una restricción de capacidad fija de $C=0.25$ (tasa de intervención del 25%).

Resultados Clave

1. Dominio de las Restricciones de Recursos: En el 80.8% de todas las configuraciones probadas (a través de 9,000 combinaciones factoriales), el umbral desplegado $\tau^*$ fue determinado únicamente por la restricción de capacidad $\tau(C)$ en lugar del óptimo ético $\tau_{free}$. Esto indica que, en entornos con recursos limitados, la viabilidad operativa prevalece sobre el ajuste ético detallado.
2. Rendimiento vs. Baselines:
   • Optimización sin Restricciones: Logró un recall alto (~0.99) pero violó el presupuesto casi 4 veces, lo que la hace imposible de desplegar.
   • Heurísticos de Equidad Estándar (Paridad Demográfica/Igualdad de Oportunidades): Cumplieron con el presupuesto pero colapsaron a una utilidad cercana a cero (recall tan bajo como 0.006 en Diabetes Clínica), no rindiendo mejor que la asignación aleatoria.
   • Marco Propuesto: Mantuvo con éxito una alta identificación de riesgo (recall en un rango de 0.409 a 0.702) mientras cumplía estrictamente con el presupuesto del 25%. Logró de 1.6 a 2.8 veces el recall del azar.
3. Análisis de Sensibilidad:
   • Saturación de Seguridad: Aumentar el peso de seguridad $\alpha$ más allá de ~2.0 resultó en una activación de restricción del 100% sin cambios operativos adicionales.
   • Compromiso de Equidad: Aumentar el peso de equidad $\gamma$ redujo la disparidad pero disminuyó sistemáticamente el recall general.
   • Impacto de la Capacidad: El recall mostró una dependencia aproximadamente lineal con la capacidad $C$. Expandir el presupuesto fue el mecanismo más efectivo para mejorar la seguridad, superando ampliamente al ajuste de los pesos éticos.

Significado y Reivindicaciones

El artículo afirma cerrar la brecha entre la equidad teórica y el despliegue operativo al proporcionar un mecanismo práctico y legalmente conforme para navegar los compromisos éticos inevitables en entornos con recursos limitados.

• Realismo Operativo: El estudio demuestra que los objetivos de equidad teóricos deben subordinarse explícitamente a los límites de capacidad operativa. Sin esta subordinación, las intervenciones de equidad a menudo se vuelven prácticamente inútiles en entornos de triaje de alto riesgo.
• Cumplimiento Legal: Al imponer un único umbral global, el marco evita los problemas legales del trato dispar asociados con los umbrales específicos de grupo, lo que lo hace apto para dominios regulados como el crédito y el empleo.
• Desacoplamiento: El marco permite a las partes interesadas realizar análisis de escenarios sistemáticos y ajustar las prioridades de política (seguridad, eficiencia, equidad) sin tener que reentrenar el modelo predictivo subyacente.
• Guía Accionable: La identificación de "regímenes de capacidad crítica" y "puntos de saturación" proporciona a los profesionales herramientas fundamentadas para comprender cuándo un mayor énfasis en la seguridad o la equidad genera rendimientos marginales decrecientes.

Los autores concluyen que, si bien el ajuste ético es valioso, solo es efectivo dentro de la estrecha región factible definida por los límites de recursos. El marco propuesto operacionaliza la equidad asegurando que las fronteras de decisión sigan siendo factibles, interpretables y legalmente conformes.