Proxy Discrimination After Students for Fair Admissions

A continuación presento un resumen técnico detallado del artículo académico "Proxy Discrimination After Students for Fair Admissions" (Discriminación por Proxy después de Students for Fair Admissions) de Frank Fagan, estructurado según los componentes solicitados.

1. El Problema

El artículo aborda la evasión de las leyes antidiscriminatorias mediante el uso de variables proxy (variables sustitutas) en algoritmos de toma de decisiones automatizada. Tras la sentencia de la Corte Suprema de EE. UU. en Students for Fair Admissions (SFFA) v. Harvard, que prohibió el uso directo de la raza en las admisiones universitarias, las instituciones y entidades privadas (bancos, empleadores) pueden seguir logrando resultados discriminatorios de manera indirecta.

• Mecanismo de Evasión: Los algoritmos ignoran las variables protegidas (raza, género, estado civil) pero utilizan variables neutrales en apariencia (código postal, escuela secundaria, historial de servicio militar, huella digital) que tienen una alta correlación estadística con las clases protegidas.
• Vacío Legal: Actualmente no existe una prueba legal clara para regular el uso de estas variables proxy. Las leyes de impacto dispar (disparate impact) a menudo fallan porque es difícil demostrar que una variable neutra no es necesaria para un "legítimo interés comercial" o que no existe una alternativa menos discriminatoria.
• Complejidad Técnica: La discriminación no es intencional en el sentido tradicional, sino que surge de la optimización de modelos predictivos que, al maximizar la precisión (ej. predecir impagos de préstamos o éxito académico), incorporan inadvertidamente sesgos estructurales a través de estas variables proxy.

2. Metodología

El autor emplea un enfoque interdisciplinario que combina análisis jurídico (interpretación de la doctrina de impacto dispar y tratamiento desigual) con estadística y ciencia de datos (regresión, coeficientes de correlación, $R^2$).

• Definición de Poder Proxy: Fagan define el "poder proxy" de un modelo como la capacidad de las variables neutrales para explicar la variación en un resultado (ej. impago, contratación) que, indirectamente, se debe a una variable protegida.
• Medición Cuantitativa: Propone medir el poder proxy utilizando técnicas de regresión. La idea central es calcular cuánto aumenta el poder predictivo de un modelo (medido por el $R^2$ o variación explicada) cuando se añade una variable protegida a un conjunto de variables neutrales.
  • Si un modelo con variables neutrales tiene un $R^2$ de 0.65 y al añadir la raza el $R^2$ sube a 0.70, la raza explica el 5% adicional de la variación. Este 5% representa el "poder proxy" residual de las variables neutrales.
• Comparación de Modelos: La metodología se basa en la comparación competitiva. Se evalúan múltiples algoritmos que buscan el mismo objetivo legítimo (ej. maximizar la rentabilidad o el rendimiento académico) y se selecciona aquel que logra el mismo nivel de precisión con el menor poder proxy total.

3. Contribuciones Clave

El artículo desarrolla un marco teórico y legal novedoso para abordar la discriminación algorítmica:

• La Prueba del Poder Proxy Mínimo Comparativo:
  • Propone que una herramienta de decisión está "estrechamente adaptada" (narrowly tailored) si exhibe el menor poder proxy total en comparación con alternativas disponibles que logran el mismo resultado con la misma precisión.
  • Si dos algoritmos tienen la misma precisión predictiva, pero uno utiliza variables con mayor correlación con la raza (ej. código postal) y el otro no, el segundo es legalmente preferible.
• La Regla del Tope de Poder Proxy (Capped Proxy Power Rule):
  • Reconociendo la dificultad de medir con precisión el poder proxy en todos los casos, el autor sugiere establecer límites o topes (caps) basados en la experiencia acumulada y la estabilidad del dominio (ej. préstamos vs. empleo dinámico).
  • Si la diferencia en el poder proxy entre dos modelos es menor que un umbral aceptable (ej. 5%), se considera que no existe una alternativa menos discriminatoria viable, evitando costos administrativos excesivos en la búsqueda de perfección estadística.
• Gestión de Objetivos No Medidos:
  • Identifica que la minimización del poder proxy requiere un objetivo claramente definido y medible (función objetivo). El autor critica la vaguedad de objetivos como "diversidad" o "liderazgo" y aboga por que las instituciones definan objetivos cuantificables (ej. tasa de graduación, tasa de reembolso) para permitir la comparación técnica de modelos.
• Mecanismo de Carga de la Prueba y Competencia Algorítmica:
  • Argumenta que, a pesar de la complejidad, la carga de producir una alternativa menos discriminatoria debe recaer en el demandante (plaintiff), siempre que se garantice el acceso a datos de prueba.
  • Propone un sistema de competencia de algoritmos: tanto el demandante como el demandado construyen sus propios modelos sobre un conjunto de datos de prueba (synthetic data o datos desidentificados). El modelo que logra el objetivo con menor poder proxy gana. Esto incentiva la innovación y reduce la asimetría de información.

4. Resultados y Análisis

El análisis del artículo demuestra que:

• La prohibición total de proxies es ineficiente: En la mayoría de los casos, prohibir cualquier variable correlacionada con la raza destruiría la utilidad predictiva de los modelos (ej. en préstamos, el historial crediticio es necesario). La solución no es la prohibición, sino la optimización comparativa.
• La precisión no justifica la discriminación: Si un modelo es ligeramente más preciso (ej. 1% más) pero genera un impacto dispar masivo debido a proxies, la sociedad debería priorizar la reducción de la discriminación, asumiendo un costo mínimo en la precisión.
• La opacidad es un riesgo mayor: Los procesos de decisión humanos (comités de admisión) o algoritmos de "caja negra" son más difíciles de auditar que los modelos transparentes. El artículo sugiere que los algoritmos transparentes, incluso si son menos precisos, pueden ser preferibles legalmente si permiten la verificación de que no se están usando proxies ocultos.
• El riesgo de "Retrofitting" (Reajuste): Las instituciones podrían intentar "retrofitar" (ajustar a posteriori) sus decisiones con algoritmos de bajo poder proxy para defenderse legalmente. Para contrarrestar esto, se propone exigir la pre-compromiso (pre-commitment) de los algoritmos antes de la toma de decisiones o limitar el número de variables permitidas.

5. Significancia

Este artículo es fundamental por varias razones:

• Actualización Post-SFFA: Proporciona el marco legal y técnico necesario para interpretar la sentencia SFFA v. Harvard en la era de la inteligencia artificial, cerrando la brecha entre la prohibición de la discriminación directa y la realidad de la discriminación indirecta algorítmica.
• Puente entre Derecho y Estadística: Traduce conceptos legales abstractos ("impacto dispar", "necesidad comercial") en métricas estadísticas cuantificables ($R^2$, correlación, poder predictivo), permitiendo una aplicación judicial más objetiva.
• Solución Práctica a la Opacidad: Ofrece una vía procesal viable (competencia de algoritmos) para que los demandantes puedan desafiar decisiones opacas sin necesidad de desentrañar completamente la "caja negra" del algoritmo del demandado, enfocándose en la comparación de resultados y poder proxy.
• Incentivos de Mercado: Al sugerir que los demandantes pueden desarrollar alternativas, transforma la lucha contra la discriminación en un proceso de innovación tecnológica, donde la competencia de modelos impulsa la creación de herramientas más justas y eficientes.

En resumen, Fagan argumenta que la ley debe evolucionar de prohibir variables específicas a exigir que los tomadores de decisiones utilicen el método menos discriminatorio disponible para lograr sus objetivos legítimos, utilizando la competencia algorítmica y métricas de poder proxy como herramientas de enforcement.