Resumen Técnico: Simulando Eutopia: Revisitando la Equidad a Largo Plazo con Resultados, Performatividad y Dinámicas

1. Planteamiento del Problema

Los tomadores de decisiones impulsados por IA (ADM) modernos, como los prestamistas de crédito, no operan en entornos pasivos. Sus decisiones moldean activamente los comportamientos socioeconómicos de las poblaciones a las que sirven, un fenómeno conocido como performatividad. Mientras que la literatura existente sobre equidad algorítmica ha estudiado extensamente las métricas a corto plazo (por ejemplo, paridad demográfica en un único punto de decisión) y la equidad a largo plazo en entornos estáticos, ignora en gran medida dos realidades críticas de los ADM modernos:

1. Dinámicas Endógenas: El comportamiento de la población (por ejemplo, tasas de solicitud, acumulación de riqueza) cambia en respuesta a la política del ADM.
2. Sesgo de Resultado vs. Predicción: La mayoría de las métricas de equidad se centran en disparidades de predicciones instantáneas en lugar de la equidad descendente (por ejemplo, la distribución de la riqueza a largo plazo).

Consecuentemente, los algoritmos de aprendizaje optimizados para la equidad a corto plazo o la equidad estática a largo plazo pueden aumentar inadvertidamente las desventajas estructurales o fallar en lograr una equidad genuina cuando se despliegan en entornos performativos. El artículo aborda la pregunta: ¿Cuáles son los efectos a largo plazo de las interacciones performativas entre los tomadores de decisiones impulsados por IA y la sociedad humana en términos de eficiencia y equidad?

2. Metodología

2.1 Formalización: MDP Performativo

Los autores formalizan el problema de préstamo de crédito como un Proceso de Decisión de Markov Performativo (PeMDP). A diferencia de los MDP estándar donde las dinámicas de transición son exógenas, en un PeMDP, las funciones de transición y recompensa son reactivas a la política desplegada $\pi$.

• Estado: Incluye características de los solicitantes, pertenencia a grupos, riqueza media del grupo, intensidades de Hawkes (tasas de solicitud) y tasas de incumplimiento acumuladas.
• Acción: Decisiones de préstamo binarias (aprobar/denegar) para un lote de solicitantes.
• Dinámicas:
  • Transición de Riqueza: Los préstamos aprobados aumentan la riqueza del prestatario si se pagan, o resultan en una pérdida si hay incumplimiento. Los solicitantes denegados no experimentan cambios en su riqueza.
  • Dinámicas de Solicitud: Modeladas mediante un proceso de Hawkes. La tasa de llegada de solicitudes para un grupo demográfico es endógena, respondiendo a los patrones de aprobación observados y a la riqueza media actual del grupo (capturando el "Efecto Mateo" donde los grupos más ricos solicitan con mayor frecuencia).
• Objetivo: Los autores adoptan un criterio de recompensa promedio ($V^\pi = \lim_{T \to \infty} \frac{1}{T} \mathbb{E}[\sum r_t]$) para optimizar el comportamiento en estado estacionario en lugar de retornos descontados a corto plazo.

2.2 Entorno de Simulación: Eutopia

Para abordar la falta de bancos de pruebas para la equidad performativa, los autores desarrollaron Eutopia, un simulador de préstamos.

• Característica Clave: Es un entorno continuo donde el estado (riqueza, historial de solicitudes) persiste a través de los episodios, manteniendo el bucle de retroalimentación performativa.
• Componentes:
  • Proceso de Llegada de Hawkes: Captura el agrupamiento temporal de las solicitudes impulsado por la riqueza del grupo y las aprobaciones pasadas.
  • Modelo de Transición de Riqueza: Simula la acumulación de riqueza basada en los resultados de reembolso de los préstamos.
  • Etiquetas Selectivas: Los resultados de reembolso solo se observan para los solicitantes aprobados, simulando el sesgo de selección del mundo real.

2.3 Generación de Datos: LOANLY

Para poblar Eutopia con datos realistas, los autores crearon LOANLY, un generador de datos performativo.

• Base: Construido sobre el conjunto de datos UCI Adult Income para asegurar una heterogeneidad demográfica y económica realista.
• Mecanismo: Genera riqueza inicial, solvencia real y tipos financieros fijos (monto del préstamo, probabilidad de incumplimiento, ganancia de riqueza).
• Performatividad: Codifica parámetros que gobiernan cómo la población responde a las decisiones a lo largo del tiempo, permitiendo el estudio de cómo los resultados del modelo moldean los datos utilizados para el reentrenamiento.

2.4 Algoritmos de Aprendizaje y Objetivos

El estudio compara dos paradigios de aprendizaje:

1. RL Pasivo (RL): Gradiente de Política estándar (REINFORCE) que trata el entorno como estático (ignorando el cambio de distribución).
2. RL Performativo (PERL): Gradiente de Política Performativa (PePG) que modela explícitamente la dependencia de la distribución de transición del entorno respecto a la política.

Estos agentes son evaluados a través de diferentes Perspectivas de Equidad (Resultado, Tomador de Decisiones, Dos Lados) y Funciones de Utilidad (Utilitarista, Bienestar Social, Rawlsiana Max-Min, Lagrangiana de Equidad).

3. Contribuciones Clave

1. Simulador Eutopia: El primer simulador diseñado específicamente para probar la equidad performativa en préstamos a largo plazo, soportando tanto modos estáticos (MDP) como performativos (PeMDP) para una comparación directa.
2. Generador de Datos LOANLY: Un flujo de trabajo estandarizado para generar conjuntos de datos de préstamos sintéticos que codifican dinámicas performativas, permitiendo el estudio de cómo los resultados del modelo moldean los datos futuros sin requerir datos financieros propietarios.
3. Marco Formal: Una formalización de los préstamos bancarios como un PeMDP de recompensa promedio, modelando explícitamente el bucle de retroalimentación entre las decisiones de préstamo, la acumulación de riqueza y las tasas de solicitud.
4. Análisis Empírico: Una evaluación sistemática de cómo los modelos de aprendizaje (estáticos vs. performativos) y los diseños de objetivos (conscientes de la equidad vs. utilitaristas) influyen en la eficiencia y la equidad a largo plazo.

4. Resultados Experimentales

4.1 El Aprendizaje con Dinámicas Performativas Importa

• PERL vs. RL: El aprendizaje con dinámicas performativas (PERL) conduce consistentemente a una mejor eficiencia y equidad a largo plazo en comparación con el RL pasivo (RL).
• Brechas de Riqueza: PERL logra menores brechas de riqueza y ratios de desigualdad que RL en todos los objetivos de equidad. Por ejemplo, bajo la utilidad Rawlsiana con equidad de resultados, PERL redujo la brecha de riqueza media a 47.2 frente a 49.1 para RL.
• Bienestar Social: PERL logra un bienestar social uniformemente mejor que RL, indicando que modelar el bucle de retroalimentación es decisivo para los despliegues a largo plazo.

4.2 El Rol de los Objetivos de Equidad

• Equidad de Resultado: Los objetivos que apuntan a la riqueza del grupo (Equidad de Resultado) generalmente logran el mejor equilibrio entre equidad y beneficio. Específicamente, la Lagrangiana de Equidad (FL) bajo equidad de resultado produjo el mayor beneficio y bienestar social para PERL, manteniendo una paridad cercana en los ratios de desigualdad ($\rho \approx 1.01$).
• Sin Ganador Universal: Ninguna función de utilidad única domina en todas las métricas (beneficio, brecha de riqueza, bienestar social, ratio de desigualdad). La elección de la utilidad debe tratarse como una decisión de política que refleja las obligaciones regulatorias.
• Inclusividad: El entrenamiento de equidad basado en resultados conduce a una mayor inclusividad. La Lagrangiana de Equidad bajo equidad de resultado resultó en una distribución más equitativa del acceso a préstamos (tasas de alcance) entre grupos demográficos en comparación con los objetivos de beneficio utilitarios.

4.3 Análisis de Micro-nivel (Inclusividad y Diversidad)

• Efecto Mateo: En todas las configuraciones, la concentración de préstamos dentro de los grupos aumentó con el tiempo (las curvas de Lorenz se alejaron de la igualdad).
• Limitaciones de la Equidad del Tomador de Decisiones (DM): La equidad del DM, que restringe la disparidad de beneficios por paso, no logró prevenir la divergencia de riqueza entre grupos. Resultó en las mayores brechas de riqueza.
• Compromisos de la Equidad de Resultado: Aunque la equidad de resultado redujo las brechas de riqueza entre grupos, en ocasiones exacerbó la concentración dentro de los grupos (préstamos concentrados entre los ya ricos), particularmente bajo los objetivos de Bienestar Social y Lagrangiana de Equidad.
• Tasas de Alcance: Las estrategias conscientes de los resultados lograron tasas de alcance (fracción de receptores únicos) más altas que la equidad de DM, aunque esto vino acompañado de una mayor concentración dentro del grupo.

5. Significado y Reivindicaciones

El artículo sostiene que aprender con un modelo adecuado de la dinámica de la población (performatividad) y objetivos de equidad bien diseñados, evaluados sobre resultados sociales, es esencial para garantizar la equidad a largo plazo.

• Más allá de la Equidad Estática: El estudio demuestra que las restricciones de equidad estáticas o los modelos que ignoran los cambios performativos son insuficientes para la equidad a largo plazo. Las políticas estáticas (como los predictores de un solo paso) pueden ser inmediatamente rentables, pero fallan en corregir las disparidades de riqueza que inducen con el tiempo.
• Las Decisiones de Diseño Importan: La elección del algoritmo de aprendizaje (PERL vs. RL) y el objetivo de equidad (por ejemplo, Equidad de Resultado vs. Equidad de DM) interactúan cualitativamente. Por ejemplo, PERL supera a RL bajo equidad de resultado, pero RL puede superar a PERL bajo equidad de dos lados.
• Implicaciones de Política: Los resultados sugieren que lograr la equidad a largo plazo requiere una consideración conjunta de la capacidad del algoritmo de aprendizaje para modelar bucles de retroalimentación y las métricas de equidad específicas utilizadas para guiar la optimización. No hay "almuerzo gratis"; diferentes objetivos priorizan diferentes dimensiones de la equidad (por ejemplo, equidad entre grupos vs. inclusividad dentro del grupo), y estos compromisos deben gestionarse explícitamente.

Los autores concluyen que, si bien su simulador no imita el mundo real perfectamente, los resultados no triviales y difíciles de anticipar producidos por los bucles de retroalimentación performativa en Eutopia motivan el desarrollo de nuevos marcos algorítmicos que reconozcan la naturaleza multifacética de la equidad a largo plazo.