🤖 machine learning

Beyond Aggregate Calibration: Decomposing Income-Conditional Recall Disparities in Automated Credit Default Prediction

Este artículo revela que los procesos de filtrado centrados en los datos en la predicción del incumplimiento crediticio crean inadvertidamente disparidades severas de exhaustividad entre prestatarios de ingresos altos y bajos, impulsadas no solo por las características directas de ingresos y los sesgos de precios institucionales, sino también por variables proxy estructurales como el monto del préstamo y la propiedad de la vivienda que persisten incluso cuando se eliminan los atributos sensibles.

Autores originales: Sai Srikar Boddupalli

Publicado 2026-08-11

📖 6 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Sai Srikar Boddupalli

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que eres un detective intentando resolver un misterio, pero en lugar de huellas dactilares, estás buscando números. Esta historia vive en el mundo del aprendizaje automático (machine learning), donde las computadoras son entrenadas para hacer predicciones estudiando enormes pilas de datos pasados. Piensa en esto como un estudiante que estudia para un examen leyendo miles de exámenes anteriores. Un tipo específico de examen que estas computadoras toman es la calificación crediticia: decidir si una persona devolverá un préstamo o si entrará en impago (default).

Pero aquí está la parte difícil: a veces los datos que la computadora estudia son desordenados. Tal vez una etiqueta es incorrecta, o tal vez la computadora se confunde. Para solucionar esto, los científicos suelen utilizar una "puntuación de confianza". Si la computadora no está segura de una predicción, puede decir: "No confío en este punto de datos; desechémoslo". Esto se llama limpieza de datos. Otra gran idea en este campo es la equidad. Queremos asegurarnos de que la computadora trate a todos por igual, independientemente de cuánto dinero ganen. Una regla clave para la equidad se llama igualdad de oportunidades, que simplemente significa: si alguien realmente falla en pagar un préstamo, la computadora debería ser igualmente buena detectando ese fallo, ya sea que la persona sea rica o pobre.

La gran pregunta es: ¿Acaso la forma en que la computadora "limpia" sus propios datos genera accidentalmente inequidad? Y si intentamos ocultar información sensible (como los ingresos) de la computadora para obligarla a ser justa, ¿realmente funciona? Este artículo profundiza en esa pregunta, utilizando datos de préstamos del mundo real para ver si la computadora está representando erróneamente los datos de forma secreta.

La historia del artículo: Cuando "limpiar" los datos los ensucia más

El investigador comenzó analizando un conjunto masivo de datos de más de 1.3 millones de préstamos de una empresa llamada LendingClub. Notó algo extraño que sucedía cuando utilizaba el método estándar de "puntuación de confianza" para limpiar los datos. La computadora decidió que algunas solicitudes de préstamos eran "ruidosas" o poco fiables y las marcó para su eliminación.

Aquí está el giro: la computadora era mucho más propensa a desechar etiquetas "ruidosas" de prestatarios de altos ingresos que realmente entraron en impago, que de prestatarios de bajos ingresos que entraron en impago. Es como un profesor calificando una pila de exámenes y decidiendo que las respuestas incorrectas de los niños ricos son solo "errores" para ser ignorados, mientras que las respuestas incorrectas de los niños pobres son tratadas como evidencia real. En números, la computadora descartó el 2.40% de los deudores de altos ingresos como ruido, pero solo el 0.38% de los deudores de bajos ingresos. Esa es una diferencia enorme en cómo se trató la información.

Pero la verdadera sorpresa llegó cuando dejaron de mirar solo la "limpieza" y miraron las predicciones reales. Utilizaron la regla de igualdad de oportunidades para verificar: "Si alguien realmente entró en impago, ¿con qué frecuencia lo detectó la computadora?".

Los resultados fueron impactantes. La computadora era excelente detectando a los deudores de bajos ingresos (encontró el 72.84% de ellos). Pero para los prestatarios de altos ingresos que realmente entraron en impago, la computadora solo detectó el 55.98%. Ese es un margen de 16.86 puntos porcentuales. La computadora era esencialmente ciega ante las personas ricas que fallaban en sus pagos, mientras que era muy aguda con las personas pobres.

El trabajo de detective: ¿Por qué sucedió esto?

El investigador no se detuvo solo en encontrar la brecha; quería saber por qué. Utilizó un truco ingenioso llamado ceguera de características secuencial. Imagina jugar a las "20 preguntas" donde intentas adivinar un secreto. Primero, dejas que la computadora lo vea todo. Luego, le cubres los ojos para que no pueda ver los ingresos del prestatario. Después, le cubres los ojos otra vez para que ni siquiera pueda ver la tasa de interés.

Esto fue lo que descubrieron al despojar las capas:

La pista directa de ingresos: Cuando simplemente ocultaron el número de "ingresos anuales" de la computadora, la brecha se redujo de 16.86 puntos a 7.49 puntos. Esto significa que la computadora estaba usando directamente el número de ingresos para decidir quién era riesgoso.
La trampa ascendente (Tasas de interés): Pero incluso después de ocultar los ingresos, la brecha no desapareció. El investigador se dio cuenta de que la computadora estaba usando la tasa de interés como un código secreto. Los bancos ofrecen tasas de interés más bajas a las personas que consideran seguras. Dado que las personas ricas suelen obtener tasas más bajas, la computadora aprendió: "Tasa de interés baja = Persona segura". Así que, cuando una persona rica realmente entraba en impago, la computadora la ignoraba porque la tasa de interés le decía que era segura. Cuando ocultaron también la tasa de interés, la brecha se redujo aún más, hasta aproximadamente 3.55 puntos.
El fantasma residual: Incluso después de ocultar tanto los ingresos como las tasas de interés, permaneció una brecha pequeña pero real (aproximadamente de 2.56 a 3.55 puntos). La computadora seguía encontrando una manera de adivinar los ingresos. ¿Cómo? Mirando el monto del préstamo y la propiedad de la vivienda. Las personas ricas tienden a pedir préstamos de montos mayores y poseen viviendas con hipotecas. La computadora utilizó estos "proxies" (pistas sustitutas) para reconstruir la imagen de quién era rico, a pesar de que no se le permitía ver el número de ingresos.

La gran lección

El artículo muestra que simplemente decirle a una computadora "No mires los ingresos" no la hace justa. La computadora es como un detective muy inteligente que puede descubrir el secreto simplemente mirando otras pistas, como el tamaño del préstamo o la tasa de interés que el banco ofreció.

El autor descubrió que el sesgo institucional (cómo los bancos fijan las tasas de interés) y los proxies de comportamiento (cuánto dinero pide prestado la gente) trabajan juntos para ocultar la verdad. Incluso si intentas limpiar los datos, la computadora reconstruye la inequidad utilizando estas otras señales.

Por lo tanto, si un banco quiere ser verdaderamente justo, no puede simplemente borrar la columna de "ingresos" de su hoja de cálculo. Tienen que entender que todo el sistema —desde la tasa de interés que un analista humano establece hasta el monto del préstamo que una persona solicita— está conectado. Si no arreglan toda la cadena, la computadora seguirá encontrando formas de tratar de manera diferente a los prestatarios ricos y pobres, incluso cuando se le dice que no lo haga.

Resumen Técnico: Descomposición de las disparidades de recuperación condicionadas por ingresos en la predicción automatizada de incumplimiento crediticio

Planteamiento del problema
El artículo aborda una intersección crítica entre la curación de IA centrada en los datos y la equidad algorítmica en la suscripción de crédito al consumo. Mientras que los procesos de datos utilizan frecuentemente las puntuaciones de confianza del modelo para filtrar instancias de entrenamiento "ruidosas" o mal etiquetadas, y mientras que la literatura sobre equidad reconoce que eliminar los atributos protegidos rara vez evita la reconstrucción del sesgo mediante características correlacionadas, la interacción específica entre el filtrado de etiquetas basado en la confianza y las disparidades socioeconómicas permanece inexplorada. El problema central investigado es si la tendencia de un algoritmo a tratar los fallos de predicción (falsos negativos) como ruido de datos sesga sistemáticamente a lo largo de las líneas de ingresos, y si las intervenciones de equidad "ciegas" estándar (eliminar atributos sensibles) son suficientes para eliminar estas disparidades.

Metodología
El estudio utiliza un conjunto de datos de gran escala y acceso público de LendingClub (N = 1.344.936 registros, 2007–2018), centrándose en préstamos con resultados terminales ("Pagado Completamente" o "Incumplido"). Los prestatarios se categorizan post-hoc en tres tramos de ingresos: Bajos (<$50k), Medios ( $50k–$ 100k) y Altos (>$100k).

La investigación emplea una metodología de cegamiento de características secuencial para aislar los impulsores de la disparidad a través de tres especificaciones de modelo:

Modelo Completo: Incluye todas las características, incluyendo explícitamente los ingresos anuales declarados.
Modelo Ciego de Ingresos: Excluye los ingresos anuales.
Modelo Doblemente Ciego: Excluye tanto los ingresos anuales como la tasa de interés de originación (para eliminar el sesgo institucional ascendente codificado por los suscriptores humanos).

El autor evalúa el rendimiento utilizando la Igualdad de Oportunidades (Hardt et al., 2016), centrándose específicamente en la Tasa de Verdaderos Positivos (TPR/Recuperación o Recall) entre los deudores reales, en lugar de la precisión agregada. Para explicar los mecanismos detrás de la disparidad residual, el estudio utiliza valores SHAP (Explicaciones Aditivas de Shapley) con signo fuera de la muestra extraídos estrictamente de una partición de prueba reservada para evitar la memorización in-sample. Los hallazgos se validan en dos familias de modelos: Árboles de Potencia Gradiente (XGBoost) y Regresión Logística Regularizada.

Contribuciones Clave

Auditoría Empírica de la Limpieza de Etiquetas: El artículo demuestra que el filtrado de umbral de confianza introduce un sesgo estadísticamente significativo y condicionado por los ingresos. Los deudores de ingresos altos son señalados desproporcionadamente como "ruido de etiqueta" (tasa de descarte del 2,40%) en comparación con los deudores de ingresos bajos (0,38%), una disparidad confirmada mediante una prueba de chi-cuadrado ( $\chi^2 = 1192,26, p < 0,0001$ ).
Reencuadre de la Métrica de Equidad: Al aplicar el criterio de Igualdad de Oportunidades, el estudio revela un déficit sustancial de recuperación para los prestatarios de ingresos altos que las métricas de calibración agregadas ocultan. Existe una brecha bruta de 16,86 puntos porcentuales en la recuperación entre los deudores de ingresos altos (55,98%) y los de ingresos bajos (72,84%).
Descomposición de Mecanismos: El autor rastrea la disparidad a tres mecanismos distintos:
- Dependencia Directa: El uso directo de los ingresos declarados explica aproximadamente la mitad de la brecha inicial.
- Sesgo Institucional Heredado: La tasa de interés de originación actúa como un proxy del juicio humano del suscriptor. Los deudores de ingresos altos recibieron tasas de interés más bajas (mediana 14,49% frente a 15,31% para los de ingresos bajos), lo que lleva al modelo a clasificarlos incorrectamente como de menor riesgo cuando se eliminan los ingresos.
- Proxies Estructurales Residuales: Incluso después de cegar tanto los ingresos como las tasas de interés, persiste una brecha estadísticamente significativa (2,56% en los datos de prueba fuera de la muestra). El análisis SHAP identifica el monto del préstamo y el estado de propiedad de la vivienda como los principales impulsores, actuando como proxies estructurales que reconstruyen la señal de ingresos omitida.
Verificación Metodológica: Los resultados son robustos a través de arquitectas de modelos (XGBoost y Regresión Logística) y esquemas de validación (validación cruzada de 5 pliegues frente a prueba estricta fuera de la muestra), confirmando que la disparidad está incrustada en la estructura de los datos y no es un artefacto de un algoritmo específico.

Resultados

Filtrado de Confianza: Los deudores de ingresos altos son eliminados como "ruido" a una tasa aproximadamente 6 veces mayor que los de ingresos bajos.
Disparidad de Recuperación: La brecha inicial de TPR entre los grupos de ingresos altos y bajos es de 16,86 puntos porcentuales.
Efectos del Cegamiento:
- Eliminar los ingresos reduce la brecha a 7,49 puntos porcentuales.
- Eliminar tanto los ingresos como las tasas de interés reduce la brecha aún más a 3,55 puntos porcentuales (validación cruzada) y 2,56 puntos porcentuales (prueba fuera de la muestra).
Impulsores Residuales: La brecha restante del 2,56% es impulsada por el monto del préstamo y la propiedad de la vivienda. Los prestatarios de ingresos medios, que solicitan montos absolutos mayores que los de ingresos bajos, muestran una recuperación agregada ligeramente superior a los de ingresos bajos en el modelo doblemente ciego, pero esto es un artefacto de composición; cuando se analiza por deciles de monto de préstamo, los prestatarios de ingresos altos exhiben consistentemente la recuperación más baja.

Significancia y Reivindicaciones
El artículo sostiene que el simple hecho de cegar un algoritmo a los atributos sensibles (como los ingresos) es insuficiente para garantizar la equidad en contextos financieros regulados. El estudio destaca que las decisiones de fijación de precios institucionales (tasas de interés) y los proxies de comportamiento descendentes (tamaño del préstamo, propiedad de activos) reconstruyen colectivamente las señales de las variables omitidas.

El autor concluye que las auditorías de equidad para los flujos de trabajo de IA centrados en los datos en las instituciones financieras deben extenderse más allá de la eliminación de los atributos protegidos explícitos. Deben considerar las variables institucionales ascendentes que codifican el juicio humano previo y las geometrías de transacciones descendentes que reconstruyen sistemáticamente las señales omitidas. Los hallazgos sugieren que, sin abordar estos proxies estructurales, los sistemas de crédito automatizados continuarán produciendo disparidades condicionadas por los ingresos tanto en los heurísticos de limpieza de datos como en la recuperación de la clase minoritaria.

La historia del artículo: Cuando "limpiar" los datos los ensucia más

El trabajo de detective: ¿Por qué sucedió esto?

La gran lección

Más como este