Resumen Técnico: Asignación de Etiquetas Hard y Soft para la Inferencia de Rechazo Semisupervisada Sensible al Costo en la Calificación Crediticia

1. Planteamiento del Problema

Las tarjetas de puntuación de riesgo crediticio se entrenan tradicionalmente de forma exclusiva con solicitantes aceptados, ya que solo estas personas tienen resultados de reembolso registrados. Esta práctica introduce un sesgo de selección de muestra, lo que provoca que los modelos funcionen bien en la población aceptada pero deficientemente en el conjunto más amplio de solicitantes. Además, los enfoques de clasificación estándar suelen ignorar los costos asimétricos de la clasificación errónea en la calificación crediticia: el costo de un Falso Negativo (aprobar a un moroso) es significativamente mayor que el de un Falso Positivo (rechazar a un buen pagador).

Los métodos de inferencia de rechazo existentes a menudo no logran abordar estos problemas simultáneamente. Muchos asumen distribuciones de clases equilibradas o tratan los errores de clasificación como si tuvieran un costo igual, lo que conduce a resultados económicos subóptimos. Adicionalmente, aunque el aprendizaje semisupervisado trata a los solicitantes rechazados como instancias con etiquetas faltantes, pocos marcos proporcionan garantías teóricas formales respecto a la consistencia bajo mecanismos de rechazo específicos (por ejemplo, Datos Faltantes al Azar o Missing at Random, MAR) mientras integran objetivos sensibles al costo.

2. Metodología: RI-CSCEM

El artículo propone RI-CSCEM (Inferencia de Rechazo - Clasificación de Expectativa-Maximización Sensible al Costo), un marco unificado que integra la regresión logística semisupervisada con el aprendizaje sensible al costo. El método opera sobre un conjunto de datos $D = D_l \cup D_u$, donde $D_l$ contiene solicitantes etiquetados (aceptados) y $D_u$ contiene solicitantes no etiquetados (rechazados).

2.1 Algoritmo Central

El algoritmo sigue un procedimiento de Clasificación EM (CEM) con dos pasos alternos:

• E-Step (Asignación de Etiquetas):
  En lugar de asignar una única etiqueta hard (rígida) a los rechazados, el método emplea un mecanismo de responsabilidad suave (soft responsibility). Para cada solicitante no etiquetado $j$, se calcula un criterio de diferencia ponderado por costo:
  $$\text{Diff}(j) = C_{FN} \log(1 + e^{-z_j}) - C_{FP} \log(1 + e^{z_j})$$
  donde $z_j = \beta^\top x_j$, y $C_{FN}, C_{FP}$ son los costos de los falsos negativos y falsos positivos, respectivamente.

Este criterio se mapea a una probabilidad de incumplimiento suave $q_j \in (0, 1)$ mediante una función sigmoide calibrada por un parámetro de temperatura $\tau$. Crucialmente, la asignación está restringida por una restricción de equilibrio: la proporción esperada de incumplimientos entre el conjunto de rechazados debe ser igual a la tasa de incumplimiento empírica $r$ observada en el conjunto aceptado ($D_l$). Esto evita soluciones degeneradas donde todos los rechazados son asignados a una sola clase.

También se define una variante de etiqueta hard como un caso especial, donde los $\lfloor r \cdot m \rfloor$ solicitantes rechazados con la pérdida ponderada por costo más baja se asignan una etiqueta hard de 1 (incumplimiento), y el resto 0.

• M-Step (Estimación de Parámetros):
  El modelo reajusta una regresión logística penalizada con $\ell_1$ sensible al costo sobre el conjunto de datos aumentado. La función objetivo $L(\beta, q)$ combina:

1. Pérdida logística ponderada en los datos etiquetados ($D_l$).
2. Pérdida ponderada con asignación suave en los datos no etiquetados ($D_u$), escalada por un hiperparámetro $\lambda \in [0, 1]$.
3. Una penalización $\ell_1$ ($\mu \|\beta\|_1$) para la selección de características y la dispersión (sparsity).

La contribución de los datos no etiquetados se escala mediante $\lambda$, permitiendo la interpolación entre regímenes puramente supervisados ($\lambda=0$) y totalmente semisupervisados ($\lambda=1$).

2.2 Garantías Teóricas

El artículo proporciona dos resultados clave:

1. Descenso Monotónico: Para la variante de etiqueta hard, los pasos alternos E y M garantizan una función objetivo monótonamente no creciente, asegurando la convergencia.
2. Consistencia bajo MAR: Bajo el supuesto de Datos Faltantes al Azar (MAR) —donde la decisión de rechazo depende únicamente de las covariables observadas y no del resultado de incumplimiento no observado— el estimador RI-CSCEM es consistente. Los autores demuestran que, bajo MAR, el estimador basado solo en aceptados ya es insesgado; por lo tanto, el procedimiento de inferencia de rechazo no mejora asintóticamente el estimador, sino que sirve como una herramienta de diagnóstico para medir cuándo la inferencia de rechazo añade valor (específicamente cuando MAR no se cumple).

3. Contribuciones Clave

1. Marco Unificado: RI-CSCEM unifica el aprendizaje semisupervisado y el aprendizaje sensible al costo dentro de un único marco de verosimilitud penalizada, abordando simultáneamente el sesgo de selección de muestra y el desequilibrio de clases.
2. Asignación Soft vs. Hard: El artículo introduce una asignación de responsabilidad suave que distribuye a los solicitantes rechazados entre las clases basándose en criterios ponderados por costo. Los resultados empíricos muestran que esto preserva el poder de discriminación que la etiquetación pseudo-etiqueta hard destruye.
3. Rigor Teórico: El trabajo establece garantías formales de descenso monotónico para la variante hard y consistencia bajo MAR, proporcionando un entorno controlado para evaluar la necesidad de la inferencia de rechazo.
4. Benchmarking Riguroso: El estudio emplea un diseño experimental robusto que involucra 30 extracciones estratificadas y pruebas estadísticas (pruebas de Friedman y Nemenyi) contra 12 modelos competidores, incluyendo la inferencia de rechazo tradicional, estrategias de remuestreo y líneas base semisupervisadas.

4. Resultados Experimentales

El método fue evaluado con datos de Lending Club (aproximadamente 1.27 millones de aplicaciones aceptadas y 2.06 millones de rechazadas).

• Desempeño: A través de 30 extracciones estratificadas, RI-CSCEM alcanzó un costo total de clasificación errónea medio de 1120.3.
• Comparación: Este desempeño es estadísticamente indistinguible de las mejores líneas base de solo aceptados: Regresión Logística Sensible al Costo (1070.4) y Regresión Balanceada con SMOTE (1104.7).
• Estudio de Ablación:
  • Ponderación Sensible al Costo: Pasar de un modelo CEM base a una ponderación sensible al costo (CEM+CS) redujo significamente el costo (de 1401.5 a 1215.6) y alejó al modelo de la solución trivial de "todos no incumplen".
  • Responsabilidad Suave: Reemplazar las etiquetas hard con responsabilidades suaves (el RI-CSCEM completo) redujo aún más el costo a 1120.3 y recuperó la discriminación, elevando el AUC de 0.589 a 0.614.
  • Hard vs. Soft: La variante de etiqueta hard (RI-CSCEM-hard) tuvo un desempeño similar a CEM+CS (1214.3 vs 1215.6), confirmando que la asignación suave es el principal motor de la mejora del AUC.
• Significancia Estadística: La prueba de Friedman rechazó la hipótesis nula de igualdad de desempeño entre todos los modelos ($p < 10^{-3}$). La prueba post-hoc de Nemenyi confirmó que RI-CSCEM pertenece al mismo grupo estadísticamente significativo que las mejores líneas base de solo aceptados.

5. Significado y Reivindicaciones

El artículo sostiene que RI-CSCEM proporciona una línea base de diagnóstico para la literatura de calificación crediticia. Su principal significancia radica en demostrar que, bajo un mecanismo de rechazo de Datos Faltantes al Azar (MAR), la inferencia de rechazo añade poco valor sobre un modelo bien ajustado y sensible al costo que utiliza solo aceptados. Los autores argumentan que el estimador de solo aceptados ya es insesgado bajo MAR, y el marco propuesto confirma esto teórica y empíricamente.

El artículo concluye modestamente que el verdadero beneficio de la inferencia de rechazo debería surgir en escenarios de Datos Faltantes No al Azar (MNAR), donde el rechazo depende de factores no observados. El presente trabajo establece una base rigurosa para tales extensiones futuras al demostrar la consistencia bajo MAR y aislar los componentes específicos (sensibilidad al costo y asignación suave) que mejoran el desempeño del modelo cuando se aplica la inferencia de rechazo. Los autores no afirman que RI-CSCEM supere universalmente a todas las líneas base en todos los regímenes, sino que iguala a las líneas base más fuertes bajo MAR, ofreciendo un mecanismo robusto y teóricamente fundamentado para manejar datos no etiquetados cuando el mecanismo de rechazo es ignorable.