Resumen Técnico: Clasificación Conformal Justa mediante Aprendizaje de Grupos Basados en Representaciones

1. Declaración del Problema

La Predicción Conformal (CP) proporciona garantías de cobertura marginal estadísticamente rigurosas para modelos de aprendizaje automático, asegurando que la etiqueta verdadera caiga dentro de un conjunto predicho con una probabilidad especificada por el usuario (por ejemplo, $1-\alpha$). Sin embargo, los métodos estándar de CP solo garantizan la cobertura en promedio a través de toda la población. Esta garantía marginal no tiene en cuenta los sesgos algorítmicos, donde subgrupos específicos (definidos por características sensibles como raza o género) pueden sufrir una cobertura desproporcionadamente pobre.

Aunque los métodos de "cobertura igualada" intentan garantizar una cobertura válida en grupos predefinidos, enfrentan limitaciones significativas:

1. Expresividad: Los métodos existentes (por ejemplo, Romano et al., 2020a) típicamente definen grupos basados en características individuales. Tienen dificultades para capturar interacciones complejas y no lineales entre características (por ejemplo, el subgrupo definido por "Mujer Blanca O HOMBRE Negro" en una relación de OR exclusivo).
2. Escalabilidad y Eficiencia: Buscar exhaustivamente todos los subgrupos plausibles es computacionalmente inviable. Los enfoques adaptativos anteriores (por ejemplo, Zhou & Sesia, 2024) dependen de la selección codiciosa de características discretas o de suposiciones de Naïve Bayes, lo que limita su capacidad para manejar características continuas y definiciones de grupos no lineales.

El desafío central es desarrollar un marco de inferencia conformal que identifique adaptativamente subgrupos tratados injustamente definidos por combinaciones complejas y no lineales de características, manteniendo al mismo tiempo la eficiencia computacional y produciendo conjuntos de predicción compactos e informativos.

2. Metodología: FAREG

Los autores proponen FAREG (Predicción Conformal Justa para Grupos Basados en Representaciones), un marco basado en aprendizaje que identifica adaptativamente grupos afectados por sesgos y ajusta los conjuntos de predicción para lograr una cobertura igualada adaptativa.

2.1 Aprendizaje de Grupos Basados en Representaciones

En lugar de extraer grupos directamente de las características de entrada crudas $X$, FAREG codifica $X$ en una representación latente $Z$ mediante un mapeo $Z = f(X)$. El método emplea una arquitectura de Cuello de Botella de Información Variacional Profunda (Deep VIB) para aprender un indicador de pertenencia al grupo $S$ (donde $S=1$ indica pertenencia a un grupo tratado injustamente $\hat{G}$) basado en $Z$.

El objetivo de optimización maximiza la información mutua entre la representación latente $Z$ y tanto la pertenencia al grupo $S$ como la entrada $X$, mientras minimiza la información mutua entre $Z$ y las identidades individuales de las muestras $i$ para garantizar la privacidad y la generalización. La función de pérdida se formula como:
$$\mathcal{L} = \mathcal{L}_{CC} + \mathcal{L}_{MSE} - \beta \mathcal{L}_{KL}$$
Donde:

• $\mathcal{L}_{CC}$: Pérdida de cobertura condicional empírica, minimizada para identificar grupos con cobertura pobre.
• $\mathcal{L}_{MSE}$: Pérdida de reconstrucción (Error Cuadrático Medio) que asegura que $Z$ retenga información suficiente para reconstruir $X$, manteniendo así la interpretabilidad.
• $\mathcal{L}_{KL}$: Término de divergencia de Kullback-Leibler que comprime $Z$ a una distribución normal estándar.

La selección del grupo está restringida por una proporción mínima de tamaño de grupo $\delta$. Los autores utilizan Descenso de Gradiente Proyectado (PGD) para optimizar los parámetros del decodificador, proyectando las probabilidades predichas de pertenencia al grupo de nuevo sobre el conjunto factible para satisfacer la restricción de tamaño.

2.2 Construcción de Conjuntos de Predicción Adaptativos

Una vez identificados los grupos injustos, FAREG construye el conjunto de predicción final $C(X_{N+1})$ para una instancia de prueba:

1. Se construye un conjunto de predicción conformal estándar $C_m(X_{N+1}, D)$ utilizando el conjunto de calibración completo.
2. El modelo muestrea $T$ vectores $s_t$ de la distribución de Bernoulli conjunta aprendida, definiendo cada uno un grupo específico $\hat{G}_{s_t}$.
3. Se construyen conjuntos conformales separados para cada grupo muestreado.
4. El conjunto de predicción final es la unión del conjunto estándar y todos los conjuntos específicos del grupo:
   $$C(X_{N+1}) = C_m(X_{N+1}, D) \cup \bigcup_{t=1}^{T} C_m(X_{N+1}, \hat{G}_{s_t})$$

2.3 Métrica de Evaluación Mejorada: WSC+

Para evaluar la efectividad de la identificación de grupos injustos no lineales, los autores introducen WSC+, una extensión no lineal de la métrica de Cobertura de Laminado Ponderado (WSC). Mientras que el WSC tradicional evalúa la cobertura sobre laminados lineales ($a \leq v^T X \leq b$), WSC+ evalúa la cobertura sobre funciones no lineales arbitrarias $\pi(X)$ (específicamente funciones cuadráticas en los experimentos). Esto permite una evaluación más precisa de si el procedimiento conformal cubre grupos definidos por interacciones complejas de características.

3. Contribuciones Clave

1. Marco FAREG: Un método novedoso de predicción conformal que utiliza una arquitectura codificador-decodificador para identificar adaptativamente subgrupos con cobertura pobre definidos por combinaciones no lineales de características, superando las limitaciones de las definiciones de grupos lineales o de características individuales.
2. Métrica WSC+: Una nueva métrica de cobertura condicional no lineal diseñada para capturar y evaluar mejor el rendimiento de los procedimientos conformales en subgrupos complejos tratados injustamente.
3. Garantías Teóricas: El artículo demuestra que FAREG logra cobertura igualada adaptativa (Ecuación 1) sobre el conjunto de grupos seleccionado, siempre que los datos sean intercambiables. El análisis teórico mediante la dimensión VC sugiere que el espacio de grupos candidatos de FAREG es un superconjunto del de los métodos adaptativos anteriores (como AFCP), ofreciendo mayor expresividad.
4. Eficiencia: El método mantiene una complejidad temporal comparable a la predicción conformal estándar ($O(N+M)$), superando significativamente la complejidad $O(N \log N + NM)$ del método AFCP más avanzado.

4. Resultados Experimentales

Los autores evaluaron FAREG en conjuntos de datos sintéticos y del mundo real (Nursery, ACSIncome).

• Datos Sintéticos (Escenario de Diagnóstico de Enfermedad Mental):

  • Cobertura: FAREG fue el único método que logró consistentemente una cobertura condicional válida (≥0.9) en el subgrupo objetivo definido por una relación NOR exclusiva (XNOR) entre características, mientras que las líneas base (Marginal, Parcial, AFCP1, AFCP2) no lograron mantener esta cobertura o requirieron tamaños de muestra significativamente mayores.
  • Eficiencia: FAREG mantuvo tamaños promedio de conjuntos de predicción competitivos, evitando los tamaños de conjuntos excesivos observados en AFCP2 cuando intentaba cubrir el grupo objetivo.
  • Selección de Características: FAREG identificó con éxito las combinaciones no lineales de características relevantes (X[0] y X[1]) con mayor frecuencia que las líneas base a medida que aumentaba el tamaño de la muestra.
  • Tiempo de Ejecución: FAREG demostró costos de tiempo significativamente menores en comparación con AFCP, con un tiempo de entrenamiento que escala linealmente con el tamaño de la muestra.

• Datos del Mundo Real (Nursery y ACSIncome):

  • En el conjunto de datos Nursery, FAREG superó consistentemente a todas las líneas base en las métricas de Cobertura de Grupo y WSC+ mientras mantenía una cobertura marginal válida.
  • En el conjunto de datos ACSIncome, FAREG logró una cobertura condicional válida (0.9) y una eficiencia competitiva en comparación con AFCP2.

• Validación de la Métrica: Los experimentos confirmaron que WSC+ identifica grupos con peor cobertura que la métrica WSC lineal, validando su utilidad para detectar sesgos no lineales.

5. Significado y Afirmaciones

El artículo afirma que FAREG proporciona una vía práctica hacia el aprendizaje automático confiable al equilibrar la compensación entre la eficiencia de la predicción conformal (tamaños de conjuntos pequeños) y las demandas de la equidad algorítmica (cobertura igualada).

• Expresividad: Al aprender representaciones latentes, FAREG captura sesgos algorítmicos complejos que los métodos lineales o los enfoques de características individuales pasan por alto.
• Interpretabilidad: A pesar de utilizar representaciones latentes, la estructura codificador-decodificador permite la reconstrucción de las características de entrada, mitigando la preocupación de la "caja negra" y demostrando que los grupos aprendidos reflejan interacciones significativas de características (por ejemplo, relaciones XNOR).
• Robustez: El marco ofrece un enfoque flexible que puede adaptarse a diferentes nociones de equidad sin requerir estructuras de grupo predefinidas.

Los autores reconocen una limitación: la expresividad mejorada de los grupos basados en representaciones puede sacrificar parcialmente la interpretabilidad directa de los grupos definidos sobre características manifiestas, aunque argumentan que la capacidad de reconstrucción compensa esto. El trabajo se posiciona como un avance sobre los métodos conformales justos adaptativos existentes al abordar la brecha de expresividad en la identificación de grupos.