Towards Provably Fair Machine Learning: Bayesian Approaches For Consistent and Transparent Predictions

Este artículo presenta el clasificador Bayesiano Justo (Fair Bayesian classifier), un método que garantiza predicciones consistentes y transparentes en todos los subgrupos demográficos mediante la imposición de consistencia estadística y determinismo, abordando así las brechas de fiabilidad de los enfoques frecuentistas que afectan desproporcionadamente a las poblaciones minoritarias, al tiempo que mantiene o mejora la precisión general.

Lo esencial

Imagina que eres un juez en una sala de tribunal, pero en lugar de juzgar personas, juzgas a grupos de personas basándote en un enorme libro de casos pasados. Tu objetivo es hacer una predicción: "¿Tendrá éxito esta persona?" o "¿Reincidirá esta persona?".

El documento que has proporcionado, "Hacia un Aprendizaje Automático Probablemente Justo" (Towards Provably Fair Machine Learning), sostiene que la mayoría de los programas informáticos modernos (modelos de Aprendizaje Automático) son malos jueces cuando se trata de grupos pequeños y específicos de personas. A menudo hacen conjeturas seguras que contradicen la evidencia real que tienen delante.

Aquí está el desglose del argumento del documento, utilizando analogías sencillas.

1. El Problema: El "Necio Confiado"

Los modelos de aprendizaje automático estándar son como un estudiante que se memorizó las respuestas de un examen importante pero no entiende la lógica.

• El Problema: Cuando los datos son enormes (como la población de una ciudad), estos modelos funcionan bien. Pero cuando observan un grupo pequeño y específico (como "mujeres zurdas, pelirrojas que trabajan en turnos nocturnos"), puede haber solo 5 personas en ese grupo en toda la base de datos.
• El Error: Los modelos estándar intentan adivinar de todos modos. A menudo "suavizan" los detalles para que las matemáticas sean más fáciles. Esto es como un profesor que ignora las dificultades específicas de un pequeño grupo de estudiantes para que el promedio de la clase se vea bien.
• El Resultado: El modelo hace una predicción que es estadísticamente imposible dado el hecho de la evidencia. Por ejemplo, si un grupo de 100 personas idénticas tiene exactamente un 50% de éxito, el modelo podría decir con seguridad "el 100% tendrá éxito" o "el 0% tendrá éxito". Ambos son erróneos, pero el modelo lo dice de todos modos porque intenta ser decisivo.

2. La Solución: El "Detective Honesto"

Los autores proponen un nuevo método llamado Clasificador Bayesiano Justo (FB Classifier). Piensa en esto no como un estudiante que intenta sacar un "A", sino como un detective honesto que se niega a adivinar a menos que la evidencia sea totalmente sólida.

Este detective sigue dos reglas estrictas:

1. La Regla de los Gemelos (Determinismo): Si dos personas tienen exactamente los mismos detalles (mismo trabajo, misma edad, mismo historial), deben recibir exactamente la misma predicción. No puedes tratar a gemelos idénticos de forma diferente.
2. La Regla de la Evidencia (Consistencia Estadística): El detective solo hará una predicción si los datos demuestran que es probable. Si la evidencia es demasiado débil, o si la evidencia demuestra que tanto el "Sí" como el "No" son erróneos, el detective se negará a adivinar.

3. El Truco de Magia: "La Abstención"

Esta es la parte más única de este documento. En el mundo real, solemos pensar que una computadora siempre debería dar una respuesta. Pero este documento argumenta que, a veces, la única respuesta justa es "No lo sé".

• La Analogía: Imagina el lanzamiento de una moneda. Si lanzas una moneda 3 veces y obtienes 2 caras, podrías adivinar que la siguiente será cara. Pero si lanzas una moneda 1,000 veces y obtienes exactamente 500 caras y 500 cruces, sabes que la moneda es justa. Si te obligan a adivinar "Cara" para el próximo lanzamiento, solo estás adivinando. Si te obligan a adivinar "Cara" para todos los 1,000 lanzamientos, estás mintiendo.
• El Enfoque del Documento: El clasificador Bayesiano Justo observa un grupo. Si los datos muestran que predecir "Sí" es erróneo, y predecir "No" también es erróneo (porque el grupo está dividido 50/50 y el tamaño de la muestra es lo suficientemente grande como para estar seguros), el modelo se abstiene. Dice: "No puedo hacer una predicción justa y consistente para este grupo específico".

4. Por qué esto importa para la Justicia

El documento señala una ironía cruel en la IA actual:

• Las minorías suelen estar en grupos pequeños. Debido a que son escasas, terminan en esos "subgrupos" diminutos donde los modelos estándar cometen más errores.
• Los modelos estándar perjudican a las minorías. Para arreglar las matemáticas, los modelos estándar a menudo agrupan estos grupos pequeños en grupos más grandes y genéricos. Esto borra su historia única y los fuerza en una predicción que no encaja con ellos.
• La solución del Bayesiano Justo: Al observar cada pequeño grupo individualmente y negarse a adivinar cuando la evidencia es incierta, este nuevo método protege a las personas en esos grupos pequeños y vulnerables. Admite cuando no tiene suficiente información, en lugar de inventar una historia que les perjudique.

5. Los Resultados: "Cero Errores" en las Reglas

Los autores probaron su "Detective Honesto" contra modelos estándar (como Árboles de Decisión y Redes Neuronales) en tres conjuntos de datos famosos (sobre ingresos, justicia penal y marketing bancario).

• Los Modelos Estándar: Hicieron predicciones que contradecían los datos reales para un gran número de grupos pequeños. Eran "confiadamente erróneos".
• El Modelo Bayesiano Justo:
  • Realizó cero predicciones que contradijeran los datos.
  • De hecho, fue más preciso que los otros en los grupos donde sí realizó una predicción.
  • Identificó los grupos donde no podía decidirse (los grupos del "No lo sé"), lo cual es una característica, no un error.

Resumen

El documento afirma que la verdadera justicia no se trata solo de hacer la suposición correcta; se trata de hacer una suposición que la evidencia realmente respalde.

Si la evidencia es demasiado delgada, o si la evidencia demuestra que una simple respuesta de "Sí/No" es imposible, un sistema justo debe detenerse y decir: "Necesito más información". Los autores construyeron un sistema que hace precisamente eso, asegurando que nadie sea juzgado por una predicción que los propios datos dicen que es imposible.

Resumen técnico

Resumen Técnico: Hacia un Aprendizaje Automático Probablemente Justo: Enfoques Bayesianos para Predicciones Consistentes y Transparentes

1. Planteamiento del Problema

Los modelos de aprendizaje automático desplegados en dominios de alto riesgo (finanzas, justicia penal, salud) a menudo producen predicciones que son sistemáticamente inconsistentes con los datos observados, particularmente para subgrupos granulares definidos por la intersección de múltiples características. Esta inconsistencia surge porque los enfoques frecuentistas estándar tratan las proporciones de la muestra observada como estimaciones fiables de las probabilidades reales, independientemente del tamaño de la muestra. En conjuntos de datos grandes, si bien el volumen total de datos es alto, los datos en la resolución más fina (individuos que comparten valores idénticos en todas las características) suelen consistir en subgrupos pequeños.

Dos problemas primarios exacerban esto:

1. Fallo de Inferencia de Muestra Pequeña: Los modelos estándar no tienen en cuenta la alta incertidumbre asociada con los subgrupos pequeños, lo que conduce a predicciones excesivamente confiadas pero estadísticamente no sustentadas.
2. Sesgo de Regularización: Para prevenir el sobreajuste, las técnicas de ML estándar (por ejemplo, la poda de árboles de decisión, la regularización en redes neuronales) colapsan los subgrupos pequeños en agregados más grandes. Esto afecta desproporcionadamente a las minorías demográficas, que a menudo se concentran en estos subgrupos interseccionales pequeños, borrando efectivamente sus patrones de comportamiento distintivos.
3. Falta de Abstención Principiada: Los modelos actuales, incluidos aquellos diseñados para la equidad, se ven obligados a emitir una predicción para cada entrada. Carecen de un mecanismo para abstenerse cuando la evidencia es demasiado escasa para sustentar una predicción confiable o, por el contrario, lo suficientemente fuerte como para descartar todas las predicciones deterministas (por ejemplo, un grupo donde la tasa objetivo es exactamente del 50% con una muestra grande).

Los enfoques de equidad existentes (equidad de grupo, multicalibración) a menudo dependen de grupos protegidos preespecificados, no logran escalar a todas las intersecciones y no abordan la inconsistencia estadística fundamental entre las predicciones y la evidencia observada.

2. Metodología: El Clasificador Bayesiano Justo (FB)

Los autores proponen el clasificador Bayesiano Justo (FB), un marco que trata la clasificación como una cuestión de justificación estadística en lugar de una optimización para la precisión agregada. El método se basa en la inferencia bayesiana clásica aplicada a las probabilidades de la población en lugar de a los parámetros del modelo.

Requisitos Principales

El marco impone dos requisitos estrictos para cualquier predicción:

1. Determinismo: Los individuos idénticos (que comparten todos los valores de las características) deben recibir predicciones idénticas.
2. Consistencia Estadística: Una predicción para un subgrupo debe ser estadísticamente consistente con la distribución objetivo inferida a partir de la muestra observada, evaluada mediante una prueba de hipótesis a un nivel de significancia $\alpha$.

Marco Técnico

• Definición de Subgrupos: Los datos se particionan en nodos-$d$ (grupos con valores idénticos en todos los $m$ atributos) y nodos-$v$ (grupos definidos por un subconjunto de atributos, dejando otros no especificados).
• Inferencia Bayesiana: Para cada nodo-$d$, la probabilidad de población desconocida $p$ se modela utilizando una posterior Beta (con un prior Beta(1,1) uniforme). La distribución predictiva para observaciones futuras sigue una distribución Beta-Binomial.
• Prueba de Consistencia: Para un nodo-$d$ dado con $N_d$ observaciones y $T_d$ objetivos positivos, se prueba una predicción determinista (ya sea "todo positivo" o "todo negativo") contra la distribución predictiva Beta-Binomial.
  • Si los datos observados descartan la predicción de "todo positivo" al nivel $\alpha$, esta es rechazada.
  • Si los datos descartan la predicción de "todo negativo", esta es rechazada.
  • Categorización de Nodos:
    • $d_0$: Solo la opción "todo negativo" es consistente.
    • $d_1$: Solo la opción "todo positivo" es consistente.
    • $d_{amb}$: Ambas son consistentes (ambiguas); la resolución depende de las restricciones de los nodos-$v$ padres.
    • $d_{nf}$ (Sin Justicia/No Fair): Ninguna predicción determinista es consistente (por ejemplo, un grupo grande con una tasa objetivo del 50%).
• Mecanismo de Abstención: A diferencia de la abstención basada en la confianza, el clasificador FB se abstiene en los nodos $d_{nf}$ porque la evidencia descarta positivamente ambas opciones deterministas. Esto es una salvaguarda para evitar emitir predicciones demostrablemente inconsistentes.
• Consistencia Global (nodos-$v$): Las predicciones también deben satisfacer las restricciones de consistencia para todos los nodos-$v$ (agregaciones de nodos-$d$). Dado que las distribuciones de los nodos-$v$ no pueden computarse en forma cerrada debido a la heterogeneidad, los autores las aproximan mediante el muestreo de las distribuciones de los nodos-$d$ hijos.
• Satisfacción de Restricciones: El problema se formula como un problema de satisfacción de restricciones donde la suma de las predicciones de los nodos-$d$ hijos debe caer dentro de los límites $[V_{min}, V_{max}]$ del nodo-$v$ padre. Los autores utilizan el optimizador Gurobi para encontrar una asignación factible que maximice un objetivo lineal basado en el log-odds posterior, seguido de un paso de puntuación secundaria utilizando los log-likelihood de los nodos-$v$ para seleccionar la mejor solución del conjunto factible.
• Manejo de Heterogeneidad: Para prevenir el exceso de confianza en conjuntos de datos grandes que puedan contener variación temporal o de origen no observada, se aplica un piso de varianza ($\tau = 10^{-5}$) a la posterior Beta, limitando el tamaño de muestra efectivo.

3. Contribuciones Clave

1. Marco para la Consistencia de Predicción: Una definición formal de consistencia estadística basada en la inferencia bayesiana que se aplica exhaustivamente a cada subgrupo posible (intersección de cualquier combinación de características), no solo a los grupos protegidos preespecificados.
2. El Clasificador Bayesiano Justo: Un clasificador que garantiza la consistencia con la evidencia observada e implementa una abstención principiada. Se abstiene solo cuando los datos descartan todas las predicciones deterministas, en lugar de cuando la confianza del modelo es baja.
3. Evidencia Empírica de Inconsistencia: Demostración de que los modelos estándar (Árboles de Decisión, Redes Neuronales) y los post-procesadores conscientes de la equidad (Multicalibración Proporcional) producen predicciones estadísticamente inconsistentes para una proporción significativa de subgrupos, incluso en los datos con los que fueron entrenados.
4. Resultados de Rendimiento: El clasificador FB logra cero error de consistencia por construcción y supera la precisión de las líneas base en todos los conjuntos de datos probados (Adult, COMPAS, Bank Marketing) en los subgrupos donde realiza predicciones. También logra una multicalibración competitiva como un subproducto de imponer la consistencia.

4. Resultados

Los autores evaluaron el clasificador FB frente a un Árbol de Decisión (DT), una Red Neuronal (NN) y la Multicalibración Proporcional (PMC) en tres conjuntos de datos de referencia:

• Error de Consistencia: Los modelos estándar produjeron predicciones estadísticamente inconsistentes para porciones significativas de subgrupos. Por ejemplo, en el conjunto de datos Bank Marketing, PMC mostró un error de consistencia de $d_0/d_1$ del 16.97% y un error de consistencia de nodo-$v$ del 43.46%. El clasificador FB logró un 0.00% de error en todas las métricas por diseño.
• Abstención: El clasificador FB se abstuvo en los nodos $d_{nf}$. En el conjunto de datos Adult, el 50.4% de las instancias cayeron en nodos $d_{nf}$, resaltando que para la mitad de la población, no era posible una predicción determinista consistente dada la información disponible.
• Precisión: En el subconjunto de datos donde el clasificador FB realizó predicciones (excluyendo los nodos $d_{nf}$), superó a todas las líneas base. Notablemente, en COMPAS, el FB alcanzó un 77.6% de precisión frente al ~68% de las líneas base.
• Multicalibración: El clasificador FB logró puntuaciones de multicalibración competitivas sin haber sido optimizado explícitamente para ellas, lo que sugiere que la consistencia estadística es un fuerte proxy para la calibración en subgrupos granulares.

5. Significado y Reivindicaciones

El artículo argumenta que la consistencia estadística proporciona una base principiada para la calidad de la predicción con implicaciones directas para la equidad algorítmica. Los autores afirman que:

• Las minorías demográficas se concentran desproporcionadamente en subgrupos pequeños donde la inferencia frecuentista es menos fiable. Abordar este problema de inferencia es un paso necesario hacia un ML justo.
• Al imponer la consistencia bayesiana en la resolución más fina que los datos permiten, es posible lograr la equidad de subgrupos exhaustiva con una abstención principiada en la práctica.
• La capacidad de identificar casos donde ninguna predicción determinista justa es posible (vía nodos $d_{nf}$) es una salvaguarda crítica, evitando que los sistemas emitan predicciones que contradigan la evidencia.
• El enfoque cambia el paradigma de "aprender asociaciones y retocar la equidad" a "clasificación como justificación estadística", asegurando que cada predicción se derive transparentemente de la evidencia disponible para ese subgrupo específico.

Los autores señalan que, aunque el marco es computacionalmente intensivo debido al crecimiento exponencial de los subgrupos, es tratable para los conjuntos de datos de referencia actuales y ofrece una alternativa rigurosa a los ajustes de equidad heurísticos. Reconocen que el manejo de datos no vistos (instancias de prueba en nuevos nodos-$d$) requiere mayor desarrollo, aunque se propone un mecanismo preliminar.