🤖 AI

FairSHAP: Preprocessing for Fairness Through Attribution-Based Data Augmentation

El artículo presenta FairSHAP, un nuevo marco de preprocesamiento que utiliza valores de Shapley para identificar y modificar de manera transparente las instancias críticas en los datos de entrenamiento, mejorando así la equidad individual y grupal en modelos de aprendizaje automático sin sacrificar la precisión.

Autores originales: Lin Zhu, Yijun Bian, Lei You

Publicado 2026-02-24

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Lin Zhu, Yijun Bian, Lei You

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

¡Claro que sí! Imagina que la Inteligencia Artificial (IA) es como un chef que cocina para millones de personas. Su trabajo es tomar ingredientes (datos) y crear un plato (una decisión, como aprobar un préstamo o diagnosticar una enfermedad).

El problema es que, a veces, el chef ha aprendido a cocinar con recetas que tienen un sesgo: quizás le gusta más la comida de un vecindario que de otro, o usa un ingrediente que hace que el plato sepa diferente dependiendo de quién lo pida. Esto es lo que llamamos injusticia en la IA.

Aquí te explico cómo funciona FairSHAP, la solución que proponen los autores, usando una analogía sencilla:

1. El Problema: "¿Por qué sabe mal el plato?"

Antes, los chefs (los algoritmos) intentaban arreglar el sabor mezclando todo a lo loco o quitando ingredientes al azar. A veces funcionaba, pero a menudo arruinaban la receta original o no sabían exactamente qué ingrediente estaba causando el mal sabor. Era como intentar arreglar un coche a ciegas.

2. La Solución: FairSHAP (El "Detective de Sabores")

FairSHAP es como un detective culinario muy inteligente que entra en la cocina antes de que empiece a cocinarse el plato final. Su misión es encontrar exactamente qué ingrediente está causando la injusticia y arreglarlo sin arruinar la receta.

¿Cómo lo hace? (La Magia de los "Valores de Shapley")

Imagina que tienes un pastel y quieres saber cuánto contribuyó cada ingrediente (harina, azúcar, huevos) a que el pastel salga dulce.

Valores de Shapley: Es una herramienta matemática que actúa como una balanza mágica. Le dice al detective: "Oye, el azúcar contribuyó un 80% a la dulzura, pero el huevo solo un 5%".
En el caso de la IA, esta balanza mide: "¿Qué tanto contribuyó el género o la raza de una persona a que el algoritmo dijera 'Sí' o 'No'?"

3. El Proceso: "El Intercambio Justo"

FairSHAP sigue estos pasos creativos:

Emparejar Parejas: Toma a dos personas que son muy similares en todo (misma edad, mismo trabajo, mismos ingresos), pero una es del grupo "privilegiado" y la otra del "no privilegiado". Las pone en una mesa de emparejamiento.
El Interrogatorio: Usa la "balanza mágica" (Shapley) para preguntar a la persona del grupo no privilegiado: "¿Qué ingrediente de tu perfil hizo que el algoritmo te tratara diferente?".
El Ajuste Fino: Si el detective descubre que, por ejemplo, el algoritmo estaba juzgando mal basándose en un dato específico (como el código postal), toma ese dato de la persona "privilegiada" (que tiene un historial limpio) y lo sustituye en la otra persona.
- Analogía: Es como si un juez le dijera a un abogado: "Tu cliente fue juzgado mal porque su abogado usó un argumento débil. Vamos a cambiar ese argumento por uno fuerte que usó el otro abogado, para que el juicio sea justo".

4. El Resultado: Un Plato Más Justo (y Rico)

Al hacer estos cambios pequeños y precisos en los ingredientes (datos) antes de cocinar:

Justicia Individual: Cada persona recibe un trato más justo, porque el algoritmo ya no se fija en cosas irrelevantes como su raza o género.
Justicia Grupal: Al arreglar los casos individuales, automáticamente el grupo entero queda más equilibrado.
Sabor Original: Lo mejor es que no arruina la receta. A diferencia de otros métodos que tiraban muchos ingredientes a la basura, FairSHAP solo cambia lo estrictamente necesario. De hecho, a veces, al quitar el "ruido" del sesgo, el plato (la predicción) sabe incluso mejor y es más preciso.

En Resumen

FairSHAP es como un editor de texto inteligente para la realidad. En lugar de borrar párrafos enteros o reescribir todo el libro, usa una lupa (Shapley) para encontrar la palabra exacta que está causando el error de interpretación, la cambia por una palabra justa y deja el resto del libro intacto.

¿Por qué es importante?
Porque nos permite tener una Inteligencia Artificial que no solo sea "lista", sino también honesta y transparente. Nos dice: "No es magia negra, fue este dato específico el que causó el problema, y aquí está cómo lo arreglamos".

¡Es una forma de asegurar que la tecnología sirva a todos por igual, sin perder la esencia de los datos reales!

1. El Problema

La equidad en los modelos de aprendizaje automático (ML) es crítica, especialmente en dominios de alto riesgo como la salud, las finanzas y la justicia. Sin embargo, los enfoques existentes de preprocesamiento para mitigar sesgos presentan dos limitaciones fundamentales:

Falta de transparencia: Muchos métodos modifican los datos sin un mecanismo claro para identificar qué características específicas son responsables de la injusticia, lo que oscurece la lógica detrás de las modificaciones.
Enfoque desequilibrado: La mayoría de las técnicas se centran exclusivamente en métricas de equidad grupal (como Paridad Demográfica), ignorando a menudo la equidad individual y los sesgos interseccionales. Además, las modificaciones agresivas pueden comprometer la fidelidad de los datos y la precisión del modelo.

Existe una necesidad urgente de métodos que integren la equidad con la interpretabilidad, permitiendo intervenciones transparentes y dirigidas que mejoren tanto la equidad individual como la grupal sin sacrificar la integridad de los datos.

2. Metodología: FairSHAP

El autores proponen FairSHAP, un nuevo marco de preprocesamiento que utiliza valores de Shapley (una métrica de atribución de características basada en la teoría de juegos) para identificar y corregir sesgos a nivel de instancia.

El proceso se divide en dos componentes principales:

Emparejamiento de Instancias (Matching):
- El conjunto de datos se divide en dos grupos basados en el atributo sensible (privilegiado y no privilegiado).
- Se utiliza un algoritmo de emparejamiento (como el de los vecinos más cercanos o transporte óptimo) para alinear instancias de un grupo con instancias similares del otro grupo, asegurando consistencia en las etiquetas (por ejemplo, emparejar solo casos positivos con positivos). Esto crea pares de referencia.
Atribución y Modificación Basada en Shapley:
- Para cada instancia objetivo, se calculan los valores de Shapley utilizando el otro grupo como datos de referencia. Esto cuantifica la contribución marginal de cada característica a la predicción del modelo.
- Se identifica un umbral $T$ (por defecto 0.05). Las características con un valor de Shapley superior a este umbral se consideran "críticas para la equidad".
- Aumento de datos: Los valores de estas características críticas en la instancia objetivo se reemplazan por los valores correspondientes de su instancia emparejada (referencia).
- Este proceso se realiza bidireccionalmente (ambos grupos se ajustan mutuamente) para generar un nuevo conjunto de datos de entrenamiento aumentado y equilibrado.

Fundamento Teórico:
El método se basa en el teorema de que reducir el Riesgo Discriminatorio (DR) a nivel individual (la diferencia en las predicciones de un modelo para un mismo individuo si su atributo sensible cambiara) conduce teóricamente a una reducción en las métricas de equidad grupal (como la Paridad Demográfica). Los autores demuestran que, bajo condiciones de emparejamiento local, el término de residuo de interacción es de segundo orden y despreciable, garantizando una reducción efectiva del sesgo.

3. Contribuciones Clave

Novedad en la integración: FairSHAP es el primer método de preprocesamiento que utiliza explícitamente la atribución de valores de Shapley para guiar la modificación de datos, vinculando directamente la interpretabilidad con la mitigación de sesgos.
Equidad Individual y Grupal: A diferencia de métodos que solo optimizan métricas grupales, FairSHAP mejora la equidad individual (reduciendo el DR) y, como consecuencia teórica y empírica, mejora la equidad grupal (DP y EO).
Mínima perturbación: El método es selectivo; solo modifica características críticas específicas, preservando la fidelidad de los datos mucho mejor que métodos que proyectan o transforman todo el conjunto de datos.
Independencia del modelo: Aunque utiliza un modelo para calcular los valores de Shapley, el preprocesamiento en sí es agnóstico al modelo final, permitiendo su integración en cualquier flujo de trabajo de ML.

4. Resultados Experimentales

Los autores evaluaron FairSHAP en cinco conjuntos de datos tabulares estándar (COMPAS, Adult, German Credit, Census Income KDD, Default Credit) comparándolo con métodos de referencia como Remove Sensitive Attribute (RSA), Disparate Impact Remover (DIR) y Correlation Remover (CR).

Rendimiento en Equidad: FairSHAP logró reducciones significativas en el Riesgo Discriminatorio (DR), alcanzando hasta un 80% de reducción en el conjunto de datos German Credit y reducciones sustanciales en DP (Paridad Demográfica) y EO (Igualdad de Oportunidades).
Precisión y Fidelidad: A diferencia de otros métodos que a menudo degradan la precisión o alteran masivamente los datos (ej. DIR o CR modifican >95% de los datos), FairSHAP mantiene o incluso mejora ligeramente la precisión del modelo en varios casos, con una fidelidad de datos excepcional (mínima distancia de Wasserstein entre datos originales y modificados).
Eficiencia: No requiere modificar el conjunto de prueba (a diferencia de DIR/CR que necesitan aplicar la misma transformación a los datos de prueba), lo que simplifica la implementación en producción.
Estudios de Ablación: Se demostró que tanto el emparejamiento como el uso de valores de Shapley son componentes esenciales; eliminar cualquiera de ellos reduce significativamente la efectividad de la mitigación.

5. Significado e Impacto

FairSHAP representa un avance significativo hacia la IA responsable y transparente.

Interpretabilidad Accionable: Al identificar exactamente qué características causan el sesgo en instancias individuales, ofrece a los desarrolladores y auditores insights accionables sobre las fuentes de discriminación, evitando el "fairwashing" (justificación engañosa de decisiones sesgadas).
Preservación de Datos: Al realizar modificaciones mínimas y dirigidas, respeta la integridad de los datos originales, un aspecto crucial en dominios donde la pérdida de información puede tener consecuencias graves.
Marco General: Proporciona una vía teóricamente fundamentada para demostrar que mejorar la equidad individual es un camino principista hacia la equidad grupal, resolviendo la aparente tensión entre ambos conceptos.

En resumen, FairSHAP ofrece una solución robusta, transparente y eficiente para el preprocesamiento de datos, equilibrando la necesidad de modelos justos con la preservación de la calidad predictiva y la fidelidad de los datos.