💻 computer science

Triangle-Motif Proxy Entanglement in Markov Boundary-Based Fair Feature Selection: A Structural and Empirical Study

Este artículo demuestra que, en estructuras de motivo triangular, las garantías de minimalidad y suficiencia de la selección de características basada en Fronteras de Markov pueden entrar en conflicto con los objetivos de equidad al retener proxies de alta utilidad entrelazados con atributos protegidos, lo que requiere una auditoría consciente de los proxies antes de la exclusión de características para evitar compensaciones entre precisión y equidad.

Autores originales: Roopa Maliakal, S. Asharaf

Publicado 2026-09-30

📖 7 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Roopa Maliakal, S. Asharaf

Artículo original bajo licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

En el mundo de alto riesgo de la toma de decisiones moderna, desde determinar quién recibe un préstamo bancario hasta decidir quién es contratado para un trabajo, los sistemas informáticos se encargan cada vez más de tomar la decisión. Estos algoritmos están diseñados para ser precisos, pero existe una demanda creciente de que también sean justos, garantizando que no discriminen a las personas por características protegidas como la raza o el género. Para lograr esto, los científicos de datos a menudo intentan eliminar la información sensible antes de que la computadora la vea. Un método popular para encontrar la información más útil involucra un concepto llamado frontera de Markov. Piense en esto como la forma de un científico de identificar el grupo más pequeño y esencial de pistas necesarias para predecir un resultado. Si tiene las pistas adecuadas, puede predecir el resultado perfectamente sin necesidad de datos adicionales o redundantes. La lógica sugiere que si encuentra este conjunto perfecto y mínimo de pistas y luego simplemente elimina las sensibles, debería quedar con un modelo que sea tanto preciso como justo.

Sin embargo, un nuevo estudio realizado por los investigadores Roopa Maliakal y S. Asharaf, de la Universidad de Ciencias Digitales, Innovación y Tecnología de Kerala, desafía este enfoque directo. Investigaron una situación específica y común donde las pistas necesarias para hacer una predicción están profundamente enredadas con la misma información que el sistema debería ignorar. Los investigadores descubrieron que, en muchos escenarios del mundo real, los predictores más útiles no solo están débilmente relacionados con los rasgos sensibles; están estructuralmente bloqueados en el mismo patrón que los hace buenos para predecir el resultado. Cuando los investigadores intentan eliminar estas pistas "proxy" (intermediarias) del sistema para garantizar la equidad, a menudo rompen la capacidad del modelo para predecir con precisión. El estudio sugiere que eliminar una variable simplemente porque está vinculada a un grupo protegido no es un acto neutral; es un compromiso que puede costar la precisión del sistema, y el costo es a menudo mayor que si se hubiera eliminado una variable aleatoria y no relacionada.

Los investigadores centraron su atención en una forma específica de relaciones entre variables, que llaman "motivo de triángulo". Imagine tres puntos: un atributo protegido, como el género de una persona; un resultado objetivo, como sus ingresos; y una tercera variable, un proxy, como su título de trabajo o sus horas trabajadas. En este triángulo, el título de trabajo está directamente vinculado a los ingresos, lo que lo convierte en una pista vital para la predicción. Al mismo tiempo, el título de trabajo también está directamente vinculado al género, quizás debido a patrones de contratación históricos. Debido a que el título de trabajo es tan útil para predecir los ingresos y no es solo un duplicado de la información de género, la búsqueda de la computadora por el "mejor" conjunto de pistas lo mantendrá de forma natural. Los investigadores demostraron que si obligan al sistema a eliminar este título de trabajo para proteger contra el sesgo de género, no solo están eliminando un vínculo sensible; están eliminando una pieza del rompecabezas que el sistema realmente necesita para hacer su trabajo.

Para probar esta idea, el equipo no se basó únicamente en la teoría abstracta. Construyeron una simulación controlada donde sabían exactamente cómo se generaban los datos, creando estas relaciones triangulares a propósito. En estas simulaciones, descubrieron que cuando eliminaban la variable proxy, la cantidad de información útil disponible para la computadora disminuía significitamente. El sistema perdía su capacidad de predecir el resultado tan bien como podía antes. Esto confirmó que la pérdida de precisión no era un error aleatorio, sino una consecuencia directa de cortar una variable que era tanto predictiva como entrelazada con el atributo protegido. El estudio luego pasó a datos del mundo real, utilizando dos grandes y conocidos conjuntos de datos sobre ingresos: uno del conjunto de datos UCI Adult y otro de la American Community Survey. Utilizaron dos métodos diferentes y estándar para encontrar el "mejor" conjunto de pistas para predecir los ingresos, imitando cómo trabajaría normalmente un científico de datos.

Los resultados en el mundo real reflejaron las simulaciones. Los algoritmos mantuvieron consistentemente ciertas variables, como el estado civil, la ocupación y las horas trabajadas, porque estas eran los predictores más fiables de los ingresos. Estas variables también estaban altamente correlacionadas con atributos protegidos como el sexo y la raza. Cuando los investigadores eliminaron manualmente estas variables para intentar hacer el modelo justo, la precisión de las predicciones cayó. La caída en la precisión no fue pequeña ni accidental; fue mensurable y consistente a través de diferentes tipos de modelos computacionales, incluyendo modelos lineales simples y sistemas más complejos basados en árboles. En un conjunto de datos, eliminar las variables proxy causó una caída en la precisión mucho mayor que si los investigadores simplemente hubieran eliminado un conjunto aleatorio de variables no relacionadas. Esto demostró que el costo era específico de la pérdida de la información proxy, no solo un resultado de tener menos pistas para trabajar.

El estudio también analizó si eliminar estas variables realmente hacía que el sistema fuera más justo. La respuesta fue complicada. En algunos casos, la brecha en cómo se trataba a los diferentes grupos se redujo, pero en otros casos, no cambió en absoluto. La mejora en la equidad dependía en gran medida de qué medida de equidad se utilizara y qué modelo computacional estuviera operando. Esta inconsistencia resalta una realidad difícil: no hay un interruptor único que se pueda activar para que un modelo sea perfectamente preciso y perfectamente justo cuando los datos están así de enredados. Los investigadores introdujeron una nueva herramienta llamada Penalización por Entrelazamiento de Proxies, que actúa como una señal de advertencia. Ayuda a los científicos de datos a identificar qué variables están tan profundamente conectadas tanto con el resultado como con el atributo protegido que eliminarlas probablemente perjudicará el rendimiento del modelo.

Los autores aclaran cuidadosamente que sus hallazgos no significan que el aprendizaje automático justo sea imposible. En cambio, argumentan que la práctica común de encontrar las mejores pistas primero y luego intentar recortar las malas es errónea en estas situaciones específicas. Si las pistas necesarias para la precisión son las mismas que portan el sesgo, un simple corte no funcionará. El estudio sugiere que los científicos de datos deben ser más cuidadosos. Antes de borrar una variable, deben verificar si es una pieza vital del rompecabezas que, desafortunadamente, está vinculada a un rasgo sensible. Si lo es, simplemente borrarla probablemente dañará la precisión del modelo sin garantizar la equidad. Los investigadores recomiendan un enfoque más reflexivo donde la decisión de eliminar una variable se trate como una elección de gobernanza documentada, sopesando la pérdida de precisión frente a la posible ganancia en equidad, en lugar de asumir que eliminar una variable es un paso técnico inocuo.

En última instancia, esta investigación revela una tensión estructural en la forma en que construimos algoritmos justos. Muestra que, en muchos entornos económicos del mundo real, la información que hace que una predicción sea buena es a menudo la misma información que la hace injusta. El estudio proporciona evidencia de que intentar resolver esto simplemente podando los datos es un instrumento tosco que a menudo falla. Hace un llamado a cambiar la forma en que abordamos estos problemas, alejándonos de la idea de que podemos simplemente borrar el sesgo y mantener la precisión, y hacia métodos que podrían necesitar cambiar la forma en que el modelo aprende o representa los datos en primer lugar. El trabajo sirve como un recordatorio de que, en la compleja red de los datos humanos, las líneas entre lo que es útil y lo que es injusto a menudo se dibujan en el mismo lugar, y cortar una sin entender la otra puede dejar a todo el sistema roto.

Resumen Técnico: Entrelazamiento de Proxies con Motivo de Triángulo en la Selección de Características Justa Basada en la Frontera de Markov

Planteamiento del Problema
El descubrimiento de la Frontera de Markov (MB, por sus siglas en inglés) es una técnica estándar en la selección de características causales, valorada por identificar un conjunto mínimo de predictores que vuelve a la variable objetivo condicionalmente independiente de todas las demás. En el aprendizaje automático orientado a la equidad (fairness-aware machine learning), una estrategia común de flujo de trabajo consiste en descubrir primero la MB para asegurar la suficiencia predictiva y la minimicidad, y luego aplicar una poda post-hoc para eliminar los atributos protegidos ( $S$ ) y sus variables proxy ( $P$ ) para satisfacer las restricciones de equidad.

Este artículo investiga un conflicto estructural inherente a este enfoque de "primero la MB, luego la poda". Específicamente, analiza el motivo de triángulo, una topología causal donde un atributo protegido $S$ y una variable proxy $P$ son ambos padres directos de la variable objetivo $Y$ y son estadísticamente dependientes entre sí. El problema central es que, bajo los supuestos causales estándar (Markov Causal, Fidelidad y Suficiencia Causal), el proceso de descubrimiento de la MB retendrá a $P$ porque proporciona información predictiva no redundante. Sin embargo, eliminar $P$ post-hoc para garantizar la equidad viola las garantías de minimicidad y suficiencia de la MB, lo que puede causar una pérdida significativa en la utilidad predictiva.

Metodología
El estudio combina la formalización teórica con auditorías empíricas en conjuntos de datos sintéticos y del mundo real.

Marco Teórico:
- Los autores definen un proxy causal retenido por la MB como una variable $P$ que está en la Frontera de Markov de $Y$ , es estadísticamente dependiente de $S$ y contribuye con información predictiva única (no redundante) dentro de la frontera.
- La Proposición 1 caracteriza el motivo de triángulo (configuraciones $S \to Y, S \to P, P \to Y$ o $S \to Y, P \to S, P \to Y$ ), demostrando que en estas estructuras, $P$ es estructuralmente retenido en la MB y permanece dependiente de $S$ .
- La Proposición 2 formaliza el Compromiso de Minimicidad–Suficiencia: eliminar un proxy retenido por la MB que no es redundante reduce la información mutua $I(Y; M)$ respecto al conjunto completo de la MB $M$ .
Penalización por Entrelazamiento de Proxies (PEP):
- Para diagnosticar este problema empíricamente, el artículo introduce la Penalización por Entrelazamiento de Proxies (PEP), definida como la información mutua condicional $I(Y; P | S)$ .
- La PEP sirve como una métrica de diagnóstico para identificar proxies que portan información relevante para el objetivo que no es explicada por el atributo protegido. Los valores altos de PEP indican que eliminar dicho proxy es probablemente costoso desde el punto de vista predictivo.
Evaluación Empírica:
- Conjuntos de Datos: El estudio utiliza los conjuntos de datos UCI Adult y ACSIncome (Folktables) para tareas de predicción socioeconómica.
- Algoritmos de Descubrimiento: Se probaron dos paradigios de descubrimiento causal: un método basado en restricciones (PC-Stable) y un método basado en puntuación (Hill Climbing con puntuación BDeu, HC-BDeu).
- Análisis de Estabilidad: Se realizó un barrido de estabilidad mediante 50 muestras de bootstrap, variando los niveles de significancia ( $\alpha$ ) para PC-Stable y el grado máximo de entrada ( $d$ ) para HC-BDeu para medir la frecuencia con la que las variables relevantes para los proxies son retenidas en la MB estimada.
- Auditoría de Equidad–Utilidad: El impacto descendente de la eliminación de proxies se evaluó utilizando Regresión Logística, Random Forest y Gradient Boosting. El rendimiento se midió mediante precisión (accuracy), mientras que la equidad se evaluó mediante Diferencia de Paridad Demográfica (DPD), Ratio de Paridad Demográfica (DPR), Diferencia de Igualdad de Oportunidades (EOD) y Ratio de Igualdad de Oportunidades (EOR).
- Ablación: Se utilizó un grupo de control de eliminación de variables no-proxy aleatorias para distinguir el costo de eliminar proxies específicos del costo genérico de reducir el número de características.

Contribuciones Clave

Retención de Proxies por Motivo de Triángulo: El artículo identifica formalmente que en los motivos de triángulo, la adyacencia estructural de un proxy con el objetivo asegura su retención en la MB, incluso cuando está entrelazado estadísticamente con un atributo protegido.
Compromiso de Minimicidad–Suficiencia: El trabajo establece que en estas topologías, los objetivos de la minimicidad de la MB (suficiencia predictiva) y la supresión de proxies impulsada por la equidad están estructuralmente en tensión. Eliminar un proxy entrelazado y no redundante de un conjunto basado en la MB reduce inevitablemente la información predictiva respecto a la MB de referencia.
Penalización por Entrelazamiento de Proxies (PEP): La introducción de la PEP como una herramienta de diagnóstico de información mutua para priorizar los proxies que son tanto estables en la MB como costosos de eliminar.
Validación Empírica: El estudio demuestra que las variables proxy de alta utilidad (ej. relación, ocupación, educación) son retenidas de forma repetida y estable por los algoritmos de descubrimiento de la MB. La poda post-hoc de estas variables resulta consistentemente en reducciones de precisión medibles, mientras que las mejoras en la equidad son inconsistentes y dependen de la métrica.

Resultados

Estabilidad: En el conjunto de datos UCI Adult, la variable relationship mostró una alta estabilidad de selección (0.913 bajo PC-Stable, 1.000 bajo HC-BDeu). En ACSIncome, variables como OCCP, SCHL, WKHP y RELP exhibieron una estabilidad casi perfecta, incluso cuando el atributo protegido SEX no fue seleccionado en la MB.
Costo Predictivo: La eliminación de estos proxies estables resultó en caídas significativas de la precisión. Para ACSIncome, la eliminación de proxies causó reducciones de precisión que oscilaron entre aproximadamente el 12.99% y el 13.41% comparado con la referencia de la MB. Notablemente, la brecha entre la reducción de precisión causada por la eliminación de proxies frente a la eliminación aleatoria de no-proxies fue de aproximadamente 11.05 a 13.26 puntos porcentuales, indicando que el costo predictivo está específicamente asociado con la eliminación de información de proxy relevante para el objetivo, más que con la mera reducción del número de características.
Compromisos de Equidad: Aunque el filtrado de proxies a menudo redujo las métricas de disparidad como DPD y EOD (indicando una mejora en la equidad en términos de diferencia), las mejoras no fueron uniformes en todos los clasificadores o métricas. El estudio encontró que las ganancias de equidad tuvieron como contrapartida la utilidad predictiva, y la magnitud de estas ganancias varió según la familia de modelos y la métrica.
Validación Sintética: Experimentos controlados confirmaron que en los motivos de triángulo, excluir el proxy $P$ conduce a una reducción en la información mutua agregada, validando el costo teórico del compromiso de minimicidad–suficiencia.

Significancia y Reivindicaciones
El artículo sostiene que sus hallazgos son específicos de la topología de triángulo y se basan en supuestos causales estándar; no afirma que la selección de características justas sea imposible, ni que todos los flujos de trabajo basados en la MB fallen. En cambio, la significancia radica en exponer una limitación teórica del modelo de flujo de trabajo "primero la MB, luego la poda".

Los autores argumentan que en entornos estructuralmente entrelazados, el descubrimiento de la MB no debe tratarse como un punto de partida neutral para la equidad. Debido a que la MB retiene proxies que son esenciales para la suficiencia predictiva, la simple poda post-hoc de estos crea un compromiso entre precisión y equidad. Por consiguiente, el artículo aboga por una auditoría consciente de los proxies antes de la exclusión de características. Se aconseja a los profesionales utilizar diagnósticos como la PEP y el análisis de estabilidad para identificar los proxies de alto costo. Si se identifican tales proxies, el artículo sugiere que las intervenciones de equidad deben ir más allá de la simple exclusión de características hacia métodos que modifiquen directamente las estructuras de dependencia, como el modelado restringido o el aprendizaje de representaciones, en lugar de confiar en la poda post-hoc de conjuntos de características derivados de la MB.

Más como este