🤖 machine learning

Mutatis Mutandis: Revisiting the Comparator in Discrimination Testing

Este artículo reexamina el papel del comparador en las pruebas de discriminación al distinguir entre el enfoque estándar «ceteris paribus» y un nuevo marco «mutatis mutandis» que tiene en cuenta cómo los atributos protegidos influyen causalmente en las características no protegidas, ofreciendo así una alternativa más compleja pero impactante para la detección de discriminación basada en aprendizaje automático.

Autores originales: Jose M. Alvarez, Salvatore Ruggieri

Publicado 2026-05-04

📖 6 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Jose M. Alvarez, Salvatore Ruggieri

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que eres un juez tratando de decidir si un gerente de contratación discriminó a una solicitante de empleo llamada Clara. Clara es mujer y fue rechazada. Ella afirma que fue rechazada porque es mujer.

Para probar esto, necesitas compararla con otra persona. Pero ¿quién? Este es el acertijo central que resuelve el artículo.

Los autores, José M. Álvarez y Salvatore Ruggieri, argumentan que la forma en que elegimos a esta "persona de comparación" (llamada comparador) cambia todo el resultado de la prueba. Proponen dos formas diferentes de elegir a esta persona: el método "Todo Lo Demás Igual" y el método "Hacer Ajustes".

Aquí tienes una explicación sencilla de su argumento utilizando analogías cotidianas.

1. El Método Estándar: "Todo Lo Demás Igual" (Ceteris Paribus)

Esta es la forma tradicional en que funciona la prueba de discriminación. Imagina que quieres ver si un coche de carreras es más rápido que un camión. Los pones en exactamente la misma pista, con exactamente el mismo combustible y con exactamente el mismo clima. Lo único que cambias es el tipo de vehículo.

En los términos del artículo, esto es el Comparador CP.

El Escenario: Clara (mujer) solicitó un empleo. Para probar su reclamo, encontramos a un Mike (hombre) que tiene exactamente el mismo currículum, exactamente el mismo número de años de experiencia y exactamente las mismas calificaciones.
La Lógica: Si Mike consigue el trabajo y Clara no, a pesar de tener currículums idénticos, entonces Clara fue discriminada.
El Problema: Los autores argumentan que esto es una fantasía "idealizada". En el mundo real, ser mujer (o miembro de un grupo protegido) a menudo cambia tu vida antes de que incluso solicites el trabajo. Quizás Clara tomó tiempo libre para criar hijos, o quizás fue desviada de ciertas clases debido a las expectativas sociales. Si encuentras a un Mike con exactamente el mismo currículum, estás ignorando el hecho de que la sociedad los trató de manera diferente antes de que se escribiera el currículum. Estás fingiendo que el pasado no existía.

2. El Nuevo Método: "Hacer Ajustes" (Mutatis Mutandis)

Los autores proponen una forma más inteligente y compleja de elegir a la persona de comparación. Este es el Comparador MM.

Piensa en esto como una simulación de viaje en el tiempo.

El Escenario: Todavía tenemos a Clara. Pero en lugar de encontrar a un Mike con exactamente el mismo currículum, preguntamos: "Si Clara hubiera nacido hombre, ¿cómo habría transcurrido su vida de manera diferente?"
El Ajuste: Si ser mujer significó que Clara tuvo menos tiempo para estudiar o menos oportunidades de networking, el método MM dice: "Ajustemos el currículum de Mike para que coincida con lo que la vida de Clara habría sido si hubiera sido hombre".
El Resultado: Quizás Mike termine con más experiencia o mejores calificaciones que la Clara que vemos hoy, porque no enfrentó los mismos obstáculos sociales.
La Lógica: Comparamos a la real Clara con este ajustado Mike. Si el Mike ajustado consigue el trabajo y la Clara real no, tenemos una fuerte evidencia de discriminación. Este método reconoce que el "terreno de juego" no estaba nivelado desde el principio.

El Ejemplo de la "Tenencia"

El artículo utiliza una historia sobre una profesora universitaria llamada Clara para ilustrar esto:

Clara (mujer) tiene 12 publicaciones y se le negó la tenencia.
Mike (hombre) tiene 12 publicaciones y se le negó la tenencia.
Vincent (hombre) tiene 18 publicaciones y obtuvo la tenencia.

Usando el método "Todo Lo Demás Igual" (CP):
Comparas a Clara con Mike. Ambos tienen 12 artículos. Como Mike también fue rechazado, podrías decir: "¿Ves? No fue porque es mujer; simplemente no tenía suficientes artículos". Podrías descartar su reclamo.

Usando el método "Hacer Ajustes" (MM):
Preguntas: "Si Clara fuera hombre, ¿habría tenido 12 artículos, o habría tenido 18?". Los autores argumentan que, como las mujeres a menudo enfrentan cargas adicionales (como el cuidado de los hijos) que los hombres no, un hombre en la posición de Clara podría haber tenido más tiempo para escribir artículos. Por lo tanto, la versión "ajustada" de Clara (llamémosla "Clara-Hombre") podría tener 18 artículos.
Luego comparas a la Clara real (12 artículos) con Vincent (18 artículos, quien obtuvo la tenencia). Si la universidad rechaza al solicitante de 12 artículos pero acepta al de 18 artículos, y sabemos que el solicitante de 12 artículos fue frenado por roles sociales de género, la discriminación es más clara.

¿Por Qué Importa Esto?

Los autores dicen que la mayoría de las herramientas actuales para detectar discriminación utilizan el método CP (Todo Lo Demás Igual). Son como una cámara que solo toma fotos del momento presente, ignorando la historia que nos llevó allí.

El método MM (Hacer Ajustes) es como una cámara con un botón de "rebobinar y editar". Intenta reconstruir cómo se vería el mundo si el atributo protegido (como la raza o el género) no hubiera influido en el camino de vida de la persona.

La Trampa:
Los autores admiten que el método MM es mucho más difícil de construir. Requiere modelos complejos de aprendizaje automático para simular estos escenarios de "qué pasaría si". Es como intentar escribir una novela perfecta de historia alternativa. El método CP es fácil (solo encuentra un gemelo), pero podría pasar por alto la injusticia real. El método MM es complejo y requiere más imaginación, pero podría contar la verdad sobre cómo funciona realmente el sistema.

La Conclusión

El artículo no dice que la forma antigua esté "mal" o que la nueva sea "perfecta". En cambio, dice: "Necesitamos dejar de fingir que solo hay una forma de comparar personas".

Cuando probamos la discriminación, estamos haciendo una elección sobre cómo se ve la "justicia".

Si queremos ver si dos personas con el mismo currículum son tratadas de manera diferente, usa la forma antigua.
Si queremos ver si dos personas que enfrentaron diferentes caminos de vida debido a su identidad son tratadas justamente, necesitamos la forma nueva.

Los autores creen que, dado que ahora tenemos herramientas de IA potentes, deberíamos comenzar a usar el método "Hacer Ajustes" para obtener una imagen más clara y honesta de la discriminación.

A continuación se presenta un resumen técnico detallado del artículo "Mutatis Mutandis: Revisiting the Comparator in Discrimination Testing" de José M. Álvarez y Salvatore Ruggieri.

1. Planteamiento del Problema

El artículo aborda una limitación fundamental en las metodologías actuales de pruebas de discriminación, específicamente en lo que respecta a la construcción del comparador.

Contexto: Las pruebas de discriminación se basan en comparar a un "demandante" (un individuo que alega discriminación basada en un atributo protegido $A$ , por ejemplo, raza o género) con un "comparador" (un individuo similar de un grupo no protegido).
El Enfoque Estándar (Ceteris Paribus - CP): La mayoría de las herramientas existentes (tanto legales como algorítmicas) utilizan un comparador ceteris paribus ("todo lo demás igual"). Esto asume que el comparador es idéntico al demandante en todos los atributos no protegidos ( $X$ ), diferenciándose únicamente en el atributo protegido ( $A$ ).
El Defecto: Los autores argumentan que el enfoque CP es una comparación idealizada que no tiene en cuenta la realidad causal de que los atributos protegidos a menudo influyen en los atributos no protegidos (por ejemplo, el racismo sistémico que afecta los niveles educativos o los ingresos). Al forzar a que $X$ permanezca idéntico cuando $A$ cambia, el comparador CP ignora los efectos secundarios de la discriminación, lo que puede enmascarar la discriminación indirecta o no capturar el verdadero escenario de "qué habría sido".
Pregunta Central: ¿Cómo podemos derivar un comparador que tenga en cuenta la influencia causal del atributo protegido sobre otras características, en lugar de asumir un mundo estático e idealizado donde solo cambia el atributo protegido?

2. Metodología

Los autores proponen un marco de modelado causal para redefinir el comparador, pasando de una métrica de distancia estática a un enfoque generativo y contrafactual.

A. Marco Causal

El artículo utiliza Modelos Causales Estructurales (SCM) (el marco de Pearl) para formalizar las pruebas de discriminación.

Variables: $A$ (Atributo Protegido), $X$ (Atributos No Protegidos), $Y$ (Resultado de la Decisión).
Razonamiento Contrafactual: La derivación de un comparador se enmarca como responder a una pregunta contrafactual: "¿Cuál sería el resultado si el demandante tuviera un atributo protegido diferente?".
Procedimiento: Los autores adoptan los pasos estándar de Abducción-Acción-Predicción:
1. Abducción: Inferir las variables exógenas latentes ( $U$ ) a partir de los datos observados.
2. Acción: Intervención sobre $A$ (establecer $A := \alpha$ ).
3. Predicción: Propagar el cambio a través de las ecuaciones estructurales para generar la distribución contrafactual de $X$ e $Y$ .

B. Los Dos Tipos de Comparador

El artículo introduce una clasificación formal de los comparadores:

Comparador Ceteris Paribus (CP):
- Definición: Encuentra un individuo $i'$ tal que $d(x_i, x_{i'}) \leq \epsilon$ y $a_i \neq a_{i'}$ .
- Mecanismo: Minimiza la distancia en los atributos no protegidos $X$ mientras invierte $A$ .
- Limitación: Asume que $X$ es independiente de $A$ en el mundo contrafactual, ignorando vínculos causales históricos o sistémicos.
Comparador Mutatis Mutandis (MM):
- Definición: Encuentra un individuo $i'$ tal que $\tilde{d}((x_i, a_i), (x_{i'}, a_{i'})) \leq \epsilon$ y $a_i \neq a_{i'}$ .
- Mecanismo: Utiliza una función de distancia consciente del atributo protegido $\tilde{d}$ . Crucialmente, permite que $x_i \neq x_{i'}$ .
- Implementación: El comparador MM requiere generar una representación contrafactual $\tilde{X}$ de los atributos no protegidos del demandante. Este $\tilde{X}$ representa lo que los atributos del demandante habrían sido si hubieran pertenecido al grupo no protegido, ajustando efectivamente los efectos secundarios de $A$ sobre $X$ .
- Formulación Matemática: Los autores proponen utilizar un modelo generativo $g(\cdot)$ (basado, por ejemplo, en SCM) para aprender $\tilde{X} = g(X, A)$ tal que $\tilde{X} \perp A$ (representación justa). El comparador se encuentra entonces minimizando la distancia entre $\tilde{X}$ y el $X$ real del grupo no protegido.

C. Configuración Experimental

Para validar la distinción, los autores comparan dos herramientas en el conjunto de datos de Admisiones a Facultades de Derecho:

Prueba de Situación (ST): Implementa el comparador CP. Encuentra los vecinos más cercanos en el conjunto de datos basándose en $X$ (GPA, LSAT) después de invertir el atributo protegido.
Prueba de Situación Contrafactual (CST): Implementa el comparador MM. Utiliza un SCM para generar perfiles contrafactuales (ajustando GPA/LSAT basándose en la influencia causal de la raza/género) antes de encontrar los vecinos más cercanos.

3. Contribuciones Clave

Reencuadre Causal: Los autores argumentan que derivar un comparador es inherentemente un problema de modelado causal, no solo una búsqueda de similitud. El comparador es una representación contrafactual del demandante factual.
El Concepto de Comparador MM: Introducen el comparador Mutatis Mutandis como una alternativa viable al comparador CP estándar. Esto desplaza el objetivo de "tratar a personas similares de manera similar" (igualdad formal) hacia "lograr una igualdad sustantiva" al tener en cuenta las desventajas sistémicas.
Distinción Formal: El artículo proporciona una distinción matemática rigurosa entre los comparadores CP y MM, destacando que MM permite la disimilitud en los atributos no protegidos si esas diferencias son causadas por el atributo protegido.
Integración de ML: Los autores posicionan el Aprendizaje Automático (específicamente modelos generativos y SCM) como esencial para implementar el comparador MM, en contraste con visiones que rechazan el modelado causal en las pruebas de discriminación.

4. Resultados

El experimento ilustrativo en el conjunto de datos de Admisiones a Facultades de Derecho arrojó hallazgos significativos:

Tasas de Detección: La herramienta CST (MM) detectó significativamente más casos de discriminación prima facie que la herramienta ST (CP).
- Raza: CST detectó aproximadamente 3 veces más casos que ST (por ejemplo, 17.26% vs 3.08% en $k=500$ ).
- Género: CST detectó ligeramente más casos, pero la brecha fue menor, lo que sugiere que el impacto causal del género sobre las características específicas (GPA/LSAT) en este conjunto de datos fue menos pronunciado que el de la raza.
Desplazamientos de Distribución: El análisis visual (diagramas de caja) mostró que bajo ST, el grupo de prueba (comparadores) tenía distribuciones de GPA/LSAT casi idénticas al grupo de control. Bajo CST, las distribuciones del grupo de prueba se desplazaron, reflejando el ajuste contrafactual donde se eliminó la influencia del atributo protegido sobre las características.
Implicación: El enfoque CP (ST) a menudo falla en detectar discriminación indirecta porque asume que si un solicitante minoritario tiene el mismo GPA/LSAT que un solicitante blanco, son "similares". El enfoque MM (CST) reconoce que lograr ese GPA/LSAT podría haber requerido superar barreras sistémicas, y por lo tanto, el comparador "justo" debería tener valores de características diferentes.

5. Significado y Conclusión

Igualdad Sustantiva vs. Formal: El artículo argumenta que confiar únicamente en comparadores CP impone una igualdad formal (tratar a personas con estadísticas actuales idénticas de la misma manera), lo cual puede perpetuar las desigualdades existentes. El comparador MM apunta a la igualdad sustantiva al vislumbrar un mundo donde se eliminan las barreras sistémicas.
Impacto Normativo: La elección del comparador no es solo un parámetro técnico; es una declaración normativa sobre lo que constituye una comparación "justa". El comparador MM obliga a las partes interesadas a confrontar los mecanismos causales de la discriminación.
Futuras Direcciones: Los autores sugieren que las futuras herramientas de pruebas de discriminación deben ir más allá de las métricas de distancia simples e incorporar modelos generativos (como SCM o Aprendizaje de Representación Justa) para derivar comparadores MM. Esto permite que el campo pase de detectar discriminación directa a descubrir patrones complejos de discriminación indirecta arraigados en el sesgo sistémico.

En resumen, el artículo postula que para probar verdaderamente la discriminación en una sociedad compleja y sesgada, debemos dejar de preguntar "¿Quién es exactamente como esta persona pero con una raza/género diferente?" y empezar a preguntar "¿Quién sería esta persona si se eliminaran los efectos sistémicos de su raza/género?". El comparador Mutatis Mutandis proporciona el marco técnico para responder a esta última pregunta.