🤖 machine learning

Mutatis Mutandis: Revisiting the Comparator in Discrimination Testing

Questo articolo riesamina il ruolo del comparatore nei test di discriminazione distinguendo tra l'approccio standard "ceteris paribus" e un nuovo quadro "mutatis mutandis" che tiene conto di come gli attributi protetti influenzino causalmente le caratteristiche non protette, offrendo così un'alternativa più complessa ma incisiva per il rilevamento della discriminazione basato sull'apprendimento automatico.

Autori originali: Jose M. Alvarez, Salvatore Ruggieri

Pubblicato 2026-05-04

📖 6 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Jose M. Alvarez, Salvatore Ruggieri

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di essere un giudice chiamato a decidere se un responsabile delle assunzioni abbia discriminato una candidata di nome Clara. Clara è una donna e è stata rifiutata. Lei sostiene di essere stata rifiutata perché è una donna.

Per dimostrarlo, devi confrontarla con qualcun altro. Ma chi? Questo è l'enigma centrale che il documento risolve.

Gli autori, José M. Álvarez e Salvatore Ruggieri, sostengono che la scelta di questa "persona di confronto" (chiamata comparatore) cambi l'intero esito del test. Propongono due modi diversi per scegliere questa persona: il metodo "Tutto il resto uguale" e il metodo "Apporta aggiustamenti".

Ecco una semplice spiegazione del loro argomento utilizzando analogie di tutti i giorni.

1. Il Metodo Standard: "Tutto il resto uguale" (Ceteris Paribus)

Questo è il modo tradizionale in cui funziona il test di discriminazione. Immagina di voler vedere se una vettura da corsa è più veloce di un camion. Li metti sulla stessa identica pista, con lo stesso identico carburante e con le stesse identiche condizioni meteorologiche. L'unica cosa che cambi è il tipo di veicolo.

Nei termini del documento, questo è il Comparatore CP.

Lo Scenario: Clara (donna) ha fatto domanda per un lavoro. Per testare la sua affermazione, troviamo un Mike (uomo) che ha lo stesso identico curriculum, lo stesso identico numero di anni di esperienza e le stesse identiche voti.
La Logica: Se Mike ottiene il lavoro e Clara no, nonostante abbiano curriculum identici, allora Clara è stata discriminata.
Il Problema: Gli autori sostengono che questo sia un'fantasia "idealizzata". Nel mondo reale, essere una donna (o un membro di un gruppo protetto) spesso cambia la tua vita prima ancora che tu faccia domanda per un lavoro. Forse Clara ha preso una pausa per crescere i figli, o forse è stata indirizzata lontano da certi corsi a causa delle aspettative sociali. Se trovi un Mike con lo stesso identico curriculum, stai ignorando il fatto che la società li ha trattati diversamente prima che il curriculum fosse scritto. Stai fingendo che il passato non esista.

2. Il Nuovo Metodo: "Apporta aggiustamenti" (Mutatis Mutandis)

Gli autori propongono un modo più intelligente e complesso per scegliere la persona di confronto. Questo è il Comparatore MM.

Pensa a questo come a una simulazione di viaggio nel tempo.

Lo Scenario: Abbiamo ancora Clara. Ma invece di trovare un Mike con lo stesso identico curriculum, ci chiediamo: "Se Clara fosse nata uomo, come si sarebbe svolta diversamente la sua vita?"
L'Aggiustamento: Se essere una donna ha significato che Clara aveva meno tempo per studiare o meno opportunità di networking, il metodo MM dice: "Aggiustiamo il curriculum di Mike per corrispondere a ciò che la vita di Clara sarebbe stata se fosse stata un uomo".
Il Risultato: Forse Mike finisce per avere più esperienza o migliori voti rispetto alla Clara che vediamo oggi, perché non ha affrontato gli stessi ostacoli sociali.
La Logica: Confrontiamo la Clara reale con questo Mike aggiustato. Se il Mike aggiustato ottiene il lavoro e la Clara reale no, abbiamo prove solide di discriminazione. Questo metodo riconosce che il "campo di gioco" non era level all'inizio.

L'esempio della "Titolazione"

Il documento utilizza una storia su una professoressa universitaria di nome Clara per illustrare questo punto:

Clara (donna) ha 12 pubblicazioni e le è stata negata la titolazione.
Mike (uomo) ha 12 pubblicazioni e gli è stata negata la titolazione.
Vincent (uomo) ha 18 pubblicazioni e ha ottenuto la titolazione.

Usando il metodo "Tutto il resto uguale" (CP):
Confronti Clara con Mike. Entrambi hanno 12 articoli. Poiché anche Mike è stato rifiutato, potresti dire: "Vedi? Non è perché è una donna; semplicemente non aveva abbastanza articoli". Potresti respingere la sua affermazione.

Usando il metodo "Apporta aggiustamenti" (MM):
Ti chiedi: "Se Clara fosse stata un uomo, avrebbe avuto 12 articoli, o ne avrebbe avuti 18?". Gli autori sostengono che, poiché le donne affrontano spesso oneri aggiuntivi (come la cura dei figli) che gli uomini non affrontano, un uomo nella posizione di Clara avrebbe potuto avere più tempo per scrivere articoli. Quindi, la versione "aggiustata" di Clara (chiamiamola "Clara-Uomo") potrebbe avere 18 articoli.
Confronti poi la Clara reale (12 articoli) con Vincent (18 articoli, che ha ottenuto la titolazione). Se l'università rifiuta il candidato con 12 articoli ma accetta quello con 18 articoli, e sappiamo che il candidato con 12 articoli è stato frenato da ruoli sociali di genere, la discriminazione è più chiara.

Perché è importante?

Gli autori dicono che la maggior parte degli strumenti attuali per individuare la discriminazione utilizza il metodo CP (Tutto il resto uguale). Sono come una macchina fotografica che scatta foto solo del momento presente, ignorando la storia che ci ha portato lì.

Il metodo MM (Apporta aggiustamenti) è come una macchina fotografica con un pulsante "riavvolgi e modifica". Cerca di ricostruire come sarebbe stato il mondo se l'attributo protetto (come la razza o il genere) non avesse influenzato il percorso di vita della persona.

La Controindicazione:
Gli autori ammettono che il metodo MM è molto più difficile da costruire. Richiede modelli di apprendimento automatico complessi per simulare questi scenari "e se". È come cercare di scrivere un romanzo perfetto di storia alternativa. Il metodo CP è facile (basta trovare un gemello), ma potrebbe perdere l'ingiustizia reale. Il metodo MM è complesso e richiede più immaginazione, ma potrebbe raccontare la verità su come funziona effettivamente il sistema.

La Conclusione

Il documento non dice che il vecchio modo è "sbagliato" o che il nuovo modo è "perfetto". Invece, dice: "Dobbiamo smettere di fingere che esista un solo modo per confrontare le persone".

Quando testiamo la discriminazione, stiamo facendo una scelta su come appare l'"equità".

Se vogliamo vedere se due persone con lo stesso curriculum sono trattate diversamente, usiamo il vecchio modo.
Se vogliamo vedere se due persone che hanno affrontato percorsi di vita diversi a causa della loro identità sono trattate equamente, abbiamo bisogno del nuovo modo.

Gli autori credono che, poiché ora disponiamo di potenti strumenti di intelligenza artificiale, dovremmo iniziare a utilizzare il metodo "Apporta aggiustamenti" per ottenere un quadro più chiaro e onesto della discriminazione.

1. Enunciazione del Problema

Il documento affronta una limitazione fondamentale nelle attuali metodologie di testing della discriminazione, in particolare riguardo alla costruzione del comparatore.

Contesto: Il testing della discriminazione si basa sul confronto tra un "ricorrente" (un individuo che afferma di aver subito discriminazione basata su un attributo protetto $A$ , ad esempio razza o genere) e un "comparatore" (un individuo simile appartenente a un gruppo non protetto).
L'Approccio Standard (Ceteris Paribus - CP): La maggior parte degli strumenti esistenti (sia legali che algoritmici) utilizza un comparatore ceteris paribus ("a parità di tutte le altre condizioni"). Questo presuppone che il comparatore sia identico al ricorrente in tutti gli attributi non protetti ( $X$ ), differendo solo nell'attributo protetto ( $A$ ).
Il Difetto: Gli autori sostengono che l'approccio CP è un confronto idealizzato che non tiene conto della realtà causale secondo cui gli attributi protetti influenzano spesso gli attributi non protetti (ad esempio, il razzismo sistemico che influenza i livelli di istruzione o il reddito). Forzando $X$ a rimanere identico quando $A$ cambia, il comparatore CP ignora gli effetti a valle della discriminazione, rischiando di mascherare la discriminazione indiretta o di non catturare il vero scenario "cosa sarebbe stato".
Domanda Centrale: Come possiamo derivare un comparatore che tenga conto dell'influenza causale dell'attributo protetto su altre caratteristiche, invece di assumere un mondo statico e idealizzato in cui cambia solo l'attributo protetto?

2. Metodologia

Gli autori propongono un quadro di modellazione causale per ridefinire il comparatore, passando da una metrica di distanza statica a un approccio generativo e controfattuale.

A. Quadro Causale

Il documento utilizza i Modelli Causali Strutturali (SCM) (il quadro di Pearl) per formalizzare il testing della discriminazione.

Variabili: $A$ (Attributo Protetto), $X$ (Attributi Non Protetti), $Y$ (Esito della Decisione).
Ragionamento Controfattuale: La derivazione di un comparatore è inquadrata come risposta a una domanda controfattuale: "Qual sarebbe stato l'esito se il ricorrente avesse avuto un attributo protetto diverso?".
Procedura: Gli autori adottano i passaggi standard Abduzione-Azione-Predizione:
1. Abduzione: Inferire le variabili esogene latenti ( $U$ ) dai dati osservati.
2. Azione: Intervenire su $A$ (impostare $A := \alpha$ ).
3. Predizione: Propagare il cambiamento attraverso le equazioni strutturali per generare la distribuzione controfattuale di $X$ e $Y$ .

B. I Due Tipi di Comparatore

Il documento introduce una classificazione formale dei comparatori:

Comparatore Ceteris Paribus (CP):
- Definizione: Trova un individuo $i'$ tale che $d(x_i, x_{i'}) \leq \epsilon$ e $a_i \neq a_{i'}$ .
- Meccanismo: Minimizza la distanza sugli attributi non protetti $X$ invertendo $A$ .
- Limitazione: Presuppone che $X$ sia indipendente da $A$ nel mondo controfattuale, ignorando i legami causali storici o sistemici.
Comparatore Mutatis Mutandis (MM):
- Definizione: Trova un individuo $i'$ tale che $\tilde{d}((x_i, a_i), (x_{i'}, a_{i'})) \leq \epsilon$ e $a_i \neq a_{i'}$ .
- Meccanismo: Utilizza una funzione di distanza consapevole dell'attributo protetto $\tilde{d}$ . Crucialmente, permette che $x_i \neq x_{i'}$ .
- Implementazione: Il comparatore MM richiede la generazione di una rappresentazione controfattuale $\tilde{X}$ degli attributi non protetti del ricorrente. Questo $\tilde{X}$ rappresenta ciò che gli attributi del ricorrente sarebbero stati se avessero appartenuto al gruppo non protetto, correggendo efficacemente gli effetti a valle di $A$ su $X$ .
- Formulazione Matematica: Gli autori propongono l'uso di un modello generativo $g(\cdot)$ (ad esempio basato su SCM) per apprendere $\tilde{X} = g(X, A)$ tale che $\tilde{X} \perp A$ (rappresentazione equa). Il comparatore viene quindi trovato minimizzando la distanza tra $\tilde{X}$ e l'effettivo $X$ del gruppo non protetto.

C. Configurazione Sperimentale

Per validare la distinzione, gli autori confrontano due strumenti sul dataset Law School Admissions (Ammissioni alla Scuola di Legge):

Situation Testing (ST): Implementa il comparatore CP. Trova i vicini più prossimi nel dataset basandosi su $X$ (GPA, LSAT) dopo aver invertito l'attributo protetto.
Counterfactual Situation Testing (CST): Implementa il comparatore MM. Utilizza un SCM per generare profili controfattuali (regolando GPA/LSAT in base all'influenza causale di razza/genere) prima di trovare i vicini più prossimi.

3. Contributi Chiave

Riformulazione Causale: Gli autori sostengono che derivare un comparatore è intrinsecamente un problema di modellazione causale, non solo una ricerca di similarità. Il comparatore è una rappresentazione controfattuale del ricorrente fattuale.
Il Concetto di Comparatore MM: Introducono il comparatore Mutatis Mutandis come alternativa valida al comparatore CP standard. Questo sposta l'obiettivo dal "trattare persone simili in modo simile" (uguaglianza formale) al "raggiungere un'uguaglianza sostanziale" tenendo conto degli svantaggi sistemici.
Distinzione Formale: Il documento fornisce una rigorosa distinzione matematica tra comparatori CP e MM, evidenziando che MM permette dissimilarità negli attributi non protetti se tali differenze sono causate dall'attributo protetto.
Integrazione del ML: Gli autori posizionano l'Apprendimento Automatico (in particolare i modelli generativi e gli SCM) come essenziale per l'implementazione del comparatore MM, in contrasto con visioni che rifiutano la modellazione causale nel testing della discriminazione.

4. Risultati

L'esperimento illustrativo sul dataset delle Ammissioni alla Scuola di Legge ha prodotto risultati significativi:

Tassi di Rilevamento: Lo strumento CST (MM) ha rilevato significativamente più casi di discriminazione prima facie rispetto allo strumento ST (CP).
- Razza: CST ha rilevato circa 3 volte più casi rispetto a ST (ad esempio, 17,26% contro 3,08% a $k=500$ ).
- Genere: CST ha rilevato leggermente più casi, ma il divario è stato più ridotto, suggerendo che l'impatto causale del genere sulle caratteristiche specifiche (GPA/LSAT) in questo dataset era meno pronunciato rispetto alla razza.
Spostamenti di Distribuzione: L'analisi visiva (diagrammi a scatola e baffi) ha mostrato che sotto ST, il gruppo di test (comparatori) aveva distribuzioni di GPA/LSAT quasi identiche al gruppo di controllo. Sotto CST, le distribuzioni del gruppo di test erano spostate, riflettendo l'aggiustamento controfattuale in cui l'influenza dell'attributo protetto sulle caratteristiche veniva rimossa.
Implicazione: L'approccio CP (ST) spesso fallisce nel rilevare la discriminazione indiretta perché presuppone che se un candidato di minoranza ha lo stesso GPA/LSAT di un candidato bianco, siano "simili". L'approccio MM (CST) riconosce che raggiungere quel GPA/LSAT potrebbe aver richiesto di superare barriere sistemiche, e quindi il comparatore "equo" dovrebbe avere valori di caratteristiche diversi.

5. Significato e Conclusione

Uguaglianza Sostanziale vs. Formale: Il documento sostiene che affidarsi esclusivamente ai comparatori CP impone un'uguaglianza formale (trattare allo stesso modo persone con statistiche attuali identiche), il che può perpetuare le disuguaglianze esistenti. Il comparatore MM mira all'uguaglianza sostanziale immaginando un mondo in cui le barriere sistemiche vengono rimosse.
Impatto Normativo: La scelta del comparatore non è solo un parametro tecnico; è una dichiarazione normativa su ciò che costituisce un confronto "equo". Il comparatore MM costringe gli stakeholder a confrontarsi con i meccanismi causali della discriminazione.
Direzioni Future: Gli autori suggeriscono che i futuri strumenti di testing della discriminazione dovrebbero andare oltre le semplici metriche di distanza e incorporare modelli generativi (come SCM o Apprendimento di Rappresentazione Equa) per derivare comparatori MM. Questo permette al campo di passare dal rilevare la discriminazione diretta allo svelare modelli complessi di discriminazione indiretta radicati nel bias sistemico.

In sintesi, il documento postula che per testare realmente la discriminazione in una società complessa e distorta, dobbiamo smettere di chiedere "Chi è esattamente come questa persona ma con una razza/genere diverso?" e iniziare a chiedere "Chi sarebbe questa persona se gli effetti sistemici della sua razza/genere fossero rimossi?". Il comparatore Mutatis Mutandis fornisce il quadro tecnico per rispondere a quest'ultima domanda.