🤖 machine learning

Trade-offs Between Individual and Group Fairness in Machine Learning: A Comprehensive Review

Questo sondaggio fornisce una revisione completa dei metodi di apprendimento automatico ibridi che affrontano congiuntamente l'equità di gruppo e individuale, analizzando sistematicamente le loro fondamenta teoriche, le strategie di ottimizzazione e i compromessi, identificando al contempo le sfide aperte per lo sviluppo di soluzioni di equità basate su principi e sensibili al contesto.

Autori originali: Sandra Benítez-Peña, Blas Kolic, Victoria Menendez, Belén Pulido

Pubblicato 2026-02-03

📖 4 min di lettura☕ Lettura da pausa caffè

CC BY 4.0

Autori originali: Sandra Benítez-Peña, Blas Kolic, Victoria Menendez, Belén Pulido

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di essere il giudice capo in un'aula di tribunale enorme dove un sistema di IA sta aiutando a decidere chi ottiene un prestito, un lavoro o un trattamento medico. Hai due regole molto importanti, ma spesso in conflitto, che devi seguire per garantire la giustizia:

La "Regola del Gruppo" (Equità di Gruppo): Questa regola dice: "Dobbiamo assicurarci che i tassi di successo complessivi siano gli stessi per ogni gruppo demografico". Se il Gruppo A viene approvato il 50% delle volte, anche il Gruppo B dovrebbe essere approvato il 50% delle volte. Si tratta del quadro generale e delle statistiche.
La "Regola del Vicino" (Equità Individuale): Questa regola dice: "Dobbiamo trattare allo stesso modo persone simili". Se due persone hanno curriculum, punteggi di credito e storie di vita quasi identici, dovrebbero ricevere esattamente la stessa decisione, indipendentemente dal gruppo di appartenenza. Si tratta dei dettagli specifici di ogni persona.

Il Grande Problema:
Questo articolo, scritto da un team di ricercatori spagnoli, evidenzia una realtà frustrante: spesso non è possibile seguire perfettamente entrambe le regole contemporaneamente.

Pensa a questo come a un tentativo di tagliare una torta.

Se tagli la torta in modo che ogni tavolo riceva una quantità uguale di torta (Equità di Gruppo), potresti dover dare una fetta minuscola a una persona molto affamata e una fetta enorme a qualcuno che non ha molta fame, solo per bilanciare i totali. Questo viola la Regola del Vicino perché due vicini con la stessa fame ricevono fette diverse.
Se tagli la torta in modo che ogni persona affamata riceva la stessa dimensione di fetta (Equità Individuale), i tavoli potrebbero finire con quantità totali di torta molto diverse. Un tavolo potrebbe ricevere una montagna di torta mentre un altro non riceve quasi nulla. Questo viola la Regola del Gruppo.

Cosa fa l'Articolo:
Invece di dire solo "È impossibile", questo articolo agisce come una mappa completa per altri ricercatori. Esamina tutti i diversi strumenti e metodi che le persone hanno inventato per cercare di bilanciare queste due regole.

Gli autori hanno organizzato questi metodi in tre "laboratori" dove avviene la magia dell'equità:

Il Laboratorio di Preparazione dei Dati (Pre-processing): Prima ancora che l'IA inizi ad apprendere, i ricercatori modificano i dati. Potrebbero cambiare i numeri nel dataset o aggiungere scenari ipotetici ("cosa succederebbe se..."), come chiedere: "E se questa persona fosse stata di un gruppo diverso?", per insegnare all'IA a essere più equa fin dall'inizio.
La Palestra di Allenamento (In-processing): Mentre l'IA sta imparando, i ricercatori aggiungono "pesi" o "regole" extra al suo addestramento. È come mettere un handicap all'IA: "Se inizi a trattare persone simili in modo diverso, riceverai una penalità". L'IA deve imparare a essere accurata e equa allo stesso tempo.
La Revisione Finale (Post-processing): Dopo che l'IA ha preso le sue decisioni, un essere umano (o un secondo algoritmo) interviene per regolare i risultati. Se l'IA dice "Sì" al Gruio A il 60% delle volte e "Sì" al Gruppo B il 40% delle volte, questa fase potrebbe abbassare leggermente l'asticella per il Gruppo B per pareggiare i conti, cercando al contempo di trattare le persone simili in modo simile.

Cosa ha scoperto l'Articolo:

Il Compromesso è Reale: L'articolo conferma che cercare di correggere un tipo di iniquità spesso peggiora l'altro. Non esiste un "pasto gratis".
La maggior parte dei Metodi è Costosa: Molti di questi sofisticati equilibri richiedono molta potenza di calcolo e tempo. È come cercare di risolvere un cubo di Rubik mentre si corre una maratona.
Non abbiamo abbastanza Dati: La maggior parte di questi metodi viene testata su pochi vecchi e semplici dataset (come "Adult" o "COMPAS"). Non sappiamo davvero se funzionino bene in situazioni reali e complesse come l'imaging medico o la selezione per lavori creativi.
Il Codice Manca: Quasi la metà dei metodi esaminati non condivide pubblicamente il proprio codice informatico. È come leggere la ricetta per una torta deliziosa ma non potersi vedere la lista degli ingredienti.

Il Punto Fondamentale:
L'articolo conclude che siamo ancora agli inizi della risoluzione di questo puzzle. Sebbene abbiamo molti strumenti per cercare di bilanciare la "Regola del Gruppo" e la "Regola del Vicino", abbiamo bisogno di modi migliori per misurare il costo del loro utilizzo, di più test in diversi scenari del mondo reale e di linee guida più chiare su come scegliere quale regola dare la priorità quando queste entrano in conflitto. L'obiettivo non è trovare una soluzione perfetta (perché una potrebbe non esistere), ma costruire sistemi in cui comprendiamo i compromessi e possiamo compiere scelte etiche informate.

Riepilogo Tecnico: Compromessi tra Equità Individuale e di Gruppo nel Machine Learning

Definizione del Probleamento
L'equità algoritmica è diventata una preoccupazione critica nei sistemi decisionali ad alto impatto (es. giustizia penale, assunzioni, sanità). La letteratura si è tradizionalmente biforcata in due nozioni distinte e spesso conflittuali di equità: l'Equità di Gruppo (Group Fairness - GF) e l'Equità Individuale (Individual Fairness - IF).

L'Equità di Gruppo si concentra sulla parità di esiti o di tassi di errore tra sottogruppi demografici definiti da attributi sensibili (es. parità demografica, uguaglianza di opportunità/equalized odds).
L'Equità Individuale enfatizza il trattamento coerente di individui simili, indipendentemente dall'appartenenza al gruppo, tipicamente formalizzato tramite continuità di Lipschitz o metriche di similarità.

Sebbene entrambi gli obiettivi mirino a un trattamento equo, essi sono frequentemente matematicamente incompatibili. L'imposizione di una rigorosa parità di gruppo richiede spesso di trattare individui simili in modo differente in base all'appartenenza al gruppo per correggere squilibri distribuzionali, violando così l'equità individuale. Al contrario, l'imposizione di una rigorosa coerenza individuale può preservare o riprodurre disparità a livello di gruppo. Le revisioni esistenti affrontano ampiamente queste nozioni in isolamento o le categorizzano in base alla loro posizione nella pipeline di ML (pre-, in-, post-processing) senza analizzare esplicitamente i compromessi tra GF e IF. Questo articolo affronta la lacuna di una revisione sistematica dei metodi che gestiscono congiuntamente questi obiettivi contrastanti.

Metodologia
Gli autori hanno condotto una revisione sistematica della letteratura per identificare gli studi che integrano esplicitamente sia la GF che la IF all'interno di un quadro unificato.

Strategia di Ricerca: Una query booleana è stata eseguita su Web of Science, IEEE e arXiv, combinando termini relativi all'equità individuale (es. "consistency", "Lipschitz") e all'equità di gruppo (es. "demographic parity", "equalized odds").
Criteri di Filtraggio: Sono stati selezionati solo gli articoli che formalizzavano un'ottimizzazione congiunta, un insieme di vincoli o un framework di valutazione che tenesse conto simultaneamente di entrambe le nozioni di equità. Sono stati esclusi gli articoli che menzionavano semplicemente entrambi i concetti nella motivazione senza un'integrazione tecnica.
Costruzione della Tassonomia: Invece di affidarsi esclusivamente alla standard tassonomia basata sulle fasi della pipeline (pre/in/post-processing), gli autori hanno sviluppato una tassonomia più dettagliata basata sui meccanismi di equità impiegati. Questo approccio raggruppa i metodi in base a come formulano e gestiscono il compromesso tra GF e IF, indipendentemente dalla specifica fase della pipeline.

Contributi Chiave e Tassonomia
Il documento fornisce una revisione completa degli approcci di equità ibrida, organizzandoli in tre famiglie meccaniche primarie:

Strategie basate sulla Rappresentazione o sulla Modifica dei Dati:
- Trasformazione dei Dati: Modifica i dati di input (es. correzione delle etichette, editing delle caratteristiche) per bilanciare le distribuzioni congiunte di gruppi sensibili ed esiti, preservando al contempo le strutture di vicinato locale.
- Ripesatura e Campionamento (Reweighting and Resampling): Regola i pesi specifici dell'istanza per approssimare una distribuzione target in cui gli attributi sensibili e gli esiti siano indipendenti, spesso utilizzando i valori di Shapley per valutare i contributi individuali alla disparità.
- Rappresentazione e Embedding: Mappa gli individui in uno spazio latente dove le osservazioni simili vengono raggruppate. Ciò impone la IF per costruzione (indistinguibilità all'interno dei cluster) pur promuovendo la GF attraverso vincoli sulla recuperabilità della rappresentazione o sulla composizione dei cluster.
- Augmentation e Contrasto: Genera campioni sintetici controfattuali o contrastivi (variando gli attributi sensibili) per imporre invarianza o regolarità nelle predizioni, affrontando sia la coerenza locale che le disparità di gruppo.
Strategie basate su Regolarizzazione o Obiettivi di Ottimizzazione:
- Regolarizzazione: Aumenta la funzione di perdita con termini che penalizzano il comportamento non equo sia a livello di gruppo che individuale (es. $\lambda_{GF}\Phi_{group} + \lambda_{IF}\Psi_{individual}$ ). Ciò consente di navigare la frontiera di Pareto tra accuratezza, GF e IF.
- Approcci basati su Metriche: Incorpora la struttura geometrica direttamente nella funzione di perdita, penalizzando le discrepanze di predizione per coppie di individui ritenuti simili da una metrica predefinita. Ciò impone la continuità di Lipschitz, che può indirettamente soddisfare l'equità di gruppo sotto specifiche condizioni.
- Apprendimento Avversario (Adversarial Learning): Addestra un predittore per minimizzare la perdita di predizione mentre un avversario tenta di recuperare gli attributi sensibili. Le estensioni incorporano penalità di similarità a coppie o perdite controfattuali per garantire la coerenza locale insieme all'invarianza di gruppo.
Strategie basate su Regolazioni Locali o Post-hoc:
- Soglia (Thresholding): Introduce soglie decisionali specifiche per il gruppo per allinearsi a criteri come l'uguaglianza di opportunità (equalized odds). Le estensioni incorporano metriche di similarità per allinearsi parzialmente alla IF.
- Opzione di Rifiuto (Reject-option): Opera in una "regione di ambiguità" vicino al confine decisionale, modificando selettivamente le predizioni per ridurre le disparità e correggere simultaneamente le inconsistenze locali.

Risultati e Osservazioni Empiriche
La revisione ha analizzato la letteratura selezionata riguardo all'implementazione e al benchmarking:

Distribuzione nella Pipeline: I metodi in-processing sono i più prevalenti (60%), seguiti dai metodi pre-processing (25%) e post-processing (19%).
Meccanismi Dominanti: La regolarizzazione è la sottotassonomia più comune, seguita dagli approcci basati su metriche e dall'apprendimento di rappresentazione.
Benchmarking: Si riscontra una forte dipendenza da un set ristretto di dataset (Adult, COMPAS, German Credit), che compaiono in circa il 20% degli studi. Ciò solleva preoccupazioni sulla generalizzabilità a domini ad alta dimensionalità come la Computer Vision o il NLP.
Costo Computazionale: L'efficienza computazionale è raramente un focus primario. Sebbene alcuni metodi siano indicati come computazionalmente esigenti (es. richiedono ore di addestramento o riaddestramento iterativo), pochi forniscono analisi sistematiche dei compromessi tra obiettivi di equità, accuratezza e costo computazionale.
Riproducibilità: Solo il 56% dei metodi rivisti fornisce codice accessibile pubblicamente, limitando la verifica indipendente e l'adozione pratica.

Significatività e Rivendicazioni
Il documento sostiene di essere la prima revisione sistematica che analizza esplicitamente i metodi che gestiscono i compromessi tra GF e IF attraverso definizioni, algoritmi e setting di valutazione. La sua significatività risiede nel:

Sintetizzare gli Approcci Ibridi: Va oltre lo studio di GF e IF in isolamento per chiarire come possano essere operazionalizzati congiuntamente.
Chiarire i Compromessi: Evidenzia che il conflitto tra queste nozioni non è un semplice artefatto tecnico ma riflette tensioni normative più profonde, e che i metodi esistenti offrono diversi modi per navigare la frontiera di Pareto tra di esse.
Identificare le Lacune: Gli autori notano con modestia che il campo è in una fase iniziale di maturazione. Identificano lacune critiche, tra cui la mancanza di una valutazione sistematica dei costi computazionali, la scarsità di studi in domini diversi, l'assenza di guida sulla selezione dei parametri per vincoli del mondo reale e la forte assunzione di attributi sensibili completamente etichettati durante l'addestramento.
Direzioni Future: Il documento suggerisce che il lavoro futuro dovrebbe concentrarsi su framework più flessibili (oltre la rigida parità), l'integrazione con prospettive causali e legali, e metodi che operino sotto vincoli realistici (es. dati censurati, intersezionalità).

Gli autori concludono che, sebbene GF e IF siano spesso matematicamente incompatibili, i metodi che gestiscono esplicitamente questi compromessi rappresentano un passo cruciale verso un processo decisionale algoritmico più responsabile e trasparente, fornendo una base per progettare algoritmi che offrano affidabilità sia a livello individuale che di gruppo.

Riepilogo Tecnico: Compromessi tra Equità Individuale e di Gruppo nel Machine Learning

Articoli simili