Sintesi Tecnica: Miglioramento Relativo Maximin come Problema di Contrattazione

1. Formulazione del Problema

Il documento affronta la sfida di implementare un singolo predittore unificato su più sottopopolazioni (gruppi), dove l'ottimizzazione per un gruppo spesso degrada le prestazioni di altri. Gli approcci esistenti, come la minimizzazione del rischio del gruppo peggiore (Group DRO) o la minimizzazione del regret del gruppo peggiore (Minimax Regret), si basano su confronti assoluti di rischio o regret tra i gruppi.

Gli autori sostengono che i criteri assoluti falliscono quando i gruppi differiscono per prevedibilità intrinseca (il "potenziale di miglioramento" disponibile da un predittore baseline a uno ottimale). Se il Gruppo A ha un grande potenziale di miglioramento e il Gruppo B ne ha uno piccolo, un approccio di minimax regret assoluto può allocare quasi tutta la capacità del modello al Gruppo A per minimizzare il suo regret assoluto, lasciando potenzialmente il Gruppo B con prestazioni peggiori rispetto al baseline. Ciò accade perché un'unità di riduzione del rischio assoluto non è equamente significativa tra gruppi con diversi rapporti segnale-rumore.

2. Metodologia: L'Apprendimento Equo come Problema di Contrattazione

Il Framework di Contrattazione

Gli autori riformulano l'equità di gruppo come un problema di contrattazione cooperativa tra sottopopolazioni.

• Giocatori: Le sottopopolazioni (gruppi).
• Punto di Disaccordo ($d$): Il rischio incorso da un predittore baseline $f_0$ (ad esempio, la media incondizionata nella regressione o la classe maggioritaria nella classificazione). Questo rappresenta l'esito se i gruppi non riescono a cooperare.
• Punto Ideale ($u^{max}$): Il rischio incorso dal predittore ottimale per il gruppo $f^*_g$ per ogni gruppo.
• Insieme Ammissibile: L'insieme dei vettori di rischio $\mathcal{R}(\mathcal{F})$ indotti dalla classe di funzioni $\mathcal{F}$.

L'ottimizzazione cerca un compromesso in cui i gruppi sacrificano parte delle loro prestazioni ottime individuali per raggiungere una soluzione mutuamente accettabile.

Criterio di Miglioramento Relativo

Il documento propone il Miglioramento Relativo ($\rho_g$) come metrica di equità. Per un gruppo $g$, esso è definito come il rapporto tra la riduzione del rischio effettiva ottenuta da un predittore $f$ e la massima riduzione del rischio possibile (il divario tra il baseline e l'ottimo di gruppo):

$$\rho_g(f) = \frac{R_g(f_0) - R_g(f)}{R_g(f_0) - R_g(f^*_g)}$$

L'obiettivo di apprendimento proposto è il Maximin Relative Improvement (MMRI):
$$f_{RI} = \arg \max_{f \in \mathcal{F}} \min_{g \in \mathcal{G}} \rho_g(f)$$

Connessione Teorica: Soluzione di Kalai–Smorodinsky

Gli autori stabiliscono che il criterio MMRI corrisponde esattamente alla soluzione di contrattazione di Kalai–Smorodinsky (KS) (Kalai & Smorodinsky, 1975).

• Interpretazione Geometrica: Nello spazio delle utilità (dove l'utilità è il rischio negativo), la soluzione KS è l'unico punto sulla frontiera di Pareto che equalizza i guadagni relativi dal punto di disaccordo per tutti i giocatori.
• Giustificazione Assiomatica: La soluzione KS è unicamente caratterizzata da quattro assiomi:
  1. Ottimalità di Pareto (PO): Nessun gruppo può essere migliorato senza danneggiare un altro.
  2. Simmetria (SYM): I gruppi con insiemi ammissibili e punti di disaccordo identici sono trattati equamente.
  3. Invarianza di Scala (SI): La soluzione è invariante rispetto alle trasformazioni affini della scala di utilità (fondamentale quando i gruppi hanno diverse prevedibilità di base).
  4. Monotonicità Individuale (IM): Se l'insieme ammissibile si espande (più opzioni disponibili) mantenendo fissi gli ottimi degli altri gruppi, nessun gruppo dovrebbe essere danneggiato.

Il documento dimostra che per $m=2$ gruppi, MMRI soddisfa tutti e quattro gli assiomi. Per $m > 2$, utilizza il raffinamento leximin (maximin lessicografico) per garantire l'unicità e l'ottimalità di Pareto, soddisfacendo versioni modificate di tali assiomi.

Confronto con Metodi Esistenti

Il documento mappa i metodi di ottimizzazione robusta esistenti su altre soluzioni di contrattazione classiche:

• Group DRO (Minimax Risk): Corrisponde a una soluzione Rawlsiana (massimizzazione dell'utilità assoluta minima).
• Maximin Explained Variance: Corrisponde a una soluzione Egalitaria (uguaglianza dei guadagni assoluti dal punto di disaccordo).
• Minimax Regret: Corrisponde a una soluzione di Perdita Uguale (Equal Loss, ovvero uguaglianza delle deviazioni assolute dal punto ideale).

A differenza di MMRI, questi metodi generalmente mancano di Invarianza di Scala, portando ai fallimenti osservati quando i gruppi presentano prevedibilità eterogenee.

Ben Determinatezza e Convergenza

Gli autori verificano che il problema di apprendimento induce un problema di contrattazione ben determinato stabilendo le condizioni sotto le quali l'insieme del rischio ammissibile $\mathcal{R}(\mathcal{F})$ è compatto e il suo involucro convesso non contiene punti Pareto ottimali non realizzabili. Queste condizioni valgono per:

• Impostazioni parametriche (spazio dei parametri compatto e convesso, perdita continua).
• Impostazioni non parametriche RKHS (classe di funzioni compatta e convessa, mappe di valutazione continue).

Inoltre, il documento stabilisce una garanzia di convergenza a campioni finiti di $O(1/\sqrt{n})$ per lo stimatore empirico del miglioramento relativo maximin, che corrisponde ai tassi dei metodi basati sul regret sotto standard condizioni di regolarità (perdita Lipschitz, condizioni di entropia).

3. Contributi Chiave

1. Il Miglioramento Relativo come Criterio di Equità: Propone una metrica che normalizza la riduzione del rischio rispetto al potenziale di miglioramento specifico del gruppo, garantendo la comparabilità tra gruppi con diversa prevedibilità intrinseca.
2. Framework di Contrattazione Unificato: Dimostra che i metodi di equità robusta esistenti (Group DRO, Minimax Regret, ecc.) sono equivalenti a specifiche soluzioni di contrattazione classica, permettendo un confronto assiomatico dei loro impegni normativi.
3. Caratterizzazione Assiomatica: Dimostra che il Maximin Relative Improvement è l'unica soluzione che soddisfa l'Ottimalità di Pareto, la Simmetria, l'Invarianza di Scala e la Monotonicità Individuale (o i loro raffinamenti leximin per $m>2$).
4. Garanzia di Non-Danno: Mostra che se il predittore baseline è all'interno della classe di funzioni ($f_0 \in \mathcal{F}$), la soluzione MMRI garantisce che nessun gruppo abbia prestazioni peggiori del baseline (Razionalità Individuale), una proprietà che il Minimax Regret viola.
5. Garanzie a Campioni Finiti: Fornisce i tassi di convergenza dello stimatore empirico.

4. Risultati Empirici

Gli autori valutano il metodo utilizzando i dati dell'American Community Survey 2018, predicendo il reddito trasformato in scala logaritmica attraverso 50 stati degli USA con partizioni binarie (sesso, razza) e varie caratteristiche (età, istruzione, stato civile, stato del nucleo familiare).

• Osservazione dell'Asimmetria: Lo studio trova che la prevedibilità differenziale è pervasiva. Il "rapporto di gap" (rapporto tra i potenziali miglioramenti) varia da 0,04 a 3,48. Nel 73% delle configurazioni, l'asimmetria è da moderata a estrema; nella partizione per razza, l'86% degli stati mostra un'asimmetza estrema per lo stato del nucleo familiare.
• Confronto delle Prestazioni:
  • Minimax Regret (MMR): Nei casi di alta asimmetria (es. North Dakota, partizione per razza, caratteristica età), MMR alloca quasi tutta la capacità del modello al gruppo con maggiore potenziale di miglioramento, risultando in prestazioni per l'altro gruppo peggiori del baseline (es. -74% di miglioramento relativo).
  • Maximin Relative Improvement (MMRI): Equalizza costantemente il miglioramento relativo tra i gruppi (es. raggiungendo il 57% per entrambi i gruppi nell'esempio del North Dakota), evitando il "danno" al gruppo meno prevedibile.
  • Altri Metodi: Anche Group DRO e Maximin Explained Variance deviano dalla linea di uguale miglioramento relativo in contesti asimmetrici.

5. Significato e Rivendicazioni

Il documento sostiene che interpretare l'equità come un problema di contrattazione fornisce una base assiomatica e rigorosa per la selezione dei criteri di equità.

• L'Invarianza di Scala è Critica: Gli autori sostengono che, quando i gruppi differiscono per prevedibilità intrinseca, i criteri invarianti di scala (come KS/Miglioramento Relativo) sono necessari per evitare l'estrazione di frazioni diseguali del segnale disponibile.
• Guida Decisionale: Il framework non pretende che un criterio sia universalmente superiore. Al contrario, funge da guida decisionale: i professionisti dovrebbero identificare quali assiomi (ad esempio, l'Invarianza di Scala rispetto alla Forte Monotonicità) siano più rilevanti nel loro contesto. Se i gruppi hanno una prevedibilità eterogenea, le proprietà assiomatiche di MMRI lo rendono la scelta naturale.
• Ponte Teorico: Il lavoro unisce la teoria dei giochi cooperativi e l'apprendimento equo, dimostendo che le standard assunzioni di apprendimento (compattezza, convessità) sono sufficienti per importare le classiche soluzioni di contrattazione nel machine learning senza ricorrere a scelte di penalità ad hoc.

Gli autori segnalano i limiti, inclusa la complessità computazionale nel trovare le soluzioni leximin per molti gruppi e le sfide nell'estendere il framework a regimi sovra-parametrizzati dove la stretta convessità e i controlli di complessità standard potrebbero fallire.