End-to-End Fairness Optimization with Fair Decision-Focused Learning

Technische Samenvatting: End-to-End Fairness Optimization met Fair Decision-Focused Learning

1. Probleemformulering

Het artikel behandelt de uitdaging van End-to-End Fairness Optimization (E2EFO) in datagestuurde besluitvormingssystemen waarbij voorspellende modellen informeren over de toewijzing van middelen. De auteurs stellen dat eerlijkheid gezamenlijk moet worden aangepakt over twee afzonderlijke stadia:

1. Voorspellingsfase (Prediction Stage): Het schatten van onbekende effecten (bijv. gezondheidsvoordelen, kredietwaardigheid) op basis van historische gegevens. Eerlijkheid betreft hier voorspellingsdispariteit, waarbij wordt gewaarborgd dat voorspellingsfouten specifieke groepen niet systematisch benadelen.
2. Beslissingsfase (Decision Stage): Het toewijzen van beperkte middelen op basis van voorspellingen om evenredige uitkomsten te maximaliseren. Eerlijkheid betreft hier beslissingsregret (decision regret), het verlies in beslissingskwaliteit (gelijkheid) veroorzaakt door het vertrouwen op imperfecte voorspellingen in plaats van op de werkelijke parameters.

De auteurs illustreren dat het optimaliseren voor eerlijkheid in slechts één stadium kan leiden tot oneerlijke uitkomsten in het andere stadium. Bijvoorbeeld: een eerlijke voorspeller met ruisende schattingen kan een besluitvormer ertoe leiden om middelen overmatig toe te wijzen aan een benadeelde groep, wat le wordt gecreëerd tegenover een bevoordeelde groep. Omgekeerd kan een zeer nauwkeurige maar bevooroordeelde voorspeller leiden tot evenredig ogende toewijzingen die in werkelijkheid onrechtvaardig zijn.

De specifieke probleemstelling wordt geformaliseerd als een middelenallocatietaak waarbij:

• Stakeholders zijn verdeeld in groepen.
• Voorspelling: Een model $f_\theta$ schat effecten $\hat{r}$ in vanuit kenmerken $X$.
• Beslissing: Een optimalisatiemodel wijst middelen $d$ toe om een groepsgebaseerde $\alpha$-fairness nutfunctie $W_\alpha^g(u)$ te maximaliseren, onderhevig aan convexe restricties (bijv. budget).
• Doelstelling: Het gelijktijdig minimaliseren van drie metrieken:
  1. Voorspellingsnauwkeurigheid: Gemiddelde kwadratische fout (MSE).
  2. Voorspellingseerlijkheid: Gemiddelde absolute afwijking (MAD) van de groepsspecifieke MSE's.
  3. Beslissingsregret: Het gat tussen de fairness score behaald met voorspellingen en de optimale fairness score die haalbaar is met de werkelijke effecten.

2. Methodologie: Fair Decision-Focused Learning (FDFL)

Het artikel stelt Fair Decision-Focused Learning (FDFL) voor, een trainingsparadigma dat E2EFO behandelt als een Multi-Task Learning (MTL) probleem. In tegenstelling tot standaard Predict-Then-Optimize (PTO) of standaard Decision-Focused Learning (DFL), die enkelvoudige doelstellingen optimaliseren, optimaliseert FDFL gezamenlijk de drie conflicterende doelstellingen.

Belangrijke technische componenten:

• Gradiënt-gebaseerde training: De voorspeller $f_\theta$ wordt getraind via gradiëntafdaling. De gradiënten voor de drie doelstellingen worden berekend en gecombineerd:
  • $\nabla_\theta L_{pred}$ en $\nabla_\theta F$ (nauwkeurigheid en eerlijkheid) zijn standaard backpropagation.
  • $\nabla_\theta L_{regret}$ vereist het differentiëren door het beslissingsoptimalisatieprobleem.
• Berekening van de Decision Jacobian: Een kernuitdaging is het berekenen van $\frac{\partial d^*(\hat{r})}{\partial \hat{r}}$. De auteurs bieden twee oplossingen:
  1. Gesloten vorm (Closed-Form): Voor single-budget $\alpha$-fair allocatie (knapzakprobleem) leiden zij exacte formules voor de optimale oplossing en de bijbehorende Jacobian af met behulp van Karush-Kuhn-Tucker (KKT)-condities.
  2. Differentiabele Optimalisatie: Voor algemene convexe verzamelingen gebruiken zij differentiabele convexe optimalisatielagen (specifiek cvxpylayers) om de optimaliteitscondities impliciet te differentiëren.
• Strategieën voor Gradiëntcombinatie: Om de multi-objective aard te hanteren, gebruikt FDFL MTL-technieken om gradiënten te combineren in een enkele update-richting:
  • Statische Scalarisatie (FDFL-Scal): Een vaste gewogen som van de drie doelstellingen.
  • Dynamische Conflict-vermijdende Methoden: Waaronder PCGrad (het projecteren van conflicterende gradiënten op normale vlakken) en Nash-MTL (Nash-onderhandelingsgewichten).
• Theoretische Garanties: Het artikel stelt een finite-sample generalization bound vast voor de gescalariseerde FDFL-doelstelling. Onder aannames van begrensdheid en Lipschitz-regulariteit wordt aangetoond dat de samengestelde excess risk van de empirische minimizer $O(\sqrt{q/N})$ is, waarbij $q$ het aantal parameters is en $N$ de steekproefomvang.

3. Belangrijkste Bijdragen

De auteurs vatten hun bijdragen als volgt samen:

1. Framework: Introductie van E2EFO als een verenigend framework dat groepsgebaseerde voorspellingseerlijkheid (MAD van fouten) en groepsgebaseerde beslissingseerlijkheid (twee-niveau $\alpha$-fairness) integreert in een enkele optimalisatiepipeline.
2. Algoritme: Ontwikkeling van FDFL-algoritmen die MTL-technieken (statisch en dynamisch) gebruiken om voorspellers te trainen die een balans vinden tussen nauwkeurigheid, voorspellingseerlijkheid en beslissingsregret. Dit omvat de afleiding van exacte closed-form decision Jacobians voor specifieke allocatietaken en de toepassing van differentiabele optimalisatielagen voor algemene gevallen.
3. Theorie: Vaststelling van een finite-sample generalization bound voor de gescalariseerde FDFL-training, waarbij de noodzakelijke voorwaarden voor $\alpha$-fairness allocatietaken worden geverifieerd.
4. Empirische Validatie: Evaluatie op een zorggerelateerde single-resource allocatie en een synthetische multiple-resource allocatie, wat de waarde van gezamenlijke optimalisatie aantoont.

4. Experimentele Resultaten

De auteurs evalueerden FDFL tegenover baselines, waaronder PTO, standaard DFL, en fairness-embedded PTO varianten, variërend over verschillende voorspeller-capaciteiten (lineair, MLP-16, MLP-64), groepsimbalans en fairness-parameters ($\alpha$).

Belangrijkste bevindingen:

• Noodzaak van Multi-Objective: Trainen op een enkele doelstelling (bijv. alleen regret) verslechtert vaak andere metrieken. Zo behaalde DFL (alleen regret) de laagste regret, maar de hoogste voorspellingsdispariteit. Gezamenlijke training (FDFL) slaagde erin de dispariteit te verminderen zonder de beslissingskwaliteit op te offeren.
• Complementaire Rollen:
  • Voorspellingseerlijkheid is het meest effectief in het verminderen van dispariteit wanneer de groepsimbalans hoog is.
  • Beslissingsregret-optimalisatie levert de grootste winsten op wanneer de voorspeller-capaciteit beperkt is (wat leidt tot grotere fouten) of wanneer de beslissingsfairness-parameter $\alpha$ groot is (waardoor de allocatie zeer gevoelig wordt voor voorspellingsfouten).
• Voorspeller-capaciteit: In settings met hoge-capaciteit voorspellers (MLP-64) waren voorspellingsnauwkeurigheid en beslissingskwaliteit vaak op elkaar afgestemd, waardoor de kloof tussen PTO en DFL kleiner werd. Echter, bij lagere capaciteit werd de beslissingsregret-doelstelling cruciaal om foutpropagatie te mitigeren.
• Robuustheid: De voorgestelde FDFL-methoden presteerden consequent beter dan de baselines over verschillende imbalansniveaus en fairness-parameters, vooral wanneer alle drie de doelstellingen in de trainingsverliesfunctie werden opgenomen.

5. Betekenis en Claims

Het artikel claimt een hardnekkig gat in de literatuur te vullen door een geïntegreerd framework te bieden dat eerlijkheid in zowel de voorspellings- als de beslissingsfase tegelijkertijd aanpakt, in plaats van deze als geïsoleerde processen te behandelen.

• Theoretische Betekenis: Het breidt het theoretische begrip van decision-focused learning uit door fairness-restricties op te nemen en biedt de eerste generalization bounds voor dergelijke multi-objective E2EFO-settings.
• Praktische Betekenis: De resultaten tonen aan dat "eerlijke voorspellingen" geen "eerlijke beslissingen" garanderen en vice versa. De auteurs betogen dat beoefenaars een holistische trainingsaanpak (FDFL) moeten adopteren om eerlijkheid door de gehele pipeline te waarborgen, vooral in kritieke domeinen zoals de gezondheidszorg en sociale diensten waar systemische vooroordelen en schaarste van middelen samenkomen.
• Bescheidenheid: De auteurs erkennen beperkingen, waarbij zij opmerken dat hun generalization bound specifief is voor vaste scalarisatiegewichten en triviaal kan worden in sterk overgeparameteriseerde regimes ($q > N$). Ook laten zij de uitbreiding van E2EFO naar stochastische beslissingsperspectieven (waarbij voorspellingen distributies zijn in plaats van punt-schattingen) als toekomstig werk.