Auditing Discriminatory Patterns in Mortgage Lending Through Association Rules and Fair Binning
Diese Arbeit zeigt auf, dass während die standardmäßige Daten-Binning-Verfahren bei der Hypothekenvergabe rassistische Disparitäten verstärken können, eine Kombination aus fairem Binning und clusterbasiertem Auditing offenlegt, dass schwarze Antragsteller selbst innerhalb finanziell ähnlicher Gruppen signifikant höhere Ablehnungsraten aufweisen als weiße Antragsteller, obwohl hohe Schulden-Einkommens-Verhältnisse der primäre explizite Prädiktor für eine Ablehnung sind.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie versuchen zu verstehen, warum manche Menschen eine Hypothek (einen Kredit zum Kauf eines Hauses) erhalten und andere abgelehnt werden. Sie besitzen ein riesiges Notizbuch mit Millionen von Anträgen aus dem Raum Chicago. Dieses Papier ist wie ein Team von Detektiven, das versucht herauszufinden, ob die Art und Weise, wie wir dieses Notizbuch organisieren, unbeabsichtigt Ungerechtigkeit verbirgt oder sogar verschlimmert.
Hier ist die Geschichte ihrer Untersuchung, unterteilt in einfache Schritte:
1. Das Problem: Das Sortieren des Kartendecks
Die Forscher begannen mit einem riesigen Kartendeck (Hypothekenanträge). Jede Karte enthält Details wie Einkommen, Hautfarbe und ob der Kredit genehmigt oder abgelehnt wurde.
Um diese Daten zu analysieren, mussten sie die „Einkommens“-Zahlen in Schubladen (Buckets) sortieren (wie das Einteilen von Menschen in Gruppen wie „Niedriges“, „Mittleres“ und „Hohes“ Einkommen).
- Der Standardweg: Normalerweise sortieren Menschen diese Schubladen so, dass sie die gleiche Anzahl an Karten in jeder Schublade haben.
- Die Überraschung: Das Team fand heraus, dass diese Standardmethode des Sortierens tatsächlich unfair ist. Da schwarze Antragsteller im Durchschnitt weniger verdienen als weiße Antragsteller, führt die Standard-Sortierung dazu, dass die meisten schwarzen Antragsteller versehentlich in die Schubladen für „Niedriges Einkommen“ und die meisten weißen Antragsteller in die Schubladen für „Hohes Einkommen“ stapeln.
- Die Analogie: Stellen Sie sich vor, Sie sortieren ein Kartendeck, bei dem rote Karten normalerweise kleiner sind und schwarze Karten meist größer. Wenn Sie das Deck dazu zwingen, gleich große Stapel zu haben, enden Sie mit einem Stapel, der fast nur aus roten Karten besteht, und einem anderen, der fast nur aus schwarzen Karten besteht. Sie wollten nicht nach Farbe trennen, aber die Art, wie Sie nach Größe sortiert haben, tat dies trotzdem. Dies erzeugte eine Voreingenommenheit (Bias) von 9,6 % allein durch die Art der Organisation.
2. Die Lösung: Der „faire“ Sortierer
Die Forscher probierten einen speziellen, „fairen“ Sortieralgorithmus (genannt -biased binning) aus, der darauf ausgelegt ist, sicherzustellen, dass jede Schublade eine Mischung aus verschiedenen Ethnien enthält – wie eine Schüssel Salat mit ein bisschen von allem in jedem Löffel.
- Das Ergebnis: Es war sehr schwierig. Als sie versuchten, sehr streng bei der Fairness zu sein (um sicherzustellen, dass die Mischung perfekt war), konnte der Computer gar keine Möglichkeit mehr finden, die Karten zu sortieren.
- Der Kompromiss: Wenn sie die Regeln etwas lockerten, konnten sie faire Schubladen erstellen, aber die Schubladen wurden sehr ungleichmäßig groß (einige riesig, einige winzig). Dies wird als „Preis der Fairness“ (Price of Fairness) bezeichnet. Es ist, als würde man versuchen, einen perfekten Salat herzustellen, bei dem in jeder Schüssel exakt die gleiche Menge an jedem Gemüse ist; am Ende hat man einige Schüsseln, die überlaufen, und andere, die fast leer sind.
3. Das erste Detektiv-Werkzeug: Offensichtliche Muster finden (FP-Growth)
Als Nächstes verwendeten sie ein Werkzeug namens FP-Growth, um nach offensichtlichen Regeln zu suchen. Denken Sie an einen Roboter, der die Anträge scannt, um die häufigsten Gründe für eine Ablehnung zu finden.
- Was es fand: Der Roboter fand ein riesiges, lautes Muster: „Hohe Schulden-Einkommens-Quote“ (zu viele Schulden im Verhältnis zum Verdienst) war der Hauptgrund für die Ablehnung.
- Was es nicht fand: Der Roboter fand keine Regeln, die besagten: „Wenn der Antragsteller schwarz ist, dann lehne ab.“
- Die Wendung: Das bedeutet nicht, dass Rassismus nicht existiert. Es bedeutet, dass der Rassismus im Hintergrund lauert. Da schwarze Antragsteller wahrscheinlicher in den Schubladen für „Niedriges Einkommen“ oder „Hohe Schulden“ landen (aufgrund der Einkommenskluft, die zuvor erwähnt wurde), werden sie häufiger abgelehnt. Der Roboter sieht den finanziellen Grund, aber nicht den rassischen Grund dahinter. Es ist, als würde man jemanden sehen, der abgelehnt wird, weil er ein rotes Hemd trägt, ohne zu merken, dass die Regel „Keine roten Hemden“ nur auf Leute mit einem bestimmten Akzent angewendet wurde.
4. Das zweite Detektiv-Werkzeug: Ähnliche Menschen gruppieren (K-Means)
Da das erste Werkzeug die subtilen Dinge übersah, verwendeten die Forscher ein zweites Werkzeug, das K-Means Clustering.
- Die Analogie: Stellen Sie sich vor, Sie haben einen riesigen Raum voller Menschen. Anstatt sie nur nach Einkommen zu sortieren, bitten Sie sie, sich mit Menschen zu gruppieren, die finanziell exakt so aussehen wie sie selbst: gleiches Einkommen, gleiche Schulden, gleicher Kreditbetrag.
- Das Audit: Nachdem die Gruppen gebildet worden waren, untersuchte das Team innerhalb jeder Gruppe, ob Schwarze und Weiße gleich behandelt wurden.
- Der „Smoking Gun“ (Der Beweis): Sie fanden heraus, dass selbst wenn schwarze und weiße Antragsteller das exakt gleiche Finanzprofil hatten (gleiches Geld, gleiche Schulden), schwarze Antragsteller immer noch mit viel höheren Raten abgelehnt wurden.
- Die Statistik: In einer spezifischen Gruppe von finanziell ähnlichen Menschen lag die Ablehnungsrate für schwarze Antragsteller bei 44,8 %, während sie für weiße Antragsteller nur 20,3 % betrug. Dies ist ein klares Zeichen für Unfairness, das das erste Werkzeug übersehen hatte.
Die wichtigste Erkenntnis
Das Paper kommt zu zwei Hauptlehren:
- Wie wir Daten organisieren, zählt: Die Standardmethode zur Sortierung von Einkommenszahlen verbirgt unbeabsichtigt rassische Disparitäten.
- Bias ist hinterhältig: Man kann Diskriminierung nicht immer durch das Suchen nach offensichtlichen Regeln wie „Lehne Schwarze ab“ entdecken. Manchmal versteckt sich der Bias in den Finanzzahlen selbst. Man muss Gruppen von Menschen betrachten, die finanziell identisch sind, um zu sehen, dass die Spielfeldgestaltung nicht wirklich eben ist.
Was sie nicht getan haben:
Das Paper behauptet nicht, das Hypothekensystem zu reparieren, noch schlägt es vor, dies für medizinische Diagnosen oder andere Bereiche zu verwenden. Es analysierte strikt Hypothekendaten aus Chicago, um aufzuzeigen, wie man solche verborgenen Muster findet. Sie merkten auch an, dass ihre Daten keine Kredit-Scores (ein wichtiger Faktor für Kredite) enthielten, wessofern sie nicht perfekt zwischen „Unfairness“ und „legitimer Risikoabwägung“ unterscheiden konnten, aber die gefundenen Muster waren stark genug, um ein Warnsignal auszugeben.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.