🤖 machine learning

Do Fair Models Reason Fairly? Counterfactual Explanation Consistency for Procedural Fairness in Credit Decisions

Dieser Beitrag stellt die Konsistenz kontrafaktischer Erklärungen (CEC) vor, einen Rahmen, der darauf abzielt, „versteckte prozedurale Verzerrungen" in Kreditentscheidungsmodellen zu erkennen und zu mindern, indem sichergestellt wird, dass Personen mit ähnlichen Ergebnissen eine konsistente Begründung erhalten, eine entscheidende Fairnessdimension, die von herkömmlichen ergebnisbasierten Metriken übersehen wird.

Ursprüngliche Autoren: Gideon Popoola, John Sheppard

Veröffentlicht 2026-05-14

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Gideon Popoola, John Sheppard

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie beantragen einen Kredit. Sie haben eine hervorragende Bonitätsbewertung, einen festen Arbeitsplatz und genügend Geld, um ihn zurückzuzahlen. Sie erhalten eine Zusage. Stellen Sie sich nun vor, Ihr Nachbar bewirbt sich mit dem exakt gleichen finanziellen Profil, gehört aber einer anderen demografischen Gruppe an (vielleicht eine andere Rasse oder ein anderes Geschlecht). Auch er erhält eine Zusage.

Auf den ersten Blick sieht alles fair aus. Beide von Ihnen haben das gleiche Ergebnis erhalten. Doch was ist, wenn das Computersystem der Bank völlig unterschiedliche Gründe verwendet hat, um Ihnen im Vergleich zu Ihrem Nachbarn „Ja" zu sagen?

Für Sie: Der Computer betrachtete Ihre Bonitätsbewertung und Ihr Einkommen.
Für Ihren Nachbarn: Der Computer ignorierte seine Bonitätsbewertung und konzentrierte sich stattdessen stark auf seine Beschäftigungsgeschichte und seine Sicherheiten.

Dies ist das Kernproblem, das der Artikel anspricht. Die Autoren bezeichnen dies als „Versteckte Verfahrens-Bias". Es ist wie bei zwei Richtern, die in einem Gerichtsfall das gleiche Urteil fällen, wobei der eine Richter seine Entscheidung auf die Alibi des Angeklagten stützte, während der andere Richter sie ausschließlich auf dessen Kleidung basierte. Das Ergebnis ist dasselbe, aber der Prozess war unfair.

Das Problem: Die „Ergebnis"-Falle

Die meisten aktuellen Fairness-Tools für KI sind wie ein Lehrer, der nur die Endpunktzahl einer Prüfung überprüft. Wenn Gruppe A und Gruppe B beide eine Durchschnittsnote von 80 % erreichen, sagt der Lehrer: „Toll, das System ist fair!"

Die Autoren argumentieren, dass dies eine Falle ist. Man kann perfekte Prüfungsergebnisse (Ergebnisse) haben, während der Lehrer für verschiedene Schüler völlig unterschiedliche Bewertungsmaßstäbe verwendet hat. In der Welt der Kreditvergabe ist dies gemäß Gesetzen wie dem „Equal Credit Opportunity Act" (ECOA) illegal, der besagt, dass man keine unterschiedlichen Regeln für verschiedene Gruppen verwenden darf, selbst wenn die endgültigen Zulassungsraten gleich aussehen.

Die Lösung: Das „CEC"-Rahmenwerk

Die Autoren schlagen ein neues Tool namens Counterfactual Explanation Consistency (CEC) vor. Stellen Sie es sich als einen „Realitätscheck" für die KI vor.

So funktioniert es, anhand einer einfachen Analogie:

Der „Was-wäre-wenn"-Tausch (Kontrafaktika):
Stellen Sie sich vor, Sie haben einen Kreditantrag. Die KI sagt „Ja" wegen Ihres hohen Einkommens. Das CEC-Tool nimmt Ihren Antrag und fragt: „Was wäre, wenn diese exakt gleiche Person, mit dem exakt gleichen Einkommen und der exakt gleichen Bonitätsbewertung, einer anderen demografischen Gruppe angehören würde?"

Anstatt nur den Namen oder die Rasse auf dem Formular zu ändern (was gefälschte, unmögliche Daten erzeugt), findet das Tool eine echte Person in der Datenbank, die finanziell genau wie Sie aussieht, aber der anderen Gruppe angehört. Es paart Sie mit diesem „Zwilling" aus der anderen Gruppe.
Die „Begründungs"-Prüfung (Erklärungskonsistenz):
Nun bittet das Tool die KI, zu erklären, warum sie beide von Ihnen zugelassen hat.
- Hat sie Ihr Einkommen und Ihre Bonitätsbewertung für beide gleich gewichtet?
- Oder hat sie plötzlich entschieden, dass für die zweite Person die Berufsgeschichte das Einzige ist, was zählt?
Wenn die KI für die beiden finanziellen Zwillinge unterschiedliche „Gewichte" oder Gründe verwendet, schlägt das CEC-Tool Alarm. Es misst, wie stark die Begründung zwischen den beiden Gruppen „ausschlägt".
Die Korrektur (Training der KI):
Die Autoren haben nicht nur einen Detektor gebaut; sie haben einen Lehrer gebaut. Sie haben eine neue Regel in den Trainingsprozess der KI eingefügt.
- Alte Regel: „Stellen Sie sicher, dass die Zulassungsraten gleich sind."
- Neue Regel: „Stellen Sie sicher, dass die Zulassungsraten gleich sind UND stellen Sie sicher, dass Sie exakt die gleiche Logik verwenden, um dorthin zu gelangen."
Die KI wird nun bestraft (über eine mathematische „Verlustfunktion"), wenn sie versucht, für verschiedene Gruppen unterschiedliche Begründungen zu verwenden, selbst wenn die endgültige Entscheidung dieselbe ist.

Was sie herausfanden

Die Autoren testeten dies an realen Daten (wie deutschen Kreditunterlagen, US-Einkommensdaten und Hypothekenunterlagen) sowie an synthetischen Daten.

Der Schock: Sie stellten fest, dass viele bestehende „faire" KI-Modelle diese Bias tatsächlich versteckten. Sie konnten alle standardmäßigen Fairness-Tests bestehen (gleiche Zulassungsraten), verwendeten aber dennoch unterschiedliche Begründungen für verschiedene Personen. In ihrer Studie fielen bis zu 90 % der Antragsteller in einigen Modellen in diese „Versteckte-Bias"-Falle.
Der Erfolg: Als sie ihre neue CEC-Methode anwandten, hörte die KI auf, unterschiedliche Regeln zu verwenden. Sie begann, finanzielle Zwillinge unabhängig von ihrem Hintergrund gleich zu behandeln.
Der Preis: Das Beste daran? Die KI wurde nicht „dümmer". Sie sagte immer noch genau voraus, wer den Kredit zurückzahlen würde, und verlor kaum an Gesamtleistung. Sie wurde lediglich fairer in der Art, wie sie dachte.

Das große Ganze

Der Artikel kommt zu dem Schluss, dass Fairness nicht nur das Ergebnis betrifft; es betrifft das Rezept.

Wenn Sie für zwei Personen einen Kuchen backen, reicht es nicht aus, dass beide ein Stück der gleichen Größe erhalten. Wenn Sie für die eine Person eine geheime Zutat und für die andere eine andere verwendeten, ist der Prozess unfair. Das CEC-Rahmenwerk stellt sicher, dass die KI für alle die gleiche „Rezeptur" (Begründung) verwendet und sicherstellt, dass aus Sicht des Gesetzes und der Ethik „ähnliche Fälle gleich behandelt werden".

Technische Zusammenfassung: Konsistenz kontrafaktischer Erklärungen für verfahrensgerechte Fairness bei Kreditentscheidungen

Problemstellung

Die aktuelle Forschung zur algorithmischen Fairness in gesellschaftlich sensiblen Bereichen, wie der Kreditvergabe, konzentriert sich vorwiegend auf Ergebnisfairness (z. B. demografische Parität, equalized odds). Diese Metriken stellen sicher, dass die Vorhersageergebnisse über geschützte Gruppen hinweg (z. B. Rasse, Geschlecht) statistisch ausgeglichen sind. Die Autoren argumentieren jedoch, dass die Einhaltung der Ergebnisfairness nicht garantiert, dass das Modell für Individuen aus verschiedenen Gruppen denselben Denkprozess anwendet.

Diese Lücke erzeugt eine „versteckte verfahrensmäßige Verzerrung", bei der ein Modell zwar für vergleichbare Antragsteller aus verschiedenen demografischen Gruppen identische Ergebnisse liefert, aber grundlegend unterschiedliche Merkmalszuordnungen nutzt, um zu diesen Schlussfolgerungen zu gelangen. Beispielsweise könnte ein Modell einen männlichen Antragsteller primär aufgrund seiner Kreditwürdigkeit genehmigen, während es einen weiblichen Antragsteller mit ähnlichem Profil aufgrund seiner Beschäftigungsgeschichte genehmigt. Unter rechtlichen Rahmenwerken wie dem Equal Credit Opportunity Act (ECOA) stellt dies eine unterschiedliche Behandlung dar, bleibt jedoch für herkömmliche, ergebnisbasierte Fairness-Metriken unsichtbar.

Die Autoren formalisieren dieses Phänomen mithilfe einer 2×2-Taxonomie von Fairness-Regimen:

Regime A (Vollständig fair): Gleiche Vorhersage, gleiche Begründung.
Regime B (Versteckte Verzerrung): Gleiche Vorhersage, unterschiedliche Begründung (der kritische blinde Fleck).
Regime C (Ergebnisunfair): Unterschiedliche Vorhersage, gleiche Begründung.
Regime D (Schwerwiegend unfair): Unterschiedliche Vorhersage, unterschiedliche Begründung.

Bestehende Methoden zielen primär auf die Regime C und D ab und lassen Regime B unentdeckt.

Methodik: Konsistenz kontrafaktischer Erklärungen (CEC)

Um Regime B zu erkennen und zu mildern, schlagen die Autoren Konsistenz kontrafaktischer Erklärungen (CEC) vor, ein Framework, das Merkmalszuordnungen zwischen Individuen und ihren kontrafaktischen Gegenstücken in Einklang bringt.

1. Generierung kontrafaktischer Szenarien durch labelstratifizierte Nachbarschaftssuche

Anstelle der Verwendung naiver kontrafaktischer Szenarien (Umdrehen des geschützten Attributs bei gleichzeitiger Konstanthaltung aller anderen Merkmale, was oft statistisch unmögliche Individuen ergibt), schlagen die Autoren einen labelstratifizierten Nachbarschafts-(NN)-Ansatz vor.

Mechanismus: Für ein faktisches Individuum $(x, y, a)$ sucht das System in den Trainingsdaten nach einem Individuum $\tilde{x}$ aus der entgegengesetzten Gruppe ( $1-a$ ), das dasselbe wahre Label ( $y$ ) teilt und die ähnlichsten finanziellen Merkmale ( $F$ ) aufweist.
Finanzielle Merkmale ( $F$ ): Definiert als leistungsbezogene, rechtlich zulässige Merkmale (z. B. Einkommen, Kreditwürdigkeit), die keine demografischen Proxy-Variablen darstellen.
Begründung: Dies stellt sicher, dass das faktische und das kontrafaktische Individuum eine identische wahre Kreditwürdigkeit aufweisen. Jeder Unterschied in der Begründung des Modells ist somit auf gruppenspezifische Verzerrungen zurückzuführen und nicht auf legitime Risikounterschiede. Diese Methode vermeidet die Notwendigkeit struktureller kausaler Modelle (SCMs).

2. Prinzip der konsistenten Basislinie

Das Framework nutzt Integrierte Gradienten (IG), um Merkmalszuordnungen zu messen. Ein wesentlicher Beitrag ist das Prinzip der konsistenten Basislinie.

Problem: Der Vergleich von IG-Vektoren unter Verwendung gruppenspezifischer Basislinien (z. B. Mittelwert der Gruppe 0 vs. Mittelwert der Gruppe 1) führt zu einem Störfaktor. Unterschiede in den Zuordnungen können einfach aus den unterschiedlichen Referenzpunkten (Basislinien) resultieren und nicht aus diskriminierender Begründung.
Lösung: Sowohl das faktische $x$ als auch das kontrafaktische $\tilde{x}$ müssen gegen dieselbe Basislinie bewertet werden (speziell den Mittelwert der Label-Gruppe des faktischen Individuums).
Theoretische Garantie: Die Autoren beweisen, dass die Verwendung einer konsistenten Basislinie den Unterschied in der Zuordnung auf den Eingabeunterschied und die Gradienten des Modells isoliert und spurartige Terme entfernt, die durch Verschiebungen in der Gruppenverteilung verursacht werden.

3. Die CEC-Metrik und der Trainingsverlust

Metrik: Der CEC-Score misst den normalisierten $L_2$ -Abstand zwischen den Zuordnungsvektoren von $x$ und $\tilde{x}$ unter Verwendung der konsistenten Basislinie. Ein Score von 0 zeigt eine identische Begründung an; 1 zeigt eine maximal entgegengesetzte Begründung an.
Trainingsziel: Die Autoren führen eine multiobjektive Verlustfunktion ein, die gemeinsam optimiert:
1. Vorhersagegenauigkeit (Binary Cross-Entropy).
2. Ergebnisfairness (Einschränkung durch Equalized Odds).
3. Verfahrensgerechte Fairness (CEC-Verlust): Ein differenzierbarer Regularisierer, der Abweichungen in den Zuordnungsvektoren zwischen faktischen und kontrafaktischen Paaren bestraft.

Hauptbeiträge

Formalisierung versteckter verfahrensmäßiger Verzerrung: Der Artikel definiert und kategorisiert „Regime B" (gleiches Ergebnis, unterschiedliche Begründung) als einen kritischen Fehlermodus, der für Standard-Fairness-Metriken unsichtbar ist.
Generierung kontrafaktischer Szenarien durch Nachbarschaftssuche: Eine praktische Methode zur Generierung realistischer kontrafaktischer Szenarien für Fairness-Audits, die keine kausalen Graphen erfordert, sondern stattdessen auf dem Abgleich der finanziellen Leistungsfähigkeit basiert.
Prinzip der konsistenten Basislinie: Eine theoretische und praktische Korrektur für Vergleiche mittels Integrierter Gradienten, die verhindert, dass durch Basislinien verursachte Artefakte fälschlicherweise als Verzerrung interpretiert werden.
CEC-Framework: Ein differenzierbarer Trainingsverlust, der die Konsistenz von Erklärungen neben Genauigkeit und Ergebnisfairness durchsetzt und zeigt, dass verfahrensgerechte Fairness mit moderaten Kosten für den Nutzen erreicht werden kann.

Experimentelle Ergebnisse

Die Autoren bewerteten CEC an vier Datensätzen: Synthetische Daten, German Credit, Adult Income und HMDA-Daten zu Hypothekendarlehen. Sie verglichen CEC mit sechs Baselines (Unconstrained, Disparate Impact Remover, Hardt Post-Processing, Agarwal Reductions, Adversarial Debiasing, Lagrangian Fair Learning).

Erkennung versteckter Verzerrung: Alle Baseline-Methoden, die eine wettbewerbsfähige Ergebnisfairness erzielten (niedrige Equalized-Odds-Lücken), wiesen erhebliche versteckte verfahrensmäßige Verzerrung auf (hohe CEC-Scores). Beispielsweise platzierten Baseline-Methoden im German-Credit-Datensatz etwa 90 % der Stichproben in Regime B, während das CEC-Modell dies auf etwa 17 % reduzierte.
Milderung: Das mit CEC trainierte Modell erreichte konsistent die niedrigsten CEC-Scores und den höchsten Anteil an Regime-A-Proben (vollständig fair) über alle Datensätze hinweg.
Nutzen-Abwägung: Das CEC-Modell behielt eine wettbewerbsfähige Vorhersageleistung (F1 und AUC) und Ergebnisfairness bei, mit nur moderaten Leistungseinbußen im Vergleich zu unbeschränkten Baselines.
Ablationsstudien:
- Das alleinige Hinzufügen von Equalized-Odds-(EO)-Einschränkungen reduzierte Regime B nicht; in einigen Fällen erhöhte es es leicht.
- Das alleinige Hinzufügen von CEC-Regularisierung reduzierte Regime B erheblich und trieb als Nebeneffekt oft die EO-Lücke auf null.
- Das vollständige multiobjektive Modell erreichte die beste Balance und bestätigte, dass verfahrensgerechte Fairness und Ergebnisfairness orthogonale Ziele sind, die eine explizite gemeinsame Optimierung erfordern.

Bedeutung und Behauptungen

Der Artikel behauptet, dass Ergebnisfairness und verfahrensgerechte Fairness orthogonal sind. Die Optimierung des einen garantiert nicht das andere; tatsächlich können standardmäßige, ergebnisfokussierte Interventionen unbeabsichtigt versteckte verfahrensmäßige Verzerrungen (Regime B) verschleiern oder verschärfen.

Die Bedeutung dieser Arbeit liegt in:

Einhaltung gesetzlicher Vorschriften: Sie adressiert eine spezifische Lücke in der gesetzlichen Compliance (z. B. ECOA), bei der Kreditgeber verboten sind, unterschiedliche Bonitätsprüfungsstandards für verschiedene Gruppen zu verwenden, selbst wenn die endgültigen Genehmigungsquoten gleich sind.
Auditierbarkeit: Sie bietet ein quantitatives Werkzeug (CEC-Score und Regime-Verteilung), um nicht nur zu auditieren, was ein Modell entscheidet, sondern wie es begründet, und identifiziert spezifische Antragsteller, die einer inkonsistenten Behandlung unterzogen wurden.
Methodischer Wandel: Sie zeigt, dass verfahrensgerechte Fairness über differenzierbare Verluste in den Trainingsprozess integriert werden kann, und geht damit über nachträgliche Erklärungen hinaus hin zur proaktiven Milderung versteckter Verzerrungen.

Die Autoren schließen, dass Ergebnisfairness zwar notwendig, aber unzureichend ist, um eine gerechte automatisierte Entscheidungsfindung in hochriskanten Bereichen wie der Kreditvergabe zu gewährleisten. Das CEC-Framework bietet einen praktischen Weg, um die Modellbegründung mit rechtlichen und ethischen Standards der verfahrensgerechten Gerechtigkeit in Einklang zu bringen.