🤖 machine learning

Fair Conformal Classification via Learning Representation-Based Groups

Dieser Artikel schlägt ein faires konformes Klassifikationsframework vor, das durch nichtlineare Merkmalskombinationen eine bedingte Abdeckung auf adaptiv identifizierten Untergruppen garantiert und damit algorithmische Verzerrungen wirksam adressiert, um vertrauenswürdige und informative Vorhersagemengen zu erzeugen.

Ursprüngliche Autoren: Senrong Xu, Yanke Zhou, Yuhao Tan, Zenan Li, Yuan Yao, Taolue Chen, Feng Xu, Xiaoxing Ma

Veröffentlicht 2026-05-13

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Senrong Xu, Yanke Zhou, Yuhao Tan, Zenan Li, Yuan Yao, Taolue Chen, Feng Xu, Xiaoxing Ma

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie haben einen sehr klugen KI-Arzt. Er ist im Durchschnitt hervorragend darin, Patienten zu diagnostizieren, aber wenn Sie genauer hinsehen, macht er manchmal selbstbewusste, falsche Vermutungen für bestimmte Personengruppen – wie etwa junge Frauen aus einer bestimmten Region oder ältere Männer mit einem spezifischen Berufshintergrund. Dies ist „algorithmische Verzerrung".

Stellen Sie sich nun vor, Sie möchten diesem Arzt ein Sicherheitsnetz hinzufügen. Sie wollen, dass die KI sagt: „Ich bin mir nicht zu 100 % sicher, hier ist also eine Liste möglicher Diagnosen", anstatt einfach nur eine auszuwählen. Dies nennt man Konforme Vorhersage. Es ist wie eine Wettervorhersage, die besagt: „Es besteht eine 90-prozentige Wahrscheinlichkeit für Regen", und garantiert, dass, wenn Sie 100 Tage überprüfen, es an 90 davon tatsächlich regnen wird.

Das Problem:
Das Standard-Sicherheitsnetz funktioniert gut für den „durchschnittlichen" Menschen. Aber wenn die KI verzerrt ist, kann das Sicherheitsnetz für jene spezifischen Gruppen versagen, die sie nicht gut versteht. Es könnte sagen: „Ich bin zu 90 % sicher, dass es regnet", aber für die verzerrte Gruppe ist es tatsächlich nur zu 50 % sicher. Das Papier bezeichnet dies als ein Versagen der Fairness.

Die alte Lösung (und warum sie umständlich ist):
Bisherige Methoden versuchten, dies zu beheben, indem sie jede mögliche Kombination von Merkmalen prüften (z. B. „Ist es eine schwarze Frau?", „Ist es ein schwarzer Mann?", „Ist es eine weiße Frau?").

Die Analogie: Stellen Sie sich vor, Sie versuchen, eine spezifische Nadel im Heuhaufen zu finden, indem Sie jedes einzelne Strohhalms einzeln überprüfen.
Der Fehler: Es gibt zu viele Kombinationen. Außerdem sind einige Verzerrungen tückisch. Vielleicht versagt die KI nur bei „weißen Frauen ODER schwarzen Männern" (eine seltsame Mischung). Alte Methoden, die Merkmale einzeln betrachten, können dieses komplexe Muster nicht leicht erkennen. Sie sind wie eine Taschenlampe, die nur in einer geraden Linie leuchtet; sie übersehen die Schatten in den Ecken.

Die neue Lösung: FAREG (Fair Conformal Prediction for Representation-based Groups)
Die Autoren schlagen eine neue Methode namens FAREG vor. So funktioniert sie, unter Verwendung einfacher Metaphern:

1. Der „Übersetzer" (Der Encoder-Decoder)

Anstatt die Rohdaten zu betrachten (wie „Alter: 25, Geschlecht: Weiblich"), verwendet FAREG einen Übersetzer.

Die Metapher: Stellen Sie sich vor, die KI versucht, eine Fremdsprache zu verstehen. Die Rohdaten sind der fremde Text. Der Übersetzer (ein neuronales Netz) wandelt diesen Text in einen „Geheimcode" (eine latente Repräsentation) um, der das Wesen der Person erfasst, einschließlich komplexer Beziehungen zwischen Merkmalen, die ein Mensch übersehen könnte.
Warum es hilft: Dieser Geheimcode kann leicht erkennen, dass „weiße Frauen" und „schwarze Männer" eine verborgene Ähnlichkeit teilen, die dazu führt, dass die KI ins Stolpern gerät, obwohl sie auf der Oberfläche sehr unterschiedlich aussehen. Es ist wie die Erkenntnis, dass zwei Menschen aus verschiedenen Ländern einen seltenen Dialekt sprechen, was sie zu einer spezifischen Gruppe macht, die man im Auge behalten muss.

2. Der „Fairness-Detektiv"

Sobald die Daten in diesen Geheimcode übersetzt wurden, agiert FAREG als Detektiv.

Die Metapher: Der Detektiv betrachtet den Geheimcode, um die „Problemzonen" zu finden. Er fragt: „Welche Personengruppen erhalten die schlechtesten Sicherheitsnetze?"
Die Aktion: Er rät nicht einfach; er lernt. Er findet die spezifischen Gruppen, bei denen die KI unfair ist, und erstellt ein spezielles, größeres Sicherheitsnetz nur für sie. Wenn die KI für eine bestimmte Gruppe wackelig ist, sagt das System: „Okay, für diese Gruppe geben wir eine größere Liste von Möglichkeiten, um auf der sicheren Seite zu sein."

3. Der „Sicherheitsnetz-Bauer"

Schließlich erstellt das System den Vorhersagesatz.

Die Metapher: Es ist wie ein Schneider, der einen Maßanzug fertigt. Für die allgemeine Bevölkerung fertigt er einen Standardanzug (eine kleine Liste von Vorhersagen). Aber für die Gruppen, die der Detektiv als „ungerecht behandelt" identifiziert hat, näht er zusätzlichen Stoff ein (eine größere Liste von Vorhersagen), um sicherzustellen, dass sie genauso gut abgedeckt sind wie alle anderen.
Das Ergebnis: Jeder erhält eine 90-prozentige Garantie für Richtigkeit. Der „durchschnittliche" Mensch erhält eine kleine, effiziente Liste. Die „ungerecht behandelte" Gruppe erhält eine etwas größere Liste, aber sie werden nicht mehr zurückgelassen.

4. Das „neue Lineal" (WSC+)

Das Papier führt auch eine neue Art ein, Fairness zu messen, namens WSC+.

Die Metapher: Alte Lineale waren gerade Stäbe. Sie konnten nur einfache, geradlinige Verzerrungen messen. Das neue Lineal (WSC+) ist flexibel und biegbar. Es kann komplexe, gekrümmte oder verdrehte Verzerrungen messen (wie das Beispiel „weiße Frauen ODER schwarze Männer").
Warum es wichtig ist: Es beweist, dass die neue Methode tatsächlich die versteckte Ungerechtigkeit findet, die die alten geraden Lineale übersehen haben.

Zusammenfassung der Ergebnisse
Die Autoren testeten dies an künstlichen Daten (die psychische Gesundheitsdiagnosen simulierten) und realen Daten (wie Bewerbungen für Kindergärten).

Das Ergebnis: FAREG fand erfolgreich die versteckten, komplexen Gruppen, die unfair behandelt wurden.
Der Kompromiss: Es gelang, die Fairness zu verbessern, ohne die Vorhersagelisten so groß zu machen, dass sie unbrauchbar werden. Es hielt die Listen „kompakt" (informativ), während sichergestellt wurde, dass jeder eine faire Chance auf Richtigkeit erhält.

Kurz gesagt:
FAREG ist ein intelligentes System, das komplexe menschliche Daten in einen Geheimcode übersetzt, um versteckte Gruppen von Menschen zu finden, die von der KI unfair behandelt werden. Es passt dann das Sicherheitsnetz der KI für diese spezifischen Gruppen an und stellt sicher, dass die KI für jeden zuverlässig ist, nicht nur für den durchschnittlichen Menschen.

Technische Zusammenfassung: Faire konforme Klassifikation durch Lernen repräsentationsbasierter Gruppen

1. Problemstellung

Konforme Vorhersage (CP) bietet statistisch rigorose marginale Abdeckungsgarantien für maschinelle Lernmodelle und stellt sicher, dass die wahre Kennung mit einer vom Benutzer spezifizierten Wahrscheinlichkeit (z. B. $1-\alpha$ ) innerhalb einer vorhergesagten Menge liegt. Standard-CP-Methoden garantieren jedoch nur eine durchschnittliche Abdeckung über die gesamte Population hinweg. Diese marginale Garantie berücksichtigt keine algorithmischen Verzerrungen, bei denen bestimmte Untergruppen (definiert durch sensible Merkmale wie Ethnie oder Geschlecht) unverhältnismäßig schlechte Abdeckung erleiden.

Während Methoden zur „ausgeglichenen Abdeckung" versuchen, eine gültige Abdeckung über vordefinierte Gruppen hinweg sicherzustellen, stoßen sie auf erhebliche Einschränkungen:

Aussagekraft: Bestehende Methoden (z. B. Romano et al., 2020a) definieren Gruppen typischerweise basierend auf einzelnen Merkmalen. Sie haben Schwierigkeiten, komplexe, nicht-lineare Interaktionen zwischen Merkmalen zu erfassen (z. B. die Untergruppe, die durch „Weiße Frauen ODER Schwarze Männer" in einer exklusiven ODER-Beziehung definiert ist).
Skalierbarkeit und Effizienz: Die exhaustive Suche nach allen plausiblen Untergruppen ist rechnerisch nicht durchführbar. Frühere adaptive Ansätze (z. B. Zhou & Sesia, 2024) verlassen sich auf eine gierige Auswahl diskreter Merkmale oder Naive-Bayes-Annahmen, was ihre Fähigkeit einschränkt, kontinuierliche Merkmale und nicht-lineare Gruppendefinitionen zu verarbeiten.

Die Kernherausforderung besteht darin, ein konformes Inferenzframework zu entwickeln, das ungerecht behandelte Untergruppen, die durch komplexe, nicht-lineare Merkmalskombinationen definiert sind, adaptiv identifiziert, während gleichzeitig die rechnerische Effizienz gewahrt und kompakte, informative Vorhersagemengen erzeugt werden.

2. Methodik: FAREG

Die Autoren schlagen FAREG (Fair Conformal Prediction for Representation-based Groups) vor, ein lernbasiertes Framework, das verzerrungsbeeinflusste Gruppen adaptiv identifiziert und Vorhersagemengen anpasst, um eine adaptive ausgeglichene Abdeckung zu erreichen.

2.1 Lernen repräsentationsbasierter Gruppen

Anstatt Gruppen direkt aus den rohen Eingangsmerkmalen $X$ zu extrahieren, kodiert FAREG $X$ über eine Abbildung $Z = f(X)$ in eine latente Repräsentation $Z$ . Die Methode verwendet eine Deep Variational Information Bottleneck (Deep VIB)-Architektur, um einen Gruppenzugehörigkeitsindikator $S$ zu lernen (wobei $S=1$ eine Mitgliedschaft in einer ungerecht behandelten Gruppe $\hat{G}$ anzeigt), basierend auf $Z$ .

Das Optimierungsziel maximiert die gegenseitige Information zwischen der latenten Repräsentation $Z$ sowie der Gruppenzugehörigkeit $S$ und den Eingangsdaten $X$ , während gleichzeitig die gegenseitige Information zwischen $Z$ und den Identitäten einzelner Stichproben $i$ minimiert wird, um Privatsphäre und Generalisierung zu gewährleisten. Die Verlustfunktion wird wie folgt formuliert:
$\mathcal{L} = \mathcal{L}_{CC} + \mathcal{L}_{MSE} - \beta \mathcal{L}_{KL}$
Wobei:

$\mathcal{L}_{CC}$ : Empirischer Verlust der bedingten Abdeckung, der minimiert wird, um Gruppen mit schlechter Abdeckung zu identifizieren.
$\mathcal{L}_{MSE}$ : Rekonstruktionsverlust (Mean Squared Error), der sicherstellt, dass $Z$ ausreichende Informationen behält, um $X$ zu rekonstruieren, und somit die Interpretierbarkeit bewahrt.
$\mathcal{L}_{KL}$ : Kullback-Leibler-Divergenz-Term, der $Z$ auf eine Standardnormalverteilung komprimiert.

Die Gruppenauswahl ist durch einen minimalen Gruppenanteil $\delta$ beschränkt. Die Autoren nutzen Projected Gradient Descent (PGD), um die Parameter des Decoders zu optimieren, indem sie die vorhergesagten Wahrscheinlichkeiten der Gruppenzugehörigkeit zurück auf die zulässige Menge projizieren, um die Größenbeschränkung zu erfüllen.

2.2 Konstruktion adaptiver Vorhersagemengen

Sobald die ungerechten Gruppen identifiziert sind, konstruiert FAREG die endgültige Vorhersagemenge $C(X_{N+1})$ für eine Testinstanz:

Eine Standard-konforme Vorhersagemenge $C_m(X_{N+1}, D)$ wird unter Verwendung des gesamten Kalibrierungsdatensatzes konstruiert.
Das Modell sampelt $T$ Vektoren $s_t$ aus der gelernten gemeinsamen Bernoulli-Verteilung, wobei jeder eine spezifische Gruppe $\hat{G}_{s_t}$ definiert.
Für jede gesampelte Gruppe werden separate konforme Mengen konstruiert.
Die endgültige Vorhersagemenge ist die Vereinigung der Standardmenge und aller gruppenspezifischen Mengen:
$C(X_{N+1}) = C_m(X_{N+1}, D) \cup \bigcup_{t=1}^{T} C_m(X_{N+1}, \hat{G}_{s_t})$

2.3 Verbesserte Bewertungsmetrik: WSC+

Um die Wirksamkeit der Identifizierung nicht-linearer ungerechter Gruppen zu bewerten, führen die Autoren WSC+ ein, eine nicht-lineare Erweiterung der Weighted Slab Coverage (WSC)-Metrik. Während traditionelles WSC die Abdeckung über linearen Platten ( $a \leq v^T X \leq b$ ) bewertet, bewertet WSC+ die Abdeckung über beliebige nicht-lineare Funktionen $\pi(X)$ (speziell quadratische Funktionen in den Experimenten). Dies ermöglicht eine präzisere Bewertung, ob das konforme Verfahren Gruppen abdeckt, die durch komplexe Merkmalsinteraktionen definiert sind.

3. Hauptbeiträge

FAREG-Framework: Eine neuartige konforme Vorhersagemethode, die eine Encoder-Decoder-Architektur verwendet, um Untergruppen mit schlechter Abdeckung, die durch nicht-lineare Merkmalskombinationen definiert sind, adaptiv zu identifizieren, und damit die Einschränkungen linearer oder einzelmerkmalsbasierter Gruppendefinitionen überwindet.
WSC+-Metrik: Eine neue nicht-lineare Metrik für die bedingte Abdeckung, die entwickelt wurde, um die Leistung konformer Verfahren bei komplexen, ungerecht behandelten Untergruppen besser zu erfassen und zu bewerten.
Theoretische Garantien: Die Arbeit beweist, dass FAREG eine adaptive ausgeglichene Abdeckung (Gleichung 1) über die ausgewählte Gruppensammlung erreicht, sofern die Daten austauschbar sind. Eine theoretische Analyse mittels VC-Dimension legt nahe, dass der Kandidaten-Gruppenraum von FAREG eine Obermenge des früherer adaptiver Methoden (wie AFCP) ist und somit eine stärkere Aussagekraft bietet.
Effizienz: Die Methode behält eine Zeitkomplexität bei, die mit der Standard-konformen Vorhersage vergleichbar ist ( $O(N+M)$ ) und übertrifft die Komplexität $O(N \log N + NM)$ der state-of-the-art AFCP-Methode erheblich.

4. Experimentelle Ergebnisse

Die Autoren evaluierten FAREG sowohl auf synthetischen als auch auf realen Datensätzen (Nursery, ACSIncome).

Synthetische Daten (Szenario der Diagnose psychischer Erkrankungen):
- Abdeckung: FAREG war die einzige Methode, die konsistent eine gültige bedingte Abdeckung ( $\geq 0.9$ ) auf der Zieluntergruppe erreichte, die durch eine Exklusiv-NOR (XNOR)-Beziehung zwischen Merkmalen definiert war, während Baselines (Marginal, Partial, AFCP1, AFCP2) diese Abdeckung nicht aufrechterhalten konnten oder deutlich größere Stichprobengrößen benötigten.
- Effizienz: FAREG behielt wettbewerbsfähige durchschnittliche Vorhersagemengengrößen bei und vermied die übermäßigen Mengengrößen, die bei AFCP2 beobachtet wurden, als dieser versuchte, die Zielgruppe abzudecken.
- Merkmalsauswahl: FAREG identifizierte die relevanten nicht-linearen Merkmalskombinationen (X[0] und X[1]) mit höherer Frequenz als Baselines, wenn die Stichprobengröße zunahm.
- Laufzeit: FAREG wies deutlich geringere Zeitkosten im Vergleich zu AFCP auf, wobei die Trainingszeit linear mit der Stichprobengröße skalierte.
Reale Daten (Nursery und ACSIncome):
- Auf dem Nursery-Datensatz übertraf FAREG alle Baselines konsistent in den Metriken Gruppenabdeckung und WSC+, während gleichzeitig eine gültige marginale Abdeckung erhalten blieb.
- Auf dem ACSIncome-Datensatz erreichte FAREG eine gültige bedingte Abdeckung (0.9) und eine wettbewerbsfähige Effizienz im Vergleich zu AFCP2.
Metrikvalidierung: Experimente bestätigten, dass WSC+ Gruppen mit schlechterer Abdeckung identifiziert als die lineare WSC-Metrik, was ihren Nutzen bei der Erkennung nicht-linearer Verzerrungen validiert.

5. Bedeutung und Behauptungen

Die Arbeit behauptet, dass FAREG einen praktischen Weg hin zu vertrauenswürdigen maschinellen Lernverfahren bietet, indem es den Zielkonflikt zwischen der Effizienz konformer Vorhersage (kleine Mengengrößen) und den Anforderungen algorithmischer Fairness (ausgeglichene Abdeckung) ausbalanciert.

Aussagekraft: Durch das Lernen latenter Repräsentationen erfasst FAREG komplexe algorithmische Verzerrungen, die lineare Methoden oder Ansätze mit einzelnen Merkmalen übersehen.
Interpretierbarkeit: Trotz der Verwendung latenter Repräsentationen ermöglicht die Encoder-Decoder-Struktur die Rekonstruktion von Eingangsmerkmalen, was das „Black-Box"-Problem mildert und zeigt, dass die gelernten Gruppen bedeutungsvolle Merkmalsinteraktionen (z. B. XNOR-Beziehungen) widerspiegeln.
Robustheit: Das Framework bietet einen flexiblen Ansatz, der an verschiedene Fairness-Begriffe angepasst werden kann, ohne vordefinierte Gruppenstrukturen zu erfordern.

Die Autoren räumen eine Einschränkung ein: Die erhöhte Aussagekraft repräsentationsbasierter Gruppen kann die direkte Interpretierbarkeit von Gruppen, die auf manifesten Merkmalen definiert sind, teilweise opfern, obwohl sie argumentieren, dass die Rekonstruktionsfähigkeit dies kompensiert. Die Arbeit positioniert sich als Fortschritt gegenüber bestehenden adaptiven fairen konformen Methoden, indem sie die Lücke in der Aussagekraft bei der Gruppenidentifizierung schließt.