🤖 machine learning

Fair Conformal Classification via Learning Representation-Based Groups

Dit artikel stelt een eerlijk conform classificatiekader voor dat gegarandeerde conditionele dekking biedt op adaptief geïdentificeerde subgroepen via niet-lineaire kenmerkcombinaties, waarmee algoritmische bias effectief wordt aangepakt om betrouwbare en informatieve voorspellingssets te genereren.

Oorspronkelijke auteurs: Senrong Xu, Yanke Zhou, Yuhao Tan, Zenan Li, Yuan Yao, Taolue Chen, Feng Xu, Xiaoxing Ma

Gepubliceerd 2026-05-13

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Senrong Xu, Yanke Zhou, Yuhao Tan, Zenan Li, Yuan Yao, Taolue Chen, Feng Xu, Xiaoxing Ma

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een zeer slimme AI-arts hebt. Gemiddeld is deze uitstekend in het diagnosticeren van patiënten, maar als je goed kijkt, maakt hij soms zelfverzekerde, verkeerde gokken voor specifieke soorten mensen—zoals jonge vrouwen uit een bepaalde regio of oudere mannen met een specifiek beroepsverleden. Dit is "algoritmische bias".

Stel je nu voor dat je een veiligheidsnet voor deze arts wilt toevoegen. Je wilt dat de AI zegt: "Ik ben niet 100% zeker, dus hier is een lijst met mogelijke diagnoses," in plaats van er gewoon één te kiezen. Dit heet Conformal Prediction. Het is als een weersvoorspelling die zegt: "Er is 90% kans op regen," met de garantie dat als je 100 dagen controleert, het er daadwerkelijk 90 dagen daadwerkelijk regent.

Het probleem:
Het standaard veiligheidsnet werkt goed voor de "gemiddelde" persoon. Maar als de AI bevooroordeeld is, kan het veiligheidsnet falen voor die specifieke groepen die het niet goed begrijpt. Het kan zeggen: "Ik ben 90% zeker dat het regen is," maar voor de bevooroordeelde groep is het eigenlijk slechts 50% zeker. Het artikel noemt dit een tekortkoming in fairness (eerlijkheid).

De oude oplossing (en waarom die onhandig is):
Eerdere methoden probeerden dit op te lossen door elke mogelijke combinatie van kenmerken te controleren (bijvoorbeeld: "Is het een zwarte vrouw?" "Is het een zwarte man?" "Is het een blanke vrouw?").

De analogie: Stel je voor dat je probeert een specifieke naald in een hooiberg te vinden door elk enkel hooihaartje één voor één te controleren.
De fout: Er zijn te veel combinaties. Bovendien zijn sommige biases lastig. Misschien faalt de AI alleen bij "blanke vrouwen OF zwarte mannen" (een vreemde mix). Oude methoden, die kenmerken één voor één bekijken, kunnen dit complexe patroon niet gemakkelijk opsporen. Ze zijn als een zaklamp die alleen recht vooruit schijnt; ze missen de schaduwen in de hoeken.

De nieuwe oplossing: FAREG (Fair Conformal Prediction for Representation-based Groups)
De auteurs stellen een nieuwe methode voor die FAREG heet. Hier is hoe het werkt, met behulp van eenvoudige metaforen:

1. De "Vertaler" (De Encoder-Decoder)

In plaats van naar de ruwe data te kijken (zoals "Leeftijd: 25, Geslacht: Vrouw"), gebruikt FAREG een Vertaler.

De metafoor: Stel je voor dat de AI probeert een vreemde taal te begrijpen. De ruwe data is de vreemde tekst. De Vertaler (een neurale net) zet deze tekst om in een "geheime code" (een latente representatie) die de essentie van de persoon vastlegt, inclusief complexe relaties tussen kenmerken die een mens misschien over het hoofd ziet.
Waarom dit helpt: Deze geheime code kan gemakkelijk opmerken dat "blanke vrouwen" en "zwarte mannen" een verborgen gelijkenis delen die de AI doet struikelen, ook al zien ze er oppervlakkig heel anders uit. Het is als beseffen dat twee mensen uit verschillende landen een zeldzame dialect spreken, waardoor ze een specifieke groep vormen om op te letten.

2. De "Eerlijkheidsdetective"

Zodra de data in deze geheime code is vertaald, treedt FAREG op als een detective.

De metafoor: De detective kijkt naar de geheime code om de "probleemgebieden" te vinden. Hij vraagt: "Welke groepen mensen krijgen de slechtste veiligheidsnetten?"
De actie: Hij raadt niet zomaar; hij leert. Hij vindt de specifieke groepen waar de AI oneerlijk is en creëert een speciaal, groter veiligheidsnet alleen voor hen. Als de AI wankel is voor een specifieke groep, zegt het systeem: "Oké, voor deze groep geven we een grotere lijst met mogelijkheden om veilig te zijn."

3. De "Veiligheidsnetbouwer"

Tot slot bouwt het systeem de voorspellingsset.

De metafoor: Het is als een kleermaker die een op maat gemaakt pak maakt. Voor de algemene bevolking maakt hij een standaardpak (een kleine lijst met voorspellingen). Maar voor de groepen die de detective als "onrechtvaardig behandeld" heeft bevonden, naait hij extra stof in (een grotere lijst met voorspellingen) om ervoor te zorgen dat ze even goed worden beschermd als iedereen anders.
Het resultaat: Iedereen krijgt een garantie van 90% dat het correct is. De "gemiddelde" persoon krijgt een kleine, efficiënte lijst. De "onrechtvaardig behandelde" groep krijgt een iets grotere lijst, maar ze worden niet meer achtergelaten.

4. De "Nieuwe Liniaal" (WSC+)

Het artikel introduceert ook een nieuwe manier om eerlijkheid te meten, genaamd WSC+.

De metafoor: Oude linialen waren rechte stokken. Ze konden alleen simpele, rechte lijn-bias meten. De nieuwe liniaal (WSC+) is flexibel en buigzaam. Hij kan complexe, gebogen of gedraaide bias meten (zoals het voorbeeld "blanke vrouwen OF zwarte mannen").
Waarom dit belangrijk is: Het bewijst dat de nieuwe methode de verborgen onrechtvaardigheid vindt die de oude rechte linialen misten.

Samenvatting van de resultaten
De auteurs hebben dit getest op nepdata (die mentale gezondheidsdiagnoses simuleerde) en real-world data (zoals sollicitaties voor kleuterscholen).

Het resultaat: FAREG slaagde erin de verborgen, complexe groepen te vinden die onrechtvaardig werden behandeld.
De afweging: Het slaagde erin de eerlijkheid te herstellen zonder de lijsten met voorspellingen zo groot te maken dat ze onbruikbaar worden. Het hield de lijsten "compact" (informatief) terwijl het ervoor zorgde dat iedereen een eerlijke kans kreeg om correct te zijn.

In het kort:
FAREG is een slim systeem dat complexe menselijke data vertaalt naar een geheime code om verborgen groepen mensen te vinden die onrechtvaardig worden behandeld door AI. Het past vervolgens het veiligheidsnet van de AI aan voor die specifieke groepen, zodat de AI betrouwbaar is voor iedereen, niet alleen voor de gemiddelde persoon.

Technische Samenvatting: Eerlijke Conformale Classificatie via het Leren van Op Representatie Gebaseerde Groepen

1. Probleemstelling

Conformale Voorspelling (CP) biedt statistisch strikte marginale dekkinggaranties voor machine learning-modellen, waarbij wordt gegarandeerd dat het ware label binnen een voorspelde set valt met een door de gebruiker gespecificeerde waarschijnlijkheid (bijvoorbeeld $1-\alpha$ ). Echter, standaard CP-methoden garanderen dekking slechts gemiddeld over de gehele populatie. Deze marginale garantie houdt geen rekening met algoritmische vooroordelen, waarbij specifieke subgroepen (gedefinieerd door gevoelige kenmerken zoals ras of geslacht) onevenredig slechte dekking kunnen ondervinden.

Hoewel methoden voor "gelijkwaardige dekking" proberen geldige dekking over vooraf gedefinieerde groepen te waarborgen, staan ze voor aanzienlijke beperkingen:

Uitdrukkingskracht: Bestaande methoden (bijvoorbeeld Romano et al., 2020a) definiëren groepen doorgaans op basis van enkele kenmerken. Ze hebben moeite om complexe, niet-lineaire interacties tussen kenmerken te vangen (bijvoorbeeld de subgroep gedefinieerd door "Wit Vrouw OF Zwart Man" in een Exclusieve OF-relatie).
Schaalbaarheid en Efficiëntie: Het exhaustief doorzoeken van alle plausibele subgroepen is computationeel onuitvoerbaar. Eerdere adaptieve benaderingen (bijvoorbeeld Zhou & Sesia, 2024) vertrouwen op een greedige selectie van discrete kenmerken of Naïve Bayes-aannames, wat hun vermogen beperkt om om te gaan met continue kenmerken en niet-lineaire groepsdefinities.

De kernuitdaging is het ontwikkelen van een conformaal inferentiekader dat oneerlijk behandelde subgroepen, gedefinieerd door complexe, niet-lineaire kenmercombinaties, adaptief identificeert, terwijl computationele efficiëntie wordt behouden en compacte, informatieve voorspellingsets worden gegenereerd.

2. Methodologie: FAREG

De auteurs stellen FAREG (Fair Conformal Prediction for Representation-based Groups) voor, een leer-gebaseerd kader dat oneerlijkheid beïnvloede groepen adaptief identificeert en voorspellingsets aanpast om adaptieve gelijkwaardige dekking te bereiken.

2.1 Het Leren van Op Representatie Gebaseerde Groepen

In plaats van groepen direct uit ruwe invoerkenmerken $X$ te extraheren, codeert FAREG $X$ in een latente representatie $Z$ via een mapping $Z = f(X)$ . De methode maakt gebruik van een Deep Variational Information Bottleneck (Deep VIB)-architectuur om een groepslidmaatschapsindicator $S$ te leren (waarbij $S=1$ lidmaatschap aangeeft van een oneerlijk behandelde groep $\hat{G}$ ) op basis van $Z$ .

Het optimalisatiedoel maximaliseert de wederzijdse informatie tussen de latente representatie $Z$ en zowel de groepslidmaatschapsindicator $S$ als de invoer $X$ , terwijl de wederzijdse informatie tussen $Z$ en individuele steekproefidentiteiten $i$ wordt geminimaliseerd om privacy en generalisatie te waarborgen. De verliesfunctie wordt geformuleerd als:
$\mathcal{L} = \mathcal{L}_{CC} + \mathcal{L}_{MSE} - \beta \mathcal{L}_{KL}$
Waarbij:

$\mathcal{L}_{CC}$ : Empirische conditionele dekkingverlies, geminimaliseerd om groepen met slechte dekking te identificeren.
$\mathcal{L}_{MSE}$ : Reconstructieverlies (Mean Squared Error) dat ervoor zorgt dat $Z$ voldoende informatie behoudt om $X$ te reconstrueren, waardoor interpreteerbaarheid wordt behouden.
$\mathcal{L}_{KL}$ : Kullback-Leibler-divergenteterm die $Z$ comprimeert tot een standaardnormale verdeling.

De groepsselectie is beperkt door een minimale groepsgrootteverhouding $\delta$ . De auteurs maken gebruik van Projected Gradient Descent (PGD) om de decoderparameters te optimaliseren, waarbij de voorspelde groepslidmaatschapskansen worden geprojecteerd op de haalbare verzameling om aan de groottebeperking te voldoen.

2.2 Het Construeren van Adaptieve Voorspellingsets

Zodra de oneerlijke groepen zijn geïdentificeerd, construeert FAREG de definitieve voorspellingset $C(X_{N+1})$ voor een testinstantie:

Een standaard conformale voorspellingset $C_m(X_{N+1}, D)$ wordt geconstrueerd met behulp van de volledige kalibratieset.
Het model steekt $T$ vectoren $s_t$ uit de geleerde gezamenlijke Bernoulli-verdeling, waarbij elk een specifieke groep $\hat{G}_{s_t}$ definieert.
Afzonderlijke conformale sets worden geconstrueerd voor elke gestichte groep.
De definitieve voorspellingset is de vereniging van de standaardset en alle groepspecifieke sets:
$C(X_{N+1}) = C_m(X_{N+1}, D) \cup \bigcup_{t=1}^{T} C_m(X_{N+1}, \hat{G}_{s_t})$

2.3 Verbeterde Evaluatiemetric: WSC+

Om de effectiviteit van het identificeren van niet-lineaire oneerlijke groepen te evalueren, introduceren de auteurs WSC+, een niet-lineaire extensie van de Weighted Slab Coverage (WSC)-metric. Waar traditionele WSC dekking evalueert over lineaire platen ( $a \leq v^T X \leq b$ ), evalueert WSC+ dekking over willekeurige niet-lineaire functies $\pi(X)$ (specifiek kwadratische functies in de experimenten). Dit staat een nauwkeurigere beoordeling toe of de conformale procedure groepen dekt die zijn gedefinieerd door complexe kenmerinteracties.

3. Belangrijkste Bijdragen

FAREG-kader: Een nieuwe conformale voorspellingsmethode die een encoder-decoder-architectuur gebruikt om adaptief subgroepen met slechte dekking te identificeren, gedefinieerd door niet-lineaire kenmercombinaties, waarmee de beperkingen van lineaire of enkelvoudige kenmer-groepsdefinities worden overwonnen.
WSC+-metric: Een nieuwe niet-lineaire conditionele dekkingmetric die is ontworpen om de prestaties van conformale procedures op complexe, oneerlijk behandelde subgroepen beter te vangen en te evalueren.
Theoretische Garanties: Het artikel bewijst dat FAREG adaptieve gelijkwaardige dekking (Vergelijking 1) bereikt over de geselecteerde groepenverzameling, mits de data uitwisselbaar is. Theoretische analyse via VC-dimensie suggereert dat de kandidaat-groepenruimte van FAREG een superverzameling is van die van eerdere adaptieve methoden (zoals AFCP), wat sterkere uitdrukkingskracht biedt.
Efficiëntie: De methode behoudt een tijdscomplexiteit die vergelijkbaar is met standaard conformale voorspelling ( $O(N+M)$ ), en presteert aanzienlijk beter dan de $O(N \log N + NM)$ complexiteit van de state-of-the-art AFCP-methode.

4. Experimentele Resultaten

De auteurs evalueerden FAREG op zowel synthetische als real-world datasets (Nursery, ACSIncome).

Synthetische Data (Scenario Mentale Gezondheidsdiagnose):
- Dekking: FAREG was de enige methode die consistent geldige conditionele dekking (≥0,9) bereikte op de doelsubgroep gedefinieerd door een Exclusieve NOR (XNOR)-relatie tussen kenmerken, terwijl baselines (Marginaal, Gedeeltelijk, AFCP1, AFCP2) faalden om deze dekking te handhaven of aanzienlijk grotere steekproefgroottes vereisten.
- Efficiëntie: FAREG behield concurrerende gemiddelde voorspellingsetgroottes en vermijdt de excessieve setgroottes die bij AFCP2 werden waargenomen wanneer deze probeerde de doelgroep te dekken.
- Kenmerselectie: FAREG slaagde erin de relevante niet-lineaire kenmercombinaties (X[0] en X[1]) met hogere frequentie te identificeren dan baselines naarmate de steekproefgrootte toenam.
- Uitvoeringstijd: FAREG vertoonde aanzienlijk lagere tijdkosten in vergelijking met AFCP, waarbij de trainingstijd lineair schaalt met de steekproefgrootte.
Real-world Data (Nursery en ACSIncome):
- Op de Nursery-dataset presteerde FAREG consistent beter dan alle baselines in Groepsdekking en WSC+-metrics, terwijl geldige marginale dekking werd behouden.
- Op de ACSIncome-dataset bereikte FAREG geldige conditionele dekking (0,9) en concurrerende efficiëntie in vergelijking met AFCP2.
Metricvalidatie: Experimenten bevestigden dat WSC+ groepen met slechtere dekking identificeert dan de lineaire WSC-metric, wat de bruikbaarheid ervan valideert bij het detecteren van niet-lineaire vooroordelen.

5. Betekenis en Claims

Het artikel claimt dat FAREG een praktische weg biedt naar betrouwbaar machine learning door de afweging te balanceren tussen de efficiëntie van conformale voorspelling (kleine setgroottes) en de eisen van algoritmische eerlijkheid (gelijkwaardige dekking).

Uitdrukkingskracht: Door latente representaties te leren, vangt FAREG complexe algoritmische vooroordelen die lineaire methoden of benaderingen met enkele kenmerken missen.
Interpreteerbaarheid: Ondanks het gebruik van latente representaties, maakt de encoder-decoder-structuur reconstructie van invoerkenmerken mogelijk, wat de "black box"-bezorgdheid mitigeert en aantoont dat de geleerde groepen betekenisvolle kenmerinteracties weerspiegelen (bijvoorbeeld XNOR-relaties).
Robuustheid: Het kader biedt een flexibele aanpak die kan worden aangepast aan verschillende eerlijkheidsconcepten zonder vooraf gedefinieerde groepsstructuren.

De auteurs erkennen een beperking: de verhoogde uitdrukkingskracht van op representatie gebaseerde groepen kan de directe interpreteerbaarheid van groepen die zijn gedefinieerd op manifeste kenmerken gedeeltelijk opofferen, hoewel zij betogen dat de reconstructiecapaciteit dit compenseert. Het werk positioneert zich als een vooruitgang ten opzichte van bestaande adaptieve eerlijke conformale methoden door de kloof in uitdrukkingskracht bij groepsidentificatie aan te pakken.