🤖 machine learning

Assessing Predictive Models for Fairness Based on Movement Patterns

Dit artikel stelt een nieuw kader voor voor het beoordelen van de eerlijkheid van voorspellende modellen door traditionele concepten van ruimtelijke eerlijkheid uit te breiden om individuele bewegingspatronen over meerdere geografische regio's te incorporeren, waarbij ruimtelijke scanstatistieken worden gebruikt om bewegingsgebaseerde vertekeningen effectief te detecteren en te lokaliseren.

Oorspronkelijke auteurs: Francesco Lettich, Mario A. Nascimento, Chiara Pugliese, Chiara Renso

Gepubliceerd 2026-05-25

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Francesco Lettich, Mario A. Nascimento, Chiara Pugliese, Chiara Renso

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een detective bent die probeert uit te vinden of een wervingmanager (of een kredietverlener, of een politie-algoritme) onrechtvaardig handelt.

De Oude Manier: De "Woonadres"-Controle
Traditioneel kijken mensen bij het controleren op "ruimtelijke rechtvaardigheid" naar waar iemand woont. Ze vragen: "Behandelt dit algoritme mensen uit Wijk A slechter dan mensen uit Wijk B?"

Het is als het controleren van een gastenlijst op een feestje. Als de gastheer alleen mensen uit één specifieke straat uitnodigt en iedereen anders negeert, is dat onrechtvaardig. Maar deze methode gaat ervan uit dat iedereen op één plek blijft, als een standbeeld dat aan hun voortrap is gelijmd.

Het Nieuwe Probleem: De "Pendelaar"-Realiteit
De auteurs van dit artikel wijzen erop dat echte mensen geen standbeelden zijn. We bewegen. We gaan naar werk, we stoppen bij de supermarkt, we bezoeken de sportschool en we pendelen door verschillende wijken.

Stel je een persoon voor die in een rijke wijk woont, maar elke dag door een armere wijk rijdt om naar werk te gaan, waarbij ze stoppen bij een specifiek tankstation en een klein diner.

De Oude Methode zou kunnen zeggen: "Deze persoon woont in een rijke wijk, dus het is in orde."
De Realiteit is: Het algoritme kijkt misschien naar hun dagelijkse route en de specifieke stops die ze maken. Als het algoritme dat specifieke tankstation en diner ziet, kan het deze persoon onterecht labelen als "laag inkomen" of "hoog risico", zelfs al wonen ze in een rijke wijk.

Het artikel stelt dat we rechtvaardigheid moeten controleren op basis van bewegingspatronen, niet slechts op basis van één adres. We moeten vragen: "Behandelt het algoritme mensen onrechtvaardig vanwege de specifieke combinatie van plaatsen die ze bezoeken?"

De Oplossing: De "Meerlagige Kaart"-Detective
Om dit op te lossen, hebben de auteurs een nieuw hulpmiddel ontwikkeld. Hier is hoe het werkt, met behulp van een eenvoudige analogie:

De Stop-en-Ga Filter: Eerst kijkt het hulpmiddel naar de bewegingsgeschiedenis van een persoon (zoals een GPS-logboek) en negeert het de tijden dat ze gewoon snel rijden. Het geeft alleen om de plaatsen waar ze daadwerkelijk stoppen en een tijdje blijven (zoals thuis, werk of de sportschool).
Het Multi-Grid Net: Dit is het slimme deel. Stel je voor dat je probeert een verloren muntje in een park te vinden.
- Als je kijkt met een vergrootglas (een zeer fijn rooster), zie je elk grasplukje, maar is het moeilijk om het grote plaatje te zien.
- Als je kijkt met kijkers (een grof rooster), zie je het hele park, maar mis je misschien het muntje dat in de struiken verstopt zit.
- Het hulpmiddel van de auteurs werpt veel netten van verschillende maten tegelijk over de kaart. Sommige netten hebben kleine gaatjes (fijne details) en sommige hebben enorme gaatjes (het grote plaatje). Dit zorgt ervoor dat ze onrechtvaardigheid niet missen alleen omdat het "onrechtvaardige gebied" niet perfect in één specifieke kaartgrootte past.
De Patroonmatch: Het hulpmiddel groepeert mensen op basis van de top 8 plaatsen die ze het vaakst bezoeken. Vervolgens vraagt het: "Is er een specifieke groep mensen die precies deze set plaatsen bezoekt, en behandelt het algoritme hen allemaal anders dan iedereen anders?"
Het Statistische Alarm: Als het een groep vindt die anders wordt behandeld, geeft het een alarm. Het zegt niet alleen "Onrechtvaardigheid bestaat"; het probeert te pinpointen waar op de kaart deze onrechtvaardige patronen plaatsvinden.

Wat Ze Vonden (Het Experiment)
De auteurs konden dit niet testen op echte mensen omdat ze de "waarheid" niet kenden (ze wisten niet zeker of het algoritme daadwerkelijk bevooroordeeld was). Dus creëerden ze een videospelwereld (een simulator) met 100.000 nepmensen die in Atlanta wonen.

Ze programmeerden de "wervingmanager" om in het geheim onrechtvaardig te zijn tegen specifieke groepen mensen die bepaalde combinaties van plaatsen bezochten. Vervolgens draaiden ze hun nieuwe hulpmiddel om te zien of het de bedrieger kon opsporen.

Werkte het? Ja. Het hulpmiddel was zeer goed in het afgeven van een alarm wanneer onrechtvaardigheid aanwezig was.
Vond het de juiste mensen? Ja, het identificeerde succesvol de nepmensen die onrechtvaardig werden behandeld.
Vond het de exacte locatie? Dit was lastig.
- Grove kaarten (grote roosters) waren geweldig in het vinden dat onrechtvaardigheid bestond en het vinden van de mensen die betrokken waren.
- Fijne kaarten (kleine roosters) waren beter in het tekenen van de exacte grenzen van waar de onrechtvaardigheid plaatsvond.
- De Strategie: De auteurs suggereren een "inzoomen"-aanpak. Gebruik eerst de grote netten om het algemene probleemgebied te vinden. Schakel dan over op de kleine netten om precies te bepalen waar het probleem ligt.

De Conclusie
Dit artikel introduceert een nieuwe manier om te controleren of algoritmes mensen discrimineren op basis van hoe ze door de wereld bewegen, en niet alleen waar ze slapen. Het gebruikt een "multi-resolutie"-strategie (het bekijken van de kaart door verschillende lenzen) om ervoor te zorgen dat geen enkel onrechtvaardig patroon door de mazen van het net glipt, of de onrechtvaardigheid nu een klein, specifiek punt is of een groot, uitgestrekt gebied.

Technische Samenvatting: Beoordeling van Predictieve Modellen op Rechtvaardigheid Gebaseerd op Bewegingspatronen

Probleemdefinitie
De huidige literatuur over ruimtelijke rechtvaardigheid in machine learning werkt met een fundamentele aanname: elke persoon is gekoppeld aan één enkele, vaste geografische locatie (bijvoorbeeld de woonplaats). Dit artikel betoogt dat deze aanname ontoereikend is voor realistische scenario's waarin personen complexe bewegingspatronen vertonen. Een predictief model kan personen onrechtvaardig behandelen, niet op basis van waar ze wonen, maar op basis van hun trajecten—specifiek de frequentie, duur en combinatie van de gebieden die ze bezoeken.

De auteurs definiëren drie dimensies van bewegingspatronen die bestaande beoordelingen van ruimtelijke rechtvaardigheid niet kunnen vastleggen:

Meerdere locaties: Personen bevinden zich op verschillende tijdstippen in verschillende gebieden.
Frequentie van bezoeken: Het aantal keren dat een persoon specifieke gebieden bezoekt, is van belang.
Duur van bezoeken: De tijdsduur die in een gebied wordt doorgebracht, is een relevante factor.

Het kernprobleem dat wordt aangepakt, is de beoordeling van predictieve modellen op rechtvaardigheid met betrekking tot deze bewegingspatronen. In tegenstelling tot traditionele ruimtelijke rechtvaardigheid, waarbij een "hotspot" van onrechtvaardigheid één aaneengesloten gebied is, kan onrechtvaardigheid gebaseerd op bewegingspatronen zich manifesteren als een set niet-aaneengesloten gebieden die een persoon in een specifieke combinatie bezoekt.

Methodologie
De voorgestelde aanpak generaliseert de beoordeling van ruimtelijke rechtvaardigheid om bewegingsgegevens te verwerken via een vijfstapsproces:

Trajectsegmentatie: Trajecten worden opgesplitst in "stop"- en "beweging"-segmenten met behulp van een stop-en-beweging-criterium. De aanpak richt zich op stopsegmenten, die betekenisvolle verblijven (bijvoorbeeld thuis, werk, winkelen) vertegenwoordigen in plaats van vluchtige bewegingen.
Superponeren van geografische zoneringen: Om het Modifiable Areal Unit Problem (MAUP) te mitigeren, legt de methode meerdere geografische zoneringen (ruimtelijke partities) met variërende resoluties en uitlijningen over het gebied van belang.
Object-naar-cel mapping: Voor elke zonering worden bewegende objecten gemapt naar een subset van cellen. Er worden stopcentroïden binnen cellen geïdentificeerd en gerangschikt op basis van het aantal distincte dagen dat een cel werd bezocht. De top- $i$ cellen (bijvoorbeeld $i=8$ ) worden geselecteerd om een "cellset" te vormen die het relevante bewegingspatroon van de persoon vertegenwoordigt.
Bepalen van subsets voor beoordeling: De methode identificeert alle subsets van cellen die voorkomen in ten minste één persoon's cellset. Dit wordt geformuleerd als een Frequent Itemset Mining (FIM)-probleem, waarbij cellsets transacties zijn en cellen items. Dit genereert een kandidaatset van celcombinaties ( $CANDIDATES_{GZ}$ ) om te testen op onrechtvaardigheid.
Hypothesetoetsing: Een ruimtelijke scanstatistiek (specifiek de op Bernoulli gebaseerde statistiek voor binaire classifiers in de experimenten) wordt toegepast op de kandidaat-subsets. De nulhypothese ( $H_0$ ) gaat ervan uit dat het model rechtvaardig is (de globale verdeling van voorspellingen is uniform). Het alternatief ( $H_1$ ) stelt dat een subset van objecten die geassocieerd zijn met een specifieke celcombinatie, een significant verschillende verdeling van voorspellingen heeft. De toets gebruikt de Maximum Likelihood Ratio (MLR) en Monte Carlo-simulaties om statistische significantie te bepalen.

Belangrijkste Bijdragen

Probleemformulering: Het artikel introduceert het nieuwe probleem van het beoordelen van predictieve modellen op rechtvaardigheid gebaseerd op bewegingspatronen, verdergaand dan de aanname van een enkele locatie in ruimtelijke rechtvaardigheid.
Methodologisch Kader: Het stelt een uitgebreide aanpak voor die trajectsegmentatie, ruimtelijke zonering met meerdere resoluties, frequent itemset mining voor kandidaatgeneratie en ruimtelijke scanstatistieken voor hypothesetoetsing integreert.
Protocol voor Datageneratie: De auteurs introduceren een protocol voor het genereren van synthetische, onrechtvaardige en auditabele datasets. Dit omvat het injecteren van onrechtvaardigheid door labels te manipuleren voor objecten die geassocieerd zijn met specifieke bewegingspatronen (hotspots bestaande uit meerdere gebieden), waarbij parameters zoals hotspots-vorm, objectaantal en omvang van onrechtvaardigheid worden gevarieerd.
Exploratieve Strategie: Op basis van experimentele bevindingen schetst het artikel een praktische strategie voor beoordelingen in de praktijk: het samenvoegen van kandidaten over alle resoluties om de detectiekracht te maximaliseren, gevolgd door het verfijnen van het zoekproces met behulp van grove resoluties voor het terugvinden van objecten (gevoeligheid) en fijne resoluties voor precieze ruimtelijke lokalisatie (Positive Predictive Value).

Experimentele Resultaten
De aanpak werd geëvalueerd op duizenden synthetische datasets met geïncorporeerde onrechtvaardigheid. De evaluatie richtte zich op drie metrieken:

Statistische Kracht (Detectie): Het vermogen om de aanwezigheid van onrechtvaardigheid te detecteren.
Gevoeligheid: Het vermogen om de set objecten die onrechtvaardig worden behandeld, terug te vinden.
Positive Predictive Value (PPV): De precisie van de ruimtelijke lokalisatie van onrechtvaardigheid.

Belangrijkste bevindingen zijn:

Effectiviteit: De aanpak detecteert effectief onrechtvaardigheid gebaseerd op bewegingspatronen en vindt de getroffen objecten terug.
Trade-off bij Meerdere Resoluties: Er is een consistente trade-off tussen metrieken en rasterresolutie. Grovere resoluties leveren over het algemeen hogere kracht en gevoeligheid op (beter in het detecteren en terugvinden van objecten), maar een lagere PPV (slechtere ruimtelijke lokalisatie). Fijnere resoluties leveren een hogere PPV op (betere lokalisatie), maar kunnen bredere patronen missen.
Samenvoegstrategie: Het samenvoegen van extreme kandidaten die over alle rasterresoluties worden gedetecteerd, maximaliseert de statistische kracht en gevoeligheid, en dient als een robuuste eerste stap voor detectie.
Parametergevoeligheid: De detectieprestaties verbeteren bij een hogere omvang van onrechtvaardigheid en een groter aantal objecten per hotspot. Het verhogen van de complexiteit van hotspots (meer gebieden of meer stops) kan echter de precieze lokalisatie bemoeilijken, hoewel de aanpak effectief blijft in detectie.

Betekenis en Claims
De auteurs claimen dat hun werk het eerste is dat de beoordeling van predictieve modellen op rechtvaardigheid met betrekking tot individuele bewegingspatronen aanpakt. Zij stellen dat bestaande methoden voor ruimtelijke rechtvaardigheid onrechtvaardigheid kunnen missen als de "juiste" enkele locatie niet wordt gekozen, terwijl hun aanpak rekening houdt met het geaggregeerde bewegingsgedrag.

Het artikel bescheiden claimt dat de voorgestelde aanpak effectief is in het detecteren van dit nieuwe type onrechtvaardigheid en het terugvinden van de set objecten die onrechtvaardig worden behandeld. Het benadrukt dat, hoewel de prestaties van de lokalisatie trade-offs vertonen afhankelijk van de ruimtelijke resolutie, de voorgestelde exploratieve strategie een praktische manier biedt om deze trade-offs te navigeren in beoordelingen in de praktijk. De auteurs merken ook op dat hun aanpak generiek is en kan reduceren tot een standaard beoordeling van ruimtelijke rechtvaardigheid (Sacharidis et al., 2023) als personen gekoppeld zijn aan enkele vaste locaties.

Beperkingen en Toekomstig Werk
De auteurs erkennen dat hun huidige implementatie afhankelijk is van uniforme vierkante roosters en associatie op basis van stopsegmenten. Richtingen voor toekomstig onderzoek omvatten het onderzoeken van datagedreven tessellaties (bijvoorbeeld DBSCAN), het verbeteren van de rapportage van kandidaat-subsets voor betere lokalisatie, en het verkennen van alternatieve criteria voor het associëren van objecten met cellen (bijvoorbeeld het overwegen van bewegingsegmenten). Bovendien zou het protocol kunnen worden uitgebreid naar andere predictieve modellen (regressie, multiclass) en meer gevarieerde kenmerken van bewegingsgegevens.

Meer zoals dit