💻 computer science

Collective Recourse for Generative Urban Visualizations

Dit artikel stelt "collectieve rechtsmiddelen" voor, een gestructureerd kader voor gemeenschappen om visuele bugrapporten in te dienen die gerichte correcties in generatieve modellen voor stedelijke visualisatie teweegbrengen, en toont aan dat terwijl aanpassingen op prompt-niveau snelheid bieden, diepere ingrepen zoals datasetbewerkingen en aanpassingen van beloningmodellen duurzamere oplossingen bieden met een hogere adoptie door planners.

Oorspronkelijke auteurs: Rashid Mushkani

Gepubliceerd 2026-05-04

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Rashid Mushkani

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een stadsplanner voor die een high-tech "magische verfkwast" (een AI-afbeeldingsgenerator) gebruikt om burgers te laten zien hoe een nieuw park of een nieuwe straat eruit zou kunnen zien. Het probleem is dat deze magische verfkwast soms fouten maakt. Hij kan per ongeluk bepaalde groepen mensen weglaten, stereotypen tonen of wijken op een manier afbeelden die onrechtvaardig of onveilig aanvoelt.

Dit artikel stelt een nieuw systeem voor dat Collectieve Rechtvaardiging heet. Denk hierbij aan een systeem voor "Visuele Bug-rapportage" voor de stad, maar in plaats van dat één persoon klaagt, werkt de hele gemeenschap samen om de verfkwast te repareren.

Hier is hoe het systeem werkt, opgesplitst in eenvoudige onderdelen:

1. Het Probleem: De Magische Verfkwast Krijgt Vooroordelen

Net zoals een echte verfkwast een gebroken haren kan hebben die altijd een vlek achterlaat, heeft de AI "glitches". Als je hem vraagt een drukke straat te tekenen, kan het zijn dat hij steeds maar één type persoon tekent of belangrijke lokale details mist. Dit zijn niet zomaar kleine fouten; ze kunnen gevoelens kwetsen, stereotypen verspreiden en invloed hebben op hoe mensen stemmen over stadsplannen.

2. De Oplossing: Een Gemeenschappelijke Reparatie-werkplaats

In plaats van te wachten tot het AI-bedrijf het probleem opmerkt, richt de stad een reparatiepijplijn op waar burgers fungeren als het kwaliteitscontrole-team.

Het Rapport: Wanneer een groep mensen een slechte afbeelding ziet, zeggen ze niet zomaar: "Dat is verkeerd." Ze dienen een gestructureerd rapport in. Ze zeggen: "Hier is de afbeelding, hier is wie er mist of verkeerd wordt voorgesteld, en hier is hoeveel van ons dit hebben gezien."
Het Scorebord: Het systeem geeft elk rapport een "Mandaat-score". Het is als een verkeerslicht.
- Ernstigheid: Hoe erg is de fout?
- Volume: Hoeveel mensen hebben het gerapporteerd?
- Representativiteit: Vertegenwoordigt deze groep daadwerkelijk de hele wijk, of is het slechts een luidruchtige minderheid?
- Bewijs: Is er bewijs?
- Als de score hoog genoeg is, moet de stad het herstellen.

3. De Vier Hulpmiddelen om de Verfkwast te Repareren

Het artikel test vier verschillende manieren om de AI te repareren, waarbij ze worden vergeleken met verschillende gereedschappen in een gereedschapskist:

De "Prompt-patch" (Tegen/Negatieve Prompts): Dit is als het toevoegen van een post-it nota aan de instructies van de verfkwast. "Zorg ervoor dat er een rolstoeltoegang is" of "Teken niet alleen mannen."
- Voordelen: Supersnel (gedaan in 2–3 dagen).
- Nadelen: De AI vergeet de nota vaak later, en de fout komt terug (hoge herhaling).
Het "Data-dieet" (Dataset-aanpassingen): Dit is als het leren van de verfkwast door hem nieuwe, betere afbeeldingen te laten zien. Als de AI niet wist hoe een specifieke wijk eruitzag, voeg je die foto's toe aan zijn trainingsbibliotheek.
- Voordelen: Zeer duurzaam. De oplossing blijft werken (lage herhaling).
- Nadelen: Duurt langer (ongeveer 2 weken).
De "Beloningstuner" (Aanpassingen aan het Beloningsmodel): Dit is als het trainen van de verfkwast om zich "goed" te voelen als hij het goed doet en "slecht" als hij het fout doet.
- Voordelen: Ook zeer duurzaam en helpt stadsplanners om de nieuwe regels daadwerkelijk toe te passen.
- Nadelen: Duurt het langst (ongeveer 3 weken).

4. De "Burgerjury"

Om ervoor te zorgen dat de oplossing eerlijk is, laat de stad de computer niet alleen beslissen. Ze gebruiken een Roterende Burgerjury. Stel je een groep gewone buren voor die om de beurt de oplossingen beoordelen. Ze controleren: "Hebben we het probleem daadwerkelijk opgelost? Is de nieuwe afbeelding eerlijk voor iedereen?" Dit voorkomt dat het systeem alleen luistert naar de luidste stemmen en zorgt ervoor dat de oplossing werkt voor de hele gemeenschap.

5. Wat de Tests Toonden

De onderzoekers voerden een simulatie uit met 240 nep-rapporten om te zien hoe dit in het echt zou werken.

Snelheid versus Kwaliteit: Snelle oplossingen (post-it nota's) waren snel, maar de problemen kwamen vaak terug. Langzame oplossingen (het aanpassen van de trainingsdata) duurden langer, maar losten het probleem voorgoed op.
Het Gouden Midden: Ze vonden een "Goudlokje"-score (0,12) voor de Mandaat-score. Als ze de lat te hoog legden, misten ze echte problemen. Als ze de lat te laag legden, werden ze overweldigd door valse alarmen. Op dit niveau vingen ze 75% van de echte problemen met zeer weinig fouten.
Eerlijkheid: Toen ze ervoor zorgden dat de rapporten afkomstig waren van een diverse mix van mensen (niet slechts één luidruchtige groep), vingen ze nog meer problemen op zonder de nauwkeurigheid te verliezen.

Het Grote Plaatje

Dit artikel betoogt dat we AI niet moeten behandelen als een zwarte doos die we niet kunnen aanraken. In plaats daarvan moeten we het behandelen als een instrument voor openbare dienstverlening. Door gemeenschappen een gestructureerde manier te geven om fouten te rapporteren en de stad te dwingen deze op basis van duidelijke regels te herstellen, kunnen we ervoor zorgen dat de "magische verfkwast" een stad tekent waaruit blijkt dat iedereen daar woont, en niet alleen een stereotiep beeld.

Kortom: Het is een systeem waarbij de gemeenschap optreedt als de redacteuren, de stad als de uitgever, en de AI als de schrijver die voortdurend wordt gecorrigeerd totdat het verhaal eerlijk is voor iedereen.

1. Probleemstelling

Text-to-image diffusiemodellen (bijv. Stable Diffusion XL) worden steeds vaker gebruikt in de stedenbouw om straatbeelden, invulopties en ontwerprichtlijnen te visualiseren. Deze modellen lijden echter onder systematische sociale vooroordelen, waaronder demografische stereotypering, geslachtsbias in beroepen en het weglaten van specifieke gemeenschappen.

De Kloof: Huidige algoritmische recourse-kaders richten zich op individuele contrafactuele verklaringen (hoe een enkele gebruiker een uitkomst kan veranderen). Dit is ontoereikend voor generatieve stedelijke beelden, waar schade doorgaans op groepsniveau, terugkerend en structureel is.
De Uitdaging: Er bestaat geen gevestigd mechanisme voor gemeenschappen om collectief visuele bugs te melden, specifieke modelreparaties te activeren en te waarborgen dat die reparaties doorgaan in gemeentelijke planningswerkstromen (bijv. ontwerpgidsen, aanbestedingen).

2. Methodologie

De auteurs stellen een kader voor genaamd Collective Recourse, dat gemeenschapsinput behandelt als gestructureerde "visuele bugrapporten" die een formele mitigatiepijplijn activeren.

A. De Collective Recourse-pijplijn

Het systeem werkt via een vijftraps workflow:

Rapportage: Gemeenschappen indienen gestructureerde rapporten met de prompt, gegenereerde afbeelding, context, schade-type, ernst en bewijs.
Triage: Een intake-team groepeert rapporten per schade-type en context. Ze berekenen een Mandaatscore om te bepalen of een reparatie vereist is.
Reparatie-selectie: Op basis van de triage wordt één van de vier Recourse-Primitieven geselecteerd:
- Counter-prompts: Toevoegen van beschermende, contextbewuste taal.
- Negative prompts: Uitsluiten van ongewenste motieven.
- Dataset-bewerkingen: Cureren/aanvullen van trainingsdata om dekkingstekorten te verhelpen.
- Reward-model-aanpassingen: Updaten van voorkeursmodellen (vergelijkbaar met RLHF) om de generatie te sturen.
Verificatie: Reparaties worden getest tegen een Subgroep Visuele Eval Set (SVES)—een set met sjabloon-prompten die zijn voorzien van stedelijke perceptie-indicatoren—om herhaling te meten.
Afsluiting & Governance: Geverifieerde reparaties worden geregistreerd op publieke dashboards, updaten Model Cards/Datasheets en worden gekoppeld aan planningsartefacten (ontwerpgidsen, RFQ's). Roterende burgerjury's beoordelen afsluitingen om representativiteit te waarborgen en geschillen te beslechten.

B. De Mandaatscore ( $M$ )

Om te beslissen wanneer een rapport een verplichte reparatie activeert, definiëren de auteurs een score die ernst, volume, representativiteit en bewijskwaliteit combineert:
$M(b) = s \cdot (1 - e^{-n/\tau_n}) \cdot r \cdot q$
Waarbij:

$s$ : Ernst ($0-1$)
$n$ : Aantal unieke rapporteurs (Volumedichtheid)
$r$ : Representativiteitsindex (overeenstemming met populatie-marginaal)
$q$ : Bewijskwaliteit
$\tau_n$ : Dichtheidsparameter

Een mitigatie wordt opgelegd wanneer $M(b) \geq \tau_M$ (een drempelwaarde die is afgestemd op de afweging tussen precisie en recall).

C. Evaluatiestrategie

De auteurs voerden een simulatiestudie uit met een synthetisch programma van 240 rapporten over zes subgroepen (Vrouwen, Senioren, LGBTQ+, Nieuwkomers, Afrikaanse diaspora, Buurtorganisaties). Ze hielden toezicht op:

Mitigatielatentie: Tijd van intake tot geverifieerd resultaat.
Herhaling: Kans dat de schade binnen 30 dagen terugkeert.
Beleidsondersteuning: Of planners de reparatie overnamen in officiële documenten.

3. Belangrijkste Bijdragen

Formalisatie van Collective Recourse: Een nieuw kader dat verschuift van individuele naar groepsniveau recourse, en het levenscyclusbeheer van modellen koppelt aan gemeentelijk bestuur.
Typologie van Recourse-Primitieven: Een classificatie van vier reparatietypes (Counter-prompts, Negative prompts, Dataset-bewerkingen, Reward-aanpassingen) met onderscheidende snelheid-duurzaamheidsprofielen.
Mandaatdrempels: Een wiskundige definitie voor het activeren van institutionele actie op basis van collectieve signalen, waarbij urgentie (recall) en nauwkeurigheid (precisie) in evenwicht worden gebracht.
Geïntegreerde Pijplijn: Een praktisch ontwerp dat technische reparaties verbindt met participatieve planningswerkstromen, inclusief burgerjury's en publieke dashboards.

4. Belangrijkste Resultaten (Simulatie)

De simulatie vergeleek de vier recourse-primitieven en testte verschillende mandaatdrempels:

Afweging Snelheid vs. Duurzaamheid:
- Prompt-niveau reparaties (Counter/Negative prompts): Snelst (Mediaan 2,1–3,4 dagen) maar minst duurzaam, met hoge herhalingspercentages (21–38%).
- Structurele reparaties (Dataset-bewerkingen/Reward-aanpassingen): Langzamer (Mediaan 13,5–21,9 dagen) maar aanzienlijk duurzamer, met lagere herhaling (12–18%) en hogere beleidsondersteuning (30–36%).
Drempelgevoeligheid:
- Een drempel van $\tau_M = 0,12$ leverde 93% precisie en 75% recall op.
- Het verhogen van representativiteit ( $r$ ) via roterende jury's verbeterde de recall naar 81% met verwaarloosbaar precisieverlies, wat suggereert dat procedurele innovaties gelijkheid kunnen verbeteren zonder nauwkeurigheid op te offeren.
Subgroepvariatie: Latentie varieerde per subgroep (2,8 tot 4,7 dagen), waarbij Senioren de laagste herhaling toonden (13,9%) en Vrouwen iets hogere latentie ervoeren (4,7 dagen), wat de noodzaak benadrukt van gestratificeerde serviceniveaus.

5. Betekenis en Implicaties

Brug tussen Technische en Burgerlijke Domeinen: Het paper gaat voorbij aan "transparantie als einddoel" (bijv. Model Cards) naar "transparantie als mechanisme voor actie". Het operationaliseert verantwoordingsplicht door modelreparaties direct te koppelen aan planningsartefacten zoals Request for Qualifications (RFQ's) en ontwerprichtlijnen.
Mitigatie van Groepsschade: Door zich te richten op collectieve signalen in plaats van individuele contrafactuelen, adresseert het kader systematische vooroordelen die hele gemeenschappen in stedelijke visualisatie beïnvloeden.
Bestuurlijke Innovatie: Het gebruik van roterende burgerjury's en mandaatdrempels biedt een schaalbare, democratische methode voor het auditeren van AI in de publieke sector, waardoor "overfitting aan vocale groepen" wordt voorkomen terwijl gemarginaliseerde stemmen gehoord worden.
Praktische Routekaart: De studie biedt een concrete "arbeidsverdeling" voor steden: gebruik prompt-niveau reparaties voor directe, tijdelijke verlichting, maar prioriteer dataset- en reward-modelwijzigingen voor langetermijn, structurele correctie.

Concluderend stelt het paper dat voor generatieve AI om veilig en rechtvaardig te zijn in de stedenbouw, een collectieve recourse-infrastructuur vereist is die gemeenschapsklachten omzet in afdwingbare, auditabele en duurzame technische en beleidsveranderingen.