💻 computer science

Large language models create an uneven informational layer over cities

Dit onderzoek onthult dat grote taalmodellen een ongelijkmatige informatielaag over steden creëren door systematisch locaties te fabriceren in digitaal schaarse gebieden en bijna de helft van de werkelijke vestigingen selectief te negeren, waardoor de economische zichtbaarheid en inkomsten worden herverdeeld op manieren die onafhankelijke eetgelegenheden bevoordelen terwijl stedelijke ongelijkheid tussen verschillende wijken en gebruikersdemografieën wordt vergroot.

Oorspronkelijke auteurs: Lin Chen, Guangyuan Weng, Esteban Moro

Gepubliceerd 2026-07-08

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Lin Chen, Guangyuan Weng, Esteban Moro

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een stad voor als een enorme, bruisende marktplaats. Lange tijd moest je, als je ergens wilde eten, vertrouwen op je eigen geheugen, een fysieke kaart of een lijst met recensies die door anderen waren geschreven. Deze hulpmiddelen lieten je alles zien wat bestond, zelfs als sommige plekken onderaan de lijst stonden. Je kon naar beneden scrollen en zowel de verborgen pareltjes als de ketenrestaurants en de lokale favorieten zien.

Stel je nu voor dat er een nieuwe, onzichtbare laag glas over deze marktplaats is geplaatst. Dit glas is gemaakt van Large Language Models (LLM's) — de slimme AI-chatbots die we gebruiken om vragen te stellen zoals: "Waar kan ik in Boston eten?"

Dit paper onderzoekt wat er gebeurt als we naar de stad kijken door deze nieuwe bril. De onderzoekers ontdekten dat dit glas de stad niet alleen aan ons laat zien; het vormt de stad ook actief om, vaak op oneerlijke en ongelijke manieren. Hier is wat zij ontdekten, uitgelegd aan de hand van eenvoudige concepten:

1. De "Spook"-restaurants (Dingen verzinnen)

Soms verzint de AI plaatsen die niet echt bestaan wanneer je de AI naar een restaurant vraagt.

De Analogie: Het is alsoals een gids die, wanneer er naar een kleine, rustige buurt wordt gevraagd, vol vertrouwen wijst naar een chic café dat nooit is gebouwd.
De Bevinding: De AI verzint deze "spook"-restaurants het vaakst in wijken die armer zijn, minder bevolkt zijn of waar minder mensen online aanwezig zijn. Als een buurt niet over een sterke "digitale voetafdruk" beschikt (weinig recensies, weinig mensen die er komen), is de AI eerder geneigd om een fictieve plek te hallucineren.
De Oplossing: Wanneer de onderzoekers de AI dwongen om alleen uit een lijst van echte restaurants te kiezen, verdwenen de neprestaurants. Dit betekent dat de AI gewoon aan het gokken was omdat het niet over de juiste gegevens beschikte, en niet omdat het de bedoeling had om gemeen te zijn.

2. De "Onzichtbare" restaurants (De echte negeren)

Zelfs wanneer de AI wordt gedwongen om te kiezen uit een lijst van echte restaurants, negeert hij nog steeds een groot aantal van hen.

De Analogie: Stel je een menu voor met 100 gerechten voor. De AI raadt slechts 3 of 4 van deze gerechten aan iedereen aan, ongeacht wie er vraagt. De andere 96 gerechten zijn volledig onzichtbaar, alsof ze niet bestaan.
De Bevinding: Ongeveer 47,5% van de echte restaurants werd nooit door de AI aanbevolen, zelfs niet toen de AI wist dat ze daar waren. Dit is niet zomaar een fout; het is een patroon. De AI negeert consequent bepaalde soorten plekken, vooral in specifieke wijken.
De Gedeelde Blinde Vlek: De onderzoekers testten drie verschillende AI-modellen (van verschillende bedrijven). Ze ontdekten dat 31,9% van de genegeerde restaurants voor alle drie de modellen hetzelfde waren. Dit suggereert dat de bias niet slechts een foutje in de code van één bedrijf is, maar een gedeelde gewoonte die is aangeleerd van dezelfde verzameling internetdata.

3. De "Gepersonaliseerde" Lens (Verschillende mensen, verschillende steden)

Het meest verrassende deel is dat de AI een andere stad laat zien aan verschillende mensen, zelfs als ze op precies dezelfde plek staan.

De Analogie: Stel je twee mensen voor die op dezelfde straathoek staan. De een is een rijke toerist, de ander is een lokale bewoner met een lager inkomen.
- De rijke toerist krijgt dure, hippe en verder gelegen plekken te zien die minder druk zijn.
- De lokale bewoner krijgt goedkopere, zeer populaire en dichterbij gelegen plekken te zien.
- Kinderen krijgen mainstream, goedkope plekken te zien.
- Mannen en vrouwen krijgen ook weer iets andere soorten plekken te zien.
De Bevinding: De AI beantwoordt niet alleen de vraag; de AI raadt wie je bent op basis van jouw beschrijving en filtert vervolgens de wereld om te matchen met wat het denkt dat mensen zoals jij gewoon doen. De AI gaat ervan uit dat rijke mensen ver willen reizen voor uniek eten, terwijl locals bij vertrouwde, goedkopere plekken blijven.

4. Het Economische Rimpeleffect (Wie wint en wie verliest)

Als iedereen deze AI-aanbevelingen zou gaan vertrouwen, zou het geld in de stad anders gaan stromen.

De Analogie: Denk aan de economie van de stad als water dat door leidingen stroomt. De AI fungeert als een ventiel dat het water omleidt.
De Bevinding: De AI heeft de neiging om mensen weg te sturen van fastfoodketens (zoals McDonald's) en snelle cafétaria's (quick-service cafes) en richting onafhankelijke, volledige restaurants (zoals lokale eethuisjes waar je aan tafel eet).
- Onafhankelijke restaurants zouden waarschijnlijk meer klanten en geld krijgen.
- Grote ketens zouden een aanzienlijk deel van hun omzet verliezen.
- Fastfoodplekken, die vaak mensen met een beperkt budget bedienen, zouden de grootste verliezers zijn.

Het Grotere Plaatje

Het paper concludeert dat deze AI-modellen fungeren als een selectief filter voor onze steden. Ze laten ons niet alleen zien wat er is; ze beslissen wat zichtbaar is.

Voor plekken: Als een restaurant in een arme buurt staat of weinig online recensies heeft, kan de AI doen alsof het niet bestaat.
Voor mensen: De AI versterkt stereotypen over wie waarheen gaat, wat ervoor kan zorgen dat verschillende groepen mensen in hun eigen "bubbels" van de stad blijven.

De auteurs waarschuwen dat als we te veel op deze tools vertrouwen, we onbedoeld een stad kunnen creëren waar sommige wijken en sommige soorten bedrijven onzichtbaar worden, niet omdat ze slecht zijn, maar omdat de AI besloot ze niet te tonen. Het is een nieuwe vorm van "digitale ongelijkheid" die direct over onze fysieke straten is gelegd.

Technische Samenvatting: Large Language Models Creëren een Ongelijkmatige Informatielaag over Steden

Probleemstelling

Steden worden steeds meer bemiddeld door informatiesystemen die menselijke perceptie en besluitvorming sturen. Hoewel GPS, zoekmachines en beoordelingsplatforms historisch gezien de stedelijke navigatie hebben gevormd, verschijnen Large Language Models (LLM's) als een nieuwe, structureel onderscheidende informatielaag. In tegenstelling tot voorgangers die gerangschikte lijsten bieden waarbij lager gerangschikte opties nog steeds ontdekbaar blijven, genereren LLM's antwoorden waarbij locaties ofwel worden opgenomen, ofwel volledig ontbreken uit de overwegingsset van een gebruiker, zonder dat er een signaal is dat de weglating aangeeft.

Het kernprobleem dat wordt geadresseerd is of deze opkomende laag systematische vooroordelen introduceert in de stedelijke zichtbaarheid. Specifiek onderzoeken de auteurs:

Fabricage: Verzonnen LLM's niet-bestaande locaties?
Onzichtbaarheid: Zien LLM's bestaande locaties systematisch over het hoofd?
Selectiviteit: Variëren deze patronen per buurt (socio-economische gradiënten) en gebruikersdemografie (inkomen, leeftijd, geslacht, verblijfsstatus)?
Economische Gevolgen: Hoe zou een brede afhankelijkheid van LLM-aanbevelingen de consumptievraag en omzet over de stedelijke voedseleconomie herverdelen?

De studie maakt onderscheid tussen twee potentiële faalmodi: epistemisch falen (omissies door ontbrekende data, corrigeerbaar door geverifieerde lijsten te verstrekken) en allocatief falen (omissies door stabiele, selectieve aandachtspatronen geworteld in de training van het model, die aanhouden zelfs met volledige data).

Methodologie

De auteurs voerden een systematische audit uit van restaurantaanbevelingen in 304 wijken in vijf grote Amerikaanse steden: Boston, New York, Chicago, Houston en San Francisco.

Experimenteel Ontwerp

Modellen: Drie representatieve LLM's uit verschillende families werden getest: GPT-4o-mini (OpenAI), Llama-3.3-70b-instruct (Meta) en Gemini-2.0-flash (Google).
Gebruikersprofielen: Een factorieel ontwerp genereerde 320 synthetische gebruikersprofielen per wijk, waarbij vier demografische dimensies werden gekruist:
- Huishoudinkomen (5 niveaus: \ $0–25k tot \$ 200k+)
- Leeftijd (8 niveaus: 0–20 tot 80+)
- Geslacht (2 niveaus: Man, Vrouw)
- Verblijfsstatus (4 niveaus: Lokaal, Naburige wijk, Stad overschrijdend, Toerist)
Instellingen: Twee parallelle experimentele condities werden gehanteerd:
1. Open Einde: Modellen werden gevraagd om 10 restaurants in een specifieke wijk te noemen zonder een vooraf gedefinieerde lijst van kandidaten.
2. Kandidaat-beperkt: Modellen kregen een vaste set van 100 echte locaties voorgelegd en kregen de instructie om er precies 10 te selecteren. Dit isoleerde "selectieve aandacht" van "kennisgaten".

Data-integratie en Metrieken

Grondwaarheid (Ground Truth): Geverifieerde locatiegegevens van SafeGraph en Foursquare.
Metrieken:
- Hallucinatiepercentage: Het deel van de getoonde locaties dat niet kon worden gekoppeld aan bestaande zaken.
- Neighborhood Algorithmic Invisibility Rate (NAIR): Het deel van de echte locaties in een wijk dat nul aanbevelingen ontving over alle gebruikersprofielen heen.
Covariaten: Kenmerken van de wijk werden afgeleid van censusgegevens, mobiele locatiegegevens (Spectus), transactiegegevens (SafeGraph) en beoordelingsmetadata (Yelp).
Economische Simulatie: Een contrafeitelijk scenario werd gemodelleerd waarbij 10% ( $\alpha=0.1$ ) van de eetbeslissingen verschoof van geobserveerde patronen naar door LLM aanbevolen locaties om de herverdeling van omzet te schatten.

Belangrijkste Bijdragen en Resultaten

1. Ongelijkmatige Fabricage en Grondingsfalen

LLM's fabriceren locaties met een gemiddelde snelheid van 36,8%. Dit "grondingsfalen" is niet willekeurig; het correleert met de sociaaleconomische kenmerken van de wijk.

Drivers: Hallucinatiepercentages zijn significant hoger in wijken met een zwakkere digitale en fysieke voetafdruk (minder Yelp-beoordelingen, minder werkelijke bezoeken, lagere bevolkingsdichtheid en lager opleidingsniveau).
Correctie: Wanneer modellen werden beperkt tot een geverifieerde lijst van locaties (Kandidaat-beperkte instelling), daalde het hallucinatiepercentage naar 0,0%, wat bevestigt dat fabricage een epistemisch falen is dat herstelbaar is door gronding met data.

2. Persistente Selectieve Aandacht (Allocatief Falen)

Zelfs wanneer beperkt tot echte locaties, vertonen LLM's ernstige "dekkingstekorten".

Onzichtbaarheid: In de open einde-instelling krijgt 96,8% van de echte locaties in een wijk nooit een aanbeveling. In de kandidaat-beperkte instelling wordt nog steeds 47,5% van de beschikbare echte locaties nooit getoond.
Gedeelde Blinde Vlekken: 31,9% van de over het hoofd geziene locaties wordt gedeeld door alle drie de modelfamilies, wat suggereert dat deze vooroordelen geworteld zijn in gedeelde trainingscorpora in plaats van modelspecifieke fouten.
Drivers van Onzichtbaarheid: In tegen tegenstelling tot fabricage, wordt onzichtbaarheid niet uitsluitend gedreven door datatekortte. Zelfs met vaste locatiespools wordt NAIR voorspeld door het aantal Yelp-beoordelingen (negatieve correlatie) en, verrassend genoeg, positief gecorreleerd met inkomensentropie en bevolkingsdichtheid in beperkte settings. Dit ondersteunt de hypothese van allocatief falen: modellen bezitten stabiele priors over welke locaties de aandacht verdienen, onafhankelijk van de beschikbaarheid van data.

3. Demografische Stratificatie

Binnen hetzelfde locatiebestand sturen LLM's verschillende gebruikersprofielen systematisch naar verschillende soorten locaties:

Inkomen: Gebruikers met een hoger inkomen worden geleid naar locaties die verder weg liggen, minder bezocht worden, duurder zijn en worden bezocht door een sociaaleconomisch homogener (gesegregeerd) publiek.
Leeftijd: Minderjarigen worden geleid naar veelbezochte, goedkopere en minder gesegregeerde locaties, terwijl volwassenen een andere verdeling ervaren.
Verblijfsstatus: Toeristen worden gekanaliseerd naar duurdere maar sociaal diversere zaken, terwijl lokale bewoners worden geleid naar goedkopere, vaker bezochte maar sociaaleconomisch homogene locaties.
Mechanisme: Deze gradiënten suggereren dat LLM's latente stedelijke levensstijlen afleiden uit demografische beschrijvingen alleen, waardoor bestaande levensstijlstratificaties worden versterkt.

4. Economische Herverdeling

Een simulatie van een verschuiving in consumentenvraag onthult een structurele herverdeling van omzet:

Formatverschuiving: Uitgaven stromen weg van fastfood en quick-service formaten naar onafhankelijke, full-service horeca.
Merkverschuiving: Bezoeken stromen voornamelijk van ketenrestaurants (bijv. McDonald's, Starbucks) naar onafhankelijke zaken.
Grootte: Onafhankelijke restaurants winnen naar schatting gemiddeld ~$12.101 per winkel per jaar, terwijl grote ketens zoals McDonald's ~$41.405 per winkel verliezen onder het gesimuleerde scenario.

Betekenis en Claims

Het artikel betoogt dat LLM's fungeren als een selectieve laag van stedelijke informatie die zichtbaarheid over plaatsen en mensen ongelijkmatig verdeelt.

Structurele Ongelijkheid: De informatielaag weerspiegelt de werkelijkheid niet alleen, maar vormt deze actief om door middel van het coderen van selectieve aandacht die sociaaleconomische gradiënten volgt. Dit voegt een "representatieve dimensie" toe aan bestaande structurele en ervaringsgerelateerde ongelijkheden in steden.
Asymmetrie van Falen: De studie benadrukt een kritieke asymmetrie: terwijl fabricage (epistemisch falen) kan worden opgelost door het verstrekken van geverifieerde data, blijft selectieve onzichtbaarheid (allocatief falen) bestaan. Dit impliceert dat het louter verbeteren van de datalevering onvoldoende is; de onderliggende modelgedragingen en trainingsvooroordelen moeten worden aangepakt.
Dynamische Feedbackloops: De auteurs stellen dat deze vooroordelen zelfversterkende feedbackloops kunnen creëren. Locaties die algoritmisch onzichtbaar zijn, genereren minder bezoeken en beoordelingen, wat hun digitale voetafdruk verder verzwakt en hen nog minder waarschijnlijk maakt om in toekomstige trainingscycli te worden aanbevolen.
Governance Implicaties: Naarmate LLM's de primaire tussenpersonen worden voor stedelijke besluitvorming, fungeren ze als een nieuwe vorm van infrastructuur die zichtbaarheid toewijst. De auteurs concluderen dat het begrijpen en besturen van deze laag even cruciaal is als het beheren van traditionele transport- en communicatie-infrastructuren, omdat het bepaalt welke plaatsen en gemeenschappen floreren of onzichtbaar blijven.

De studie blijft bescheiden over de generaliseerbaarheid en merkt op dat de bevindingen gebaseerd zijn op dichte Amerikaanse stedelijke ecosystemen en kunnen verschillen in kleinere steden of niet-Engelse contexten. De convergentie van resultaten over drie verschillende modelfamilies suggereert echter dat deze patronen fundamentele eigenschappen van het huidige LLM-trainingsecosysteem weerspiegelen.