Mapping the City Through the Lens of Language Models
Dit artikel volgt empirisch hoe taalmodellen impliciet een "gewone" stad veronderstellen door geanonimiseerde stedelijke profielen te beoordelen op basis van 40 indicatoren, waarbij een gedeelde bias wordt onthuld naar grotere, sneller groeiende en meer infrastructuurdichte stedelijke vormen waar typiciteit en wenselijkheid vaak samenvallen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een gigantische, onzichtbare bibliotheek binnenloopt waar de boeken zijn geschreven door een superintelligente robot die bijna alles op het internet heeft gelezen. Deze robot is een "taalmodel", een type AI dat voorspelt welke woorden als volgende komen in een zin. Maar hier komt de lastige kwestie bij: soms stellen mensen vage vragen zoals: "Vertel me over een stad." De robot weet niet welke stad je bedoelt. Is het een klein dorpje in de bergen? Een uitgestrekte metropool in de woestijn? Een historische Europese stad? Om te kunnen antwoorden, moet de robot een gok wagen. Hij haalt een "standaardstad" uit zijn digitale hoed. De grote vraag is: hoe ziet die standaardstad er eigenlijk uit? Denkt de robot aan een stad die op New York lijkt, of misschien aan een generieke cartoonstad? Dit is belangrijk, want als de "gemiddelde" stad van de robot fout is, kan hij slecht advies geven aan architecten, planners, of iedereen die probeert te begrijpen hoe onze wereld werkt. Het is alsof een chef-kok die nog nooit een echte pizza heeft geproefd, besluit dat de "perfecte pizza" slechts een bord met kaas en brood is, waarbij de saus en de korst worden genegeerd.
Dit artikel is als een detectiveverhaal waarin de auteurs proberen te achterhalen hoe die "standaardstad" er precies uitziet in de hersenen van de robot, zonder ooit een echte plaats te benoemen. Ze vroegen de robot niet: "Wat is een typische stad?", want dat zou slechts een rommelig, poëtisch antwoord opleveren vol met de favoriete woorden van de robot. In plaats daarvan speelden ze een slim spel. Ze namen echte gegevens van duizenden werkelijke steden over de hele wereld — zaken zoals hoe groot ze zijn, hoeveel mensen er wonen, hoeveel wegen ze hebben en hoe groen ze zijn — maar ze verwijderden alle namen en locaties uit de gegevens. Ze veranderden deze echte steden in anonieme "profielen", zoals identiteitskaarten met nummers maar zonder namen. Vervolgens lieten ze deze identiteitskaarten zien aan tien verschillende versies van taalmodellen en vroegen ze: "Op een schaal van 1 tot 7, in hoeverre lijkt dit volgens jou op een 'stad'?"
De resultaten waren fascinerend. De robots kozen geen willekeurige stad. Ze beoordeelden consequent bepaalde soorten steden als de "meest typische". De "Standaardstad" in de geest van de robot is verrassend specifiek. Het is een plek met veel mensen (ongeveer 0,5 miljoen), een enorm bebouwd oppervlak (rond de 21 vierkante kilometer) en veel geasfalteerde wegen en infrastructuur. Het is geen rustige, dunbevolkte stad; het is een bruisende, dichtbevolkte en groeiende plek. Sterker nog, de robot denkt dat een "typische" stad veel groter en meer ontwikkeld is dan de gemiddelde stad op aarde. De meeste echte steden die aan deze beschrijving voldoen, bevinden zich in Europa en Noord-Amerika, terwijl veel steden in Afrika en delen van Azië door de robots als "minder typisch" werden beoordeeld, simpelweg omdat ze kleiner zijn of op andere manieren groeien.
De auteurs ontdekten ook dat het idee van de robots over een "typische" stad nauw verbonden is met wat zij een "wenselijke" stad vinden. Als een stad lijkt op de ideale versie van de robot, vindt de robot het ook een prettige plek om te wonen. Dit suggereert dat de robot niet alleen beschrijft wat er bestaat, maar ook wat hij wil dat er bestaat. De studie is echter voorzichtig om te benadrukken dat dit geen perfecte kaart van de werkelijkheid is. De robots zijn bevooroordeeld naar grote, moderne, ontwikkelde plaatsen, omdat ze die het vaakst hebben gezien in hun trainingsgegevens. Wanneer de onderzoekers corrigeerden voor de grootte en het ontwikkelingsniveau van de steden, krompen de regionale verschillen, maar de kern bleef hetzelfde: de "gemiddelde stad" van de robot is een grote, snelgroeiende, goed verbonden stedelijke kern.
Uiteindelijk laat het artikel ons zien dat wanneer we een AI naar "een stad" vragen, we niet een neutriek feit krijgen. We krijgen een reflectie van de eigen vooroordelen en ervaringen van de robot. De "Standaardstad" is een spiegel die ons laat zien dat deze krachtige instrumenten de neiging hebben om de wereld te zien als een verzameling van grote, moderne, ontwikkelde knooppunten, waarbij ze de diverse, kleinere of anders groeiende steden die de rest van onze planeet vormen, vaak over het hoofd zien. Het is een herinnering aan het feit dat zelfs in het digitale tijdperk onze hulpmiddelen een perspectief hebben, en dat het aan ons is om ervoor te zorgen dat dat perspectief iedereen omvat.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.