The urban right to AI: Pluralistic co-design and governance of public space
Deze thesis pleit voor een burgerlijk "Recht op AI" en een pluralistisch governancekader voor stedelijke publieke ruimtes, gedemonstreerd door participatief onderzoek in Montréal dat computer vision en generatieve AI gebruikt om betwiste gemeenschapswaarden in kaart te brengen en te behouden, in plaats van deze te middelen tot één enkel objectief.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Steden zijn altijd gebouwd uit twee dingen: de fysieke wereld van straten, stoepen en gebouwen, en de onzichtbare wereld van regels, kaarten en beslissingen die ambtenaren vertellen hoe ze deze moeten beheren. Lange tijd bestond de onzichtbare wereld uit papieren plannen en menselijk oordeel. Vandaag de dag wordt die onzichtbare laag steeds vaker gevormd door computersystemen. Deze systemen bekijken foto's van straten, scoren ze op hoe veilig of uitnodigend ze lijken, en genereren zelfs nieuwe afbeeldingen van hoe een straat eruit zou kunnen zien als deze opnieuw ontworpen zou worden. Wanneer deze systemen worden behandeld als eenvoudige, neutrale instrumenten, blijven de keuzes die ze maken over wat te meten en hoe verschillende behoeften te wegen, verborgen. Ze kunnen prioriteit geven aan wat er goed uitziet voor een standaardcamera, terwijl ze negeren wat een persoon met een beperking of een ouder met een kinderwagen als veilig ervaart. Het resultaat is een stad waar de versie van de computer over wat "goed" is, de enige versie wordt die ertoe doet, wat potentieel de complexe, tegenstrijdige manieren waarop verschillende mensen hun wijken daadwerkelijk ervaren, wegvaagt.
Dit is het probleem dat een nieuwe doctoraalscriptie van de Universiteit van Montreal probeert op te lossen. De onderzoeker, Rashid Ahmad Mushkani, betoogt dat we moeten stoppen met deze computersystemen te behandelen als louter hulpmiddelen en ze moeten gaan behandelen als een vorm van civiele infrastructuur, net zoals de waterleidingen of elektriciteitsnetten die onder onze straten lopen. Als een waterleiding breekt, heeft de stad een proces om dit te repareren. Als een computersysteem een slechte beslissing neemt over welke straat gerepareerd moet worden, heeft de stad een vergelijkbaar proces nodig om dat systeem in twijfel te trekken, te corrigeren en bij te werken. De scriptie stelt een "Recht op AI" voor voor publieke ruimtes, een reeks regels die ervoor zorgt dat mensen inspraak hebben in hoe deze systemen worden gebouwd, dat de systemen aangevochten kunnen worden wanneer ze het fout hebben, en dat de rommelige meningsverschillen tussen verschillende groepen mensen niet worden gladgestreken door een enkele computer score.
Om dit idee te testen, ging de onderzoeker de wijken van Montreal in en vroeg een diverse groep bewoners om naar foto's van lokale straten te kijken. In plaats van hen simpelweg te vragen een straat als "goed" of "slecht" te beoordelen, vroeg de onderzoeker hen uit te leggen wat een straat inclusief, veilig of toegankelijk maakte. De deelnemers bestonden uit langdurige bewoners, nieuwkomers, mensen met een beperking en leden van diverse culturele gemeenschappen. Het doel was om te zien of iedereen het eens was over hoe een "goede" straat eruitzag. De bevindingen waren duidelijk: mensen waren het niet eens. Een straat die de één als levendig en bruisend zag, kon door een ander als chaotisch en onveilig worden ervaren. Een straat die voor een jongvolwassene uitnodigend voelde, kon voor een oudere persoon isolerend aanvoelen. De studie toonde aan dat hoewel mensen vaak het eens konden zijn over eenvoudige, zichtbare zaken zoals of een stoep kapot was, ze moeite hadden om het eens te worden over complexe sociale gevoelens zoals "inclusiviteit". Toen de onderzoeker mensen samenbracht om deze verschillen te bespreken, konden ze enige gemene delers vinden, maar aanzienlijke meningsverschillen bleven bestaan. Deze meningsverschillen waren geen fouten die opgelost moesten worden; het waren echte signalen dat verschillende mensen verschillende behoeften en waarden hebben.
Het onderzoek gebruikte deze menselijke inzichten vervolgens om computermodellen te trainen. In een deel van de studie bouwde de onderzoeker een systeem genaamd "Street Review" dat leerde te voorspellen hoe verschillende groepen mensen een straat zouden beoordelen op basis van hun foto's. Het systeem kon een kaart van de stad genereren die liet zien waar verschillende groepen zich veilig of uitgesloten zouden voelen. In een ander deel van de studie werkte de onderzoeker met gemeenschapsorganisaties om een enorme collectie afbeeldingen en voorkeuren te creëren, genaamd LIVS, om een computer te leren hoe hij nieuwe afbeeldingen van publieke ruimtes kan genereren die deze diverse waarden respecteren. De computer kreeg de opdracht om te kiezen tussen verschillende ontwerpopties, en de resultaten toonden iets verrassends aan: zelfs na training op duizenden menselijke voorkeuren, kon de computer vaak niet beslissen welke optie beter was. De computer bleef "neutraal" en was niet in staat een winnaar aan te wijzen.
Deze neutraliteit bleek een cruciale ontdekking te zijn. De onderzoeker stelt dat wanneer een computer niet kan kiezen tussen twee opties, dit geen falen van de technologie is. Het is een teken dat de betrokken waarden werkelijk in conflict zijn en niet kunnen worden opgelost door een eenvoudige berekening. In plaats van de computer te dwingen een winnaar te kiezen, zou het systeem deze onzekerheid moeten signaleren en de beslissing terugleggen bij de mensen. De scriptie stelt een nieuwe manier voor waarop steden kunnen werken: een cyclus waarbij computers helpen bij het visualiseren van opties, maar mensen, georganiseerd in kleine, terugkerende groepen, de uiteindelijke beslissingen nemen. Deze groepen zouden de suggesties van de computer beoordelen, de meningsverschillen bespreken en beslissen welke straten gerepareerd moeten worden en hoe. Zij zouden ook de macht hebben om een systeem te pauzeren of te stoppen als het schadelijke beslissingen begint te nemen.
Het werk beweert niet het probleem van het bouwen van perfecte steden te hebben opgelost. Het zegt niet dat computers de menselijke oordeelsvorming kunnen vervangen of dat we één definitie van een "perfecte" straat kunnen vinden die iedereen tevreden stelt. In plaats daarvan biedt het een praktisch kader voor het beheren van de spanning tussen technologie en menselijke diversiteit. Het suggereert dat de beste manier om AI in onze steden te gebruiken niet is om het de uiteindelijke beslissingen te laten nemen, maar om het te gebruiken om onze meningsverschillen zichtbaar en beheersbaar te maken. Door de logica van de computer te behandelen als iets dat constant gecontroleerd, bijgewerkt en onderwerp van debat moet zijn, kunnen steden ervoor zorgen dat hun digitale hulpmiddelen iedereen dienen, in plaats van alleen de meerderheid of de meest zichtbare groepen. De onderzoeker concludeert dat een stad die echt inclusief wil zijn, een systeem moet bouwen waarin het recht om de computer in twijfel te trekken even belangrijk is als het recht om op de stoep te lopen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.