The urban right to AI: Pluralistic co-design and governance of public space
Diese Thesis plädiert für ein bürgerschaftliches „Recht auf KI“ und einen pluralistischen Governance-Rahmen für urbane öffentliche Räume, demonstriert durch partizipative Forschung in Montréal, die Computer Vision und generative KI nutzt, um umstrittene Gemeinschaftswerte zu kartieren und zu bewahren, anstatt sie zu einem einzigen objektiven Durchschnitt zu mitteln.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Städte wurden schon immer aus zwei Dingen gebaut: der physischen Welt aus Straßen, Bürgersteigen und Gebäuden und der unsichtbaren Welt aus Regeln, Karten und Entscheidungen, die Beamten sagen, wie sie diese verwalten sollen. Lange Zeit bestand die unsichtbare Welt aus Papierplänen und menschlichem Urteilsvermögen. Heute besteht diese unsichtbare Ebene zunehmend aus Computersystemen. Diese Systeme betrachten Fotos von Straßen, bewerten sie danach, wie sicher oder einladend sie wirken, und generieren sogar neue Bilder davon, wie eine Straße aussehen könnte, wenn sie umgestaltet würde. Wenn diese Systeme als einfache, neutrale Werkzeuge behandelt werden, bleiben die Entscheidungen, die sie über das zu Messende treffen und wie sie verschiedene Bedürfnisse gewichten, verborgen. Sie könnten beispielsweise das priorisieren, was für eine Standardkamera gut aussieht, während sie ignorieren, was sich für eine Person mit einer Behinderung oder einen Elternteil mit einem Kinderwagen sicher anfühlt. Das Ergebnis ist eine Stadt, in der die Version des Computers über das „Gute“ zur einzigen Version wird, die zählt, was potenziell die komplexen, widersprüchlichen Arten und Weise verwischt, auf die unterschiedliche Menschen ihre Nachbarschaften tatsächlich erleben.
Dies ist das Problem, das eine neue Doktorarbeit der Universität Montreal lösen will. Der Forscher, Rashid Ahmad Mushkani, argumenttiert, dass wir aufhören müssen, diese Computersysteme lediglich als Werkzeuge zu betrachten, und stattdin beginnen müssen, sie als eine Form der zivilen Infrastruktur zu behandeln, genau wie die Wasserleitungen oder Stromnetze, die unter unseren Straßen verlaufen. Wenn ein Wasserrohr bricht, hat die Stadt ein Verfahren, um es zu reparieren. Wenn ein Computersystem eine schlechte Entscheidung darüber trifft, welche Straße repariert werden soll, braucht die Stadt einen ähnlichen Prozess, um dieses System zu hinterfragen, zu korrigieren und zu aktualisieren. Die Dissertation schlägt ein „Recht auf KI“ für den öffentlichen Raum vor – ein Regelwerk, das sicherstellt, dass Menschen ein Mitspracherecht bei der Gestaltung dieser Systeme haben, dass die Systeme angefochten werden können, wenn sie Fehler machen, und dass die unordentlichen Meinungsverschiedenheiten zwischen verschiedenen Gruppen von Menschen nicht durch einen einzigen Computer-Score geglättet werden.
Um diese Idee zu testen, ging der Forscher in die Stadtteile von Montreal und bat eine vielfältige Gruppe von Bewohnern, Fotos lokaler Straßen zu betrachten. Anstatt sie einfach nur zu fragen, ob sie eine Straße als „gut“ oder „schlecht“ bewerten, fragte der Forscher sie, was eine Straße für sie inklusiv, sicher oder zugänglich machte. Zu den Teilnehmern gehörten langjährige Bewohner, Neuankömmlinge, Menschen mit Behinderungen und Mitglieder verschiedener kultureller Gemeinschaften. Das Ziel war zu sehen, ob sich alle darüber einig waren, wie eine „gute“ Straße aussieht. Die Ergebnisse waren eindeutig: Die Menschen waren sich nicht einig. Eine Straße, die eine Person als lebendig und belebt wahrnahm, empfand eine andere vielleicht als chaotisch und unsicher. Eine Straße, die sich für einen jungen Erwachsenen einladend anfühlte, konnte sich für eine ältere Person isolierend anfühlen. Die Studie stellte fest, dass Menschen sich zwar oft über einfache, sichtbare Dinge wie einen kaputten Gehweg einig sein konnten, es ihnen aber schwerfiel, sich über komplexe soziale Gefühle wie „Inklusivität“ zu einigen. Als der Forscher die Menschen zusammenbrachte, um diese Unterschiede zu diskutieren, konnten sie zwar einen gemeinsamen Nenner finden, aber erhebliche Unstimmigkeiten blieben bestehen. Diese Unstereinigkeit war kein Fehler, der behoben werden musste; sie war ein echtes Signal dafür, dass unterschiedliche Menschen unterschiedliche Bedürfnisse und Werte haben.
Die Forschung nutzte diese menschlichen Erkenntnisse anschließend, um Computermodelle zu trainieren. In einem Teil der Studie baute der Forscher ein System namens „Street Review“, das lernte, vorherzusagen, wie verschiedene Gruppen Straßen basierend auf deren Fotos bewerten würden. Das System konnte eine Karte der Stadt erstellen, die zeigte, wo sich bestimmte Gruppen sicher oder ausgeschlossen fühlen könnten. In einem anderen Teil arbeitete der Forscher mit Gemeinschaftsorganisationen zusammen, um eine riesige Sammlung von Bildern und Präferenzen namens LIVS zu erstellen, um einem Computer beizubringen, wie er neue Bilder des öffentlichen Raums generiert, die diese vielfältigen Werte respektieren. Der Computer wurde gebeten, zwischen verschiedenen Designoptionen zu wählen, und die Ergebnisse zeigten etwas Überraschendes: Selbst nachdem er mit tausenden menschlichen Präferenzen trainiert worden war, konnte der Computer oft nicht entscheiden, welche Option besser war. Er blieb „neutral“ und unfähig, einen Gewinner zu küren.
Diese Neutralität erwies sich als eine entscheidende Entdeckung. Der Forscher argumentiert, dass es kein Versagen der Technologie ist, wenn ein Computer sich nicht zwischen zwei Optionen entscheiden kann. Es ist ein Zeichen dafür, dass die im Spiel befindlichen Werte tatsächlich im Konflikt stehen und nicht durch eine einfache Berechnung gelöst werden können. Anstatt den Computer zu zwingen, einen Gewinner zu wählen, sollte das System diese Unsicherheit melden und die Entscheidung an die Menschen zurückgeben. Die Dissertation schlägt einen neuen Weg der städtischen Arbeit vor: einen Kreislauf, in dem Computer helfen, Optionen zu visualisieren, aber Menschen, die in kleinen, wiederkehrenden Gruppen organisiert sind, die endgültigen Entscheidungen treffen. Diese Gruppen würden die Vorschläge des Computers prüfen, die Meinungsverschiedenheiten diskutieren und entscheiden, welche Straßen repariert werden und wie. Sie hätten auch die Macht, ein System zu pausieren oder zu stoppen, wenn es beginnt, schädliche Entscheidungen zu treffen.
Die Arbeit erhebt nicht den Anspruch, das Problem des Baus perfekter Städte gelöst zu haben. Sie behauptet nicht, dass Computer das menschliche Urteilsvermögen ersetzen können oder dass wir eine einzige Definition einer „perfekten“ Straße finden können, die alle zufriedenstellt. Stattdessen bietet sie einen praktischen Rahmen für den Umgang mit der Spannung zwischen Technologie und menschlicher Vielfalt. Sie legt nahe, dass der beste Weg, KI in unseren Städten einzusetzen, darin besteht, sie nicht die endgültigen Entscheidungen treffen zu lassen, sondern sie zu nutzen, um unsere Unstimmigkeiten sichtbar und handhabbar zu machen. Indem wir die Logik des Computers als etwas behandeln, das ständig überprüft, aktualisiert und debattiert werden muss, können Städte sicherstellen, dass ihre digitalen Werkzeuge allen dienen, statt nur der Mehrheit oder den sichtbarsten Gruppen. Die Forschung kommt zu dem Schluss, dass eine Stadt, die wirklich inklusiv sein will, ein System aufbauen muss, in dem das Recht, den Computer infrage zu stellen, genauso wichtig ist wie das Recht, auf dem Bürgersteig zu gehen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.