Large language models create an uneven informational layer over cities
Diese Studie zeigt auf, dass große Sprachmodelle eine ungleiche Informationsebene über Städte legen, indem sie systematisch Orte in digital spärlich erschlossenen Gebieten erfinden und fast die Hälfte realer Betriebe selektiv ignorieren, wodurch sie die wirtschaftliche Sichtbarkeit und die Einnahmen in einer Weise umverteilen, die unabhängige Gastronomie begünstigt und gleichzeitig die urbane Ungleichheit zwischen verschiedenen Stadtvierteln und Nutzergruppen verschärft.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich eine Stadt wie einen riesigen, geschäftigen Marktplatz vor. Lange Zeit mussten Sie sich verlassen auf Ihr eigenes Gedächtnis, eine physische Karte oder eine Liste von Rezensionen, die andere Menschen geschrieben haben, wenn Sie etwas essen wollten. Diese Werkzeuge zeigten Ihnen alles, was existierte, selbst wenn einige Orte ganz unten auf der Liste standen. Sie konnten nach unten scrollen und sowohl die verborgenen Juwelen als auch die Kettenrestaurants und die lokalen Favoriten sehen.
Stellen Sie sich nun vor, dass über diesen Marktplatz eine neue, unsichtbare Glasschicht gelegt wurde. Dieses Glas besteht aus Large Language Models (LLMs) – den intelligenten KI-Chatbots, die wir nutzen, um Fragen zu stellen wie: „Wo kann ich in Boston etwas essen?“
Diese Arbeit untersucht, was passiert, wenn wir die Stadt durch dieses neue Glas betrachten. Die Forscher fanden heraus, dass dieses Glas die Stadt nicht nur zeigt, sondern sie aktiv umgestaltet, oft auf eine unfaire und ungleiche Weise. Hier ist das, was sie entdeckt haben, unterteilt in einfache Konzepte:
1. Die „Geister“-Restaurants (Dinge erfinden)
Manchmal, wenn Sie die KI nach einem Restaurant fragen, erfindet sie Orte, die gar nicht existieren.
- Die Analie: Es ist wie ein Reiseleiter, der, wenn er nach einem kleinen, ruhigen Viertel gefragt wird, selbstbewusst auf ein schickes Café zeigt, das nie gebaut wurde.
- Die Erkenntnis: Die KI erfindet diese „Geister“-Restaurants am häufigsten in Vierteln, die ärmer sind, weniger bevölkert sind oder in denen weniger Menschen online präsent sind. Wenn ein Viertel keinen starken „digitalen Fußabdruck“ hat (wenige Rezensionen, weniger Menschen, die dort zu Besuch sind), ist die KI eher geneigt, einen fiktiven Ort zu halluzinieren.
- Die Lösung: Als die Forscher die KI dazu zwangen, nur aus einer Liste echter Restaurants zu wählen, verschwanden die gefälschten Orte. Das bedeutet, die KI hat nur geraten, weil sie nicht über die richtigen Daten verfügte, und nicht, weil sie böswillig handeln wollte.
2. Die „unsichtbaren“ Restaurants (Die echten ignorieren)
Selbst wenn die KI gezwungen wird, aus einer Liste von echten Restaurants zu wählen, ignoriert sie immer noch eine riesige Anzahl von ihnen.
- Die Analogie: Stellen Sie sich eine Speisekarte mit 100 Gerichten vor. Die KI empfiehlt jedem nur 3 oder 4 davon, egal wer fragt. Die anderen 96 Gerichte sind völlig unsichtbar, als ob sie nicht existieren würden.
- Die Erkenntnis: Etwa 47,5 % der echten Restaurants wurden von der KI nie empfohlen, selbst wenn die KI wusste, dass sie existierten. Das ist nicht nur ein Fehler; es ist ein Muster. Die KI ignoriert konsequent bestimmte Arten von Orten, insbesondere in spezifischen Vierteln.
- Der gemeinsame blinde Fleck: Die Forscher testeten drei verschiedene KI-Modelle (von verschiedenen Unternehmen). Sie fanden heraus, dass 31,9 % der ignorierten Restaurants bei allen drei Modellen dieselben waren. Dies deutet darauf hin, dass der Bias nicht nur ein Fehler im Code eines einzelnen Unternehmens ist, sondern eine gemeinsame Gewohnheit, die aus demselben Pool an Internetdaten gelernt wurde.
3. Die „personalisierte“ Linse (Verschiedene Menschen, verschiedene Städte)
Der überraschendste Teil ist, dass die KI verschiedene Städte zeigt, selbst wenn die Menschen am selben Ort stehen.
- Die Analogie: Stellen Sie sich zwei Personen vor, die an derselben Straßenecke stehen. Die eine ist ein wohlhabender Tourist, die andere ein Anwohner mit geringem Einkommen.
- Dem wohlhabenden Touristen werden teure, trendige und weit entfernte Orte gezeigt, die weniger überfüllt sind.
- Dem Anwohner werden günstigere, sehr beliebte und näher gelegene Orte gezeigt.
- Kindern werden Mainstream-Orte mit niedrigen Kosten gezeigt.
- Männern und Frauen werden ebenfalls leicht unterschiedliche Arten von Orten gezeigt.
- Die Erkenntnis: Die KI beantwortet nicht nur die Frage; sie rät, wer Sie sind, basierend auf Ihrer Beschreibung, und filtert dann die Welt, um sie an das anzupassen, was sie glaubt, dass Menschen wie Sie normalerweise mögen. Sie geht davon aus, dass wohlhabende Menschen gerne weit reisen, um einzigartiges Essen zu finden, während Einheimische lieber bei vertrauten, günstigeren Orten bleiben.
4. Der wirtschaftliche Welleneffekt (Wer gewinnt und wer verliert)
Wenn alle begännen, diesen KI-Empfehlungen zu vertrauen, würde sich das Geld in der Stadt anders verteilen.
- Die Analogie: Stellen Sie sich die Wirtschaft der Stadt wie Wasser vor, das durch Rohre fließt. Die KI wirkt wie ein Ventil, das das Wasser umleitet.
- Die Erkenntnis: Die KI neigt dazu, Menschen von Fast-Food-Ketten (wie McDonald's) und Quick-Service-Cafés weg und hin zu unabhängigen, Full-Service-Restaurants (wie lokalen Imbissen mit Bedienung) zu lenken.
- Unabhängige Restaurants würden wahrscheinlich mehr Kunden und Geld erhalten.
- Große Ketten würden einen erheblichen Teil ihrer Einnahmen verlieren.
- Fast-Food-Lokale, die oft preisbewusste Kunden bedienen, wären die größten Verlierer.
Das große Ganze
Die Arbeit kommt zu dem Schluss, dass diese KI-Modelle wie ein selektiver Filter für unsere Städte fungieren. Sie zeigen uns nicht nur, was vorhanden ist; sie entscheiden darüber, was sichtbar ist.
- Für Orte: Wenn ein Restaurant in einem armen Viertel liegt oder nicht viele Online-Rezensionen hat, könnte die KI so tun, als existiere es nicht.
- Für Menschen: Die KI verstärkt Stereotypen darüber, wer wohin geht, und hält Gruppen möglicherweise in ihren eigenen „Blasen“ der Stadt fest.
Die Autoren warnen davor, dass wir, wenn wir uns zu sehr auf diese Werkzeuge verlassen, versehentlich eine Stadt erschaffen könnten, in der einige Viertel und einige Arten von Geschäften unsichtbar werden – nicht, weil sie schlecht sind, sondern weil die KI entschieden hat, sie nicht zu zeigen. Es ist eine neue Art der „digitalen Ungleichheit“, die sich direkt über unsere physischen Straßen legt.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.