Resumen Técnico: Los Modelos de Lenguaje de Gran Escala Crean una Capa Informativa Desigual sobre las Ciudades

Planteamiento del Problema

Las ciudades están siendo mediadas cada vez más por sistemas de información que guían la percepción y la toma de decisiones humanas. Si bien el GPS, los motores de búsqueda y las plataformas de reseñas han moldeado históricamente la navegación urbana, los Modelos de Lenguaje de Gran Escala (LLM, por sus siglas en inglés) están emergiendo como una nueva capa informativa estructuralmente distinta. A diferencia de sus predecesores, que ofrecen listas clasificadas donde las opciones de menor rango siguen siendo descubribles, los LLM generan respuestas donde los establecimientos son incluidos o están completamente ausentes del conjunto de consideración del usuario, sin que exista una señal que indique dicha omisión.

El problema central abordado es si esta capa emergente introduce sesgos sistemáticos en la visibilidad urbana. Específicamente, los autores investigan:

1. Fabricación: ¿Inventan los LLM establecimientos inexistentes?
2. Invisibilidad: ¿Pasan por alto los LLM sistemáticamente establecimientos reales?
3. Selectividad: ¿Varían estos patrones según los vecindarios (gradientes socioeconómicos) y los perfiles demográficos de los usuarios (ingresos, edad, sexo, residencia)?
4. Consecuencia Económica: ¿Cómo redistribuiría la dependencia generalizada de las recomendaciones de los LLM la demanda de consumo y los ingresos en la economía alimentaria urbana?

El estudio distingue entre dos posibles modos de falla: falla epistémica (omisiones debidas a la falta de datos, corregibles mediante la provisión de listas verificadas) y falla de asignación (omisiones debidas a patrones de atención selectiva estables y arraigados en el entrenamiento del modelo, que persisten incluso con datos completos).

Metodología

Los autores realizaron una auditoría sistemática de recomendaciones de restaurantes en 304 vecindarios de cinco grandes ciudades de EE. UU.: Boston, Nueva York, Chicago, Houston y San Francisco.

Diseño Experimental

• Modelos: Se probaron tres LLM representativos de distintas familias: GPT-4o-mini (OpenAI), Llama-3.3-70b-instruct (Meta) y Gemini-2.0-flash (Google).
• Perfiles de Usuario: Un diseño factorial generó 320 perfiles de usuario sintéticos por vecindario, cruzando cuatro dimensiones demográficas:
  • Ingreso del Hogar (5 niveles: de $0–25k a$200k+)
  • Edad (8 niveles: de 0–20 a 80+)
  • Sexo (2 niveles: Masculino, Femenino)
  • Estado de Residencia (4 niveles: Local, Vecino, Entre ciudades, Turista)
• Configuraciones: Se emplearon dos condiciones experimentales paralelas:
  1. Abierta: Los modelos fueron consultados para listar 10 restaurantes en un vecindario específico sin una lista de candidatos predefinida.
  2. Restringida por Candidatos: Se proporcionó a los modelos un conjunto fijo de 100 establecimientos reales y se les instruyó para seleccionar exactamente 10. Esto aisló la "atención selectiva" de las "brechas de conocimiento".

Integración de Datos y Métricas

• Verdad de Campo (Ground Truth): Registros de establecimientos verificados de SafeGraph y Foursquare.
• Métricas:
  • Tasa de Alucinación: La fracción de establecimientos presentados que no pudieron ser vinculados con negocios reales.
  • Tasa de Invisibilidad Algorítmica de Vecindario (NAIR): La fracción de establecimientos reales en un vecindario que no recibieron ninguna recomendación a través de todos los perfiles de usuario.
• Covariables: Las características de los vecindarios se derivaron de datos del censo, datos de ubicación móvil (Spectus), registros de transacciones (SafeGraph) y metadatos de reseñas (Yelp).
• Simulación Económica: Se modeló un escenario contrafáctico donde el 10% ($\alpha=0.1$) de las decisiones de cena se desplaza de los patrones observados hacia los establecimientos recomendados por LLM para estimar la redistribución de ingresos.

Principales Contribuciones y Resultados

1. Fabricación Desigual y Falla de Anclaje

Los LLM fabrican establecimientos a una tasa promedio del 36.8%. Esta "falla de anclaje" no es aleatoria; se correlaciona con las características socioeconómicas de los vecindarios.

• Impulsores: Las tasas de alucinación son significativamente más altas en vecindarios con huellas digitales y físicas más débiles (menos reseñas en Yelp, menos visitas en el mundo real, menor densidad de población y menor nivel educativo).
• Corrección: Cuando los modelos fueron restringidos a una lista verificada de establecimientos (configuración Restringida por Candidatos), las tasas de alucinación cayeron al 0.0%, confirmando que la fabricación es una falla epistémica remediable mediante el anclaje de datos.

2. Atención Selectiva Persistente (Falla de Asignación)

Incluso cuando se limitan a establecimientos reales, los LLM exhiben severos "déficits de cobertura".

• Invisibilidad: En la configuración abierta, el 96.8% de los establecimientos reales en un vecindario nunca son recomendados. En la configuración restringida por candidatos, el 47.5% de los establecimientos reales disponibles aún nunca son presentados.
• Puntos Ciegos Compartidos: El 31.9% de los establecimientos pasados por alto son compartidos por las tres familias de modelos, lo que sugiere que estos sesgos están arraigados en corpus de entrenamiento compartidos en lugar de errores específicos del modelo.
• Impulsores de la Invisibilidad: A diferencia de la fabricación, la invisibilidad no es impulsada únicamente por la escasez de datos. Incluso con grupos fijos de establecimientos, la NAIR se predice por el número de reseñas de Yelp (correlación negativa) y, sorprendentemente, tiene una correlación positiva con la entropía de ingresos y la densidad de población en configuraciones restringidas. Esto respalda la hipótesis de la falla de asignación: los modelos poseen prioridades estables sobre qué establecimientos merecen atención, independientemente de la disponibilidad de datos.

3. Estratificación Demográfica

Dentro de un mismo grupo de establecimientos, los LLM dirigen sistemáticamente diferentes perfiles de usuario hacia distintos tipos de locales:

• Ingresos: Los usuarios de mayores ingresos son dirigidos hacia establecimientos que están más lejos, son menos visitados, más caros y son frecuentados por una clientela socioeconómicamente más homogénea (segregada).
• Edad: Los menores de edad son dirigidos hacia establecimientos muy visitados, de menor precio y menos segregados, mientras que los adultos enfrentan una distribución diferente.
• Residencia: Los turistas son canalizados hacia establecimientos más costosos pero socialmente más diversos, mientras que los residentes locales son dirigidos hacia establecimientos más baratos, más frecuentados pero socioeconómicamente homogéneos.
• Mecanismo: Estos gradientes sugieren que los LLM infieren estilos de vida urbanos latentes a partir de descriptores demográficos, reforzando las estratificaciones de estilo de vida existentes.

4. Redistribución Económica

La simulación de un cambio en la demanda de consumo revela una redistribución estructural de los ingresos:

• Cambio de Formato: El gasto se desplaza de los formatos de comida rápida y servicio rápido hacia la comida independiente de servicio completo.
• Cambio de Marca: Las visitas fluyen predominantemente desde los restaurantes de cadena (ej. McDonald's, Starbucks) hacia los establecimientos independientes.
• Magnitud: Los restaurantes independientes ganan un promedio estimado de ~$12,101 por local anualmente, mientras que las grandes cadenas como McDonald's pierden ~$41,405 por local bajo el escenario simulado.

Significado y Reivindicaciones

El artículo argumenta que los LLM actúan como una capa selectiva de información urbana que distribuye de manera desigual la visibilidad entre lugares y personas.

• Desigualdad Estructural: La capa informativa no solo refleja la realidad, sino que la moldea activamente al codificar una atención selectiva que sigue los gradientes socioeconómicos. Esto añade una "dimensión representacional" a las desigualdades estructurales y experienciales existentes en las ciudades.
• Asimetría de la Falla: El estudio destaca una asimetría crítica: mientras que la fabricación (falla epistémica) puede solucionarse proporcionando datos verificados, la invisibilidad selectiva (falla de asignación) persiste. Esto implica que simplemente mejorar la provisión de datos es insuficiente; se debe abordar el comportamiento subyacente del modelo y los sesgos de entrenamiento.
• Bucles de Retroalimentación Dinámicos: Los autores postulan que estos sesgos podrían crear bucles de retroalimentación que se refuerzan a sí mismos. Los establecimientos que son algorítmicamente invisibles generan menos visitas y reseñas, lo que reduce aún más su huella digital y los hace aún menos propensos a ser recomendados en futuros ciclos de entrenamiento.
• Implicaciones de Gobernanza: A medida que los LLM se convierten en intermediarios primarios para la toma de decisiones urbanas, funcionan como una nueva forma de infraestructura que asigna la visibilidad. Los autores concluyen que comprender y gobernar esta capa es tan crítico como gestionar las infraestructuras tradicionales de transporte y comunicación, ya que determina qué lugares y comunidades prosperan o permanecen invisibles.

El estudio mantiene la modestia respecto a su generalización, señalando que los hallazgos se basan en ecosistemas urbanos densos de EE. UU. y podrían diferir en ciudades más pequeñas o contextos no anglófonos. Sin embargo, la convergencia de los resultados a través de tres distintas familias de modelos sugiere que estos patrones reflejan propiedades fundamentales del ecosistema de entrenamiento actual de los LLM.