Collective Recourse for Generative Urban Visualizations

A continuación se presenta un resumen técnico detallado del artículo "Recurso Colectivo para Visualizaciones Urbanas Generativas" de Rashid Mushkani.

1. Planteamiento del Problema

Los modelos de difusión de texto a imagen (por ejemplo, Stable Diffusion XL) se utilizan cada vez más en la planificación urbana para visualizar paisajes urbanos, opciones de relleno y directrices de diseño. Sin embargo, estos modelos adolecen de sesgos sociales sistemáticos, que incluyen estereotipos demográficos, sesgos de género ocupacional y la omisión de comunidades específicas.

• La Brecha: Los marcos actuales de recurso algorítmico se centran en explicaciones contrafactuales individuales (cómo un solo usuario puede cambiar un resultado). Esto es insuficiente para las imágenes urbanas generativas, donde los daños suelen ser a nivel de grupo, recurrentes y estructurales.
• El Desafío: No existe un mecanismo establecido para que las comunidades reporten colectivamente errores visuales, activen correcciones específicas del modelo y aseguren que dichas correcciones se integren en los flujos de trabajo de la planificación municipal (por ejemplo, guías de diseño, procesos de contratación).

2. Metodología

Los autores proponen un marco llamado Recurso Colectivo, que trata las entradas de la comunidad como "informes de errores visuales" estructurados que activan un pipeline formal de mitigación.

A. El Pipeline de Recurso Colectivo

El sistema opera mediante un flujo de trabajo de cinco etapas:

1. Informe: Las comunidades presentan informes estructurados que contienen el prompt, la imagen generada, el contexto, el tipo de daño, la gravedad y la evidencia.
2. Clasificación: Un equipo de recepción agrupa los informes por tipo de daño y contexto. Calculan una Puntuación de Mandato para determinar si se requiere una corrección.
3. Selección de Corrección: Basándose en la clasificación, se selecciona una de las cuatro Primitivas de Recurso:
   • Contraprompts: Añadir lenguaje protector y consciente del contexto.
   • Prompts negativos: Excluir motivos no deseados.
   • Ediciones de conjuntos de datos: Curar/aumentar los datos de entrenamiento para corregir brechas de cobertura.
   • Ajustes del modelo de recompensa: Actualizar los modelos de preferencia (similar a RLHF) para orientar la generación.
4. Verificación: Las correcciones se prueban frente a un Conjunto de Evaluación Visual de Subgrupos (SVES) —un conjunto de prompts planteados con señales de percepción urbana— para medir la recurrencia.
5. Cierre y Gobernanza: Las correcciones verificadas se registran en paneles públicos, actualizan las Tarjetas de Modelo/Hojas de Datos y se vinculan a artefactos de planificación (guías de diseño, solicitudes de calificación). Jurados ciudadanos rotativos revisan los cierres para asegurar la representatividad y resolver disputas.

B. La Puntuación de Mandato ($M$)

Para decidir cuándo un informe desencadena una corrección obligatoria, los autores definen una puntuación que combina gravedad, volumen, representatividad y calidad de la evidencia:
$$M(b) = s \cdot (1 - e^{-n/\tau_n}) \cdot r \cdot q$$
Donde:

• $s$: Gravedad ($0-1$)
• $n$: Conteo de reporteros únicos (Saturación de volumen)
• $r$: Índice de representatividad (alineación con los marginales de la población)
• $q$: Calidad de la evidencia
• $\tau_n$: Parámetro de saturación

Se ordena una mitigación cuando $M(b) \geq \tau_M$ (un umbral ajustado para compensar precisión/record).

C. Estrategia de Evaluación

Los autores realizaron un estudio de simulación utilizando un programa sintético de 240 informes en seis subgrupos (Mujeres, Personas mayores, LGBTQ+, Recién llegados, Diáspora africana, Organizaciones vecinales). Rastrearon:

• Latencia de Mitigación: Tiempo desde la recepción hasta el pase verificado.
• Recurrencia: Probabilidad de que el daño reaparezca dentro de los 30 días.
• Adopción de Políticas: Si los planificadores adoptaron la corrección en documentos oficiales.

3. Contribuciones Clave

1. Formalización del Recurso Colectivo: Un nuevo marco que cambia del recurso individual al de nivel de grupo, vinculando la gestión del ciclo de vida del modelo con la gobernanza municipal.
2. Tipología de Primitivas de Recurso: Una clasificación de cuatro tipos de correcciones (Contraprompts, Prompts negativos, Ediciones de conjuntos de datos, Ajustes de recompensa) con perfiles distintos de velocidad-durabilidad.
3. Umbral de Mandato: Una definición matemática para desencadenar acción institucional basada en señales colectivas, equilibrando urgencia (record) y rigor (precisión).
4. Pipeline Integrado: Un diseño práctico que conecta correcciones técnicas con flujos de trabajo de planificación participativa, incluidos jurados ciudadanos y paneles públicos.

4. Resultados Clave (Simulación)

La simulación comparó las cuatro primitivas de recurso y probó diferentes umbrales de mandato:

• Compensación entre Velocidad y Durabilidad:
  • Correcciones a nivel de prompt (Contraprompts/Prompts negativos): Las más rápidas (Mediana de 2.1–3.4 días) pero menos duraderas, con altas tasas de recurrencia (21–38%).
  • Correcciones estructurales (Ediciones de conjuntos de datos/Ajustes de recompensa): Más lentas (Mediana de 13.5–21.9 días) pero significativamente más duraderas, con menor recurrencia (12–18%) y mayor adopción de políticas (30–36%).
• Sensibilidad del Umbral:
  • Un umbral de $\tau_M = 0.12$ arrojó un 93% de precisión y un 75% de record.
  • Aumentar la representatividad ($r$) mediante jurados rotativos mejoró el record al 81% con una pérdida de precisión negligible, lo que sugiere que las innovaciones procedimentales pueden mejorar la equidad sin sacrificar la precisión.
• Varianza por Subgrupo: La latencia varió según el subgrupo (2.8 a 4.7 días), mostrando las Personas mayores la menor recurrencia (13.9%) y las Mujeres experimentando una latencia ligeramente mayor (4.7 días), lo que resalta la necesidad de niveles de servicio estratificados.

5. Significado e Implicaciones

• Puente entre Dominios Técnicos y Cívicos: El artículo va más allá de la "transparencia como objetivo final" (por ejemplo, Tarjetas de Modelo) hacia la "transparencia como mecanismo de acción". Opera la rendición de cuentas vinculando las correcciones del modelo directamente a artefactos de planificación como Solicitudes de Calificación (RFQ) y directrices de diseño.
• Mitigación de Daños Grupales: Al centrarse en señales colectivas en lugar de contrafactuales individuales, el marco aborda sesgos sistémicos que afectan a comunidades enteras en la visualización urbana.
• Innovación en Gobernanza: El uso de jurados ciudadanos rotativos y umbrales de mandato proporciona un método escalable y democrático para auditar la IA en el sector público, evitando el "sobreajuste a grupos vocales" mientras se asegura que las voces marginadas sean escuchadas.
• Hoja de Ruta Práctica: El estudio ofrece una "división del trabajo" concreta para las ciudades: usar correcciones a nivel de prompt para alivio inmediato y temporal, pero priorizar cambios en conjuntos de datos y modelos de recompensa para correcciones estructurales a largo plazo.

En conclusión, el artículo argumenta que para que la IA generativa sea segura y equitativa en la planificación urbana, requiere una infraestructura de recurso colectivo que transforme las quejas de la comunidad en cambios técnicos y políticos exigibles, auditables y duraderos.