Pluralistic-Alignment Urbanism: Operationalizing a Right to AI for Inclusive Public Space

Resumen Técnico: Urbanismo de Alineación Pluralista (PAU)

Planteamiento del Problema

Las agencias municipales despliegan cada vez más sistemas de aprendizaje automático para inventariar los espacios públicos, calificar los paisajes urbanos y generar imágenes sintéticas para la planificación urbana. Estos sistemas funcionan como una "capa epistémica y algorítmica" que convierte experiencias humanas heterogéneas en artefactos comparables (puntuaciones, mapas, imágenes) para informar el presupuesto y el diseño. Sin embargo, el espacio público se caracteriza por un desacuerdo persistente respecto a la inclusión, la seguridad y el sentido de pertenencia. Los marcos de gobernanza actuales suelen tratar estos sistemas como herramientas de apoyo a la decisión neutrales, basándose en objetivos de evaluación únicos que asumen un consenso universal. Este enfoque corre el riesgo de oscurecer valores en disputa, borrar las diferencias de los subgrupos mediante el promedio de las mayorías y legitimar decisiones que no tienen en cuenta la naturaleza pluralista de la vida pública. El artículo sostiene que tratar el desacuerdo como "ruido" a ser eliminado es un fallo de gobernanza; en su lugar, el desacuerdo y la indeterminación deben tratarse como evidencia relevante para la decisión.

Metodología

El artículo propone el Urbanismo de Alineación Pluralista (PAU), un marco de gobernanza procedimental operacionalizado a través de dos estudios de caso participativos realizados en colaboración con organizaciones comunitarias en Montreal, Canadá. La metodología trata la participación no como una validación post-hoc, sino como la coproducción de criterios de evaluación, datos y artefactos de gobernanza.

1. Street Review (Sistema Representacional):

   • Objetivo: Evaluar los paisajes urbanos basándose en criterios de los residentes y escalar estos juicios a escala de toda la ciudad.
   • Proceso:
     • Elicitación: Entrevistas semiestructadas con 28 residentes generaron más de 600 descriptores, consolidados en cuatro criterios: Accesibilidad, Estética, Practicidad e Inclusividad.
     • Evaluación: 12 participantes calificaron 60 imágenes de vistas de calle de forma individual y luego discutieron estas imágenes en grupos facilitados para producir juicios colectivos.
     • Escalamiento: Se entrenó un modelo de regresión multisalida supervisado con 120 imágenes calificadas (agrupadas por puntos de datos a nivel de calle para evitar la filtración de datos) para predecir puntuaciones para 45,000 imágenes de calles. El modelo predice 28 puntuaciones (4 criterios × 6 subgrupos autoidentificados + 4 agregados).
   • Métricas: El rendimiento predictivo se midió mediante $R^2$ en conjuntos de prueba no utilizados para el entrenamiento (held-out test sets).

2. LIVS (Espacios Visuales Interseccionales Locales) (Sistema Generativo):

   • Objetivo: Alinear modelos de texto a imagen con las preferencias pluralistas para el diseño del espacio público.
   • Proceso:
     • Construcción de Datos: Talleres con socios comunitarios elicitaron 634 conceptos, consolidados en seis criterios (Accesibilidad, Seguridad, Comodidad, Atractivo, Inclusividad, Diversidad). Se utilizaron 440 prompts de autores participantes para generar 16,693 imágenes mediante Stable Diffusion XL.
     • Recolección de Preferencias: 18 participantes anotaron 37,710 comparaciones de pares de imágenes mediante una plataforma web. Crucialmente, la interfaz incluyó una opción neutral explícita para la indiferencia o la indeterminación.
     • Alineación: Se realizó un ajuste fino mediante Optimización de Preferencia Directa (DPO) sobre 35,510 comparaciones no neutrales.
     • Evaluación: Un taller posterior con 25 residentes proporcionó 2,100 comparaciones nuevas para evaluar el modelo ajustado frente al modelo base, rastreando específicamente la tasa de selecciones neutrales.

Contribuciones Clave

1. Urbanismo de Alineación Pluralista (PAU): Un marco de gobernanza que trata los sistemas de IA del espacio público como infraestructura cívica que requiere un Derecho a la IA procedimental. Este derecho no es un derecho de acceso general, sino un conjunto de procedimientos mínimos (derechos, deberes, artefactos, recursos) para sistemas que dan forma a las condiciones colectivas.
2. El Objeto Evidencial: Un cambio conceptual que ve al artefacto acoplado (estímulo, criterios, protocolo, agregación, representación) como la unidad de gobernanza. El desacuerdo y la neutralidad son propiedades de este objeto, no errores.
3. Arquitectura de Gobernanza: Un modelo de implementación concreto que cuenta con:
   • Informes Desagregados: Evitar el promedio de la mayoría por defecto; reportar evidencia específica de cada subgrupo.
   • Registro de Valores Versionado: Un registro municipal que distingue las dimensiones comparables de las que están en disputa.
   • Células Deliberativas Permanentes: Órganos participativos con la autoridad para actualizar el registro de valores y recomendar pausas o reversiones.
   • Autoridad de Pausa y Reversión: Activadores explícitos para detener sistemas basados en daños documentados, deriva (drift) o indeterminación.

Resultados

Los estudios empíricos arrojaron cuatro proposiciones que conectan las restricciones técnicas con las implicaciones de gobernanza:

• P1: El pluralismo es estructurado, no ruido.

  • Los criterios no son conmensurables. Las correlaciones entre criterios fueron moderadas y desiguales (por ejemplo, Practicidad y Estética no estaban correlacionados con $r = -0.05$; Inclusividad se correlacionó moderadamente con Accesibilidad y Estética).
  • Las calificaciones de los subgrupos sobre los mismos estímulos difirieron significamente, lo que indica que las elecciones de agregación son consecuentes y pueden borrar diferencias relevantes para la rendición de cuentas.

• P2: La deliberación cambia el objeto evidencial.

  • Los juicios grupales no fueron simples promedios de las calificaciones individuales. La discusión condujo a reinterpretaciones de los criterios y a nuevas razones para la calificación.
  • El desacuerdo residual tras la deliberación se registró como evidencia que restringe los usos permisibles del modelo, en lugar de forzarse hacia un consenso.

• P3: El escalamiento coproducido es factible pero limitado.

  • El modelo de Street Review logró un $R^2 = 0.91$ (validación) y un $R^2 = 0.89$ (prueba externa).
  • Sin embargo, la modalidad (imágenes de vista de calle) limita la representación a señales visibles, fallando en capturar factores experienciales como el acoso o la pertenencia simbólica. Los mapas resultantes son artefactos de auditoría, no verdades de terreno (ground truth).

• P4: La neutralidad en la alineación de preferencias es una señal de gobernanza.

  • En la evaluación externa de LIVS (2,100 comparaciones), el 52.4% de las selecciones fueron neutrales (IC del 95% [50.2, 54.5]).
  • Los resultados del ajuste DPO fueron preferidos en solo el 33.3% de los casos.
  • Las altas tasas de neutralidad indican que muchas comparaciones no apoyan un ordenamiento determinante bajo los criterios dados, sirviendo como una señal para restringir la optimización en lugar de una etiqueta que deba suavizarse.

Significancia y Reivindicaciones

El artículo sostiene que la legitimidad de los sistemas de IA del espacio público depende menos del rendimiento predictivo por sí solo y más de si las instituciones pueden sostener la revisión, la contestación y el control del alcance de manera continua.

• Operacionalizar un Derecho a la IA: El artículo traduce derechos abstractos en procedimientos municipales exigibles, incluyendo cláusulas de contratación que mandatan informes desagregados y autoridad de pausa.
• Reencuadrar la Indeterminación: Al tratar la neutralidad y el desacuerdo como entradas para la gobernanza en lugar de fallos del modelo, el PAU proporciona un mecanismo para justificar qué sistemas pueden y no pueden representar legítimamente.
• Robustez Institucional: La arquitectura propuesta (células deliberativas, registros de valores) tiene como objetivo prevenir la "captura de la gobernanza" por parte de normas dominantes y asegurar que la evidencia mediada por IA siga siendo contestable.

Los autores declaran explícitamente que el objetivo no es resolver el desacuerdo sobre el espacio público, sino gobernar los sistemas de manera que mantengan dicho desacuerdo visible, contestable y consecuente. El marco se presenta como un piso procedimental para la toma de decisiones municipales, reconociendo que los criterios específicos y los registros de valores deben ser re-comisionados localmente y no pueden transferirse como plantillas fijas.