The urban right to AI: Pluralistic co-design and governance of public space
Esta tesis defiende un «Derecho a la IA» cívico y un marco de gobernanza pluralista para los espacios públicos urbanos, demostrado a través de una investigación participativa en Montreal que utiliza visión computacional e IA generativa para mapear y preservar valores comunitarios en disputa en lugar de promediarlos en un único objetivo.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
Las ciudades siempre se han construido a partir de dos elementos: el mundo físico de las calles, las aceras y los edificios, y el mundo invisible de las reglas, los mapas y las decisiones que indican a los funcionarios cómo gestionarlos. Durante mucho tiempo, el mundo invisible estuvo compuesto por planes de papel y el juicio humano. Hoy en día, esa capa invisible está compuesta cada vez más por sistemas informáticos. Estos sistemas analizan fotos de las calles, las califican según qué tan seguras o acogedoras parecen e incluso generan nuevas imágenes de cómo podría ser una calle si se rediseñara. Cuando estos sistemas se tratan como herramientas simples y neutrales, las elecciones que toman sobre qué medir y cómo ponderar las diferentes necesidades quedan ocultas. Podrían priorizar lo que se ve bien ante una cámara estándar mientras ignoran lo que una persona con una discapacidad o un padre con un cochecito de bebé siente como seguro. El resultado es una ciudad donde la versión de "bueno" del ordenador se convierte en la única que importa, pudiendo borrar las formas complejas y conflictivas en que diferentes personas experimentan realmente sus vecindarios.
Este es el problema que una nueva tesis doctoral de la Universidad de Montreal pretende resolver. El investigador, Rashid Ahmad Mushkani, sostiene que debemos dejar de tratar estos sistemas informáticos como meras herramientas y empezar a tratarlos como una forma de infraestructura cívica, al igual que las tuberías de agua o las redes eléctricas que corren bajo nuestras calles. Si una tubería de agua se rompe, la ciudad tiene un proceso para arreglarla. Si un sistema informático toma una mala decisión sobre qué calle reparar, la ciudad necesita un proceso similar para cuestionar, corregir y actualizar ese sistema. La tesis propone un "Derecho a la IA" para los espacios públicos, un conjunto de reglas que garantice que las personas tengan voz en cómo se construyen estos sistemas, que los sistemas puedan ser impugnados cuando se equivocan y que los desacuerdos complicados entre diferentes grupos de personas no sean suavizados por una única puntuación informática.
Para probar esta idea, el investigador fue a los vecindarios de Montreal y pidió a un grupo diverso de residentes que observaran fotos de calles locales. En lugar de pedirles simplemente que calificaran una calle como "buena" o "mala", el investigador les pidió que explicaran qué hacía que una calle se sintiera inclusiva, segura o accesible. Los participantes incluyeron a residentes de larga duración, recién llegados, personas con discapacidades y miembros de diversas comunidades culturales. El objetivo era ver si todos estaban de acuerdo en cómo se veía una "buena" calle. Los hallazgos fueron claros: la gente no estaba de acuerdo. Una calle que una persona veía como vibrante y animada, otra podía verla como caótica e insegura. Una calle que se sentía acogedora para un adulto joven podía sentirse aislante para una persona mayor. El estudio encontró que, si bien la gente solía estar de acuerdo en cosas simples y visibles como si una acera estaba rota, tenían dificultades para ponerse de acuerdo en sentimientos sociales complejos como la "inclusividad". Cuando el investigador reunió a las personas para discutir estas diferencias, pudieron encontrar algunos puntos comunes, pero persistieron desacuerdos significativos. Estos desacuerdos no eran errores a corregir; eran señales reales de que diferentes personas tienen diferentes necesidades y valores.
La investigación tomó luego estos conocimientos humanos y los utilizó para entrenar modelos informáticos. En una parte del estudio, el investigador construyó un sistema llamado "Street Review" que aprendió a predecir cómo diferentes grupos de personas calificarían una calle basándose en sus fotos. El sistema podía generar un mapa de la ciudad mostrando dónde diferentes grupos podrían sentirse seguros o excluidos. En otra parte, el investigador trabajó con organizaciones comunitarias para crear una colección masiva de imágenes y preferencias, llamada LIVS, para enseñar a un ordenador a generar nuevas imágenes de espacios públicos que respetaran estos valores diversos. Se le pidió al ordenador que eligiera entre diferentes opciones de diseño, y los resultados mostraron algo sorprendente: incluso después de haber sido entrenado con miles de preferencias humanas, el ordenador a menudo no podía decidir qué opción era mejor. Permanecía "neutral", incapaz de elegir un ganador.
Esta neutralidad resultó ser un descubrimiento crucial. El investigador argumenta que cuando un ordenador no puede decidirse entre dos opciones, no es un fallo de la tecnología. Es una señal de que los valores en juego están genuinamente en conflicto y no pueden resolverse mediante un simple cálculo. En lugar de forzar al ordenador a elegir un ganador, el sistema debería señalar esta incertidumbre y devolver la decisión a las personas. La tesis propone una nueva forma de trabajo para las ciudades: un ciclo donde los ordenadores ayudan a visualizar opciones, pero los humanos, organizados en grupos pequeños y recurrentes, toman las decisiones finales. Estos grupos revisarían las sugerencias del ordenador, discutirían los desacuerdos y decidirían qué calles reparar y cómo. También tendrían el poder de pausar o detener un sistema si este comenzara a tomar decisiones perjudiciales.
El trabajo no pretende haber resuelto el problema de construir ciudades perfectas. No dice que los ordenadores puedan reemplazar el juicio humano ni que podamos encontrar una definición única de una calle "perfecta" que satisfaga a todo el mundo. En cambio, ofrece un marco práctico para gestionar la tensión entre la tecnología y la diversidad humana. Sugiere que la mejor manera de utilizar la IA en nuestras ciudades no es dejar que tome las decisiones finales, sino utilizarla para hacer nuestros desacuerdos visibles y manejables. Al tratar la lógica del ordenador como algo que debe ser constantemente revisado, actualizado y debatido, las ciudades pueden asegurar que sus herramientas digitales sirvan a todos, y no solo a la mayoría o a los grupos más visibles. La investigación concluye que una ciudad que quiera ser verdaderamente inclusiva debe construir un sistema donde el derecho a cuestionar al ordenador sea tan importante como el derecho a caminar por la acera.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.