The urban right to AI: Pluralistic co-design and governance of public space
Esta tese defende um "Direito à IA" cívico e uma estrutura de governança pluralista para espaços públicos urbanos, demonstrada através de uma pesquisa participativa em Montreal que utiliza visão computacional e IA generativa para mapear e preservar valores comunitários contestados em vez de mediá-los em um único objetivo.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
As cidades sempre foram construídas a partir de duas coisas: o mundo físico de ruas, calçadas e edifícios, e o mundo invisível de regras, mapas e decisões que dizem aos funcionários como gerenciá-los. Por muito tempo, o mundo invisível era feito de planos de papel e julgamento humano. Hoje, essa camada invisível é cada vez mais feita de sistemas de computador. Esses sistemas analisam fotos de ruas, pontuam o quão seguras ou acolhedoras elas parecem e até geram novas imagens do que uma rua poderia parecer se fosse redesenhada. Quando esses sistemas são tratados como ferramentas simples e neutras, as escolhas que eles fazem sobre o que medir e como pesar diferentes necessidades ficam ocultas. Eles podem priorizar o que parece bom para uma câmera padrão enquanto ignoram o que parece seguro para uma pessoa com deficiência ou um pai com um carrinho de bebê. O resultado é uma cidade onde a versão de "bom" do computador se torna a única versão que importa, potencialmente apagando as formas complexas e conflitantes pelas quais diferentes pessoas realmente vivenciam seus bairros.
Este é o problema que uma nova tese de doutorado da Universidade de Montreal busca resolver. O pesquisador, Rashid Ahmad Mushkani, argumenta que devemos parar de tratar esses sistemas de computador como meras ferramentas e começar a tratá-los como uma forma de infraestrutura cívica, tal como os canos de água ou as redes elétricas que correm sob nossas ruas. Se um cano de água quebra, a cidade tem um processo para consertá-lo. Se um sistema de computador toma uma decisão ruim sobre qual rua reparar, a cidade precisa de um processo semelhante para questionar, corrigir e atualizar esse sistema. A tese propõe um "Direito à IA" para os espaços públicos, um conjunto de regras que garante que as pessoas tenham voz sobre como esses sistemas são construídos, que os sistemas possam ser contestados quando erram e que os desentendimentos complexos entre diferentes grupos de pessoas não sejam suavizados por uma pontuação única de computador.
Para testar essa ideia, o pesquisador foi aos bairros de Montreal e pediu a um grupo diversificado de residentes que olhassem para fotos de ruas locais. Em vez de pedir que simplesmente classificassem uma rua como "boa" ou "ruim", o pesquisador pediu que explicassem o que fazia uma rua parecer inclusiva, segura ou acessível. Os participantes incluíam residentes de longa data, recém-chegados, pessoas com deficiência e membros de várias comunidades culturais. O objetivo era ver se todos concordavam sobre como uma "boa" rua deveria ser. As descobertas foram claras: as pessoas não concordavam. Uma rua que uma pessoa via como vibrante e animada, outra poderia ver como caótica e insegura. Uma rua que parecia acolhedora para um jovem adulto poderia parecer isoladora para um idoso. O estudo descobriu que, embora as pessoas pudessem frequentemente concordar em coisas simples e visíveis, como se uma calçada estava quebrada, elas tinham dificuldade em concordar em sentimentos sociais complexos como "inclusividade". Quando o pesquisador reuniu as pessoas para discutir essas diferenças, elas conseguiram encontrar alguns pontos comuns, mas desentendimentos significativos permaneceram. Esses desentendimentos não eram erros a serem corrigidos; eram sinais reais de que diferentes pessoas têm diferentes necessidades e valores.
A pesquisa então pegou esses insights humanos e os usou para treinar modelos de computador. Em uma parte do estudo, o pesquisador construiu um sistema chamado "Street Review" que aprendeu a prever como diferentes grupos de pessoas avaliariam uma rua com base em suas fotos. O sistema podia gerar um mapa da cidade mostrando onde diferentes grupos poderiam se sentir seguros ou excluídos. Em outra parte, o pesquisador trabalhou com organizações comunitárias para criar uma coleção massiva de imagens e preferências, chamada LIVS, para ensinar um computador a gerar novas imagens de espaços públicos que respeitassem esses valores diversos. O computador foi solicitado a escolher entre diferentes opções de design, e os resultados mostraram algo surpreendente: mesmo após ser treinado em milhares de preferências humanas, o computador frequentemente não conseguia decidir qual opção era melhor. Ele permanecia "neutro", incapaz de escolher um vencedor.
Essa neutralidade revelou-se uma descoberta crucial. O pesquisador argumenta que, quando um computador não consegue decidir entre duas opções, isso não é uma falha da tecnologia. É um sinal de que os valores em jogo estão genuinamente em conflito e não podem ser resolvidos por um cálculo simples. Em vez de forçar o computador a escolher um vencedor, o sistema deve sinalizar essa incerteza e devolver a decisão para as pessoas. A tese propõe uma nova maneira para as cidades trabalharem: um ciclo onde os computadores ajudam a visualizar opções, mas os humanos, organizados em pequenos grupos recorrentes, tomam as decisões finais. Esses grupos revisariam as sugestões do computador, discutiriam os desentendimentos e decidiriam quais ruas consertar e como. Eles também teriam o poder de pausar ou interromper um sistema se ele começar a tomar decisões prejudiciais.
O trabalho não afirma ter resolvido o problema de construir cidades perfeitas. Não diz que os computadores podem substituir o julgamento humano ou que podemos encontrar uma definição única de uma rua "perfeita" que satisfaça a todos. Em vez disso, oferece uma estrutura prática para gerenciar a tensão entre a tecnologia e a diversidade humana. Sugere que a melhor maneira de usar a IA em nossas cidades não é deixá-la tomar as decisões finais, mas usá-la para tornar nossos desentendimentos visíveis e gerenciáveis. Ao tratar a lógica do computador como algo que deve ser constantemente verificado, atualizado e debatido, as cidades podem garantir que suas ferramentas digitais sirvam a todos, e não apenas à maioria ou aos grupos mais visíveis. A pesquisa conclui que uma cidade que deseja ser verdadeiramente inclusiva deve construir um sistema onde o direito de questionar o computador seja tão importante quanto o direito de caminhar na calçada.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.