Pluralistic-Alignment Urbanism: Operationalizing a Right to AI for Inclusive Public Space

Resumo Técnico: Urbanismo de Alinhamento Pluralista (PAU)

Problema

Agências municipais utilizam cada vez mais sistemas de aprendizado de máquina para inventariar espaços públicos, pontuar paisagens urbanas e gerar imagens sintéticas para o planejamento urbano. Esses sistemas funcionam como uma "camada epistêmica e algorítmica" que converte experiências humanas heterogêneas em artefatos comparáveis (pontuações, mapas, imagens) para informar orçamentos e projetos. No entanto, o espaço público é caracterizado por um desacordo persistente em relação à inclusão, segurança e pertencimento. Os atuais marcos de governança frequentemente tratam esses sistemas como ferramentas neutras de suporte à decisão, baseando-se em alvos de avaliação únicos que pressupõem um consenso universal. Essa abordagem corre o risco de obscurecer valores contestados, apagar diferenças entre subgrupos através da média das maiorias e legitimar decisões que falham em considerar a natureza pluralista da vida pública. O artigo argumenta que tratar o desacordo como "ruído" a ser eliminado é uma falha de governança; em vez disso, o desacordo e a indeterminação devem ser tratados como evidências relevantes para a decisão.

Metodologia

O artigo propõe o Urbanismo de Alinhamento Pluralista (PAU), um framework de governança processual operacionalizado por meio de dois estudos de caso participativos realizados em colaboração com organizações comunitárias em Montreal, Canadá. A metodologia trata a participação não como uma validação post-hoc, mas como a coprodução de critérios de avaliação, dados e artefatos de governança.

1. Street Review (Sistema Representacional):

   • Objetivo: Avaliar paisagens urbanas com base em critérios dos residentes e escalar esses julgamentos para toda a cidade.
   • Processo:
     • Elicitação: Entrevistas semiestruturadas com 28 residentes geraram mais de 600 descritores, consolidados em quatro critérios: Acessibilidade, Estética, Praticidade e Inclusividade.
     • Avaliação: 12 participantes avaliaram 60 imagens de visão de rua individualmente e, em seguida, discutiram as imagens em grupos facilitados para produzir julgamentos coletivos.
     • Escalonamento: Um modelo de regressão multivariada supervisionada foi treinado em 120 imagens avaliadas (agrupadas por pontos de dados ao nível da rua para evitar vazamento de dados) para prever pontuações para 45.000 imagens de ruas. O modelo prevê 28 pontuações (4 critérios × 6 subgrupos autoidentificados + 4 agregados).
   • Métricas: Desempenho preditivo medido via $R^2$ em conjuntos de teste retidos (held-out).

2. LIVS (Espaços Visuais Interseccionais Locais) (Sistema Generativo):

   • Objetivo: Alinhar modelos de texto-para-imagem com preferências pluralistas para o design de espaços públicos.
   • Processo:
     • Construção de Dados: Workshops com parceiros comunitários elicitaram 634 conceitos, consolidados em seis critérios (Acessibilidade, Segurança, Conforto, Acolhimento, Inclusividade, Diversidade). 440 prompts elaborados pelos participantes foram usados para gerar 16.693 imagens via Stable Diffusion XL.
     • Coleta de Preferências: 18 participantes anotaram 37.710 comparações de pares de imagens usando uma plataforma web. Crucialmente, a interface incluía uma opção neutra explícita para indiferença ou indeterminação.
     • Alinhamento: Uma otimização de preferência direta (DPO) foi realizada em 35.510 comparações não neutras.
     • Avaliação: Um workshop de controle com 25 residentes forneceu 2.100 novas comparações para avaliar o modelo ajustado contra a linha de base, rastreando especificamente a taxa de seleções neutras.

Principais Contribuições

1. Urbanismo de Alinhamento Pluralista (PAU): Um framework de governança processual que trata os sistemas de IA de espaço público como infraestrutura cívica que exige um Direito ao IA processual. Este direito não é um direito de acesso geral, mas um conjunto de procedimentos mínimos (direitos, deveres, artefatos, recurso) para sistemas que moldam condições coletivas.
2. O Objeto Evidencial: Uma mudança conceitual que vê o artefato acoplado (estímulo, critérios, protocolo, agregação, representação) como a unidade de governança. O desacordo e a neutralidade são propriedades deste objeto, não erros.
3. Arquitetura de Governança: Um modelo de implementação concreto apresentando:
   • Relatórios Desagregados: Evitando a média majoritária padrão; reportando evidências específicas de subgrupos.
   • Registro de Valores Versionado: Um registro municipal que distingue dimensões passíveis de monitoramento (benchmarkable) de dimensões contestadas.
   • Células Deliberativas Permanentes: Corpos participativos com autoridade para atualizar o registro de valores e recomendar pausas ou reversões.
   • Autoridade de Pausa e Reversão: Gatilhos explícitos para interromper sistemas baseados em danos documentados, deriva (drift) ou indeterminação.

Resultos

Os estudos empíricos geraram quatro proposições que conectam restrições técnicas a implicações de governança:

• P1: O Pluralismo é Estruturado, Não Ruído.
  • Os critérios não são comensuráveis. As correlações entre critérios foram moderadas e desiguais (ex: Praticidade e Estética não apresentaram correlação, $r = -0.05$; Inclusividade correlacionou-se moderadamente com Acessibilidade e Estética).
  • As avaliações de subgrupos sobre os mesmos estímulos diferiram significativamente, indicando que as escolhas de agregação são consequenciais e podem apagar diferenças relevantes para a prestação de contas.
• P2: A Deliberação Muda o Objeto Evidencial.
  • Os julgamentos de grupo não foram meras médias das avaliações individuais. A discussão levou a reinterpretações dos critérios e a novos motivos para a pontuação.
  • O desacordo residual após a deliberação foi registrado como evidência que restringe os usos permitidos do modelo, em vez de ser forçado ao consenso.
• P3: O Escalonamento Co-produzido é Viável, mas Limitado.
  • O modelo Street Review alcançou $R^2 = 0,91$ (validação) e $R^2 = 0,89$ (teste retido).
  • No entanto, a modalidade (imagens de visão de rua) limita a representação a pistas visíveis, falhando em capturar fatores experienciais como assédio ou pertencimento simbólico. Os mapas resultantes são artefatos de auditoria, não a verdade fundamental (ground truth).
• P4: A Neutralidade no Alinhamento de Preferências é um Sinal de Governança.
  • Na avaliação de controle do LIVS (2.100 comparações), 52,4% das seleções foram neutras (IC 95% [50,2, 54,5]).
  • As saídas ajustadas via DPO foram preferidas em apenas 33,3% dos casos.
  • Altas taxas de neutralidade indicam que muitas comparações não sustentam uma ordenação determinante sob os critérios dados, servindo como um sinal para restringir a otimização em vez de um rótulo a ser suavizado.

Significância e Alegações

O artigo alega que a legitimidade dos sistemas de IA de espaço público depende menos do desempenho preditivo isolado e mais da capacidade das instituições de sustentar revisão, contestação e controle de escopo contínuos.

• Operacionalizando um Direito ao IA: O artigo traduz direitos abstratos em procedimentos municipais aplicáveis, incluindo cláusulas de contratação que exigem relatórios desagregados e autoridade de pausa.
• Reenquadrando a Indeterminação: Ao tratar a neutralidade e o desacordo como entradas para a governança, em vez de falhas do modelo, o PAU fornece um mecanismo para justificar o que os sistemas podem e não podem legitimamente representar.
• Robustez Institucional: A arquitetura proposta (células deliberativas, registros de valores) visa prevenir a "captura de governança" por normas dominantes e garante que a evidência mediada por IA permaneça contestável.

Os autores afirmam explicitamente que o objetivo não é resolver o desacordo sobre o espaço público, mas governar os sistemas de forma que tal desacordo permaneça visível, contestável e consequencial. O framework é apresentado como um piso processual para a tomada de decisão municipal, reconhecendo que os critérios específicos e os registros de valores devem ser re-comissionados localmente e não podem ser transferidos como templates fixos.