Collective Recourse for Generative Urban Visualizations

1. Declaração do Problema

Modelos de difusão texto-para-imagem (por exemplo, Stable Diffusion XL) são cada vez mais utilizados no planejamento urbano para visualizar paisagens urbanas, opções de preenchimento e diretrizes de design. No entanto, esses modelos sofrem de vieses sociais sistemáticos, incluindo estereótipos demográficos, viés de gênero ocupacional e a omissão de comunidades específicas.

• A Lacuna: As atuais estruturas de recurso algorítmico focam em explicações contrafactuais individuais (como um único usuário pode alterar um resultado). Isso é insuficiente para imagens urbanas generativas, onde os danos são tipicamente em nível de grupo, recorrentes e estruturais.
• O Desafio: Não existe um mecanismo estabelecido para que comunidades relatem coletivamente "bugs visuais", acionem correções específicas de modelos e garantam que essas correções se propaguem para fluxos de trabalho de planejamento municipal (por exemplo, guias de design, processos de contratação).

2. Metodologia

Os autores propõem uma estrutura chamada Recurso Coletivo, que trata as entradas da comunidade como "relatórios de bugs visuais" estruturados que acionam um pipeline formal de mitigação.

A. O Pipeline de Recurso Coletivo

O sistema opera através de um fluxo de trabalho de cinco etapas:

1. Relatório: Comunidades submetem relatórios estruturados contendo o prompt, a imagem gerada, o contexto, o tipo de dano, a gravidade e a evidência.
2. Triagem: Uma equipe de recebimento agrupa os relatórios por tipo de dano e contexto. Eles calculam uma Pontuação de Mandato para determinar se uma correção é necessária.
3. Seleção de Correção: Com base na triagem, um dos quatro Primitivos de Recurso é selecionado:
   • Contraprompts: Adição de linguagem protetora e consciente do contexto.
   • Prompts negativos: Exclusão de motivos indesejados.
   • Edições de conjunto de dados: Curadoria/aumento de dados de treinamento para corrigir lacunas de cobertura.
   • Ajustes de modelo de recompensa: Atualização de modelos de preferência (semelhante ao RLHF) para orientar a geração.
4. Verificação: As correções são testadas contra um Conjunto de Avaliação Visual de Subgrupo (SVES) — um conjunto de prompts modelados com dicas de percepção urbana — para medir a recorrência.
5. Encerramento e Governança: As correções verificadas são registradas em painéis públicos, atualizam Cartões de Modelo/Folhas de Dados e são vinculadas a artefatos de planejamento (guias de design, Termos de Referência para Qualificação - RFQs). Júris cidadãos rotativos revisam os encerramentos para garantir representatividade e julgar disputas.

B. A Pontuação de Mandato ($M$)

Para decidir quando um relatório aciona uma correção obrigatória, os autores definem uma pontuação que combina gravidade, volume, representatividade e qualidade da evidência:
$$M(b) = s \cdot (1 - e^{-n/\tau_n}) \cdot r \cdot q$$
Onde:

• $s$: Gravidade ($0-1$)
• $n$: Contagem de relatores únicos (Saturação de volume)
• $r$: Índice de representatividade (alinhamento com marginais populacionais)
• $q$: Qualidade da evidência
• $\tau_n$: Parâmetro de saturação

Uma mitigação é mandatada quando $M(b) \geq \tau_M$ (um limite ajustado para compensações entre precisão e recall).

C. Estratégia de Avaliação

Os autores conduziram um estudo de simulação usando um programa sintético de 240 relatórios em seis subgrupos (Mulheres, Idosos, LGBTQ+, Recém-chegados, Diáspora Africana, Organizações de bairro). Eles rastrearam:

• Latência de Mitigação: Tempo do recebimento até a aprovação verificada.
• Recorrência: Probabilidade do dano reaparecer dentro de 30 dias.
• Adoção de Política: Se os planejadores adotaram a correção em documentos oficiais.

3. Principais Contribuições

1. Formalização do Recurso Coletivo: Uma nova estrutura que muda do recurso individual para o de nível de grupo, vinculando o gerenciamento do ciclo de vida do modelo à governança municipal.
2. Tipologia de Primitivos de Recurso: Uma classificação de quatro tipos de correção (Contraprompts, Prompts negativos, Edições de conjunto de dados, Ajustes de recompensa) com perfis distintos de velocidade-durabilidade.
3. Limites de Mandato: Uma definição matemática para acionar ação institucional com base em sinais coletivos, equilibrando urgência (recall) e rigor (precisão).
4. Pipeline Integrado: Um design prático que conecta correções técnicas a fluxos de trabalho de planejamento participativo, incluindo júris cidadãos e painéis públicos.

4. Principais Resultados (Simulação)

A simulação comparou os quatro primitivos de recurso e testou diferentes limites de mandato:

• Compensação Velocidade vs. Durabilidade:
  • Correções em nível de prompt (Contraprompts/Prompts negativos): Mais rápidas (Mediana de 2,1–3,4 dias) mas menos duráveis, com altas taxas de recorrência (21–38%).
  • Correções estruturais (Edições de conjunto de dados/Ajustes de modelo de recompensa): Mais lentas (Mediana de 13,5–21,9 dias) mas significativamente mais duráveis, com menor recorrência (12–18%) e maior adoção de políticas (30–36%).
• Sensibilidade do Limite:
  • Um limite de $\tau_M = 0,12$ rendeu 93% de precisão e 75% de recall.
  • O aumento da representatividade ($r$) via júris rotativos melhorou o recall para 81% com perda de precisão negligenciável, sugerindo que inovações procedimentais podem melhorar a equidade sem sacrificar a precisão.
• Variância por Subgrupo: A latência variou por subgrupo (2,8 a 4,7 dias), com Idosos mostrando a menor recorrência (13,9%) e Mulheres experimentando latência ligeiramente maior (4,7 dias), destacando a necessidade de níveis de serviço estratificados.

5. Significado e Implicações

• Ponte entre Domínios Técnicos e Cívicos: O artigo vai além da "transparência como objetivo final" (por exemplo, Cartões de Modelo) para "transparência como mecanismo de ação". Ele operacionaliza a responsabilidade ao vincular correções de modelos diretamente a artefatos de planejamento, como Termos de Referência para Qualificação (RFQs) e diretrizes de design.
• Mitigação de Danos em Grupo: Ao focar em sinais coletivos em vez de contrafactuais individuais, a estrutura aborda vieses sistêmicos que afetam comunidades inteiras na visualização urbana.
• Inovação em Governança: O uso de júris cidadãos rotativos e limites de mandato fornece um método escalável e democrático para auditoria de IA em setores públicos, prevenindo o "sobreajuste a grupos vocalizados" enquanto garante que vozes marginalizadas sejam ouvidas.
• Roteiro Prático: O estudo oferece uma "divisão de trabalho" concreta para cidades: usar correções em nível de prompt para alívio imediato e temporário, mas priorizar mudanças no conjunto de dados e no modelo de recompensa para correções estruturais de longo prazo.

Em conclusão, o artigo argumenta que, para que a IA generativa seja segura e equitativa no planejamento urbano, é necessária uma infraestrutura de recurso coletivo que transforme reclamações da comunidade em mudanças técnicas e políticas aplicáveis, auditáveis e duráveis.