Large language models perceive cities through a culturally uneven baseline

Título: Modelos de Linguagem de Grande Escala (LLMs) Percebem Cidades através de uma Base Culturalmente Desigual

1. O Problema

Os Modelos de Linguagem de Grande Escala (LLMs) estão sendo cada vez mais utilizados para descrever, avaliar e interpretar lugares urbanos. No entanto, permanece incerto se essas interpretações partem de um ponto de vista culturalmente neutro ou universal.

• A Lacuna: Estudos anteriores sobre viés em LLMs são frequentemente baseados apenas em texto e desconectados de estímulos espaciais concretos. Por outro lado, pesquisas sobre percepção urbana com modelos generativos focam na precisão preditiva ou utilidade de planejamento, negligenciando a organização cultural da própria base de percepção.
• A Questão Central: Quando um LLM descreve uma cena urbana, ele trata o que é "neutro" como um ponto de partida vazio, ou essa "neutralidade" já carrega uma carga cultural específica que privilegia certas referências (geralmente ocidentais) em detrimento de outras?

2. Metodologia

Os autores desenvolveram um pipeline global de imagens de rua e aplicaram dois formatos de tarefa complementares para testar a percepção urbana em três LLMs de ponta: GPT-5.2, Claude Sonnet 4 e Gemini 2.5 Flash.

• Conjunto de Dados: Um corpus global balanceado de 3.000 imagens de ruas (street-view), estratificado por tipo de cena visual, tipo de lugar, país e provedor de imagem, garantindo diversidade geográfica e visual.
• Condições de Prompt (8 condições):
  1. Neutro: Uma linha de base sem identidade cultural específica.
  2. 7 Identidades Meso-regionais: Baseadas nas agrupações regionais da ONU (ex: Europa e América do Norte, África Subsaariana, Ásia Central e do Sul, etc.).
• Estudo 1: Percepção Aberta (Open-ended)
  • Os modelos geraram descrições de texto livre para as mesmas cenas sob as 8 condições.
  • Métricas: Distância semântica (cosine distance) em relação à linha de base neutra, projeções em espaço de embedding (PCA) e um Índice de Preferência de Grupo (IPI) baseado em sentimentos para medir viés de endogrupo.
  • Validação Humana: Comparação com um benchmark de pares imagem-texto do projeto Geograph Britain and Ireland para medir alinhamento com descrições humanas reais.
• Estudo 2: Percepção Estruturada
  • Os modelos atribuíram pontuações numéricas (0-100) em seis dimensões explícitas: Segurança, Vitalidade, Riqueza, Beleza, Tédio e Depressão.
  • Validação Externa: Comparação com modelos de aprendizado de máquina treinados em dados humanos (Place Pulse) e replicação de pares de comparação humana (gênero, idade, país) para ver se os LLMs reproduzem diferenças de grupo humanas.

3. Principais Contribuições e Resultados

A. A "Neutralidade" é Culturalmente Desigual

• Viés Semântico: A condição "neutra" não se comportou como uma base culturalmente invariável. A identidade "Europa e América do Norte" (ENA) foi consistentemente a mais próxima da linha de base neutra em todos os modelos (distância média de coseno de 0,137).
• Deslocamento Assimétrico: Regiões não-ocidentais, como América Latina e Caribe (0,189) e Oceania (0,192), apresentaram distâncias semânticas maiores da "neutralidade". Isso indica que a base de referência do modelo já está alinhada com perspectivas ocidentais, tornando-as o padrão implícito.
• Geometria do Espaço Semântico: As respostas condicionadas por identidade ocuparam posições distintas e estruturadas ao redor do prompt neutro, não sendo variações lexicais aleatórias, mas trajetórias específicas de identidade.

B. Viés Afetivo e Preferência de Endogrupo

• Preferência de Endogrupo (IPI): Os modelos exibiram uma preferência sistemática por avaliar positivamente cenas de sua própria região cultural quando solicitados a adotar essa identidade.
• Padrão Regional: As maiores preferências de endogrupo (IPI positivo) foram observadas em regiões como Norte da África, Ásia Ocidental e partes da África Subsaariana. O modelo Claude Sonnet 4 mostrou a tendência mais forte de auto-favorecimento.

C. Limitações no Alinhamento Humano

• Alinhamento Contextual vs. Diversidade: Prompts culturalmente próximos (ex: prompt "Reino Unido" para imagens do UK) melhoraram o alinhamento semântico com descrições humanas em comparação ao prompt neutro.
• Compressão e Otimismo: Mesmo com prompts culturais, os LLMs produziram descrições menos diversas (menor dispersão semântica e diversidade léxica) e mais positivas (sentimento elevado) do que os textos humanos reais. Os modelos tendem a "achatar" a complexidade e a diversidade interna dos grupos que representam.

D. Replicação de Diferenças Humanas (Estudo 2)

• Estrutura Cultural Persistente: Ao avaliar dimensões estruturadas (segurança, riqueza, etc.), o mesmo viés cultural reapareceu. A "Europa e América do Norte" teve o menor deslocamento em relação à neutra, enquanto a "África Subsaariana" teve o maior.
• Dimensões Sensíveis: A percepção de Riqueza e Segurança foi a mais sensível a mudanças de identidade cultural, enquanto Beleza foi mais estável.
• Falha na Replicação de Grupos Sociais: Os modelos conseguiram aproximar diferenças humanas baseadas em gênero e idade, mas falharam significativamente em replicar diferenças baseadas em país. A taxa de divergência para comparações entre países foi alta (0,230–0,400), indicando que os modelos não capturam a estrutura complexa das diferenças de percepção urbana entre nações.

4. Significado e Implicações

• Reconceitualização do Viés: O estudo sugere que o viés em LLMs urbanos não é apenas uma distorção sobre uma base estável, mas que a própria base é culturalmente privilegiada. A "neutralidade" é um ponto de partida culturalmente situado (ocidental), não um ponto zero universal.
• Tecnologia Social: Os LLMs devem ser entendidos como tecnologias culturais e sociais que carregam quadros de referência historicamente desiguais, e não apenas como motores de inferência neutros.
• Risco em Aplicações Urbanas: Em planejamento urbano, análise de cidades e design assistido por IA, há um risco de que descrições parciais culturalmente sejam interpretadas como descrições neutras e objetivas. Isso pode levar a uma "leitura equivocada padronizada" que privilegia imaginários urbanos ocidentais.
• Limitação da Engenharia de Prompt: Apenas ajustar o prompt para soar "local" não torna a percepção do modelo equivalente à percepção humana vivida; os modelos continuam a simplificar a complexidade e a manter um viés afetivo elevado.

Conclusão:
Os LLMs não percebem cidades "de lugar nenhum" (from nowhere). Eles interpretam o espaço urbano através de priors (prioridades) organizados culturalmente, onde o que parece "comum", "familiar" e "positivo" é moldado por uma base de referência desigualmente distribuída, centrada nas normas da Europa e América do Norte.