💻 computer science

Assessing the Geographic Diversity of AI's Platial Representations in Image Generation

Este artigo avalia a diversidade geográfica da geração de imagens por IA ao adaptar medidas de diversidade de espécies ecológicas para revelar que modelos mais antigos e revisões de prompts frequentemente produzem maior diversidade do que modelos mais recentes, ao mesmo tempo em que expõe uma homogeneidade preocupante na forma como os sistemas atuais representam estereotipadamente lugares específicos.

Autores originais: Zilong Liu, Krzysztof Janowicz, Mina Karimi

Publicado 2026-06-05

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Zilong Liu, Krzysztof Janowicz, Mina Karimi

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você tem um grupo de robôs muito inteligentes e muito criativos. Você pede para eles desenharem a imagem de uma cidade específica, como Viena. Você poderia esperar que, se pedisse a 30 robôs diferentes, obteria 30 visões diferentes: alguns mostrando um parque, outros um museu, outros uma rua movimentada e outros uma igreja famosa.

Mas este artigo faz uma pergunta: E se todos eles desenharem exatamente a mesma coisa?

Os autores deste estudo decidiram testar isso pedindo a vários modelos de IA (como o DALL·E e o GPT-4o) para gerar imagens de Viena. Eles não apenas olharam para as imagens; eles olharam para as ideias por trás das imagens para ver se a IA estava sendo criativa ou apenas repetindo um disco riscado.

Aqui está a divisão de suas descobertas, usando analogias simples:

1. O Problema do "Folheto Turístico"

Quando os pesquisadores pediram à IA para desenhar Viena, quase todos os modelos pensaram imediatamente na Catedral de Santo Estêvão. Era como se cada robô tivesse exatamente o mesmo folheto turístico em sua cabeça.

A Descoberta: Os modelos de IA eram incrivelmente "estereotipados". Eles não mostravam a cidade inteira; mostravam apenas os marcos mais famosos e icônicos (como a Ópera ou a Prefeitura).
A Metáfora: Imagine pedir a 100 pessoas para descreverem uma floresta. Se 90 delas apenas mencionarem o pinheiro mais alto e ignorarem as samambaias, os rios e as rochas, elas não estão realmente descrevendo a floresta; elas estão apenas descrevendo a "ideia" de um pinheiro. A IA estava fazendo o mesmo com Viena.

2. A Surpresa do "Velho vs. Novo"

Normalmente, pensamos que a tecnologia mais nova é sempre melhor. Assumimos que o modelo de IA mais recente seria o mais criativo e diverso.

A Descoberta: Os autores descobriram algo contraintuitivo. Os modelos de IA mais antigos (como o DALL·E 2) produziram um conjunto de imagens mais diverso do que os mais novos. Os modelos mais recentes eram, na verdade, mais presos em seus modos, focando pesadamente nos mesmos poucos marcos.
A Metáfora: É como uma playlist de música. Você pode esperar que a versão "Premium 2026" de um aplicativo de música tenha a maior variedade. Mas, neste caso, a versão "Premium" apenas tocava os 3 sucessos do topo repetidamente, enquanto a versão "Básica 2022" realmente tocava uma mistura mais ampla de músicas.

3. O Abismo entre "Palavra vs. Imagem"

O estudo observou duas etapas no processo:

O Prompt: O texto que a IA escreve para descrever o que ela vai desenhar.
A Imagem: A própria imagem que ela gera.

A Descoberta: A IA era mais diversa quando estava escrevendo a descrição do que quando estava desenhando a imagem.
A Metáfora: Imagine um chef que escreve um menu com 20 pratos exóticos (o prompt), mas quando realmente cozinha a refeição, ele apenas serve os mesmos três pratos básicos (a imagem). A "ideia" era diversa, mas a "realidade" não era.

4. Contando Maçãs e Laranjas (A Parte Matemática)

Para medir essa "diversidade", os pesquisadores pegaram emprestado uma ferramenta da ecologia (o estudo da natureza).

O Jeito Antigo (Número de Hill): Se você tem uma floresta com 10 árvores e todas são de espécies diferentes, isso é alta diversidade. Se você tem 10 árvores e 9 são pinheiros e 1 é um carvalho, isso é baixa diversidade.
O Jeito Novo (Número de Leinster-Cobbold): Os autores perceberam que apenas contar coisas "diferentes" não é suficiente. E se você tiver 10 árvores, mas 5 forem pinheiros e 5 forem abetos? Elas são espécies diferentes, mas são muito semelhantes entre si.
O Insight: Quando usaram essa matemática de "similaridade", os índices de diversidade caíram ainda mais. Descobriu-se que, mesmo quando a IA escolhia marcos diferentes, eles eram frequentemente apenas versões diferentes do mesmo tipo de edifício (por exemplo, diferentes igrejas).
A Metáfora: Se você pedir a uma criança para escolher 5 frutas diferentes, e ela escolher uma maçã Granny Smith, uma Fuji e uma Gala, ela pode dizer: "Eu escolhi 3 frutas diferentes!". Mas um especialista sabe que todas são apenas maçãs. A IA estava escolhendo marcos "diferentes" que eram, na verdade, apenas "maçãs" diferentes.

5. Por Que Devemos Nos Importar?

Os autores argumentam que isso não é apenas uma falha técnica; é uma forma de viés.

Se uma IA sempre mostra as mesmas poucas atrações quando você pergunta sobre uma cidade, ela cria uma visão estreita e estereotipada desse lugar.
Ela corre o risco de tornar invisível o restante da cidade (os bairros locais, os parques menores, a arquitetura local única).
A Conclusão: À medida que a IA melhora em criar imagens, ela pode, na verdade, tornar-se pior em nos mostrar a realidade real, bagunçada e diversa do mundo. Ela está se tornando um "salão de espelhos" que apenas reflete as coisas mais famosas de volta para nós.

Em resumo: O artigo alerta que nossos geradores de imagens de IA estão se tornando "câmaras de eco" para a geografia. Eles estão ficando tão bons em seguir a multidão que estão esquecendo de nos mostrar as partes únicas, diversas e menos famosas do mundo.

Resumo Técnico: Avaliando a Diversidade Geográfica das Representações Platiais da IA na Geração de Imagens

Definição do Problema
Embora a falta de diversidade na IA Generativa (GenAI) seja frequentemente enquadrada como uma questão ética, este artigo argumenta que se trata, fundamentalmente, de um problema de ciência da informação geográfica (GIScience) enraizado na incerteza e no viés cognitivo. Pesquisas anteriores quantificaram a diversidade geográfica em saídas de IA baseadas em texto (ex: chatbots nomeando países) usando medidas informacionais como o número de Hill. No entanto, existe uma lacuna significativa em relação à geração de imagens por IA. Diferente do texto, que pode ser tokenizado, as imagens contêm informações ricas e de alta dimensão que requerem segmentação semântica para identificar objetos constituintes. As operacionalizações atuais de diversidade geográfica não foram aplicadas à natureza multimodal da geração de texto-para-imagem (T2I), nem consideraram a similaridade entre entidades geográficas (ex: diferentes tipos de marcos/monumentos) dentro dos resultados gerados.

Metodologia
Os autores propõem um framework para medir a diversidade geográfica na geração de imagens por IA, utilizando Viena, Áustria, como estudo de caso. A metodologia envolve três estágios primários:

Configuração Experimental e Geração de Dados:
- O estudo utiliza o ecossistema multimodal da OpenAI, especificamente o modelo de linguagem grande (LLM) GPT-4o atuando como um agente para revisar os prompts do usuário antes de chamar modelos T2I (GPT Image 1, GPT Image 1 Mini, GPT Image 1.5), bem como modelos T2I independentes (DALL·E 2, DALL·E 3).
- Um prompt "Gere uma imagem de Viena" foi enviado em 30 sessões independentes para cada configuração de modelo.
- O fluxo de trabalho captura tanto os prompts revisados (processados pelo LLM) quanto as imagens geradas.
Anotação Semântica e Computação de Similaridade:
- Identificação de Marcos: Pesquisadores identificaram manualmente o marco principal em cada prompt revisado (definido como o primeiro marco mencionado) e em cada imagem gerada (definido como o marco em primeiro plano).
- Mapeamento de Base de Conhecimento: Os marcos identificados foram mapeados para entidades do Wikidata.
- Ponderação de Similaridade: Para abordar a limitação das medidas de diversidade padrão que tratam todas as entidades distintas como igualmente diferentes, os autores computaram a "similaridade de tipo de lugar". Usando a distância de Rada (comprimento do caminho mais curto em uma rede semântica) dentro do Wikidata, eles calcularam a similaridade entre pares de marcos. Por exemplo, duas igrejas são consideradas mais similares do que uma igreja e uma casa de ópera.
Medição de Diversidade:
- Número de Hill ( $^qD$ ): A medida padrão de diversidade (riqueza e equitabilidade) foi aplicada, tratando os marcos como espécies distintas.
- Número de Leinster-Cobbold ( $^qD_Z$ ): Uma extensão sensível à similaridade do número de Hill foi aplicada. Esta métrica incorpora uma matriz de similaridade ( $Z$ ) derivada das distâncias de Rada. Ela postula que uma comunidade de espécies altamente similares (ou marcos) é menos diversa do que uma comunidade de espécies altamente distintas, mesmo que a contagem e a distribuição sejam idênticas.
- Perfis de Diversidade: Os resultados foram visualizados através de diferentes ordens de $q$ (onde $q=0$ enfatiza a riqueza, $q=1$ a entropia de Shannon e $q=2$ enfatiza a equitabilidade).

Principais Contribuições

Framework de Avaliação Multimodal: O artigo demonstra que avaliar a diversidade geográfica na GenAI requer uma abordagem de múltiplos estágios que considere tanto a revisão de prompts (processamento por LLM) quanto a geração de imagens (processamento por T2I), destacando o papel de sistemas multiagentes.
Métricas Sensíveis à Similaridade: Os autores introduzem a aplicação do número de Leinster-Cobbold à diversidade geográfica. Ao integrar bases de conhecimento auxiliares (Wikidata) para computar a similaridade semântica, eles fornecem uma medida mais holística que penaliza a super-representação de características semanticamente similares (ex: múltiplas igrejas) de forma mais rigorosa do que as métricas padrão.
Estudo de Caso Empírico: O estudo fornece a primeira análise empírica da diversidade geográfica em imagens geradas por IA, indo além dos benchmarks baseados em texto para as representações visuais de lugares específicos.

Resultados
A análise gerou descobertas contraintuitivas:

Desempenho do Modelo vs. Diversidade: Modelos mais novos não exibem necessariamente maior diversidade geográfica. Por exemplo, o GPT Image 1 (e sua variante Mini) mostrou consistentemente a menor diversidade na geração de imagens. Por outro lado, o modelo mais antigo DALL·E 2 exibiu maior diversidade (especificamente em equitabilidade) do que seus equivalentes mais novos quando a similaridade foi ignorada.
Diversidade de Prompt vs. Imagem: Os prompts revisados gerados pelos LLMs exibiram consistentemente maior diversidade geográfica do que as imagens finais produzidas pelos modelos T2I. Isso sugere que a etapa de geração de imagem introduz um gargalo ou efeito de homogeneização.
Prototipicidade e Homogeneidade: Todos os modelos exibiram um forte "efeito de prototipicidade", favorecendo esmagadoramente a Catedral de Santo Estêvão. Embora a distribuição específica de outros marcos tenha variado ligeiramente entre os modelos, a falta de diversidade foi explícita e compartilhada.
Impacto da Similaridade: Os números de Leinster-Cobbold foram consistentemente menores do que os números de Hill. Isso indica que, embora os modelos possam gerar uma variedade de marcos nomeados, esses marcos são frequentemente semanticamente similares (ex: diferentes tipos de igrejas ou palácios), levando a um "colapso de diversidade" quando a similaridade semântica é considerada.
Taxas de Validade: Os modelos mais novos (GPT Image 1.5, GPT Image 1, GPT Image 1 Mini) alcançaram 100% de validade na geração de imagens com marcos identificáveis, enquanto o DALL·E 2 teve a menor taxa (67%). No entanto, a validade dos prompts revisados foi menor do que a das imagens, sugerindo que os modelos T2I podem gerar descrições visuais de marcos sem pistas linguísticas explícitas no prompt.

Significância e Alegações
O artigo afirma que a diversidade geográfica na GenAI não é apenas sobre o número de lugares mencionados, mas também sobre as — representações platiais — como lugares específicos são retratados e a variedade semântica dessas representações.

Além da Ética: Os autores enquadram a diversidade como uma função da incerteza e uma manifestação do viés cognitivo (especificamente, uma dependência de categorias geográficas fixas e prototípicas).
Risco de Estereotipagem: A homogeneidade observada gera o risco de produzir representações estereotipadas de lugares, onde cidades complexas são reduzidas a um conjunto estreito de marcos icônicos.
Avanço Metodológico: Ao mostrar que o número de Leinster-Cobbold revela uma falta de diversidade mais profunda do que o número de Hill, o artigo argumenta que as avaliações futuras da GenAI devem incorporar a similaridade semântica para avaliar com precisão o viés representacional.
Chamada para Ação: Os autores convocam estudos de caso sistemáticos e centrados no lugar, que abranjam várias escalas geográficas e modalidades, para entender e quantificar melhor os vieses nos sistemas de (Geo)IA generativa, baseando-se na literatura de quantificação de incerteza e percepção ambiental.