💻 computer science

Assessing the Geographic Diversity of AI's Platial Representations in Image Generation

Este artículo evalúa la diversidad geográfica de la generación de imágenes por IA adaptando las medidas de diversidad de especies ecológicas para revelar que los modelos más antiguos y las revisiones de prompts suelen producir una mayor diversidad que los modelos más nuevos, al tiempo que expone una homogeneidad preocupante en la forma en que los sistemas actuales representan estereotípicamente lugares específicos.

Autores originales: Zilong Liu, Krzysztof Janowicz, Mina Karimi

Publicado 2026-06-05

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Zilong Liu, Krzysztof Janowicz, Mina Karimi

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que tienes un grupo de robots muy inteligentes y muy creativos. Les pides que dibujen la imagen de una ciudad específica, como Viena. Podrías esperar que si les pides a 30 robots diferentes, obtendrías 30 vistas distintas: algunos mostrarían un parque, otros un museo, otros una calle concurrida y otros una iglesia famosa.

Pero este artículo plantea la siguiente pregunta: ¿Qué pasa si todos dibujan exactamente lo mismo?

Los autores de este estudio decidieron probar esto pidiendo a varios modelos de IA (como DALL·E y GPT-4o) que generaran imágenes de Viena. No se limitaron a mirar las imágenes; analizaron las ideas detrás de las imágenes para ver si la IA estaba siendo creativa o simplemente repitiendo como un disco rayado.

Aquí está el desglose de sus hallazgos, utilizando analogías sencillas:

1. El problema del "Folleto Turístico"

Cuando los investigadores le pidieron a la IA que dibujara Viena, casi todos los modelos pensaron inmediatamente en la Catedral de San Esteban. Era como si cada robot tuviera exactamente el mismo folleto turístico en su cabeza.

El hallazgo: Los modelos de IA eran increíblemente "estereotípicos". No mostraban la ciudad completa; solo mostraban los monumentos más famosos e icónicos (como la Ópera o el Ayuntamiento).
La metáfora: Imagina pedirle a 100 personas que describan un bosque. Si 90 de ellas solo mencionan el pino más alto e ignoran los helechos, los ríos y las rocas, no están describiendo realmente el bosque; solo están describiendo la "idea" de un pino. La IA estaba haciendo lo mismo con Viena.

2. La sorpresa de "Viejo vs. Nuevo"

Normalmente, pensamos que la tecnología más nueva es siempre mejor. Asumimos que el modelo de IA más reciente sería el más creativo y diverso.

El hallazgo: Los autores encontraron algo contraintuitivo. Los modelos de IA más antiguos (como DALL·E 2) produjeron un conjunto de imágenes más diverso que los más nuevos. Los modelos más recientes eran en realidad más aferrados a sus formas, centráéndose fuertemente en los mismos pocos monumentos.
La metáfora: Es como una lista de reproducción musical. Podrías esperar que la versión "Premium 2026" de una aplicación de música tenga la mayor variedad. Pero en este caso, la versión "Premium" solo reproducía los 3 éxitos principales una y otra vez, mientras que la versión "Básica 2022" realmente tocaba una mezcla más amplia de canciones.

3. La brecha entre "Palabra vs. Imagen"

El estudio analizó dos pasos en el proceso:

El Prompt: El texto que la IA escribe para describir lo que va a dibujar.
La Imagen: La imagen real que genera.

El hallazgo: La IA era más diversa cuando escribía la descripción que cuando dibujaba la imagen.
La metáfora: Imagina a un chef que escribe un menú con 20 platos exóticos (el prompt), pero cuando realmente cocina la comida, solo sirve los mismos tres platos básicos (la imagen). La "idea" era diversa, pero la "realidad" no lo era.

4. Contar manzanas y naranjas (La parte matemática)

Para medir esta "diversidad", los investigadores tomaron prestada una herramienta de la ecología (el estudio de la naturaleza).

La forma antigua (Número de Hill): Si tienes un bosque con 10 árboles y todos son de especies diferentes, eso es alta diversidad. Si tienes 10 árboles y 9 son pinos y 1 es un roble, eso es baja diversidad.
La nueva forma (Número de Leinster-Cobbold): Los autores se dieron cuenta de que el simple hecho de contar cosas "diferentes" no es suficiente. ¿Qué pasa si tienes 10 árboles, pero 5 son pinos y 5 son abetos? Son especies diferentes, pero son muy similares entre sí.
La visión: Cuando utilizaron esta matemática de "similitud", las puntuaciones de diversidad bajaron aún más. Resultó que, incluso cuando la IA elegía monumentos diferentes, a menudo eran solo versiones diferentes del mismo tipo de edificio (por ejemplo, diferentes iglesias).
La metáfora: Si le pides a un niño que elija 5 frutas diferentes, y elige una manzana Granny Smith, una Fuji y una Gala, podría decir: "¡Elegí 3 frutas diferentes!". Pero un experto sabe que todas son solo manzanas. La IA estaba eligiendo monumentos "diferentes" que en realidad eran solo diferentes "manzanas".

5. ¿Por qué debería importarnos?

Los autores argumentan que esto no es solo un fallo técnico; es una forma de sesgo.

Si una IA siempre te muestra los mismos pocos monumentos cuando preguntas por una ciudad, crea una visión estrecha y estereotípica de ese lugar.
Corre el riesgo de hacer invisible el resto de la ciudad (los barrios locales, los parques más pequeños, la arquitectura local única).
La conclusión: A medida que la IA mejora en la creación de imágenes, podría volverse en realidad peor al mostrarnos la realidad verdadera, desordenada y diversa del mundo. Se está convirtiendo en un "salón de espejos" que solo nos refleja las cosas más famosas.

En resumen: El artículo advierte que nuestros generadores de imágenes de IA se están convirtendo en "cámaras de eco" para la geografía. Se están volviendo tan buenas siguiendo a la multitud que se están olvidando de mostrarnos las partes únicas, diversas y menos famosas del mundo.

Resumen Técnico: Evaluación de la Diversidad Geográfica de las Representaciones Placiales de la IA en la Generación de Imágenes

Planteamiento del Probleque
Si bien la falta de diversidad en la IA Generativa (GenAI) se suele enmarcar como un problema ético, este artículo argumenta que es fundamentalmente un problema de ciencia de la información geográfica (GIScience) arraigado en la incertidumbre y el sesgo cognitivo. Investigaciones previas han cuantificado la diversidad geográfica en los resultados de IA basados en texto (por ejemplo, chatbots nombrando países) utilizando medidas de teoría de la información como el número de Hill. Sin embargo, existe una brecha significativa con respecto a la generación de imágenes por IA. A diferencia del texto, que puede ser tokenizado, las imágenes contienen información rica y de alta dimensión que requiere una segmentación semántica para identificar los objetos constituyentes. Las operacionalizaciones actuales de la diversidad geográfica no se han aplicado a la naturaleza multimodal de la generación de texto a imagen (T2I), ni han tenido en cuenta la similitud entre entidades geográficas (por ejemplo, diferentes tipos de monumentos) dentro de los resultados generados.

Metodología
Los autores proponen un marco para medir la diversidad geográfica en la generación de imágenes por IA, utilizando Viena, Austria, como estudio de caso. La metodología consta de tres etapas principales:

Configuración Experimental y Generación de Datos:
- El estudio utiliza el ecosistema multimodal de OpenAI, específicamente el modelo de lenguaje grande (LLM) GPT-4o actuando como un agente para revisar los prompts del usuario antes de llamar a los modelos T2I (GPT Image 1, GPT Image 1 Mini, GPT Image 1.5), así como modelos T2I independientes (DALL·E 2, DALL·E 3).
- Se envió un prompt de "Genera una imagen de Viena" a través de 30 sesiones independientes para cada configuración de modelo.
- El flujo de trabajo captura tanto los prompts revisados (procesados por el LLM) como las imágenes generadas.
Anotación Semántica y Computación de Similitud:
- Identificación de Monumentos: Los investigadores identificaron manualmente el monumento principal en cada prompt revisado (definido como el primer monumento mencionado) y en cada imagen generada (definido como el monumento en primer plano).
- Mapeo de Base de Conocimiento: Los monumentos identificados se mapearon a entidades de Wikidata.
- Ponderación de Similitud: Para abordar la limitación de las medidas de diversidad estándar que tratan todas las entidades distintas como igualmente diferentes, los autores computaron la "similitud de tipo de lugar". Utilizando la distancia de Rada (longitud del camino más corto en una red semántica) dentro de Wikidata, calcularon la similitud entre pares de monumentos. Por ejemplo, dos iglesias se consideran más similares que una iglesia y una ópera.
Medición de la Diversidad:
- Número de Hill ( $^qD$ ): Se aplicó la medida estándar de diversidad (riqueza y uniformidad), tratando los monumentos como especies distintas.
- Número de Leinster-Cobbold ( $^qD_Z$ ): Se aplicó una extensión sensible a la similitud del número de Hill. Esta métrica incorpora una matriz de similitud ( $Z$ ) derivada de las distancias de Rada. Postula que una comunidad de especies (o monumentos) altamente similares es menos diversa que una comunidad de especies altamente distintas, incluso si el recuento y la distribución son idénticos.
- Perfiles de Diversidad: Los resultados se visualizaron a través de diferentes órdenes de $q$ (donde $q=0$ enfatiza la riqueza, $q=1$ la entropía de Shannon y $q=2$ enfatiza la uniformidad).

Contribuciones Clave

Marco de Evaluación Multimodal: El artículo demuestra que evaluar la diversidad geográfica en la GenAI requiere un enfoque de múltiples etapas que tenga en cuenta tanto la revisión del prompt (procesamiento del LLM) como la generación de la imagen (procesamiento T2I), destacando el papel de los sistemas multi-agente.
Métricas Sensibles a la Similitud: Los autores introducen la aplicación del número de Leinster-Cobbold a la diversidad geográfica. Al integrar bases de conocimiento auxiliares (Wikidata) para computar la similitud semántica, proporcionan una medida más holística que penaliza más fuertemente la sobrerrepresentación de características semánticamente similares (por ejemplo, múltiples iglesias) que las métricas estándar.
Estudio de Caso Empírico: El estudio constituye el primer análisis empírico de la diversidad geográfica en imágenes generadas por IA, yendo más allá de los benchmarks basados en texto hacia las representaciones visuales de lugares específicos.

Resultos
El análisis arrojó varios hallazgos contraintuitivos:

Rendimiento del Modelo vs. Diversidad: Los modelos más nuevos no muestran necesariamente una mayor diversidad geográfica. Por ejemplo, GPT Image 1 (y su variante Mini) mostró consistentemente la menor diversidad en la generación de imágenes. Por el contrario, el modelo más antiguo DALL·E 2 exhibió una mayor diversidad (específicamente en uniformidad) que sus contrapartes más nuevas cuando se ignoró la similitud.
Diversidad de Prompt vs. Imagen: Los prompts revisados generados por los LLM exhibieron consistentemente una mayor diversidad geográfica que las imágenes finales producidas por los modelos T2I. Esto sugiere que la etapa de generación de imágenes introduce un cuello de botella o un efecto de homogeneización.
Prototipicidad y Homogeneidad: Todos los modelos mostraron un fuerte "efecto de prototipicidad", favoreciendo abrumadoramente a la Catedral de San Esteban. Aunque la distribución específica de otros monumentos varió ligeramente entre los modelos, la falta de diversidad fue explícita y compartida.
Impacto de la Similitud: Los números de Leinster-Cobbold fueron consistentemente más bajos que los números de Hill. Esto indica que, aunque los modelos pueden generar una variedad de monumentos nombrados, estos monumentos son a menudo semánticamente similares (por ejemplo, diferentes tipos de iglesias o palacios), lo que conduce a un "colapso de la diversidad" cuando se tiene en cuenta la similitud semántica.
Tasas de Validez: Los modelos más nuevos (GPT Image 1.5, GPT Image 1, GPT Image 1 Mini) alcanzaron un 100% de validez en la generación de imágenes con monumentos identificables, mientras que DALL·E 2 tuvo la tasa más baja (67%). Sin embargo, la validez de los prompts revisados fue menor que la de las imágenes, lo que sugiere que los modelos T2I pueden generar descripciones visuales de monumentos sin pistas lingüísticas explícitas en el prompt.

Significancia y Reivindicaciones
El artículo sostiene que la diversidad geográfica en la GenAI no se trata simplemente del número de lugares mencionados, sino también de las representaciones placiales: cómo se representan lugares específicos y la variedad semántica de esas representaciones.

Más allá de la Ética: Los autores enmarcan la diversidad como una función de la incertidumbre y una manifestación del sesgo cognitivo (específicamente, una dependencia de categorías geográficas fijas y prototípicas).
Riesgo de Estereotipación: La homogeneidad observada conlleva el riesgo de producir representaciones estereotipadas de los lugares, donde ciudades complejas se reducen a un conjunto estrecho de monumentos icónicos.
Avance Metodológico: Al demostrar que el número de Leinster-Cobbold revela una falta de diversidad más profunda que el número de Hill, el artículo argumenta que las evaluaciones futuras de la GenAI deben incorporar la similitud semántica para evaluar con precisión el sesgo de representación.
Llamado a la Acción: Los autores hacen un llamado a realizar estudios de caso sistemáticos centrados en el lugar que abarquen diversas escalas geográficas y modalidades para comprender y cuantificar mejor los sesgos en los sistemas de IA (Geo)generativos, basándose en la literatura de la cuantificación de la incertidumbre y la percepción ambiental.

1. El problema del "Folleto Turístico"

2. La sorpresa de "Viejo vs. Nuevo"

3. La brecha entre "Palabra vs. Imagen"

4. Contar manzanas y naranjas (La parte matemática)

5. ¿Por qué debería importarnos?

Más como este