GeoDiv: Framework For Measuring Geographical Diversity In Text-To-Image Models

El artículo presenta GeoDiv, un marco innovador que utiliza modelos de lenguaje y visión para cuantificar la diversidad geográfica en imágenes generadas por IA, revelando sesgos sistemáticos que retratan desproporcionadamente a países como India, Nigeria y Colombia en condiciones de pobreza y deterioro.

Lo esencial

¡Claro que sí! Imagina que los modelos de Inteligencia Artificial que crean imágenes (como los que te dibujan un gato o un coche) son como chefes de cocina muy famosos que han aprendido a cocinar viendo millones de fotos de internet.

El problema es que, aunque estos chefes son geniales, a veces tienen un "sesgo" o un "gusto" muy particular: si les pides que cocinen un plato típico de un país pobre, a veces lo hacen parecer miserable, y si les pides uno de un país rico, lo hacen parecer de lujo, incluso si la realidad es más variada.

Aquí te explico el papel "GeoDiv" como si fuera una historia:

🌍 El Problema: El "Menú" Sesgado de la IA

Imagina que le pides a un chef de IA: "Hazme una foto de una casa en Nigeria".

• Lo que debería pasar: Que te muestre casas de todo tipo: algunas de lujo, otras sencillas, algunas modernas, otras tradicionales, con jardines, con tierra, etc.
• Lo que suele pasar: La IA te muestra siempre casas muy pobres, con techos de lata oxidada y tierra polvorienta.

Si luego le pides: "Hazme una casa en Japón", te mostrará siempre edificios modernos, limpios y perfectos.

La IA está "estereotipando" al mundo. No está mostrando la realidad diversa, sino una caricatura basada en prejuicios.

🕵️‍♀️ La Solución: GeoDiv (El "Inspector de Diversidad")

Los autores de este papel crearon una herramienta llamada GeoDiv. Piensa en GeoDiv como un inspector de calidad muy inteligente que tiene dos lentes mágicos para revisar las fotos que hace la IA.

Este inspector no solo mira si la foto es bonita, sino que usa dos reglas de oro (llamadas índices):

1. La Lente de la "Bolsa de Dinero y el Estado" (SEVI)

Esta lente mide dos cosas:

• ¿Cuánto dinero parece tener la escena? (¿Parece una zona de lujo o de pobreza?)
• ¿Qué estado de conservación tiene? (¿Todo está nuevo y brillante, o está roto y sucio?)

La analogía: Imagina que la IA es un fotógrafo que, si va a un país en desarrollo, siempre elige las fotos más tristes y viejas, y si va a un país rico, siempre elige las fotos más brillantes y nuevas. GeoDiv detecta esto y dice: "Oye, estás exagerando. En Nigeria también hay casas bonitas y en EE.UU. también hay casas viejas".

2. La Lente de la "Variedad Visual" (VDI)

Esta lente mira la diversidad de los objetos y el fondo.

• Objetos: Si pides "sillas", ¿la IA solo dibuja sillas de madera marrón? ¿O también dibuja sillas de plástico, de metal, de colores, con ruedas, sin respaldo?
• Fondos: Si pides "un coche", ¿siempre está en una carretera de tierra? ¿O también en una autopista de asfalto, en un garaje, en la nieve?

La analogía: Es como si te pidieran un menú de 10 platos diferentes, pero el chef solo te sirviera 10 veces el mismo plato pero con un poco de sal diferente. GeoDiv cuenta cuántas opciones reales hay en el plato.

🔍 ¿Qué descubrió el Inspector?

Cuando GeoDiv revisó las fotos de 4 modelos de IA famosos (como Stable Diffusion y FLUX) en 16 países diferentes, encontró cosas muy interesantes:

1. El "Efecto Pobreza": Países como India, Nigeria y Colombia aparecían sistemáticamente como lugares muy pobres y deteriorados en las fotos, mucho más de lo que es la realidad.
2. El "Efecto Lujo": Países como Japón, Reino Unido y EE.UU. aparecían siempre impecables, modernos y ricos.
3. El Truco de la "Belleza": Un modelo llamado FLUX hacía fotos muy bonitas y limpias (muy "afinadas"), pero eran todas iguales. Era como un jardín perfecto pero sin flores silvestres. Tenía mucha "belleza" pero poca "diversidad".
4. Los Modelos Nuevos no son siempre mejores: Sorprendentemente, los modelos de IA más nuevos a veces hacían menos variedad que los modelos un poco más antiguos.

🎯 ¿Por qué es importante esto?

Imagina que la IA es un mundo en miniatura que usamos para entender el planeta. Si ese mundo solo muestra a los países pobres como miserables y a los ricos como perfectos, estamos creando una realidad falsa.

GeoDiv es como una brújula que nos ayuda a:

• Detectar el sesgo: Decir "¡Oye, esto no es justo!".
• Arreglar la cocina: Ayudar a los creadores de IA a entrenar a sus modelos para que muestren la verdadera diversidad del mundo (casas ricas y pobres en todos lados, coches nuevos y viejos en todas partes).

En resumen

Este papel nos dice que, aunque la IA es increíble para crear imágenes, a veces olvida la complejidad real del mundo. GeoDiv es la herramienta que nos permite medir esa falta de variedad y empujar a la tecnología a ser más justa, inclusiva y realista, para que cuando pidas una foto de "una casa en cualquier lugar del mundo", la IA te muestre la riqueza real de nuestra diversidad, no solo un estereotipo aburrido.

Resumen técnico

Aquí tienes un resumen técnico detallado del artículo "GeoDiv: Framework for Measuring Geographical Diversity in Text-to-Image Models", presentado en ICLR 2026.

1. El Problema

Los modelos de texto a imagen (T2I) como Stable Diffusion y FLUX.1 han ganado popularidad, pero sus salidas a menudo carecen de diversidad geográfica, refuerzan estereotipos dañinos y malinterpretan regiones específicas.

• Sesgo Socioeconómico: Las imágenes generadas para países en desarrollo (ej. India, Nigeria, Colombia) tienden a representar consistentemente pobreza, deterioro y condiciones precarias, mientras que países desarrollados (ej. EE. UU., Japón, Reino Unido) se muestran siempre como prósperos y bien mantenidos.
• Limitaciones de las Métricas Existentes: Las métricas actuales de diversidad se basan en conjuntos de datos curados (que son limitados) o en similitud visual superficial (como distancias de embeddings). Estas no son interpretables ni capturan matices socioeconómicos o contextuales específicos de cada país.
• Necesidad: Existe una carencia crítica de un marco automatizado, interpretable y sin referencia (reference-free) para cuantificar la diversidad geográfica a nivel de atributos finos (estado físico, riqueza, contexto ambiental).

2. Metodología: El Marco GeoDiv

Los autores proponen GeoDiv, un marco que utiliza el conocimiento del mundo incrustado en Grandes Modelos de Lenguaje (LLM) y Modelos Visión-Lenguaje (VLM) para evaluar la diversidad a lo largo de dos ejes complementarios:

A. Índice Visual Socioeconómico (SEVI - Socio-Economic Visual Index)

Captura las señales de estatus económico y mantenimiento físico mediante dos dimensiones puntuadas en una escala de 1 a 5 por un VLM:

1. Riqueza (Affluence): Desde "empobrecido" hasta "lujo".
2. Mantenimiento (Maintenance): Desde "severamente dañado" hasta "excelente".

• Objetivo: Medir si el modelo genera una distribución diversa de condiciones socioeconómicas o si se inclina sistemáticamente hacia un extremo según el país.

B. Índice de Diversidad Visual (VDI - Visual Diversity Index)

Mide la variación en los atributos visuales de las entidades y sus fondos mediante preguntas generadas por LLM y respuestas de VQA (Visual Question Answering):

1. Apariencia de la Entidad: Atributos como forma, material, color o estado de objetos principales (ej. casas, coches).
2. Apariencia del Fondo: Contexto ambiental (ej. tipo de carretera, presencia de infraestructura moderna, densidad de edificios).

C. Cálculo de la Diversidad

Para cuantificar la diversidad en cada dimensión, GeoDiv utiliza el Número de Hill (una métrica inspirada en la biodiversidad).

• Se calcula la entropía de Shannon sobre la distribución de las respuestas a las preguntas de VQA.
• Se normaliza el resultado para obtener una puntuación entre 0 y 1, donde 1 indica máxima diversidad (distribución uniforme de atributos) y 0 indica falta de diversidad (un solo atributo dominante).
• Se implementan controles para reducir alucinaciones: verificación de visibilidad (si el atributo es visible), opciones de "Ninguna de las anteriores" (NOTA) y selección múltiple.

3. Configuración Experimental

• Modelos Evaluados: Stable Diffusion v2.1, v3 (SD3m), v3.5 (SD3.5) y FLUX.1-dev.
• Datos: 160,000 imágenes sintéticas generadas para 10 entidades comunes (casa, coche, silla, etc.) en 16 países diversos (EE. UU., India, Nigeria, Japón, etc.).
• Validación: Se realizaron estudios humanos masivos (crowdsourcing) para validar la precisión de los VLM (Gemini-2.5-flash, Qwen2.5-VL) frente a las puntuaciones de SEVI y VDI, demostrando una alta correlación.

4. Resultados Clave

El análisis realizado con GeoDiv revela sesgos sistemáticos y preocupantes:

• Sesgo Socioeconómico Extremo:

  • Países como India, Nigeria y Colombia son generados consistentemente como empobrecidos y con bajo mantenimiento (puntuaciones SEVI bajas).
  • Países como Japón, EE. UU. y el Reino Unido aparecen sistemáticamente prósperos y bien cuidados.
  • Ningún modelo genera una distribución equilibrada que refleje la realidad socioeconómica de estos países (mezcla de riqueza y pobreza).

• Falta de Diversidad Visual (VDI):

  • Existe una falta generalizada de variación en los fondos y entidades. Por ejemplo, el 77% de las imágenes de coches de Nigeria muestran caminos de tierra/grava, mientras que el 85% de las de EE. UU. muestran asfalto.
  • Las casas en Egipto generadas por SD3.5 son casi exclusivamente de piedra, mientras que en el Reino Unido son de ladrillo, mostrando estereotipos rígidos.

• Trade-off entre Pulido y Diversidad:

  • FLUX.1 obtiene puntuaciones SEVI muy altas (imágenes muy "limpias" y lujosas) pero puntuaciones VDI muy bajas (falta de variación visual). Esto sugiere que los modelos más nuevos priorizan la estética pulida sobre la diversidad real.
  • Stable Diffusion 2.1 mostró la mayor diversidad visual general, aunque con menor calidad estética promedio.

• Comparación con Datos Reales:

  • Al comparar con el conjunto de datos real GeoDE, se observa que las imágenes sintéticas tienen significativamente menos diversidad en la apariencia de entidades y mantenimiento, confirmando que los modelos no aprenden la variabilidad del mundo real.

5. Contribuciones Principales

1. Marco GeoDiv: Introducción del primer marco sistemático e interpretable para medir la diversidad geográfica en modelos generativos, utilizando LLMs y VLMs para extraer atributos semánticos.
2. Dataset y Recursos: Liberación de un dataset de 160,000 imágenes sintéticas, anotaciones humanas, prompts y el código completo para permitir la auditoría de futuros modelos.
3. Descubrimiento de Sesgos: Identificación cuantitativa de cómo los modelos actuales perpetúan narrativas de pobreza en el Sur Global y de riqueza excesiva en el Norte Global, más allá de la simple representación de objetos.
4. Herramienta de Diagnóstico: Demostración de que GeoDiv puede usarse para guiar la mejora de modelos (ej. mediante ingeniería de prompts balanceada) para aumentar la inclusividad.

6. Significado e Impacto

GeoDiv representa un paso crucial hacia sistemas generativos más justos e inclusivos. Al proporcionar una métrica interpretable, permite a los investigadores y desarrolladores:

• Auditar no solo la calidad visual, sino la representatividad geográfica y socioeconómica.
• Identificar y mitigar sesgos específicos (ej. "¿Por qué todas las casas en Nigeria tienen techos de chapa?").
• Fomentar el desarrollo de modelos que reflejen la verdadera diversidad del mundo, evitando la homogeneización cultural y la perpetuación de estereotipos de pobreza.

El trabajo subraya que la "calidad" en la generación de imágenes no debe medirse solo por la estética, sino también por la fidelidad y la diversidad de las representaciones del mundo real.