💻 computer science

Assessing the Geographic Diversity of AI's Platial Representations in Image Generation

Cet article évalue la diversité géographique de la génération d'images par IA en adaptant des mesures de diversité des espèces écologiques pour révéler que les modèles plus anciens et les révisions de prompts produisent souvent une plus grande diversité que les modèles plus récents, tout en exposant une homogénéité préoccupante dans la manière dont les systèmes actuels représentent stéréotypiquement certains lieux spécifiques.

Auteurs originaux : Zilong Liu, Krzysztof Janowicz, Mina Karimi

Publié 2026-06-05

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Zilong Liu, Krzysztof Janowicz, Mina Karimi

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous ayez un groupe de robots très intelligents et très créatifs. Vous leur demandez de dessiner une ville spécifique, comme Vienne. Vous pourriez vous attendre à ce que, si vous demandez à 30 robots différents, vous obteniez 30 vues différentes : certains montrant un parc, d'autres un musée, d'autres une rue animée ou une église célèbre.

Mais cet article pose la question suivante : Et si tous dessinaient exactement la même chose ?

Les auteurs de cette étude ont décidé de tester cela en demandant à divers modèles d'IA (comme DALL·E et GPT-4o) de générer des images de Vienne. Ils ne se sont pas contentés de regarder les images ; ils ont examiné les idées derrière les images pour voir si l'IA faisait preuve de créativité ou si elle se contentait de répéter un disque rayé.

Voici le détail de leurs conclusions, en utilisant des analogies simples :

1. Le problème de la « brochure touristique »

Lorsque les chercheurs ont demandé à l'IA de dessiner Vienne, presque tous les modèles ont immédiatement pensé à la Cathédrale Saint-Étienne. C'était comme si chaque robot avait exactement la même brochure touristique dans la tête.

La conclusion : Les modèles d'IA étaient incroyablement « stéréotypés ». Ils ne montraient pas toute la ville ; ils ne montraient que les monuments les plus célèbres et emblématiques (comme l'Opéra ou l'Hôtel de Ville).
La métaphore : Imaginez que vous demandiez à 100 personnes de décrire une forêt. Si 90 d'entre elles ne mentionnent que le plus grand pin et ignorement les fougères, les rivières et les rochers, elles ne décrivent pas vraiment la forêt ; elles décrivent simplement l'« idée » d'un pin. L'IA faisait la même chose avec Vienne.

2. La surprise du « Vieux contre le Nouveau »

Habituellement, nous pensons que la technologie la plus récente est toujours meilleure. Nous supposons que le modèle d'IA le plus récent sera le plus créatif et le plus diversifié.

La conclusion : Les auteurs ont trouvé quelque chose de contre-intuitif. Les modèles d'IA plus anciens (comme DALL·E 2) produisaient en réalité un ensemble d'images plus diversifié que les plus récents. Les modèles les plus récents étaient en fait plus ancrés dans leurs habitudes, se concentrant lourdement sur les mêmes quelques monuments.
La métaphore : C'est comme une playlist musicale. On pourrait s'attendre à ce que la version « Premium 2026 » d'une application de musique propose la plus grande variété. Mais dans ce cas, la version « Premium » ne jouait que les trois plus grands tubes encore et encore, tandis que la version « Basique 2022 » jouait en fait un mélange de chansons plus large.

3. L'écart entre « Mot et Image »

L'étude a examiné deux étapes du processus :

Le Prompt : Le texte que l'IA écrit pour décrire ce qu'elle va dessiner.
L'Image : L'image réelle qu'elle génère.

La conclusion : L'IA était plus diversifiée lorsqu'elle rédigeait la description que lorsqu'elle dessinait l'image.
La métaphore : Imaginez un chef qui écrit un menu avec 20 plats exotiques différents (le prompt), mais quand il cuisine réellement le repas, il ne sert que les trois plats de base habituels (l'image). L'« idée » était diversifiée, mais la « réalité » ne l'était pas.

4. Compter les pommes et les oranges (La partie mathématique)

Pour mesurer cette « diversité », les chercheurs ont emprunté un outil à l'écologie (l'étude de la nature).

L'ancienne méthode (Nombre de Hill) : Si vous avez une forêt avec 10 arbres, et qu'ils sont tous d'espèces différentes, c'est une grande diversité. Si vous avez 10 arbres et que 9 sont des pins et 1 est un chêne, c'est une faible diversité.
La nouvelle méthode (Nombre de Leinster-Cobbold) : Les auteurs ont réalisé que le simple fait de compter des choses « différentes » ne suffit pas. Et si vous avez 10 arbres, mais que 5 sont des pins et 5 sont des épicéas ? Ils sont d'espèces différentes, mais ils sont très similaires l'un à l'autre.
L'aperçu : Lorsqu'ils ont utilisé ce calcul de « similitude », les scores de diversité ont chuté encore plus bas. Il s'est avéré que même lorsque l'IA choisissait des monuments différents, ils étaient souvent simplement des versions différentes du même type de bâtiment (par exemple, différentes églises).
La métaphore : Si vous demandez à un enfant de choisir 5 fruits différents, et qu'il choisit une Granny Smith, une Fuji et une Gala, il pourrait dire : « J'ai choisi 3 fruits différents ! » Mais un expert sait qu'il s'agit de pommes, toutes les trois. L'IA choisissait des monuments « différents » qui étaient en fait juste des « pommes » différentes.

5. Pourquoi devrions-nous nous en soucier ?

Les auteurs soutiennent qu'il ne s'agit pas seulement d'un bug technique, mais d'une forme de biais.

Si une IA vous montre toujours les mêmes quelques monuments lorsque vous interrogez une ville, cela crée une vision étroite et stéréotypée de cet endroit.
Cela risque de rendre invisibles le reste de la ville (les quartiers locaux, les petits parcs, l'architecture locale unique).
La conclusion : À mesure que l'IA devient meilleure pour créer des images, elle pourrait en réalité devenir moins bonne pour nous montrer la réalité du monde, qui est complexe et diverse. Elle devient une « galerie de miroirs » qui ne nous renvoie que les choses les plus célèbres.

En bref : L'article prévient que nos générateurs d'images par IA deviennent des « chambres d'écho » pour la géographie. Ils deviennent si doués pour suivre la foule qu'ils en oublient de nous montrer les parties uniques, diverses et moins célèbres du monde.

Résumé technique : Évaluation de la diversité géographique des représentations platiales de l'IA dans la génération d'images

Énoncé du problème
Bien que le manque de diversité dans l'IA générative (GenAI) soit souvent présenté comme un enjeu éthique, cet article soutient qu'il s'agit fondamentalement d'un problème de science de l'information géographique (SIGcience) ancré dans l'incertitude et les biais cognitifs. Des recherches antérieures ont quantifié la diversité géographique dans les sorties textuelles de l'IA (par exemple, les chatbots nommant des pays) en utilisant des mesures de la théorie de l'information comme le nombre de Hill. Cependant, une lacune importante subsiste concernant la génération d'images par l'IA. Contrairement au texte, qui peut être tokenisé, les images contiennent des informations riches et de haute dimension qui nécessitent une segmentation sémantique pour identifier les objets constitutifs. Les opérationnalisations actuelles de la diversité géographique n'ont pas été appliquées à la nature multimodale de la génération de texte vers l'image (T2I), ni n'ont pris en compte la similitude entre les entités géographiques (par exemple, différents types de monuments) au sein des contenus générés.

Méthodologie
Les auteurs proposent un cadre pour mesurer la diversité géographique dans la génération d'images par l'IA, en utilisant Vienne, en Autriche, comme étude de cas. La méthodologie comprend trois étapes principales :

Configuration expérimentale et génération de données :
- L'étude utilise l'écosystème multimodal d'OpenAI, spécifiquement le grand modèle de langage (LLM) GPT-4o agissant comme un agent pour réviser les prompts de l'utilisateur avant d'appeler les modèles T2I (GPT Image 1, GPT Image 1 Mini, GPT Image 1.5), ainsi que des modèles T2I autonomes (DALL·E 2, DALL·E 3).
- Un prompt « Générez une image de Vienne » a été soumis sur 30 sessions indépendantes pour chaque configuration de modèle.
- Le flux de travail capture à la fois les prompts révisés (traités par le LLM) et les images générées.
Annotation sémantique et calcul de similitude :
- Identification des monuments : Les chercheurs ont identifié manuellement le monument principal dans chaque prompt révisé (défini comme le premier monument mentionné) et chaque image générée (défini comme le monument au premier plan).
- Cartographie de la base de connaissances : Les monuments identifiés ont été mis en correspondance avec des entités Wikidata.
- Pondération de la similitude : Pour remédier à la limitation des mesures de diversité standard qui traitent toutes les entités distinctes comme également différentes, les auteurs ont calculé la « similitude de type de lieu ». En utilisant la distance de Rada (longueur du chemin le plus court dans un réseau sémantique) au sein de Wikidata, ils ont calculé la similitude entre les paires de monuments. Par exemple, deux églises sont considérées comme plus similaires qu'une église et un opéra.
Mesure de la diversité :
- Nombre de Hill ( $^qD$ ) : La mesure standard de la diversité (richesse et équitabilité) a été appliquée, en traitant les monuments comme des espèces distinctes.
- Nombre de Leinster-Cobbold ( $^qD_Z$ ) : Une extension du nombre de Hill sensible à la similitude a été appliquée. Cette métrique incorpore une matrice de similitude ( $Z$ ) dérivée des distances de Rada. Elle postule qu'une communauté d'espèces (ou de monuments) hautement similaires est moins diversifiée qu'une communauté d'espèces hautement distinctes, même si le décompte et la distribution sont identiques.
- Profils de diversité : Les résultats ont été visualisés à travers différents ordres de $q$ (où $q=0$ met l'accent sur la richesse, $q=1$ l'entropie de Shannon, et $q=2$ l'équitabilité).

Principales contributions

Cadre d'évaluation multimodal : L'article démontre que l'évaluation de la diversité géographique dans la GenAI nécessite une approche multi-étapes qui tient compte de la révision du prompt (traitement par le LLM) et de la génération d'images (traitement par le T2I), soulignant le rôle des systèmes multi-agents.
Métriques sensibles à la similitude : Les auteurs introduisent l'application du nombre de Leinster-Cobbold à la diversité géographique. En intégrant des bases de connaissances auxiliaires (Wikidata) pour calculer la similitude sémantique, ils fournissent une mesure plus holistique qui pénalise plus lourdement la surreprésentation de caractéristiques sémantiquement similaires (par exemple, plusieurs églises) que les mesures standard.
Étude de cas empirique : L'étude constitue la première analyse empirique de la diversité géographique dans les images générées par l'IA, allant au-delà des tests de référence textuels pour examiner les représentations visuelles de lieux spécifiques.

Résultats
L'analyse a produit plusieurs résultats contre-intuitifs :

Performance des modèles vs Diversité : Les modèles plus récents ne présentent pas nécessairement une plus grande diversité géographique. Par exemple, GPT Image 1 (et sa variante Mini) a systématiquement montré la plus faible diversité dans la génération d'images. Inversement, l'ancien modèle DALL·E 2 a présenté une plus grande diversité (spécifiquement en termes d'équitabilité) que ses homologues plus récents lorsque la similitude était ignorée.
Diversité des Prompts vs Images : Les prompts révisés générés par les LLM ont systématiquement présenté une plus grande diversité géographique que les images finales produites par les modèles T2I. Cela suggère que l'étape de génération d'images introduit un goulot d'étranglement ou un effet d'homogénéisation.
Prototypicité et homogénéité : Tous les modèles ont affiché un fort « effet de prototypicité », favorisant massivement la cathédrale Saint-Étienne. Bien que la distribution spécifique des autres monuments varie légèrement selon les modèles, l'absence de diversité est explicite et partagée.
Impact de la similitude : Les nombres de Leinster-Cobbold étaient systématiquement inférieurs aux nombres de Hill. Cela indique que bien que les modèles puissent générer une variété de monuments nommés, ces monuments sont souvent sémantiquement similaires (par exemple, différents types d'églises ou de palais), entraînant un « effondrement de la diversité » lorsque la similitude sémantique est prise en compte.
Taux de validité : Les modèles plus récents (GPT Image 1.5, GPT Image 1, GPT Image 1 Mini) ont atteint une validité de 100 % dans la génération d'images avec des monuments identifiables, tandis que DALL·E 2 avait le taux le plus bas (67 %). Cependant, la validité des prompts révisés était inférieure à celle des images, suggérant que les modèles T2I peuvent générer des descriptions visuelles de monuments sans indices linguistiques explicites dans le prompt.

Signification et revendications
L'article soutient que la diversité géographique dans la GenAI ne concerne pas seulement le nombre de lieux mentionnés, mais aussi les — représentations platiales — la manière dont les lieux spécifiques sont dépeints et la variété sémantique de ces représentations.

Au-delà de l'éthique : Les auteurs présentent la diversité comme une fonction de l'incertitude et une manifestation du biais cognitif (spécifiquement, un recours à des catégories géographiques fixes et prototypiques).
Risque de stéréotypage : L'homogénéité observée risque de produire des représentations stéréotypées des lieux, où des villes complexes sont réduites à un ensemble restreint de monuments emblématiques.
Avancée méthodologique : En montrant que le nombre de Leinster-Cobold révèle un manque de diversité plus profond que le nombre de Hill, l'article soutient que les évaluations futures de la GenAI doivent intégrer la similitude sémantique pour évaluer précisément le biais de représentation.
Appel à l'action : Les auteurs appellent à des études de cas systématiques, centrées sur les lieux, couvrant diverses échelles géographiques et modalités, afin de mieux comprendre et quantifier les biais dans les systèmes d'IA (géo)génératifs, en s'appuyant sur la littérature de la quantification de l'incertitude et de la perception environnementale.