GeoDiv: Framework For Measuring Geographical Diversity In Text-To-Image Models

本論文では、テキストから画像を生成するモデルが地理的多様性に欠け、特定の国を偏った貧困な描写で表現する傾向があることを明らかにし、大規模言語モデルと視覚言語モデルを活用して経済状況や視覚的多様性を定量的に評価する新しいフレームワーク「GeoDiv」を提案しています。

要約

この論文「GeoDiv」は、**「AI が描く世界の風景は、本当に多様で公平か？」**という問いに答えるための新しい「ものさし」を紹介した研究です。

簡単に言うと、**「AI が絵を描くとき、特定の国や地域を『貧乏で汚い』と決めつけたり、逆に『豪華で完璧』と描きすぎたりしていないか？それをチェックする仕組みを作りました」**という話です。

以下に、難しい専門用語を使わず、身近な例え話で解説します。

---

🌍 1. 問題：AI は「偏見」を持った画家？

最近の AI（テキストから画像を作る技術）はすごいですが、実は**「偏見」**を持っています。
例えば、「アフリカで車」と入力すると、AI はいつも「ボロボロの車と砂漠」を描きます。「日本」なら「清潔で整った街」。「インド」や「ナイジェリア」なら「貧しく、壊れかけた家」を描く傾向があります。

これは、AI がインターネットのデータを学習する過程で、**「特定の国＝特定のイメージ（ステレオタイプ）」を覚えてしまっているからです。まるで、「世界の地図を描く画家が、一部の国だけを『悲しい色』で、他の国だけを『明るい色』で塗りつぶしている」**ような状態です。

📏 2. 解決策：新しいものさし「GeoDiv」

これまでの評価方法は、「画像がどれだけ違うか（色の違いなど）」しか測れていませんでした。でも、それでは「貧困」や「文化」のような**「意味のある違い」**は測れません。

そこで、この論文では**「GeoDiv（ジオ・ディブ）」という新しい評価システムを作りました。これは、AI が描いた絵を「2 つの大きなものさし」**で測る仕組みです。

🏷️ ものさし①：「お金の事情と状態」のチェック（SEVI）

これは、**「その国がどれだけ豊かで、建物は綺麗に保たれているか」**を測るものです。

• 富（Affluence）： 貧しいのか、お金持ちなのか？
• 手入れ（Maintenance）： ボロボロなのか、ピカピカなのか？

【例え話】
AI に「ナイジェリアの家の写真」を描かせたとき、いつも「泥だらけで壊れかけた家」しか描かないなら、それは**「ナイジェリア＝貧困」**という偏見を持っている証拠です。GeoDiv はこれを数値化して、「あ、この AI はナイジェリアを偏って描いているな！」と指摘します。

🎨 ものさし②：「見た目や背景のバラエティ」のチェック（VDI）

これは、**「同じ『家』や『車』でも、形や色、背景がどれだけ多様か」**を測るものです。

• 物の見た目： 家なら「屋根の色」や「素材」。車なら「色」や「タイプ」。
• 背景： 道路は「舗装されているか」？ 山や川はあるか？

【例え話】
もし AI が「日本の家」を描くとき、いつも「同じようなレンガ造りの家」しか描かないなら、それは**「多様性がない」**ということです。本当は、日本の家には木造、コンクリート、和風、モダンと色々な種類があるはずです。GeoDiv は「この AI は日本の家のバリエーションが少なすぎる！」と警告します。

🔍 3. 発見：AI が暴いた「隠れた偏見」

この GeoDiv を使って、最新の AI（Stable Diffusion や FLUX など）を 16 カ国・10 種類の物（家、車、犬など）でテストしたところ、衝撃的な結果が出ました。

• インド、ナイジェリア、コロンビアなどの国は、AI に描かせると**「いつも貧しく、ボロボロ」**に描かれる傾向が強い。
• アメリカ、イギリス、日本などは、**「いつも豊かで綺麗」**に描かれる傾向が強い。
• FLUX という最新の AIは、絵の「美しさ」は最高レベルだが、「多様性」は最下位だった。つまり、「綺麗だけど、全部同じような高級住宅街みたいに見える」ということ。

これは、**「AI が世界の現実を正しく反映できておらず、特定の国を『貧乏な国』という固定観念で描いている」**ことを意味します。

🛠️ 4. 今後の展望：より公平な世界を AI に描かせるために

この研究の最大のゴールは、AI を**「偏見のない、公平な世界のカメラ」**にすることです。

GeoDiv は、開発者が「あ、この AI はインドの描写が偏っているな」と気づくための**「診断ツール」として使えます。この結果を見て、AI の学習データを変えたり、指示（プロンプト）を工夫したりすることで、「インドにも豊かな家がある」「ナイジェリアにも綺麗な道路がある」**という、現実の多様性を正しく描けるように改善できます。

💡 まとめ

この論文は、**「AI が描く絵は、実は『偏見』というフィルターを通して見えている世界かもしれない」と警鐘を鳴らし、「その偏見を数値で測り、正すための新しいものさし（GeoDiv）」**を提供した画期的な研究です。

これにより、将来的には、**「どの国の人々も、その国の多様性と尊厳が正しく反映された絵」を AI が描けるようになるかもしれません。まるで、「偏見というメガネを外して、世界をありのままに、美しく描く」**ための第一歩なのです。

技術概要

GeoDiv: テキストから画像生成モデルにおける地理的多様性を測定するためのフレームワーク

技術的サマリー（日本語）

本論文は、2026 年の ICLR 会議で発表された「GeoDiv」という新しい評価フレームワークを提案するものです。テキストから画像（Text-to-Image: T2I）を生成する AI モデルが、特定の国や地域をどのように表現しているかを定量的・解釈可能に評価し、地理的バイアスや多様性の欠如を可視化することを目的としています。

以下に、問題定義、手法、主要な貢献、結果、および意義について詳細をまとめます。

---

1. 問題定義 (Problem)

近年、Stable Diffusion や FLUX.1 などの T2I モデルは急速に普及していますが、その生成画像には深刻な地理的多様性の欠如とステレオタイプの強化が見られます。

• 偏った表現: 「アフリカの車」といったプロンプトでは、常に埃っぽく損傷した車や荒廃した背景が生成されるなど、特定の地域の経済的・視覚的多様性が無視されています。
• 既存手法の限界: 従来の多様性評価指標（FID や Vendi-Score など）は、単なる視覚的な類似度や特徴分布の比較に依存しており、「どの国が貧困として描かれているか」「どの国の建物がどのような素材でできているか」といった、社会経済的・文化的な文脈を含む深い地理的バイアスを捉えることができません。また、既存の手法は特定のキュレーションされたデータセットに依存しており、解釈可能性が低いという課題がありました。

2. 提案手法：GeoDiv (Methodology)

GeoDiv は、大規模言語モデル（LLM）とビジョン・ランゲージモデル（VLM）の「世界の知識」を活用し、生成画像の地理的多様性を2 つの相補的な軸で評価するフレームワークです。

A. 社会経済的視覚指数 (SEVI: Socio-Economic Visual Index)

画像が描く社会経済的状態を評価します。VLM を用いて、各画像に対して以下の 2 つの指標を 1〜5 のスケールで評価します。

1. 豊かさ (Affluence): 貧困（Impoverished）から富裕（Luxury）までのレベル。
2. 維持状態 (Maintenance): 損傷・荒廃（Severely Damaged）から良好・手入れが行き届いている（Excellent）までの状態。
   これにより、特定の国が「貧しく、荒廃している」として一様に描かれているかどうかが数値化されます。

B. 視覚的多様性指数 (VDI: Visual Diversity Index)

画像内の主要な対象物（Entity）と背景（Background）の多様性を評価します。

1. 対象物の外観 (Entity-Appearance): 形状、素材、色などの属性（例：車のタイプ、家の屋根の形状）。
2. 背景の外観 (Background-Appearance): 道路の種類（舗装/未舗装）、自然環境、建物の密度など。
   手法:

• LLM の世界知識を用いて、各対象物や背景に関する質問と回答候補（QA セット）を自動生成します。
• VQA（Visual Question Answering）モデルを用いて、生成された画像群に対してこれらの質問に回答させ、回答の分布を分析します。
• 多様性の定量化には、生態学で用いられる**ヒル数（Hill Number）**の正規化版を使用します。これはエントロピーに基づき、分布が均一であるほど高いスコア（多様性が高い）を示します。

C. 評価プロセス

• 対象: 10 の一般的な対象物（家、車、椅子など）と 16 の国（米国、日本、インド、ナイジェリアなど）。
• データセット: 4 つのオープンソース拡散モデル（SD2.1, SD3m, SD3.5, FLUX.1-dev）で生成された 16 万枚の合成画像。
• 検証: 人間の評価者によるアノテーションと比較し、VLM（Gemini-2.5-flash など）の精度を検証しています。

3. 主要な貢献 (Key Contributions)

1. 解釈可能な評価フレームワークの提案: SEVI と VDI の 2 軸を用いて、地理的多様性を定量化する初の体系的なフレームワークを構築しました。
2. 構造化された属性データセットの公開: 10 の対象物と 16 の国に対して、LLM を用いて生成された構造化された属性値セットとプロンプトを公開し、将来の研究や新しい対象物への拡張を可能にしました。
3. 大規模合成画像データセットの作成: 4 つのモデル、16 国、10 対象物からなる 16 万枚の画像データセットと、その一部に対する人間によるアノテーションデータを公開しました。
4. バイアスの発見と診断ツールの提供: 現在の生成モデルが持つ地理的バイアスを詳細に明らかにし、開発者がモデルの公平性を改善するための診断ツールとして機能することを示しました。

4. 主要な結果 (Results)

GeoDiv を適用した分析により、以下のような重要な知見が得られました。

• 系統的な社会経済的バイアス:

  • インド、ナイジェリア、コロンビアなどの国々は、生成画像において一貫して「貧困」かつ「維持状態が悪い」として描かれています（平均スコアが低い）。
  • 一方、米国、英国、日本、UAEなどは「富裕」かつ「手入れが行き届いている」として描かれる傾向が強いです。
  • 特に、同じプロンプトでも国によって描かれる家の状態や車の状況に著しい差が見られ、現実世界の多様性が反映されていません。

• 視覚的多様性の欠如:

  • 生成された画像の背景（道路の種類や周囲の環境）の多様性は、対象物自体の多様性よりも著しく低い傾向にあります。
  • ナイジェリアの車の画像の 77% が「土砂/砂利道」で描かれる一方、米国では 85% が「舗装道路」であるなど、国ごとの背景描写に強い偏りがあります。

• モデルごとのトレードオフ:

  • FLUX.1は、画像の美しさや「富裕さ」のスコア（SEVI）は高いですが、視覚的多様性（VDI）は非常に低いことが判明しました。これは、洗練された画像を生成する一方で、画一的で多様性に欠ける表現に陥っていることを示唆しています。
  • Stable Diffusion v2.1は、他のモデルに比べてやや高い多様性を示しましたが、それでも全体的な多様性は低く、新しいバージョンになるほど多様性が低下する傾向も見られました。

• 実世界データとの比較:

  • 実世界の多様性データセット（GeoDE）と比較すると、合成画像は対象物の外観や維持状態において、はるかに低い多様性スコアを示しました。

5. 意義と結論 (Significance)

GeoDiv は、生成 AI モデルが「誰の世界」を表現しているかを厳密に評価するための重要なステップです。

• 透明性と解釈性: 単なる数値スコアだけでなく、「どの属性（例：屋根の素材、道路の状態）に偏りがあるか」を特定できるため、モデルのバイアス原因を特定しやすくなります。
• 公平な AI 開発への貢献: 開発者は GeoDiv のスコアを用いて、特定の国や地域が過小評価・ステレオタイプ化されていないかを確認し、プロンプトエンジニアリングやデータセットの再構築を通じて、より包括的で公平な生成システムを構築できます。
• 今後の展望: このフレームワークはモジュール式であり、将来的には文化的・歴史的な多様性など、より複雑な次元の評価にも拡張可能です。

結論として、GeoDiv は T2I モデルの地理的インクルーシビリティを監査するための最初の体系的なツールであり、視覚的に魅力的であるだけでなく、世界的に代表性を持つ生成システムの構築に向けた重要な一歩となります。