GeoDiv: Framework For Measuring Geographical Diversity In Text-To-Image Models

이 논문은 텍스트-이미지 모델의 지리적 다양성 부족과 편향을 체계적으로 측정하기 위해 대규모 언어 및 비전-언어 모델을 활용한 'GeoDiv' 프레임워크를 제안하고, 이를 통해 특정 국가의 표현이 빈곤한 편향으로 일관되게 나타남을 규명합니다.

핵심

🌍 "지오딕 (GeoDiv)": AI 가 그리는 세계는 정말 다양할까요?

이 논문은 최근 유행하는 **'텍스트로 이미지를 만드는 AI(예: Stable Diffusion, FLUX 등)'**가 실제로 얼마나 다양한 세계를 보여주고 있는지, 그리고 어떤 편향을 가지고 있는지 조사한 흥미로운 연구입니다.

이 복잡한 연구를 일상적인 비유로 쉽게 설명해 드릴게요.

---

1. 문제: AI 의 "편향된 카메라" 📸

생각해 보세요. 여러분이 "나이지리아의 집"이라고 AI 에게 요청하면, AI 는 어떤 집을 그려줄까요?

• 현실: 나이지리아에는 현대적인 빌딩부터 전통적인 오두막, 다양한 부유층과 빈곤층의 집이 공존합니다.
• AI 의 반응: 이 논문은 AI 가 나이지리아의 집을 그릴 때, 대부분 낡고 가난해 보이는 집만 그려낸다고 말합니다. 반면, "일본의 집"을 요청하면 반짝반짝 깨끗하고 부유한 집만 그려낸다고요.

AI 는 인터넷의 데이터를 배웠지만, 그 과정에서 특정 국가나 지역을 고정관념 (스테레오타입) 으로만 묘사하는 문제가 발생했습니다. 마치 카메라 렌즈가 특정 국가에는 '회색 필터'를, 다른 국가에는 '화려한 필터'를 씌우는 것과 같습니다.

2. 해결책: 지오딕 (GeoDiv) 이라는 "새로운 자" 📏

기존의 평가 방법들은 "이미지가 얼마나 다채로운지"만 숫자로 잰다면, 이 논문에서 제안한 **지오딕 (GeoDiv)**은 훨씬 더 정교합니다.

지오딕은 AI 가 그린 그림을 두 가지 큰 기준 (축) 으로 나누어 꼼꼼히 검사합니다.

🏷️ 기준 1: "사회경제적 시각 지수 (SEVI)" - 부와 상태의 척도

이것은 **"그림이 얼마나 가난해 보이거나, 얼마나 잘 관리되어 보이는가?"**를 측정합니다.

• 부유함 (Affluence): 1 점 (가난함) ~ 5 점 (초호화)
• 관리 상태 (Maintenance): 1 점 (망가짐) ~ 5 점 (새것)

비유: 만약 AI 가 "인도의 차"를 그렸는데, 모든 차가 녹이 슬고 더러운 상태라면? AI 는 인도를 '가난하고 관리가 안 된 곳'으로만 인식하고 있다는 뜻입니다. 지오딕은 이 편향을 숫자로 잡아냅니다.

🎨 기준 2: "시각적 다양성 지수 (VDI)" - 모양과 배경의 척도

이것은 **"주요 사물과 배경이 얼마나 다양한가?"**를 측정합니다.

• 사물의 모습: 자동차의 색상, 모양, 재질 등이 다양할까?
• 배경의 모습: 도로가 포장되어 있을까, 흙길일까? 산이 있을까, 빌딩이 있을까?

비유: "영국의 차"를 그릴 때, AI 가 항상 '검은색 세단'만 그리고 '포장된 도로'만 배경으로 쓴다면? 이는 다양성이 부족한 것입니다. 지오딕은 AI 가 같은 나라를 그려도 다양한 모습 (예: 빨간색 트럭, 흙길, 시골 풍경 등) 을 만들어내는지 확인합니다.

3. 연구 결과: AI 가 드러낸 놀라운 편향 🚨

연구진은 16 개 국가와 10 가지 사물 (집, 차, 개, 요리 등) 에 대해 16 만 장의 이미지를 생성하여 지오딕으로 검사했습니다. 결과는 충격적이었습니다.

• 가난한 나라 편향: 인도, 나이지리아, 콜롬비아 같은 국가는 AI 가 그릴 때 일관되게 가난하고 낡은 모습으로 묘사되었습니다.
• 부유한 나라 편향: 미국, 영국, 일본은 반짝이는 부유한 모습으로만 그려졌습니다.
• 배경의 단조로움: 나이지리아의 차 배경은 대부분 '흙길'이었고, 미국의 차 배경은 '포장도로'였습니다. 실제 세계의 다양성을 전혀 반영하지 못했습니다.
• 새로운 모델일수록 다양성은 감소: 최신 AI 모델일수록 그림은 더 예쁘고 깔끔해졌지만, 다양성은 오히려 줄어들어 모든 나라가 비슷하게 보였습니다.

4. 왜 이것이 중요한가요? 🌏

이 연구는 단순히 "AI 가 못 그렸다"는 것을 지적하는 것을 넘어, **"AI 가 세상을 어떻게 바라보는가"**를 보여줍니다.

• 편향된 세계관: AI 는 특정 국가를 '가난한 곳'으로, 다른 국가를 '부유한 곳'으로 고정시켜버리면, 우리가 그 이미지를 볼 때 무의식적으로 그 편견을 받아들일 수 있습니다.
• 해결의 시작: 지오딕은 이러한 편향을 정량적으로 측정할 수 있는 첫 번째 도구입니다. 마치 "이 AI 는 인도를 너무 가난하게 그렸으니, 조금 더 다양한 모습 (부유한 집, 현대적인 건물 등) 을 포함하도록 가르쳐야겠다"라고 개선할 수 있는 나침반 역할을 합니다.

5. 결론: 더 공정하고 다양한 세상을 위해 🤝

이 논문은 AI 개발자들에게 중요한 메시지를 줍니다.

"AI 가 만드는 그림이 예쁘기만 하면 되는 게 아닙니다. 실제 세계처럼 다양한 부와 문화, 환경을 담아야 진정한 '세계의 모델'이 될 수 있습니다."

지오딕은 이제 AI 가 그리는 그림이 누구의 세계를 대표하는지를 점검할 수 있는 거울이 되었습니다. 이 거울을 통해 우리는 더 공정하고 포용적인 AI 를 만들 수 있을 것입니다.

---

한 줄 요약:

**지오딕 (GeoDiv)**은 AI 가 특정 국가를 가난하거나 부유하다는 편견으로만 그리는지, 실제처럼 다양한 모습을 보여주는지 측정하는 **'AI 편향 검사기'**입니다.

기술 요약

1. 문제 제기 (Problem Statement)

텍스트-이미지 (T2I) 생성 모델 (예: Stable Diffusion, FLUX.1 등) 은 빠르게 대중화되고 있지만, 생성된 이미지들이 지리적 다양성 (Geographical Diversity) 이 부족하고, 특정 지역에 대한 유해한 고정관념 (Stereotypes) 을 강화하거나 지역을 왜곡하여 표현한다는 문제가 대두되었습니다.

• 기존 연구의 한계:
  • 기존 다양성 평가 지표들은 주로 큐레이션된 데이터셋에 의존하거나, 표면적인 시각적 유사성 (Visual Similarity) 만을 측정합니다.
  • 이는 국가별, 문화별, 사회경제적 맥락의 미묘한 차이를 포착하지 못하며, 해석 가능성 (Interpretability) 이 낮습니다.
  • 예를 들어, '아프리카의 자동차'를 요청하면 대부분 낡고 먼지 낀 배경으로 생성되거나, '인도'나 '나이지리아'의 이미지는 빈곤하고 황폐한 모습으로 일관되게 표현되는 편향이 발견됩니다.
• 필요성: 이러한 편향을 정량화하고 해석 가능한 방식으로 측정할 수 있는 자동화된 프레임워크의 부재가 지적되었습니다.

2. 제안 방법론: GeoDiv (Methodology)

저자들은 GeoDiv라는 새로운 프레임워크를 제안합니다. 이는 대규모 언어 모델 (LLM) 과 비전 - 언어 모델 (VLM) 의 세계 지식을 활용하여 생성된 이미지의 지리적 다양성을 두 가지 상호 보완적인 축으로 평가합니다.

A. 핵심 평가 축 (Evaluation Axes)

1. 사회경제적 시각 지수 (Socio-Economic Visual Index, SEVI):

   • 이미지가 묘사하는 경제적 상태와 물리적 유지 상태를 평가합니다.
   • 부유도 (Affluence): 1(빈곤) 에서 5(부유) 까지 점수화.
   • 유지 상태 (Maintenance): 1(심각하게 손상됨) 에서 5(완벽한 상태) 까지 점수화.
   • VLM 을 사용하여 각 이미지에 대해 이 두 가지 차원을 개별적으로 점수화하고, 분포를 분석합니다.

2. 시각적 다양성 지수 (Visual Diversity Index, VDI):

   • 주체 (Entity) 와 배경 (Background) 의 시각적 변이성을 측정합니다.
   • 주체 외관 (Entity-Appearance): 물체의 모양, 재질, 색상 등 속성 (예: 자동차의 색상, 집의 지붕 형태).
   • 배경 외관 (Background-Appearance): 장면의 맥락 (예: 포장도로 vs 비포장도로, 실내 vs 실외).
   • LLM 을 사용하여 각 엔티티와 배경에 대한 질문 - 답변 (Q&A) 세트를 생성하고, VQA(Visual Question Answering) 모델을 통해 이미지 집합에 대한 답변 분포를 추출합니다.

B. 다양성 계산 지표

• 힐 수 (Hill Number): 답변 분포의 균일성을 측정하기 위해 생물다양성에서 영감을 받은 지표를 사용합니다.
• 정규화 힐 수 (Normalized Hill Number): 질문별 답변 집합 크기의 차이를 보정하여 0~1 사이의 점수로 정규화합니다. 이는 단일 답변이 지배적인 경우 (다양성 낮음) 에는 0 에 가깝고, 모든 답변이 고르게 분포된 경우 (다양성 높음) 에는 1 에 가까워집니다.

C. 실험 설정

• 데이터셋: Stable Diffusion (v2.1, v3, v3.5) 과 FLUX.1-dev 등 4 가지 오픈소스 모델로 생성된 16 만 장의 합성 이미지.
• 범위: 10 가지 공통 엔티티 (집, 자동차, 의자 등) 와 16 개 국가 (미국, 영국, 일본, 인도, 나이지리아, 콜롬비아 등) 를 포괄.
• 검증: 인간 어노테이터 (Crowdworkers) 를 통한 SEVI 점수 및 VDI 답변 정확도 검증 (Gemini-2.5-flash, Qwen2.5-VL 등 모델 비교).

3. 주요 기여 (Key Contributions)

1. GeoDiv 프레임워크 도입: LLM/VLM 의 세계 지식을 활용하여 사회경제적 (SEVI) 과 시각적 (VDI) 다양성을 동시에 측정하는 해석 가능한 평가 프레임워크를 최초로 제안했습니다.
2. 구조화된 속성 데이터셋 공개: 10 가지 엔티티에 대한 SEVI 및 VDI 평가를 위한 구조화된 속성 - 값 집합과 프롬프트를 공개했습니다.
3. 대규모 벤치마크 데이터셋 구축: 4 가지 T2I 모델, 16 개 국가, 10 개 엔티티에 대한 16 만 장의 합성 이미지와 인간 어노테이션 데이터를 공개하여 향후 연구의 벤치마킹을 지원합니다.
4. 편향 발견 및 진단 도구: 기존 다양성 측정 기준보다 정교하게 지리적 편향을 드러내는 진단 도구로서의 유효성을 입증했습니다.

4. 주요 결과 (Key Results)

• 심각한 사회경제적 편향:
  • 인도, 나이지리아, 콜롬비아의 이미지는 일관되게 빈곤하고 (낮은 부유도), 유지 상태가 나쁜 (낮은 유지도) 모습으로 생성되었습니다.
  • 반면, 미국, 영국, 일본은 부유하고 깔끔한 모습으로 일관되게 표현되었습니다.
  • 특히 FLUX.1 모델은 높은 '부유도'와 '유지 상태' 점수를 보였으나, 이는 모든 국가를 동일한 '서구식 부유한 교외' 스타일로 묘사하여 시각적 다양성 (VDI) 이 매우 낮음을 의미합니다. (부유함과 다양성 간의 트레이드오프 발견)
• 시각적 다양성 부족:
  • 모든 모델에서 **배경 다양성 (Background Diversity)**이 주체 다양성보다 현저히 낮았습니다. (평균 점수 0.33 vs 0.47)
  • 예를 들어, 나이지리아의 자동차 이미지는 77% 가 비포장도로 배경인 반면, 미국은 85% 가 포장도로 배경이었습니다.
• 모델 버전별 경향:
  • 새로운 모델 버전 (SD3.5, FLUX.1) 일수록 전체적인 지리적 다양성 점수가 낮아지는 경향이 관찰되었습니다.
  • SD2.1이 상대적으로 가장 높은 다양성 점수를 보였으나, 여전히 개선의 여지가 큽니다.
• 실제 데이터셋 비교:
  • 실제 세계 데이터를 담은 GeoDE 데이터셋은 합성 이미지보다 훨씬 높은 다양성 점수를 보였으나, 여전히 일부 편향이 존재했습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 해석 가능성: GeoDiv 는 단순히 "다양성이 낮다"는 점수만 주는 것이 아니라, **어떤 속성 (예: 도로 종류, 집 재질, 부유도)**에서 편향이 발생하는지 구체적으로 식별할 수 있게 합니다.
• 공정성 증진: 생성 모델이 특정 국가나 지역을 고정관념적으로 묘사하는 것을 방지하고, 전 세계의 다양한 사회경제적 맥락을 포괄하는 더 공정하고 포용적인 시스템을 구축하는 데 기여합니다.
• 실용적 적용: 제안된 프레임워크는 데이터 큐레이터와 모델 개발자가 편향을 식별하고, 프롬프트 엔지니어링이나 데이터 증강을 통해 이를 완화하는 데 직접적으로 활용할 수 있습니다.

결론적으로, GeoDiv 는 텍스트-이미지 생성 모델의 지리적 포용성을 평가하기 위한 첫 번째 체계적이고 해석 가능한 표준을 제시하며, 생성형 AI 의 글로벌 편향을 해결하는 중요한 단계가 될 것입니다.