기술 요약: 콘텐츠를 넘어: 문법적 성별이 텍스트-이미지 모델의 시각적 표현을 어떻게 형성하는가

문제 정의

텍스트-이미지(T2I) 모델의 편향성에 관한 연구는 주로 프롬프트의 의미론적 내용 내에 있는 인구통계학적 표현과 고정관념적 속성에 집중되어 왔습니다. 그러나 근본적인 질문인 문법적 구조 자체가 의미론적 내용과는 독립적으로 AI 시스템의 시각적 출력에 영향을 미치는지에 대한 탐구는 아직 이루어지지 않았습니다. 구체적으로, 본 논문은 문법적 성별(명사에 남성 또는 여성 범주가 할당되는 구조적 특징, 예: 프랑스어, 독일어, 스페인어, 이탈리아어, 러시아어)이 밑바탕이 되는 개념이 고정관념적인 성별 연관성과 모순되더라도(예: "경비원"을 뜻하는 문법적 여성 명사), 생성된 이미지의 성별 표현을 체계적으로 변화시키는지 조사합니다.

방법론: GRAMVIS 벤치마크

저자들은 문법적 성별의 인과적 효과를 격리하기 위해, 이 현상을 조사하기 위해 설계된 최초의 교차 언어적 벤치마크인 GRAMVIS를 도입합니다.

데이터셋 구축

• 단어 선택: 데이터셋은 200개의 고유한 "성별 불일치(gender-divergent)" 단어로 구성됩니다. 이 단어들은 특정 언어에서 명사의 문법적 성별이 개념의 고정관념적 성별 연관과 상충하는 용어들입니다 (예: 프랑스어에서 une sentinelle는 문법적으로는 여성형이지만, 남성과 연관된 개념인 "경비원"을 지칭함).
• 언어: 본 연구는 7개의 언어를 포괄합니다:
  • 5개의 성별이 있는 언어: 프랑스어, 스페인어, 독일어, 이탈리아어, 러시아어 (고자원 및 중자원 언어 포함).
  • 2개의 성별 중립 제어 언어: 영어와 중국어.
• 프롬프트 엔지니어링: 네 가지의 의미론적으로 중립적인 프롬프트 템플릿이 설계되었습니다 (예: "A photo of the face of a single [NOUN] engaged at work"). 이 템플릿들은 삽입된 명사의 문법적 성별만이 유일한 성별 신호 요소가 되도록 보장합니다. 프롬프트는 의미적 동등성을 유지하면서 문법적 성별 표식은 변화시키며 7개 언어로 번역되었습니다.
• 이미지 생성: 세 가지 최첨단 T2I 모델을 사용하여 28,800개의 이미지를 생성했습니다:
  • DALL·E 3 (OpenAI)
  • Ideogram v3 (Ideogram)
  • Flux Pro 1.1 (Black Forest Labs)
  • 참고: 선택된 모든 모델은 7개 대상 언어를 지원하며 RLHF/DPO 학습을 활용합니다.

평가 프레框架 (Evaluation Framework)

• 분류: 생성된 이미지는 BLIP2, LLaVA, Qwen-VL로 구성된 다중 모델 시각-언어 시스템(VLM)을 사용하여 성별(남성/여성/해당 없음)로 분류되었습니다. 모델 간 의견이 일치하지 않을 경우 "해당 없음" 레이블을 부여하였으며, 이진 성별에 대해 최소 두 모델이 동의하는 다수결 투표 임계값을 적용했습니다.
• 지표: 성별 표현은 남성 또는 여성으로 분류된 이미지의 비율로 계산되었습니다 (주요 분석을 위해 "해당 없음"은 제외). 통계적 유의성은 성별이 있는 언어의 출력과 성별 중립 베이스라인을 비교하기 위해 양측 t-검정(two-tailed t-tests)을 사용하여 평가되었습니다.

주요 결과

1. 문법적 성별이 시각적 표현을 유도함 (RQ1)

연구는 문법적 성별이 T2I 출력에 유의미한 영향을 미친다는 것을 확인했습니다:

• 남성 표식: 남성 문법 표식은 테스트된 모든 언어와 모델에서 일관되게 남성 표현을 증가시켰습니다. 평균적으로 남성 표식은 남성 표현을 **73%**로 증가시켰으며(성별 중립적인 영어의 22%와 비교), 이는 100%의 영어 비교에서 통계적으로 유의미했습니다 (p<.001).
• 여성 표식: 여성 표식은 더 가변적인 효과를 보였습니다. 이들은 여성 표현을 **38%**로 증가시켰으나 (영어의 28%와 비교), 영어 비교에서 단 46.7%의 경우에만 통계적 유의성을 달しまいました. 그러나 중국어 베이스라인과 비교했을 때, 여성 표식은 더 강력하고 일관된 효과를 보였습니다 (80% 유의성).
• 비대칭성: 남성 표식의 효과는 견고하고 일관적인 반면, 여성 표식은 특히 영어에서 모델별 디바이어싱(debiasing) 노력에 더 취약한 모습을 보였습니다.

2. 언어 자원 가용성의 영향 (RQ2)

문법적 성별 효과의 강도는 모델의 학습 데이터 내 언어 자원 가용성과 상관관계가 있습니다:

• 고자원 언어: 스페인어와 독일어 같은 언어는 가장 강력한 남성 효과를 나타냈습니다 (예: 스페인어의 Flux 모델은 남성 표현에서 75.5 퍼센트 포인트 증가를 보임).
• 중자원 언어: 이탈리아어와 러시아어는 유의미한 남성 효과를 보였으나, 여성 효과는 더 불일치하거나 부정적이었습니다.
• 해석: 모델은 학습 데이터가 더 광범위한 언어에 대해 더 강력한 문법-시각적 연관성을 발달시키는 것으로 보입니다.

3. 모델 아키텍처 민감도 (RQ3)

서로 다른 T2I 모델은 문법적 성별을 각기 다른 민감도로 처리합니다:

• Flux Pro 1.1: 문법적 성별에 대해 가장 높은 민감도를 보였으며, 남성 및 여성 표식 모두에 대해 가장 강력하고 일-관된 효과를 나타냈습니다.
• Ideogram v3: 중간 정도의 남성 효과와 가변적인 여성 효과를 보였습니다.
• DALL·E 3: 가장 균형 잡힌 성별 표현을 보여주었으며, 남성 효과는 작았고, 주목할 점은 고자원 언어(예: 독일어 및 러시아어)에서 역전된 여성 효과를 보였다는 것입니다. 즉, 여성 문법이 역설적으로 남성 표현을 증가시켰습니다. 이는 DALL·E 3가 여성 표식에 대해 과잉 교정하는 더 공격적인 디바이어싱 기법을 채택하고 있을 가능성을 시사합니다.

4. 모호성 및 제어 비교

• 모호성: 성별이 있는 언어의 프롬프트는 성별 중립적인 베이스라인에 비해 유의미하게 더 많은 시각적 모호성( "해당 없음"으로 분류됨)을 생성했습니다 (영어의 0.4% 대비 5.1%).
• 제어 베이스라인: (상대적으로 덜 연구된 성별 중립 언어인) 중국어와 비교했을 때, 영어와의 비교보다 더 강력하고 일관된 문법적 성별 효과가 드러났습니다. 저자들은 영어 T2I 시스템에 집중된 광범적인 편향 완화 연구가 영어에서의 문법적 성별 효과를 약화시켰을 것이라고 가설을 세웠으며, 이는 중국어에서는 덜 나타나는 패턴입니다.

의의 및 기여

본 논문은 언어 구조 자체가 AI가 생성하는 시각적 출력을 형성한다는 점을 입증합니다. 이는 멀티모달 시스템의 편향을 이해하는 데 있어 새로운 차원을 도입합니다:

1. 구조적 편향: 문법적 성별이 의미론적 고정관념과는 독립적으로 주요한 편향의 동인임을 보여줍니다.
2. 교차 언어적 벤치마크: GRAMVIS는 문법적 특징이 여러 언어에 걸쳐 모델 아키텍처 및 학습 데이터와 어떻게 상호작용하는지 평가하기 위한 종합적인 프레임워크를 제공합니다.
3. 모델 가변성: 편향 완화가 균일하게 이루어지지 않음을 강조합니다. 서로 다른 모델 아키텍처는 언어적 신호에 다르게 반응하며, 일부(Flux와 같은)는 언어 구조를 보존하는 반면 다른 모델(DALL·E 3와 같은)은 적극적으로 개입하여 때로는 역설적인 결과를 초래하기도 합니다.

저자들은 이러한 구조적 영향력을 이해하는 것이 진정으로 공평한 다국어 AI 시스템을 개발하는 데 필수적이라고 결론짓습니다. 현재의 디바이어싱 노력이 의미론적 내용에 집중되어 있다면, 프롬프트의 문법적 구조에 내재된 편향은 해결하지 못할 수 있기 때문입니다.