Text-to-image models globally default to male, enforce gender stereotypes, and penalize female and nonbinary representations
이 연구는 텍스트-투-이미지 모델에 대한 최대 규모의 글로벌 분석을 제시하며, 이 모델들이 체계적으로 남성적 재현을 기본값으로 설정하고, 경직된 성별 고정관념을 강요하며, 논바이너리 정체성을 소외시킴으로써 구조적 성별 편향을 증폭시키고 소외된 집단에 심리적 해를 끼치고 있음을 밝혀냈다.
원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
서버 팜의 고요한 웅성거림 속에서, 새로운 종류의 예술가가 작업 중이다. 이 예술가는 붓이나 카메라를 들지 않고, 대신 단어에 귀를 기울이며 그림을 그린다. 텍스트-투-이미지 생성(text-to-image generation)으로 알려진 이 기술은 몇 년 만에 수십억 개의 이미지를 만들어내며 폭발적인 인기를 끌었다. 이 시스템들은 인터넷상의 방대한 사진과 텍스트 컬렉션을 통해 학습하며, "의사"나 "어머니"와 같은 단어를 이전에 보았던 시각적 세부 사항과 연결하는 법을 배운다. 이제 이 도구들이 광고, 이야기, 디자인을 만드는 데 수백만 명의 사람들에 의해 사용됨에 따라, 이들이 생산하는 그림은 우리가 세상을 보는 방식을 형성하는 강력한 힘이 되었다. 만약 기계가 일관되게 의사를 남성으로, 간호사를 여성으로 그린다면, 이는 단순히 실수를 반영하는 것이 아니라 이러한 역할이 특정 성별에 속한다는 믿음을 강화하는 것이다. 연구자들이 현재 던지는 질문은 단순히 이 기계들이 오류를 범하느냐가 아니라, 이들이 한 번에 하나의 이미지를 통해 우리를 위해 어떤 세상을 조용히 구축하고 있는가 하는 점이다.
한 연구팀은 네 가지 주요 텍스트-투-이미지 모델에게 거의 백만 장에 달하는 사진을 생성하도록 요청함으로써 이 숨겨진 풍경을 조사하기 위해 나섰다. 그들은 단순히 무작위 이미지를 요청한 것이 아니라, 거대한 글로벌 실험을 설계했다. 그들은 모델들에게 22개국의 다양한 사람들을 100개 이상의 직업군에서 일하거나 다양한 일상 활동을 수행하는 모습으로 그려달라고 요청했다. 결정적으로, 그들은 종종 성별을 명시하지 않고 "번역가로 일하는 인도인" 또는 "정원을 가꾸는 독일인"과 같이 요청했다. 결과를 분석한 결과, 연구팀은 일관된 패턴을 발견했다. 프롬프트에 성별을 지정하지 않았을 때, 모델들은 거의 항상 남성을 그리기로 선택했다. 중립적인 요청으로부터 생성된 이미지의 평균 68.6%가 남성을 묘사했으며, 권위나 권력이 수반되는 직업의 경우 이 수치는 더욱 높아졌다. 이러한 남성 중심의 기본 설정은 전 세계적으로 균일하게 나타나지 않았는데, 성 불평등 수준이 높고 소득이 낮은 국가에서 가장 두드러졌으며, 이는 기술이 사용되는 지역의 사회적 편향을 흡수하고 증폭시킨다는 점을 시사한다.
연구는 또한 생성된 이미지의 품질을 면밀히 살펴보았다. 연구자들이 특정 성별을 요청했을 때, 남성의 사진이 여성의 사진보다 일관되게 높은 품질, 높은 현실성, 그리고 컴퓨터에 의해 더 잘 이해되는 것으로 나타났다. 이러한 격차는 여성이 전통적으로 남성이 맡아온 직업을 가진 모습으로 묘사될 때 가장 컸다. 이 경우, 여성의 이미지는 동일한 역할을 수행하는 남성의 이미지보다 덜 그럴듯하거나 덜 현실적인 것으로 평가되었다. 또한 모델들은 남성과 여성이 어떻게 보여야 하는지에 대한 경직된 고정관념에 빠졌다. 남성의 이미지는 빈번하게 진지하고, 근육질이며, 나이 든 모습으로 나타난 반면, 여성의 이미지는 거의 항상 젊고, 날씬하며, 웃는 얼굴의 매력적인 모습으로 묘사되었다. 이러한 "양방향 스테레오타이핑(bidirectional stereotyping)"은 기계가 남성을 기본값으로 설정할 뿐만 아니라, 각 성별에 대해 매우 다르고 제한적인 두 가지 시각적 대본을 능동적으로 구축하고 있음을 의미한다.
가장 충격적인 발견은 남성이나 여성이라는 이분법적 범주에 속하지 않는 사람들에 관한 것이었다. 연구자들이 모델에게 논바이너리(nonbinary) 사람들을 생성하도록 요청했을 때, 시스템은 현저히 어려움을 겪었다. 생성된 이미지는 품질이 낮거나, 프롬프트를 제대로 반영하지 못하거나, 혹은 젊은 남성을 보여주는 것으로 기본 설정되었다. 이는 이 모델들에게 있어 논바이너리 정체성이 단순히 과소 대표되는 것을 넘어, 대체로 읽어낼 수 없는(illegible) 존재임을 시사한다. 이러한 발견의 인간적 영향을 이해하기 위해, 연구자들은 수천 명의 사람들을 초대하여 자신들과 동일한 국적과 성별을 가진 피사체의 이미지를 보게 했다. 피드백은 시사하는 바가 컸다. 많은 참가자는 자신의 정체성이 좁고 정형화된 템플릿으로 축소된 것을 보았을 때 소외감이나 불안감을 느꼈다고 설명했다. 한 참가자는 자신의 정체성에 대한 '템플릿'을 보는 것이 이상하게 느껴졌으며, 마치 기계가 자신의 나라 사람에 대해 매우 구체적이고 제한적인 생각을 가지고 있는 것 같다고 언급했다. 그러나 이미지가 이러한 고정관념을 깨뜨릴 때, 즉 고위 권력직의 여성을 보여주거나 논바이너리 인물을 본래의 모습대로 생생하게 보여줄 때, 참가자들은 자신이 긍정되고 힘을 얻는 느낌을 받았다고 설명했다.
연구자들은 이러한 결과가 단일 모델이나 단일 기업의 잘못이 아니라는 점을 강조한다. 그들은 독일, 영국, 중국을 기반으로 하는 개발자들의 서로 다른 네 가지 시스템을 테스트했으며, 모든 시스템에서 동일한 패턴을 발견했다. 이러한 일관성은 이 기술들을 훈련시키는 데 사용된 공유된 데이터와 방법론에 뿌리를 둔 더 깊은 문제를 가리킨다. 연구는 이 기계들이 중립적인 도구가 아니라, 남성을 표준적인 인간으로 취급하고, 전통적인 역할에서 벗어나는 여성을 처벌하며, 논바이너리 정체성을 지워버리는 일련의 젠더 로직(gender logics)을 인코딩하고 있다고 결론짓는다. 이러한 시스템이 우리 일상생활에 점점 더 통합됨에 따라, 이들이 생성하는 이미지는 누가 어디에 속하는지, 그리고 누가 보여질 자격이 있는지에 대한 우리의 집단적 상상력을 조용히 좁히는 자기실현적 예언이 될 위험이 있다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.