The Algorithmic Gaze of Image Quality Assessment: An Audit and Trace Ethnography of the LAION-Aesthetics Predictor

이 논문은 시각 생성 AI 모델의 학습 데이터 선별에 널리 사용되는 'LAION-Aesthetics Predictor'를 감사 및 추적 민속지학적 방법으로 분석한 결과, 해당 모델이 서구 중심의 미적 기준과 성별 편향을 반영하여 여성, LGBTQ+ 및 비서구 예술을 배제하는 등 대표성 해악을 재생산함을 규명하고, 이를 극복하기 위해 더 다양하고 포용적인 평가 체계로의 전환을 촉구하고 있습니다.

핵심

이 논문은 "AI 가 그림의 아름다움을 어떻게 판단하는지, 그리고 그 판단 기준이 얼마나 편향되어 있는지" 를 파헤친 연구입니다.

마치 "AI 가 그림을 평가하는 심사위원" 을 조사한 보고서라고 생각하시면 됩니다. 이 심사위원의 이름은 'LAION-Aesthetics Predictor (LAP)' 입니다. 이 심사위원은 스테이블 디퓨전 (Stable Diffusion) 같은 유명한 AI 그림 생성 모델들을 훈련시키는 데 쓰이는 '데이터'를 선별하고, AI 가 그린 그림이 잘 그려졌는지 점수를 매기는 역할을 합니다.

연구진은 이 심사위원의 눈을 들여다보고 "도대체 누구의 취향을 기준으로 그림을 평가하고 있는가?" 라는 질문을 던졌습니다.

이 연구의 핵심 내용을 일상적인 비유로 설명해 드리겠습니다.

---

1. 문제의 시작: "하나의 미적 기준"이라는 함정

우리는 "아름답다"는 것이 사람마다, 문화마다 다 다르다는 것을 압니다. 어떤 사람은 추상화를 좋아하고, 어떤 사람은 사실적인 풍경을 좋아하죠. 그런데 AI 개발자들은 "세상의 모든 그림을 평가할 수 있는 하나의 만능 점수표" 를 만들려고 했습니다. 마치 전 세계 모든 사람의 입맛을 만족시키는 '단 하나의 최고의 소금'을 찾으려는 것과 비슷합니다.

이 논문은 그 '만능 소금' (LAP) 이 실제로는 특정 그룹의 취향만 반영하고 있다는 사실을 폭로합니다.

2. 조사 결과 1: "누가 그림에 등장할까?" (인종과 성별 편향)

연구진이 LAP 가 선별한 12 억 장이 넘는 그림들을 분석해 보니 놀라운 결과가 나왔습니다.

• 여성은 환영, 남성과 성소수자는 배제: 그림 설명에 '여자'라는 단어가 나오면 점수가 높게 나왔지만, '남자'나 '성소수자 (LGBTQ+)' 관련 단어는 점수가 낮게 나와서 걸러졌습니다.
• 비유: imagine 하세요. 한 미술관 심사위원이 "여자가 그려진 그림은 모두 '최고'라고 치고, 남자가 그려진 그림이나 성소수자가 등장하는 그림은 '나쁜 그림'이라고 치는" 상황을요. 결과적으로 AI 가 배우는 데이터에는 여성이 과대표되고, 남성과 성소수자는 사라지게 됩니다.

3. 조사 결과 2: "어떤 스타일이 최고일까?" (서구 중심과 사실주의)

LAP 가 점수를 매긴 33 만 장의 예술 작품을 분석한 결과, 다음과 같은 취향이 드러났습니다.

• 서구와 일본의 풍경화, 초상화 최고: 유럽의 산, 도시 풍경, 사람의 얼굴을 사실적으로 그린 그림들이 최고 점수를 받았습니다.
• 비서구 문화와 추상화 최하위: 아프리카, 중동, 원주민 문화의 예술이나, 현대적인 추상 미술은 점수가 매우 낮게 나왔습니다.
• 비유: 마치 "서양 미술관에서만 걸리는 그림들" 만 "아름답다"고 인정하고, 그 밖의 모든 문화권 예술이나 실험적인 현대 미술은 "추하다"고 치는 것과 같습니다. 이는 서구 제국주의 시대의 시선 (Imperial Gaze) 이 AI 에 그대로 재현된 것입니다.

4. 왜 이런 일이 일어났을까? (심사위원의 배경 조사)

연구진은 이 편향된 심사위원 (LAP) 이 어떻게 만들어졌는지 그 '배경'을 추적했습니다 (Trace Ethnography).

• 한 남자의 취향: 이 모델은 LAION 이라는 단체를 만든 독일인 남성 (크리스토프 슈후만) 이 혼자서 만들었습니다. 그는 "내 취향에 맞는 데이터만 섞으면 되겠다"라고 생각하며 데이터를 조합했습니다.
• 데이터의 편향: 이 모델을 가르친 데이터는 크게 세 가지였는데, 모두 영어권 사진 작가들이나 서구권의 AI 열성 팬들이 평가한 것이었습니다.
  • 비유: 전 세계의 미식가들을 대표하는 요리를 평가하는 심사위원을 뽑으려는데, 심사위원은 한 명의 미국인 요리사가 직접 고른 미국인들만 참여한 요리 대회의 점수표만 보고 만든 것과 같습니다. 당연히 그 기준은 전 세계인의 취향을 대표할 수 없죠.

5. 결론: 우리가 무엇을 해야 할까?

이 연구는 우리에게 중요한 메시지를 줍니다.

• "아름다움"은 절대적이지 않다: AI 가 "이 그림이 10 점 만점에 9 점이다"라고 점수를 매기는 것은, 사실 "이 그림이 서구적인 남성들의 취향과 사실주의 스타일에 얼마나 가까운가" 를 점수 매기는 것에 불과합니다.
• 다양한 기준이 필요하다: 우리는 AI 개발자들에게 "하나의 정답 (보편적 미적 기준)"을 찾으려 하지 말고, "다양한 취향을 인정하는 여러 가지 기준" 을 만들라고 요구해야 합니다.
  • 예를 들어, "사실적인 그림을 원할 때"와 "추상적인 그림을 원할 때"를 구분해서 평가해야 한다는 것입니다.

요약

이 논문은 "AI 가 그림을 평가하는 눈 (Algorithmic Gaze) 이 사실은 특정 서구 남성들의 편향된 시선" 이라는 것을 폭로했습니다. 마치 거울을 통해 세상을 보는데, 그 거울이 비틀어져서 특정 사람들만 아름답게 보이고 나머지는 추하게 비추는 것과 같습니다.

이제 우리는 그 거울을 고쳐야 합니다. "누구의 취향으로 AI 를 가르치고 있는가?" 를 끊임없이 질문하고, 더 다양하고 포용적인 기준을 만들어야 AI 가 우리 모두의 문화를 제대로 반영할 수 있습니다.

기술 요약

논문 요약: 이미지 품질 평가의 알고리즘적 시선

1. 연구 배경 및 문제 제기 (Problem)

시각 생성형 AI 모델 (예: Stable Diffusion) 은 훈련 데이터를 선별하고 생성된 이미지의 품질을 평가하기 위해 '미적 매력 (aesthetic appeal)'을 측정하는 단일한 기준을 사용합니다. 그러나 미적 판단은 본질적으로 주관적이며 문화적 가치와 깊이 연관되어 있습니다. 이러한 상황에서 **"누구의 취향이 AI 모델에 반영되는가?"**라는 질문이 제기됩니다.

이 연구는 시각 생성형 AI 의 훈련 데이터 선별과 생성 이미지 품질 평가에 광범위하게 사용되는 LAION-Aesthetics Predictor(LAP) 모델을 분석 대상으로 삼습니다. LAP 는 방대한 웹 스크래핑 데이터 (LAION-5B) 에서 고품질 이미지를 필터링하는 데 사용되며, 그 영향력이 매우 크지만 모델이 실제로 무엇을 측정하는지, 그리고 어떤 편향을 내포하는지에 대한 실증적 연구는 부족했습니다.

2. 연구 방법론 (Methodology)

저자들은 LAP 의 편향을 규명하기 위해 **감사 (Audit)**와 **추적 민족지 (Trace Ethnography)**를 결합한 혼합 방법론을 사용했습니다.

• 감사 (Audit): LAP 모델이 세 가지 다른 데이터셋에서 어떻게 작동하는지 정량적으로 분석했습니다.

  1. LAION-Aesthetics Dataset (약 12 억 개 이미지): LAP 를 통해 LAION-5B 에서 선별된 데이터셋. 이미지 캡션에 포함된 키워드 (성별, 종교, 인종 등) 와 LAP 점수 (6.5 점 이상) 간의 상관관계를 분석.
  2. Metropolitan Museum of Art (MET) Dataset (약 24 만 9 천 개 이미지): 다양한 문화와 시대의 예술 작품을 포함. LAP 점수 분포를 부서 (Department) 와 장르별 분석.
  3. WikiArt Dataset (약 8 만 1 천 개 이미지): 주로 서구 및 일본 현대 미술가들의 작품. 장르 (Genre), 스타일 (Style), 작가별 점수 분석.
  • 분석 기준: 컴퓨터 비전 연구에서 고품질로 간주하는 6.5 점 이상을 임계값으로 설정하고, 이보다 높은 점수를 받은 이미지와 낮은 점수를 받은 이미지를 비교했습니다.

• 추적 민족지 (Trace Ethnography): LAP 의 편향이 어디서 기원했는지 파악하기 위해 모델 개발 과정과 관련 공개 자료 (블로그, 코드 저장소, 학술 논문, 유튜브 영상 등) 를 추적하여 분석했습니다. 이는 개발자의 의사결정, 사용된 학습 데이터의 출처, 그리고 데이터 수집 과정의 맥락을 규명하는 데 초점을 맞췄습니다.

3. 주요 결과 (Key Results)

A. 감사 결과 (Audit Findings):

1. 성별 및 소수자 편향:
   • 캡션에 **'여성 (women)'**이 언급된 이미지는 6.5 점 이상으로 선별될 확률이 높았습니다.
   • 반면, **'남성 (men)'**이나 'LGBTQ+' 관련 용어가 포함된 이미지는 필터링 (제거) 될 확률이 높았습니다.
   • 종교적 맥락에서도 힌두교, 불교, 기독교 언급 이미지는 선호된 반면, 유대교나 이슬람교 언급 이미지는 배제되는 경향이 있었습니다.
2. 문화적 및 지리적 편향 (제국주의적 시선):
   • MET 데이터셋 분석 결과, 서구 (유럽, 미국) 와 일본의 예술 작품 (풍경화, 초상화, 사진) 만 6.5 점 이상을 받았습니다.
   • 아프리카, 원주민, 오세아니아, 이슬람, 이집트, 고대 서아시아 등 비서구 문화의 예술 작품은 단 한 점도 6.5 점 이상을 받지 못했습니다.
3. 사실주의 (Realism) 편향:
   • 풍경, 도시 풍경, 초상화와 같은 사실적이고 구체적인 (figurative) 이미지가 가장 높은 점수를 받았습니다.
   • 추상화, 입체파, 팝 아트 등 비사실적인 현대 미술 스타일은 낮은 점수를 받았습니다. (예: 피카소, 워홀, 달리 등 유명 현대 미술가들의 작품 점수가 낮음)
   • 이는 모델이 **사진적 사실성 (Photorealism)**을 미적 기준으로 과도하게 선호함을 시사합니다.

B. 추적 민족지 결과 (Trace Ethnography Findings):

1. 개발자의 개인적 취향: LAP 는 LAION 의 창립자 (Christoph Schuhmann) 가 개인적으로 개발했으며, 학습 데이터의 가중치와 모델 아키텍처 선택이 그의 개인적인 취향에 크게 의존했습니다.
2. 편향된 학습 데이터:
   • 학습에 사용된 데이터 (AVA, SAC, LAION-Logos) 는 주로 영어권 사진가 (2006~2012 년 dpchallenge.com 사용자) 와 **서구권 AI 열성가 (WEIRD: Western, Educated, Industrialized, Rich, Democratic)**가 제공한 점수였습니다.
   • 특히 SAC 데이터의 경우, AI 예술 커뮤니티의 소수 참여자 (주로 미국 및 유럽 거주자) 가 생성한 이미지를 평가한 것으로, 전 세계적 대표성이 결여되어 있습니다.
3. 데이터 수집의 맥락 부재: 서로 다른 목적 (사진 대회, AI 생성 이미지 평가 등) 과 시기에 수집된 데이터를 단순히 평균화하여 학습시켰으며, 이는 맥락이 제거된 (de-contextualized) 미적 점수를 만들어냈습니다.

4. 주요 기여 및 논의 (Key Contributions & Discussion)

• 알고리즘적 시선 (Algorithmic Gaze) 의 규명: LAP 는 서구 중심의 제국주의적 시선 (Imperial Gaze), 사실주의적 시선 (Realist Gaze), 그리고 남성적 시선 (Male Gaze) 을 재생산하고 있음을 밝혔습니다. 이는 AI 가 단순히 중립적인 도구가 아니라 특정 문화적 권력을 강화하는 매개체임을 보여줍니다.
• 포용성의 역설: 단순히 데이터에 '포용성 (inclusion)'을 더하는 것만으로는 해결되지 않으며, 오히려 편향된 평가 기준 (LAP) 하에 소수자의 이미지가 포함될 경우 (예: 여성의 이미지 과다 포함) 성폭력 콘텐츠 생성이나 비동의적 이미지 유통과 같은 새로운 해악을 초래할 수 있음을 경고했습니다.
• 평가 패러다임의 전환 제안:
  • 보편적이고 규범적인 (prescriptive) '미적 기준'을 지양하고, 기술적, 문화적으로 다양한 (pluralistic) 서술적 (descriptive) 평가로 전환할 것을 요구합니다.
  • 예를 들어, "이미지의 품질"을 하나의 점수로 매기는 대신, "이 모델은 사실적인 사진 스타일에 특화되어 있다"거나 "특정 문화적 미학을 반영한다"는 식으로 모델의 특성을 명확히 기술해야 함을 주장합니다.

5. 의의 및 결론 (Significance)

이 연구는 AI 모델의 '품질 평가'가 단순한 기술적 문제가 아니라 문화적 표현의 정치성과 직결되어 있음을 강조합니다. LAP 와 같은 도구의 광범위한 사용은 서구 중심의 미적 기준을 전 세계적으로 확산시키고, 비서구 문화와 현대 미술을 배제하는 결과를 초래합니다.

저자들은 향후 AI 연구자들이 **감사 (Audit)**와 **민족지 (Ethnography)**를 결합하여 알고리즘 시스템의 편향을 심층적으로 이해하고, 개발 과정의 사회적 맥락을 고려한 더 포용적이고 다양한 평가 체계를 구축할 것을 촉구합니다. 이는 생성형 AI 가 인간의 다양성을 존중하고 표현적 해악을 줄이는 방향으로 발전하기 위한 필수적인 단계입니다.